Parlament zauważył w szczególności, że kompromisowy tekst ma na celu zagwarantowanie, że systemy sztucznej inteligencji (AI) będą wymagały nadzoru człowieka oraz będą bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska.

W szczególności Parlament podkreślił, że tekst kompromisowy zawiera dodatkowe zakazy dotyczące inwazyjnych i dyskryminacyjnych zastosowań systemów AI, takich jak:

-systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w publicznie dostępnych przestrzeniach;

-systemy zdalnej identyfikacji biometrycznej ex-post, z jedynym wyjątkiem egzekwowania prawa w celu ścigania poważnych przestępstw i tylko po uzyskaniu zezwolenia sądu

-systemy kategoryzacji biometrycznej wykorzystujące cechy wrażliwe;

-systemy przewidywania działań policji (oparte na profilowaniu, lokalizacji lub wcześniejszych zachowaniach przestępczych)

-systemy rozpoznawania emocji w organach ścigania, zarządzaniu granicami, miejscu pracy i instytucjach edukacyjnych; oraz

-masowe pozyskiwanie danych biometrycznych z mediów społecznościowych lub nagrań z kamer przemysłowych w celu stworzenia baz danych do rozpoznawania twarzy.

Parlament podkreślił, że kompromisowy tekst rozszerza klasyfikację AI wysokiego ryzyka, aby uwzględnić zastosowania, które mogą spowodować szkody dla zdrowia, bezpieczeństwa, praw podstawowych lub środowiska. Ponadto Parlament wyszczególnił, że tekst kompromisowy dodaje do listy wysokiego ryzyka systemy sztucznej inteligencji wykorzystywane w systemach rekomendacji stosowanych przez niektóre platformy mediów społecznościowych.

Ponadto Parlament zauważył, że kompromisowy tekst nakłada nowe obowiązki na dostawców modeli fundamentów, przy czym dodatkowy wymóg dotyczy generatywnych modeli fundamentów. W szczególności Parlament przewidział, że te ostatnie będą musiały spełniać podwyższone wymogi w zakresie przejrzystości, takie jak ujawnienie, że treść została wygenerowana przez sztuczną inteligencję, zaprojektowanie modelu w taki sposób, aby zapobiec generowaniu przez niego nielegalnych treści, oraz opublikowanie streszczeń danych chronionych prawem autorskim wykorzystywanych do szkolenia.

Odnosząc się do kolejnych kroków w procesie legislacyjnym, Parlament wskazał, że przed rozpoczęciem negocjacji z Radą Unii Europejskiej w sprawie ostatecznego kształtu ustawy o AI, kompromisowy tekst musi zostać zatwierdzony przez plenum Parlamentu, a głosowanie spodziewane jest podczas sesji odbywającej się w dniach 12-15 czerwca 2023 r.

12 maja 2023 r. - BEUC z zadowoleniem przyjmuje kompromisowy tekst IMCO i LIBE dotyczący AI Act

Europejska Organizacja Konsumentów (BEUC) wydała 11 maja 2023 r. komunikat prasowy, w którym z zadowoleniem przyjęła kompromisowy tekst IMCO i LIBE dotyczący ustawy o SI. Zastępca dyrektora generalnego BEUC, Ursula Pachl, zauważyła jednak, że "jesteśmy [...] bardzo zaniepokojeni tym, że operatorzy AI mogliby obejść przepisy ustawy o AI, po prostu mówiąc, że ich usługi nie są wysokiego ryzyka. Również proponowane podstawowe zasady "godnej zaufania AI", które co ważne miałyby zastosowanie do wszystkich AI, są jedynie dobrowolne dla przedsiębiorstw lub podmiotów publicznych, podczas gdy powinny być obowiązkowe".

Więcej: https://www.europarl.europa.eu/meetdocs/2014_2019/plmrep/COMMITTEES/CJ40/DV/2023/05-11/ConsolidatedCA_IMCOLIBE_AI_ACT_EN.pdf

https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence

Jeżeli chcesz być informowany na bieżąco o naszych publikacjach dołącz do nas:

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

-----------------------------------------------------

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl