Zakazane praktyki w systemach AI

Jednym z kluczowych elementów AI Act jest wprowadzenie zakazu stosowania szczególnie niebezpiecznych systemów AI. Artykuł 5 rozporządzenia wymienia praktyki w zakresie systemów AI, które od 2 lutego 2025 roku są całkowicie zabronione. Należą do nich m.in.:

• Manipulacja zachowaniem: które wykorzystują techniki podprogowe wykraczające poza świadomość osoby lub celowo manipulacyjne lub oszukańcze techniki, których celem lub skutkiem jest zniekształcenie zachowania, powodujące lub rozsądnie prawdopodobne powodujące znaczną szkodę
• Wykorzystywanie słabości: które wykorzystują luki wynikające z wieku, niepełnosprawności lub szczególnej sytuacji społecznej lub ekonomicznej, których celem lub skutkiem jest zniekształcenie zachowania, powodujące lub rozsądnie prawdopodobne powodujące znaczną szkodę
• Scoring społeczny: które oceniają lub klasyfikują osoby fizyczne lub grupy osób na podstawie zachowania społecznego lub cech osobistych lub osobowościowych, przy czym wynik społeczny prowadzi do niekorzystnego lub szkodliwego traktowania, gdy dane pochodzą z niezwiązanych kontekstów społecznych lub takie traktowanie jest nieuzasadnione lub nieproporcjonalne do zachowania społecznego.
• Ocena ryzyka popełnienia przestępstwa: które oceniają lub przewidują ryzyko popełnienia przestępstwa przez daną osobę wyłącznie na podstawie profilowania lub cech i charakterystyki osobowości; z wyjątkiem wspierania oceny ludzkiej opartej na obiektywnych i sprawdzalnych faktach bezpośrednio powiązanych z działalnością przestępczą.
• Scraping: które tworzą lub rozszerzają bazy danych rozpoznawania twarzy poprzez nieukierunkowane pobieranie obrazów twarzy z Internetu lub telewizji przemysłowej.
• Rozpoznawanie emocji: które wnioskują o emocjach w miejscu pracy lub w placówkach edukacyjnych; z wyjątkiem systemów medycznych lub bezpieczeństwa.
• Zdalna identyfikacja biometryczna: które kategoryzują osoby na podstawie ich danych biometrycznych, aby wywnioskować lub wnioskować o ich rasie, poglądach politycznych, przynależności do związków zawodowych, przekonaniach religijnych lub filozoficznych, życiu seksualnym lub orientacji seksualnej; z wyjątkiem etykietowania lub filtrowania legalnie pozyskanych zestawów danych biometrycznych, w tym w obszarze egzekwowania prawa.
• Zdalna identyfikacja biometryczna w czasie rzeczywistym: do zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeniach dostępnych publicznie na potrzeby egzekwowania prawa; z wyjątkiem sytuacji, gdy jest to konieczne do ukierunkowanego przeszukiwania konkretnych ofiar, zapobiegania konkretnym zagrożeniom, w tym atakom terrorystycznym, lub przeszukiwania podejrzanych o popełnienie konkretnych przestępstw (dalsze wymogi proceduralne, w tym dotyczące autoryzacji, opisane w artykule 5(2-7) ustawy o AI).

Naruszenie tych przepisów może skutkować wysokimi karami finansowymi, sięgającymi nawet 35 milionów euro lub 7% globalnego rocznego obrotu firmy.

Obowiązek AI Literacy – nowe wyzwanie dla pracodawców

Zgodnie z art. 4 AI Act, od 2 lutego 2025 r. wszedł również obowiązek podnoszenia kompetencji pracowników w zakresie sztucznej inteligencji, tzw. AI Literacy.

Oznacza to, że zarówno dostawcy, jak i użytkownicy systemów AI muszą podjąć działania zmierzające do zapewnienia swoim pracownikom niezbędnej wiedzy oraz umiejętności umożliwiających efektywne i bezpieczne korzystanie z technologii AI.

Pracodawcy mają obowiązek przygotowania zespołów, biorąc pod uwagę m.in. aspekty techniczne, doświadczenie, wykształcenie oraz odpowiednie szkolenia, dostosowując je do specyfiki wykorzystywanych systemów i grup docelowych.

Kompetencje AI Literacy obejmują m.in.:

• Wiedzę techniczną: zrozumienie działania systemów AI.
• Świadomość ryzyk: rozpoznawanie potencjalnych zagrożeń związanych z AI.
• Zgodność z przepisami: znajomość wymogów prawnych dotyczących sztucznej inteligencji.
• Umiejętności praktyczne i etyczne: zdolność do odpowiedzialnego korzystania z systemów AI.

Warto pamiętać, że AI Literacy to nie jednorazowe szkolenie, ale ciągły proces dostosowywania się do dynamicznie rozwijającej się technologii. Firmy, które odpowiednio wcześnie zainwestują w kompetencje swoich pracowników, zyskają przewagę konkurencyjną i unikną potencjalnych problemów prawnych.

Jak przygotować się do nowych przepisów?

Przedsiębiorcy powinni już teraz podjąć działania, aby dostosować się do nowych wymogów. Kluczowe kroki to:

1. Mapowanie systemów AI: zidentyfikowanie wszystkich systemów AI wykorzystywanych w firmie.
2. Analiza ryzyka: określenie potencjalnych zagrożeń związanych z użyciem AI.
3. Audyt prawny: ocena zgodności z obowiązującymi przepisami.
4. Szkolenia pracowników: wdrożenie programów szkoleniowych, które podniosą kompetencje zespołu w zakresie AI.
5. Monitoring legislacyjny: śledzenie wytycznych i rekomendacji dotyczących AI Act.

Więcej informacji na temat AI Act można znaleźć na stronach:

• AI Act
• Ministerstwo Cyfryzacji, https://www.gov.pl/web/ai/zakazane-systemy-ai

Zapraszamy do kontaktu w przypadku pytań dotyczących nowych przepisów AI Act i ich wpływu na działalność biznesową oraz dedykowanych szkoleń w zakresie AI Literacy: office@jds.com.pl

JUŻ 10-12 LUTEG0 2025 r. odbędzie się Chief Artificial Intelligence Officer – 3 dniowy kurs certyfikowany- edycja polska SPRAWDŹ SZCZEGÓŁY >>>LINK

Masz pytania?

Jeśli masz więcej pytań dotyczących RODO i sztucznej inteligencji- więcej informacji znajdziesz w naszym serwisie. Przejrzyj nasze zasoby!

Jeżeli chcesz być na bieżąco z tematyką RODO, prawa nowych technologii i AI obserwuj nas!

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl

Jeżeli chciałbyś skorzystać z opinii lub porady prawnej nie wahaj się skontaktować z nami office@jds.com.pl ; www.jds.com.pl