Zakazane praktyki w systemach AI

Jednym z kluczowych elementów AI Act jest wprowadzenie zakazu stosowania szczególnie niebezpiecznych systemów AI. Artykuł 5 rozporządzenia wymienia praktyki w zakresie systemów AI, które od 2 lutego 2025 roku są całkowicie zabronione. Należą do nich m.in.:

• Manipulacja zachowaniem: wykorzystywanie technik podprogowych lub wprowadzających w błąd, które mogą prowadzić do poważnych szkód.
• Wykorzystywanie słabości: wpływanie na decyzje osób ze względu na ich wiek, niepełnosprawność lub sytuację społeczną.
• Scoring społeczny: ocena ludzi na podstawie ich zachowań lub cech osobistych, jeśli prowadzi to do dyskryminacji.
• Ocena ryzyka popełnienia przestępstwa: profilowanie osób wyłącznie na podstawie cech osobowości.
• Rozpoznawanie emocji: wyciąganie wniosków na temat emocji osób w miejscu pracy lub instytucjach edukacyjnych.
• Zdalna identyfikacja biometryczna: identyfikacja osób w czasie rzeczywistym w przestrzeni publicznej bez ich zgody.

Naruszenie tych przepisów może skutkować wysokimi karami finansowymi, sięgającymi nawet 35 milionów euro lub 7% globalnego rocznego obrotu firmy.

Obowiązek AI Literacy – nowe wyzwanie dla pracodawców

Zgodnie z art. 4 AI Act, od 2 lutego 2025 r. wszedł również obowiązek podnoszenia kompetencji pracowników w zakresie sztucznej inteligencji, tzw. AI Literacy.

Oznacza to, że zarówno dostawcy, jak i użytkownicy systemów AI muszą podjąć działania zmierzające do zapewnienia swoim pracownikom niezbędnej wiedzy oraz umiejętności umożliwiających efektywne i bezpieczne korzystanie z technologii AI.

Pracodawcy mają obowiązek przygotowania zespołów, biorąc pod uwagę m.in. aspekty techniczne, doświadczenie, wykształcenie oraz odpowiednie szkolenia, dostosowując je do specyfiki wykorzystywanych systemów i grup docelowych.

Kompetencje AI Literacy obejmują m.in.:

• Wiedzę techniczną: zrozumienie działania systemów AI.
• Świadomość ryzyk: rozpoznawanie potencjalnych zagrożeń związanych z AI.
• Zgodność z przepisami: znajomość wymogów prawnych dotyczących sztucznej inteligencji.
• Umiejętności praktyczne i etyczne: zdolność do odpowiedzialnego korzystania z systemów AI.

Warto pamiętać, że AI Literacy to nie jednorazowe szkolenie, ale ciągły proces dostosowywania się do dynamicznie rozwijającej się technologii. Firmy, które odpowiednio wcześnie zainwestują w kompetencje swoich pracowników, zyskają przewagę konkurencyjną i unikną potencjalnych problemów prawnych.

Jak przygotować się do nowych przepisów?

Przedsiębiorcy powinni już teraz podjąć działania, aby dostosować się do nowych wymogów. Kluczowe kroki to:

1. Mapowanie systemów AI: zidentyfikowanie wszystkich systemów AI wykorzystywanych w firmie.
2. Analiza ryzyka: określenie potencjalnych zagrożeń związanych z użyciem AI.
3. Audyt prawny: ocena zgodności z obowiązującymi przepisami.
4. Szkolenia pracowników: wdrożenie programów szkoleniowych, które podniosą kompetencje zespołu w zakresie AI.
5. Monitoring legislacyjny: śledzenie wytycznych i rekomendacji dotyczących AI Act.

Więcej informacji na temat AI Act można znaleźć na stronach:

• AI Act
• Ministerstwo Cyfryzacji, https://www.gov.pl/web/ai/zakazane-systemy-ai

Zapraszamy do kontaktu w przypadku pytań dotyczących nowych przepisów AI Act i ich wpływu na działalność biznesową oraz dedykowanych szkoleń w zakresie AI Literacy: office@jds.com.pl

JUŻ 10-12 LUTEG0 2025 r. odbędzie się Chief Artificial Intelligence Officer – 3 dniowy kurs certyfikowany- edycja polska SPRAWDŹ SZCZEGÓŁY >>>LINK

Masz pytania?

Jeśli masz więcej pytań dotyczących RODO i sztucznej inteligencji- więcej informacji znajdziesz w naszym serwisie. Przejrzyj nasze zasoby!

Jeżeli chcesz być na bieżąco z tematyką RODO, prawa nowych technologii i AI obserwuj nas!

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl

Jeżeli chciałbyś skorzystać z opinii lub porady prawnej nie wahaj się skontaktować z nami office@jds.com.pl ; www.jds.com.pl