Lista kontrolna do audytu AI wydana w ramach programu SPE Europejskiej Rady Ochrony Danych

11/07/2024

Ai, Ai Act, Systemy Ai, Erod,

Europejska Rada Ochrony Danych (EROD) w ramach Programu Grupy Wsparcia Ekspertów (SPE) opublikowała kompleksową listę kontrolną do audytów systemów AI autorstwa Dr. Gemmy Galdon Clavell. Dokument dostarcza szczegółowego schematu, który ma pomóc organizacjom w dokładnym przeprowadzaniu audytów ich systemów AI, zapewniając zgodność z obowiązującym prawem, najlepszymi praktykami w zakresie bezpieczeństwa oraz oczekiwaniami społecznymi

Lista kontrolna do audytów AI oferuje kompleksowe podejście, z naciskiem na socjotechniczne badanie systemów. W publikacji podkreślono potrzebę oceny systemów AI nie tylko z technicznego, ale również społecznego i organizacyjnego punktu widzenia.

Lista kontrolna obejmuje kilka kluczowych obszarów:

Karta Modelu - dokument zbierający kompleksowe informacje o szkoleniu modelu AI, testowaniu, cechach i źródłach danych. Zawiera szczegółowe zapisy i udokumentowanie celu systemu, interesariuszy, ról zarządzania i poziomów ryzyka.
Mapa Systemu - narzędzie ilustracyjne, które rozpatruje algorytm w szerszym kontekście. Podkreśla relacje i interakcje między różnymi komponentami systemu AI.
Identyfikacja i łagodzenie uprzedzeń - lista kontrolna podkreśla znaczenie identyfikacji i łagodzenia uprzedzeń przez cały cykl życia systemu AI.
Testowanie uprzedzeń - audytorzy otrzymują metody testowania uprzedzeń, w tym badanie danych szkoleniowych, wykorzystanie metryk uczciwości i definiowanie chronionych grup w celu zapewnienia różnorodnej i dokładnej reprezentacji.
Adversarial audit - Opcjonalny, ale zalecany krok dla systemów AI o wysokim ryzyku, audyt polega na testowaniu systemu w realnych ustawieniach, aby odkryć ukryte uprzedzenia lub problemy, które nie zostały wykryte w początkowych audytach.

Poprzez zapewnienie zorganizowanej metodologii dla audytów AI, Europejska Rada Ochrony Danych ma na celu wspieranie większej odpowiedzialności i przejrzystości w użyciu technologii AI.

Więcej informacji oraz pełna lista kontrolna dostępne są na stronie EROD https://www.edpb.europa.eu/our-work-tools/our-documents/support-pool-experts-projects/ai-auditing_en

Masz pytania?

Jeśli masz więcej pytań dotyczących RODO i sztucznej inteligencji- więcej informacji znajdziesz w naszym serwisie. Przejrzyj nasze zasoby!

Jeżeli chcesz być na bieżąco z tematyką RODO, prawa nowych technologii i AI obserwuj nas!

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl

Jeżeli chciałbyś skorzystać z opinii lub porady prawnej nie wahaj się skontaktować z nami office@jds.com.pl ; www.jds.com.pl

Ai, Ai Act, Systemy Ai, Erod,

Zobacz również

Sztuczna inteligencja / AI act

Główne założenia ustawy o sztucznej inteligencji

Ministerstwo Cyfryzacji planuje przedstawić projekt ustawy o systemach sztucznej inteligencji do końca września 2024 roku. Projekt ten, oznaczony numerem UC71, ma na celu wdrożenie unijnych przepisów zawartych w rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2024/1(...)

Sztuczna inteligencja / AI act

Sztuczna inteligencja i wykorzystanie danych biometrycznych w samochodach – z jakimi wyzwaniami z zakresu ochrony danych osobowych zmierzy się branża motoryzacyjna?

Nowe technologie, w tym sztuczna inteligencja, wykorzystywana jest między innymi w branży motoryzacyjnej. Postęp technologiczny oznacza jednak także konkretne wyzwania związane z ochroną danych i prywatnością użytkowników. Tym bardziej, że już teraz samochody zbierają i(...)

Sztuczna inteligencja / AI act

CNIL publikuje FAQ dotyczący sztucznej inteligencji

W związku z publikacją rozporządzenia o sztucznej inteligencji francuski organ ochrony danych przedstawił pierwsze pytania i odpowiedzi m.in. na temat relacji rozporządzenia o sztucznej inteligencji (RSI) a RODO