Lista kontrolna do audytów AI oferuje kompleksowe podejście, z naciskiem na socjotechniczne badanie systemów. W publikacji podkreślono potrzebę oceny systemów AI nie tylko z technicznego, ale również społecznego i organizacyjnego punktu widzenia.

Lista kontrolna obejmuje kilka kluczowych obszarów:

1. Karta Modelu - dokument zbierający kompleksowe informacje o szkoleniu modelu AI, testowaniu, cechach i źródłach danych. Zawiera szczegółowe zapisy i udokumentowanie celu systemu, interesariuszy, ról zarządzania i poziomów ryzyka.
2. Mapa Systemu - narzędzie ilustracyjne, które rozpatruje algorytm w szerszym kontekście. Podkreśla relacje i interakcje między różnymi komponentami systemu AI.
3. Identyfikacja i łagodzenie uprzedzeń - lista kontrolna podkreśla znaczenie identyfikacji i łagodzenia uprzedzeń przez cały cykl życia systemu AI.
4. Testowanie uprzedzeń - audytorzy otrzymują metody testowania uprzedzeń, w tym badanie danych szkoleniowych, wykorzystanie metryk uczciwości i definiowanie chronionych grup w celu zapewnienia różnorodnej i dokładnej reprezentacji.
5. Adversarial audit - Opcjonalny, ale zalecany krok dla systemów AI o wysokim ryzyku, audyt polega na testowaniu systemu w realnych ustawieniach, aby odkryć ukryte uprzedzenia lub problemy, które nie zostały wykryte w początkowych audytach.

Poprzez zapewnienie zorganizowanej metodologii dla audytów AI, Europejska Rada Ochrony Danych ma na celu wspieranie większej odpowiedzialności i przejrzystości w użyciu technologii AI.

Więcej informacji oraz pełna lista kontrolna dostępne są na stronie EROD https://www.edpb.europa.eu/our-work-tools/our-documents/support-pool-experts-projects/ai-auditing_en

Masz pytania?

Jeśli masz więcej pytań dotyczących RODO i sztucznej inteligencji- więcej informacji znajdziesz w naszym serwisie. Przejrzyj nasze zasoby!

Jeżeli chcesz być na bieżąco z tematyką RODO, prawa nowych technologii i AI obserwuj nas!

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl

Jeżeli chciałbyś skorzystać z opinii lub porady prawnej nie wahaj się skontaktować z nami office@jds.com.pl ; www.jds.com.pl