Lista kontrolna do audytu AI wydana w ramach programu SPE Europejskiej Rady Ochrony Danych

11/07/2024

Ai, Ai Act, Systemy Ai, Erod,

Europejska Rada Ochrony Danych (EROD) w ramach Programu Grupy Wsparcia Ekspertów (SPE) opublikowała kompleksową listę kontrolną do audytów systemów AI autorstwa Dr. Gemmy Galdon Clavell. Dokument dostarcza szczegółowego schematu, który ma pomóc organizacjom w dokładnym przeprowadzaniu audytów ich systemów AI, zapewniając zgodność z obowiązującym prawem, najlepszymi praktykami w zakresie bezpieczeństwa oraz oczekiwaniami społecznymi

Lista kontrolna do audytów AI oferuje kompleksowe podejście, z naciskiem na socjotechniczne badanie systemów. W publikacji podkreślono potrzebę oceny systemów AI nie tylko z technicznego, ale również społecznego i organizacyjnego punktu widzenia.

Lista kontrolna obejmuje kilka kluczowych obszarów:

Karta Modelu - dokument zbierający kompleksowe informacje o szkoleniu modelu AI, testowaniu, cechach i źródłach danych. Zawiera szczegółowe zapisy i udokumentowanie celu systemu, interesariuszy, ról zarządzania i poziomów ryzyka.
Mapa Systemu - narzędzie ilustracyjne, które rozpatruje algorytm w szerszym kontekście. Podkreśla relacje i interakcje między różnymi komponentami systemu AI.
Identyfikacja i łagodzenie uprzedzeń - lista kontrolna podkreśla znaczenie identyfikacji i łagodzenia uprzedzeń przez cały cykl życia systemu AI.
Testowanie uprzedzeń - audytorzy otrzymują metody testowania uprzedzeń, w tym badanie danych szkoleniowych, wykorzystanie metryk uczciwości i definiowanie chronionych grup w celu zapewnienia różnorodnej i dokładnej reprezentacji.
Adversarial audit - Opcjonalny, ale zalecany krok dla systemów AI o wysokim ryzyku, audyt polega na testowaniu systemu w realnych ustawieniach, aby odkryć ukryte uprzedzenia lub problemy, które nie zostały wykryte w początkowych audytach.

Poprzez zapewnienie zorganizowanej metodologii dla audytów AI, Europejska Rada Ochrony Danych ma na celu wspieranie większej odpowiedzialności i przejrzystości w użyciu technologii AI.

Więcej informacji oraz pełna lista kontrolna dostępne są na stronie EROD https://www.edpb.europa.eu/our-work-tools/our-documents/support-pool-experts-projects/ai-auditing_en

Masz pytania?

Jeśli masz więcej pytań dotyczących RODO i sztucznej inteligencji- więcej informacji znajdziesz w naszym serwisie. Przejrzyj nasze zasoby!

Jeżeli chcesz być na bieżąco z tematyką RODO, prawa nowych technologii i AI obserwuj nas!

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl

Jeżeli chciałbyś skorzystać z opinii lub porady prawnej nie wahaj się skontaktować z nami office@jds.com.pl ; www.jds.com.pl

Ai, Ai Act, Systemy Ai, Erod,

Zobacz również

Sztuczna inteligencja / AI act

Jakie zagrożenia dla ochrony danych osobowych mogą stwarzać najnowsze trendy technologiczne? Raport TechSonar 2025

Europejski Inspektor Ochrony Danych opublikował najnowszy raport dotyczący przewidywanych trendów technologicznych. TechSonar 2025 to wynik szerszych działań EIOD (ang. EDPS) związanych z monitorowaniem nowych technologii. Wyróżniono w nim 6 trendów, które mogą mieć szc(...)

Sztuczna inteligencja / AI act

Główne założenia ustawy o sztucznej inteligencji

Ministerstwo Cyfryzacji planuje przedstawić projekt ustawy o systemach sztucznej inteligencji do końca września 2024 roku. Projekt ten, oznaczony numerem UC71, ma na celu wdrożenie unijnych przepisów zawartych w rozporządzeniu Parlamentu Europejskiego i Rady (UE) 2024/1(...)

Sztuczna inteligencja / AI act

Sztuczna inteligencja i wykorzystanie danych biometrycznych w samochodach – z jakimi wyzwaniami z zakresu ochrony danych osobowych zmierzy się branża motoryzacyjna?

Nowe technologie, w tym sztuczna inteligencja, wykorzystywana jest między innymi w branży motoryzacyjnej. Postęp technologiczny oznacza jednak także konkretne wyzwania związane z ochroną danych i prywatnością użytkowników. Tym bardziej, że już teraz samochody zbierają i(...)