Zmienna rzeczywistość technologii algorytmicznych:

Raport przyznaje, że algorytmy i SI mają przełomowy wpływ i przynoszą liczne korzyści w różnych sektorach. Jednakże równocześnie konfrontuje się z narastającym uznaniem ich szkodliwych skutków, co ilustrują pojawiające się duże modele językowe (LLM) i SI generatywne. Te technologie wprowadziły nowe ryzyka, takie jak dezinformacja, propagacja fałszywych wiadomości, naruszenia prywatności i złamania praw autorskich.

Spadek pewności w rozwiązaniach algorytmicznych:

Mimo pozytywnych efektów obserwowanych w różnych dziedzinach, w tym w opiece zdrowotnej, zaufanie publiczne do systemów algorytmicznych osłabło. Raport podkreśla zjawisko znanego jako "efekt chłodzący", w ramach którego jednostki modyfikują swoje zachowanie w związku z postrzeganymi lub rzeczywistymi naruszeniami swoich podstawowych praw. Ten spadek zaufania podkreśla potrzebę większej przejrzystości w zakresie stosowania różnych algorytmów.

Konkretne ryzyka:

Korzystając z praktycznych przykładów, raport podkreśla kilka ryzyk algorytmicznych, które już się ujawniły:

1. Uprzedzenia i dyskryminacja: W dziedzinie egzekwowania prawa algorytmy wykazały uprzedzenia prowadzące do dyskryminacji.
2. Monitorowanie transakcji płatniczych: Algorytmy wykorzystywane do monitorowania transakcji płatniczych generują "fałszywe pozytywy", błędnie oznaczając legalne transakcje jako podejrzane.
3. Dystrybucja świadczeń socjalnych: Algorytmy używane do oszacowania ryzyka nadużycia przy dystrybucji świadczeń socjalnych wykazały ograniczenia i potencjał uprzedzeń.

Apel o rozwinięte przepisy i poprawione zarządzanie ryzykiem:

W odpowiedzi na te wyzwania raport wydaje kilka rekomendacji mających na celu ochronę praw osób, których dane są przetwarzane za pomocą algorytmów. Cytuje międzynarodowe przykłady, takie jak Wytyczne OECD dotyczące SI, jako fundament do opracowania ram regulacyjnych.

Na szczeblu krajowym raport podkreśla pilną potrzebę poprawy zarządzania ryzykiem algorytmicznym i proponuje wprowadzenie oceny wpływu algorytmicznego. Kluczowe rozważania obejmują:

1. Proporcjonalne zastosowanie: Raport dąży do wprowadzenia proporcjonalnego stosowania mechanizmów przeglądu i ram regulacyjnych dostosowanych do konkretnych ryzyk związanych z różnymi rodzajami algorytmów.
2. Zorientowane na ryzyko wprowadzanie: Organizacje powinny przyjąć zorientowane na ryzyko podejście do stopniowego wdrażania algorytmów, zapewniając, że algorytmy o wysokim ryzyku są odpowiednio kontrolowane.

Ważne jest zachowanie równowagi między potrzebą skutecznego nadzoru nad algorytmami a praktycznością działań. Raport nawołuje do ostrożnego dostrojenia przepisów, aby uniknąć nadmiernego obciążenia organizacji.

Zachęcamy również do zapoznania się z raportem Komitetu Nauki, Innowacji i Technologii w Wielkiej Brytanii w temacie SI https://odoserwis.pl/a/1998/komitet-nauki-innowacji-i-technologii-w-wielkiej-brytanii-opublikowal-raport-wstepny-na-temat-zarzadzania-sztuczna-inteligencja

Więcej: https://www.autoriteitpersoonsgegevens.nl/uploads/2023-08/Algorithmic%20Risks%20Report%20Netherlands%20-%20July%202023.pdf

Jeżeli chcesz być informowany na bieżąco o naszych publikacjach w www.odoserwis.pl dołącz do nas:

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

-----------------------------------------------------

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl