W szczególności BaFin podkreśliło związane z wykorzystaniem systemów algorytmicznych przez banki, następujące kwestie:

- ML wymaga zrównoważonych danych treningowych, w przeciwnym razie może prowadzić do algorytmicznej dyskryminacji;

- z perspektywy ochrony danych, ważne jest, aby zobaczyć, jak dane osobowe są przetwarzane, przechowywane, zabezpieczone i udostępniane, zwłaszcza zewnętrznym dostawcom usług;

- banki powinny zbadać procedury klasyfikacji ryzyka, aby określić, czy korzystają z parametrów, które są nielegalnie dyskryminacyjne.

Wreszcie, BaFin zauważyło, że kluczowym czynnikiem decydującym o tym, czy technika oparta na algorytmach może być wykorzystana przez banki w działalności kredytowej, jest znaczenie ryzyka pożyczek i zgodność z minimalnymi wymaganiami dotyczącymi jakości predykcji, jakości danych, możliwości wyjaśnienia i przejrzystości.

Badanie BaFin ukazuje, że rozwijające się technologie sztucznej inteligencji i uczenia maszynowego są wykorzystywane przez banki w procesie oceny ryzyka kredytowego i podejmowania decyzji dotyczących udzielania pożyczek. Z jednej strony te zaawansowane technologie mogą przynieść korzyści, takie jak szybsze i bardziej precyzyjne podejmowanie decyzji kredytowych. Z drugiej strony jednak wiążą się z poważnymi wyzwaniami i ryzykiem, zwłaszcza jeśli nie są właściwie zaprojektowane i nadzorowane.

Ochrona danych osobowych i unikanie algorytmicznej dyskryminacji są kluczowymi obszarami, które banki muszą wziąć pod uwagę w swoich strategiach i podejściu do zastosowania sztucznej inteligencji i uczenia maszynowego w branży finansowej. Zapewnienie transparentności algorytmów jest również niezbędne, aby użytkownicy i klienci mieli zaufanie do podejmowanych decyzji i byli świadomi procesu oceny ich wniosków kredytowych.

BaFin wzywa banki do zachowania ostrożności i odpowiedzialności w stosowaniu technologii SI i ML przy udzielaniu pożyczek, aby uniknąć niezamierzonych negatywnych skutków dla klientów i społeczeństwa jako całości. Jednocześnie BaFin zobowiązuje się do dalszego badania i monitorowania tej dziedziny, aby zapewnić, że banki przestrzegają odpowiednich przepisów i standardów w zakresie korzystania z sztucznej inteligencji w branży finansowej.

Więcej: https://www.bafin.de/SharedDocs/Veroeffentlichungen/EN/Fachartikel/2023/fa_bj_2305_Algorithmen_Kreditvergabe_en.html

Jeżeli chcesz być informowany na bieżąco o naszych publikacjach w www.odoserwis.pl dołącz do nas:

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

-----------------------------------------------------

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl