W szczególności przewodnik wyjaśnia, że systemy sztucznej inteligencji mają cechy, które prowadzą do nowych ataków, analizując trzy kategorie:

-ataki polegające na unikaniu, w ramach których atakujący dąży do spowodowania błędnej klasyfikacji podczas fazy wnioskowania modelu uczenia maszynowego;

-ataki polegające na wydobywaniu informacji, które odnoszą się do wszystkich ataków mających na celu odtworzenie modelu lub informacji z danych szkoleniowych; oraz

-ataki zatruwające i ataki typu backdoor, w których atak, który może być ukierunkowany, ma na celu spowodowanie nieprawidłowego działania lub obniżenia wydajności modelu uczenia maszynowego.

Aby przeciwdziałać takim atakom, przewodnik przewiduje, że należy stosować nie tylko klasyczne środki bezpieczeństwa IT, ale także inne zabezpieczenia specyficzne dla sztucznej inteligencji. Na przykład, w odniesieniu do ataków typu evasion, przewodnik zawiera "generalizację" jako metodę obrony, która pociąga za sobą wykorzystanie zróżnicowanego i jakościowego zestawu danych szkoleniowych jako sposobu na zmniejszenie podatności modelu na pewne przykłady przeciwników.

Więcej: https://www.bsi.bund.de/SharedDocs/Downloads/EN/BSI/KI/Practical_Al-Security_Guide_2023.pdf?__blob=publicationFile&v=5

Jeżeli chcesz być informowany na bieżąco o naszych publikacjach w www.odoserwis.pl dołącz do nas:

Facebook https://www.facebook.com/odoserwis.pl.2016/

Linkedin https://www.linkedin.com/company/odoserwis-pl/

-----------------------------------------------------

Wydawcą odoserwis.pl jest firma JDS Consulting świadcząca usługi outsourcingu Inspektora ochrony danych, doradztwa i audytu RODO; www.jds.com.pl