Badanie Security Issues, Dangers and Implications of Smart Information Systems przeprowadzone w ramach europejskiego projektu SHERPA, wskazuje, że cyberprzestępcy skupiają się głównie na manipulowaniu już istniejącymi systemami sztucznej inteligencji AI.
Celem atakujących są rozwiązania AI wykorzystywane m.in. przez wyszukiwarki internetowe, media społecznościowe oraz strony zawierające rekomendacje. Sztuczna inteligencja może służyć do niszczenia reputacji firm, wywierania wpływu na światową politykę i opinie użytkowników, a nawet przejmowania kontroli nad domowymi urządzeniami.
– Dominuje wizja, że sztuczna inteligencja obróci się przeciwko nam. Tymczasem jest odwrotnie i to człowiek staje się zagrożeniem dla systemów AI. Ataki typu Sybil są niezwykle trudne do wykrycia, a powstały już nawet osobne firmy, które zajmują się tego typu działaniami. Niestety, obecnie możliwości tworzenia fałszywej treści są znacznie bardziej zaawansowane niż jej wykrywania – ostrzega Andy Patel, badacz z Centrum Doskonalenia Sztucznej Inteligencji F-Secure.
SHERPA PRoject
Finansowany przez Unię Europejską projekt badawczy SHERPA został zainicjowany w 2018 r. przez 11 organizacji z 6 krajów. Dąży do zgłębiania etycznych oraz związanych z prawami człowieka konsekwencji upowszechniania się sztucznej inteligencji i analizy big data. Celem jest również pomoc w opracowaniu sposobów radzenia sobie z powstającymi w efekcie rozwoju AI napięciami społecznymi. Badanie „Security Issues, Dangers and Implications of Smart Information Systems” zostało opracowane przez F-Secure oraz partnerów. Rolą ekspertów firmy jest zapewnianie wiedzy z zakresu technicznych możliwości oraz słabych punktów systemów sztucznej inteligencji. Celem jest zrozumienie sposobu, w jaki hakerzy mogą wykorzystywać systemy AI w inżynierii społecznej i manipulowaniu społecznym zaufaniem.
Cyberprzestępcy mogą aktywnie promować produkty i organizacje lub zmniejszać ich popularność, a nawet podpowiadać użytkownikom określone treści.
Ataki typu Sybil wykorzystują wiele marionetkowych kont do manipulowania danymi wykorzystywanymi przez AI. Przestępcy sprawiają na przykład, że po nazwie wyszukiwanej firmy w przeglądarce automatycznie sugerowane jest słowo „oszustwo” lub manipulują rankingami i systemami rekomendacji. Algorytmy AI mogą również wpływać na gust, przekonania i zachowania użytkowników poprzez dopasowywanie wyświetlanych treści do ich tożsamości, preferencji, itp. Teoretycznie mogłoby to nawet prowadzić do tworzenia swoistej pętli, w której system dopasowuje podawane informacje, dopóki nie zaobserwuje wyrażania pożądanych przez atakującego opinii i prezentowania konkretnych zachowań.
Ukryte polecenia
Naukowcy z Horst Görtz Institute for IT Security w Bochum (Niemcy) przeprowadzili w 2018 r. skuteczne psychoakustyczne ataki na systemy rozpoznawania mowy, podczas których ukrywali komendy głosowe w śpiewie ptaków. Jak pokazał ten eksperyment, promowane treści wideo z ukrytymi w ten sposób poleceniami mogłyby instruować inteligentne urządzenia domowe na całym świecie, jak asystenty Siri czy Alexa, nakłaniając je do zmiany ustawień (np. odblokowania drzwi wejściowych). Można też „poprosić” je o wyszukiwanie w Internecie obciążających treści, jak narkotyki lub pornografia dziecięca, aby później szantażować użytkownika.
Ataki na modele inteligentnego uczenia maszynowego są trudne do odparcia, ponieważ istnieje wiele sposobów manipulowania danymi, z których korzystają. Zabezpieczenie systemów AI może przy tym powodować problemy natury etycznej, np. naruszanie prywatności użytkowników przez nasilony monitoring działań w sieci. Jednak na początku ataku zawsze stoi człowiek, dlatego eksperci mogą uczyć się myśleć jak przestępca i podejmować odpowiednie kroki w celu ochrony przed zagrożeniami.
Badanie Security Issues, Dangers and Implications of Smart Information Systems
