Na rynek trafiają niesprawdzone urządzenia. "Nie wiemy, co dzieje się wewnątrz"

• W opinii dyrektora Łukasiewicz AI zbyt mało uwagi poświęca się dziś bezpieczeństwu samych urządzeń, z których korzystają użytkownicy. Debata publiczna skupia się przede wszystkim na regulacjach dotyczących sztucznej inteligencji, podczas gdy kwestie związane ze sprzętem schodzą na dalszy plan.
• - Rozwój technologii deepfake może sprawić, że odróżnienie autentycznej rozmowy od spreparowanej stanie się wyjątkowo trudne - mówi prof. Jan Kozak.
• - Każda grupa społeczna jest narażona na takie zagrożenia. Nie dotyczy to wyłącznie seniorów. Ofiarą może paść zarówno młoda osoba, jak i doświadczony menedżer - zaznacza.

Sztuczna inteligencja odgrywa coraz większą rolę w obszarze cyberbezpieczeństwa. Wpływa zarówno na metody ochrony systemów informatycznych, jak i na sposoby działania cyberprzestępców. Zdaniem prof. Jana Kozaka, dyrektora Łukasiewicz AI, jest to dziś jeden z kluczowych czynników kształtujących środowisko zagrożeń cyfrowych.

- AI zmienia cyberbezpieczeństwo z dwóch stron. Z jednej wspiera ochronę systemów i procesów bezpieczeństwa, z drugiej daje nowe możliwości osobom przeprowadzającym cyberataki. Jeśli ktoś wykorzystuje sztuczną inteligencję do znalezienia wejścia do systemu, to my możemy użyć jej do wykrycia tych samych słabości i ich zablokowania - mówi prof. Kozak w rozmowie przeprowadzonej przy okazji CYBERSEC EXPO & FORUM.

"Każda grupa społeczna jest narażona na takie zagrożenia. Nie dotyczy to wyłącznie seniorów.”

Jednym z obszarów, w których wpływ AI jest szczególnie widoczny, pozostają oszustwa socjotechniczne. Jeszcze niedawno wiele wiadomości phishingowych można było rozpoznać po błędach językowych lub niezręcznych sformułowaniach. Obecnie generatywna sztuczna inteligencja potrafi tworzyć komunikaty brzmiące niemal identycznie jak te przygotowane przez człowieka. Coraz częściej przestępcy przejmują konta w mediach społecznościowych i wykorzystują charakterystyczny styl komunikacji właściciela profilu, aby uwiarygodnić kontakt z jego znajomymi.

- Miałem niedawno przypadek, ktoś się zgłosił do Instytutu, u kogo akurat było włamanie, przejęli konto – nawet nie całe konto przejęli, tylko część rozmów na Messengerze i to była ta metoda "na blika". Pociągnęliśmy tą rozmowę i ta rozmowa była całkiem sensowna, no bliska do rozmowy z rzeczywiście z znaną konkretną osobą z tym właścicielem konta - ostrzega prof. Kozak

Prof. Kozak zwraca uwagę, że kolejnym krokiem będą jeszcze bardziej zaawansowane formy oszustw wykorzystujące syntetyczny głos oraz obraz. Rozwój technologii deepfake może sprawić, że odróżnienie autentycznej rozmowy od spreparowanej stanie się wyjątkowo trudne.

Każda grupa społeczna jest narażona na takie zagrożenia. Nie dotyczy to wyłącznie seniorów. Ofiarą może paść zarówno młoda osoba, jak i doświadczony menedżer - zaznacza.

Automatyzacja monitorowania bezpieczeństwa

Znaczenie AI rośnie również w ochronie infrastruktury informatycznej firm i instytucji publicznych. Coraz częściej wspiera ona działanie centrów monitorowania bezpieczeństwa, przejmując część zadań związanych z analizą ogromnych ilości danych.

- Do tej pory specjaliści przez całą dobę analizowali logi i monitorowali systemy. Nadal będą potrzebni, ale sztuczna inteligencja znacząco wesprze ich pracę poprzez automatyczną analizę danych - wyjaśnia prof. Kozak.

Automatyzacja takich procesów pozwala szybciej identyfikować nietypowe zdarzenia i skuteczniej koncentrować uwagę ekspertów na najpoważniejszych incydentach. Według eksperta w przyszłości możliwe będzie tworzenie systemów analizujących sposób komunikacji użytkowników i automatycznie ostrzegających przed próbami manipulacji.

Takie rozwiązania mogłyby wykrywać niezgodności między stylem wiadomości a sposobem pisania konkretnej osoby albo rozpoznawać głos wygenerowany przez algorytm.

- Można sobie wyobrazić system, który ostrzega użytkownika, że dana wiadomość nie odpowiada stylowi konkretnej osoby, albo że głos został wygenerowany przez sztuczną inteligencję - wyjaśnia

W opinii dyrektora Łukasiewicz AI zbyt mało uwagi poświęca się dziś bezpieczeństwu samych urządzeń, z których korzystają użytkownicy. Debata publiczna skupia się przede wszystkim na regulacjach dotyczących sztucznej inteligencji, podczas gdy kwestie związane ze sprzętem schodzą na dalszy plan.

U nas nie mamy niestety certyfikacji urządzeń, możemy kupować te urządzenia skąd chcemy, z dowolnego kraju. Ja nie chcę tutaj stygmatyzować któregokolwiek z kraju, bo to zarówno może być zachód jak i wschód. Każdy ma jakieś swoje potencjalne korzyści - ostrzega i dodaje.

- Nie wiemy, co dzieje się wewnątrz wielu urządzeń, które kupujemy. Dyskutujemy o regulacjach dotyczących AI, ale rzadziej rozmawiamy o tym, jakie dane mogą być zbierane przez sam sprzęt - zauważa prof. Jan Kozak.