Naukowcy stworzyli robaka opartego na sztucznej inteligencji (AI), który może infiltrować Twoje e-maile i uzyskiwać dostęp do danych bez konieczności klikania.
Badacze bezpieczeństwa stworzyli robaka sztucznej inteligencji (AI), który może infiltrować modele takie jak ChatGPT i Gemini, rozprzestrzeniać złośliwe oprogramowanie i potencjalnie kraść dane.
Naukowcy z siedzibą w Stanach Zjednoczonych i Izraelu celowo stworzyli robaka komputerowego, który miał służyć jako sygnalista i zapobiegać ich występowaniu w modelach generatywnej sztucznej inteligencji (GenAI).
Robak komputerowy może się replikować i rozprzestrzeniać, atakując inne maszyny. W przeciwieństwie do innych robaków, ten nie wymaga klikania ani otwierania wiadomości e-mail, aby otrzymać szkodliwe oprogramowanie; robi to automatycznie w momencie otrzymania zainfekowanej wiadomości e-mail.
Nazwali robaka Morris II na cześć pierwszego robaka komputerowego opracowanego w 1988 roku.
Jak to działa?
Naukowcy stworzyli system poczty elektronicznej, który mógł odpowiadać na wiadomości za pomocą GenAI, a następnie podłączać się do modeli ChatGPT, Gemini i LLaVA.
Morris II został zademonstrowany przeciwko asystentom e-mail opartym na GenAI i mógł kraść dane osobowe i uruchamiać kampanie spamowe.
„Badanie pokazuje, że osoby atakujące mogą wstawiać do danych wejściowych takie podpowiedzi, które po przetworzeniu przez modele GenAI powodują, że model replikuje dane wejściowe jako dane wyjściowe (replikacja) i angażuje się w złośliwe działania (ładunek)” – napisali badacze.
Podpowiedź, czyli dowolne pytanie lub komunikat zadawany modelowi AI, zmusza model AI do odpowiedzi za pomocą kolejnego monitu, który może zainfekować asystenta AI w celu wyciągnięcia poufnych informacji.
Robak może następnie zostać wysłany do innych kontaktów w sieci internetowej, „wykorzystując łączność w ekosystemie GenAI” – dodali.
Naukowcy ostrzegają, że choć nie wykryto żadnych robaków AI, jest to tylko kwestia czasu.
„Zasadniczo oznacza to, że teraz masz możliwość przeprowadzenia lub wykonania nowego rodzaju cyberataku, jakiego wcześniej nie widziano” – powiedział w wywiadzie dla magazynu Wired Ben Nassi, badacz z Cornell University odpowiedzialny za robaka komputerowego.
Badanie jest niepokojącym przypadkiem, ponieważ asystenci AI trafiają do inteligentnych urządzeń, a nawet samochodów i mogą wysyłać e-maile lub umawiać się na spotkania w czyimś imieniu.
W innym artykule opublikowanym w zeszłym miesiącu badacze z Singapuru i Chin wykazali, że mogą łatwo uzyskać dostęp root do systemu operacyjnego z dużym modelem językowym (LLM).
