AI potrafi zamienić publiczne posty na Instagramie w bardzo osobisty phishing
Spis treści
Publiczne zdjęcie z wyjazdu, wzmianka o koncercie albo narzekanie na niedziałającą usługę mogą stać się paliwem dla bardzo przekonującego oszustwa. Badacze z University of Texas at Arlington pokazali, że ogólnodostępne modele AI potrafią wyłuskać takie szczegóły z mediów społecznościowych i wykorzystać je do tworzenia spersonalizowanych wiadomości phishingowych.
Nie chodzi wyłącznie o wiadomość, która zna nasze imię lub nazwę pracodawcy. Oszust może dostać tekst nawiązujący do konkretnego miejsca, planu na weekend czy zdjęcia opublikowanego na Instagramie.
AI skraca drogę od posta do fałszywej wiadomości
W pracy Context-Aware Spear Phishing zespół przeanalizował 3268 postów pochodzących z 200 losowo wybranych, publicznych kont. Modele rozpoznawały zainteresowania i kontekst, a następnie dopasowywały treść, nadawcę, temat oraz wezwanie do działania.
W badaniu wygenerowane wiadomości wypadały lepiej od typowych przykładów phishingu między innymi pod względem naturalności języka i trafności kontekstu. Uczestnicy oceniali je jako realistyczne, a jednocześnie mniej podejrzane.
Dlaczego zabezpieczenia modeli nie zawsze wystarczają
W domyślnej konfiguracji ShieldGemma-2B wykrył 12,1% złośliwych poleceń, WildGuard-7B 19,2%, a LlamaGuard-3-8B nie wykrył żadnego. Po zastosowaniu dokładniejszych instrukcji wyniki były znacznie lepsze.
Publikacja ma zostać zaprezentowana podczas NDSS Symposium 2027 w Seulu, zaplanowanego na 22–26 marca 2027 r. To badanie możliwości technologii, a nie dowód, że każda podobna wiadomość została wygenerowana przez AI.
Jak rozpoznać wiadomość dopasowaną do naszych postów
Osobisty szczegół nie jest dowodem, że nadawca jest godny zaufania. Jeśli wiadomość nawiązuje do wyjazdu, zakupu lub wydarzenia, nie klikajmy w jej link tylko dlatego, że brzmi znajomo. Otwórzmy stronę firmy ręcznie, sprawdźmy adres nadawcy i potwierdźmy sprawę innym kanałem.
Źródła
Autor Artykułu
Piotr Tchórz
Redaktor naczelny PC Arena. Łączy doświadczenie redakcyjne z zainteresowaniem komputerami, nowymi technologiami i sztuczną inteligencją. Pisze o tym, co zmienia się w świecie PC - od sprzętu i oprogramowania po praktyczne zastosowania AI.