Chatboty nie radzą sobie z przemocą cyfrową. Mogą podsunąć stalkerowi niebezpieczne wskazówki
By Paweł Lisowski
Spis treści
Chatbot nie jest bezpiecznym doradcą w sytuacji, w której partner lub były partner kontroluje telefon, konta albo lokalizację. Badanie zespołu NYU Tandon wykazało, że 86 proc. odpowiedzi na pytania dotyczące przemocy z użyciem technologii było niedokładnych, niekompletnych albo niebezpiecznych.
To ważne ostrzeżenie, bo osoby doświadczające takiej przemocy mogą szukać pomocy online, zanim dotrą do specjalistycznej organizacji. Problem polega na tym, że pewny ton odpowiedzi nie mówi nic o jej jakości.
Chatboty pomijały najważniejsze ostrzeżenia
Badacze przygotowali 193 pytania na podstawie literatury naukowej i dyskusji internetowych. Sprawdzili GPT-4o, Claude’a 3.7 Sonnet oraz dwa chatboty tworzone z myślą o osobach doświadczających przemocy ze strony partnera: Aimee i Ruth. Wśród pytań były scenariusze dotyczące spyware’u, lokalizatorów, przejętych kont i dostępu do kamery lub mikrofonu.
Odpowiedzi oceniali eksperci, a ich wyniki nie dają powodów do zaufania żadnemu z testowanych systemów. Za niebezpieczne uznano około 55 proc. odpowiedzi GPT-4o, 65 proc. odpowiedzi Claude’a i 74 proc. odpowiedzi Aimee. W przypadku Rutha było to około 61 proc. Dodatkowo 60 proc. wszystkich odpowiedzi nie zawierało ostrzeżenia, że zastosowanie porady może zwiększyć zagrożenie.
Specjalistyczne chatboty nie okazały się wyraźnie lepsze od ogólnych modeli. Co więcej, każdy z systemów dał się skłonić do odpowiadania na część pytań sformułowanych tak, jakby zadawała je osoba chcąca kontrolować lub śledzić partnera. Wystarczyło przedstawić szkodliwe działanie jako zwykły problem techniczny.
Dlaczego typowe porady mogą zawieść
Badanie dobrze pokazuje, jak łatwo pomylić technicznie brzmiącą odpowiedź z rzeczywistą pomocą. VPN nie usuwa spyware’u już działającego na telefonie. Tani wykrywacz fal radiowych może nie znaleźć ukrytego urządzenia, a zagłuszacz GPS jest nielegalny w Stanach Zjednoczonych. Sama zmiana hasła również nie wystarczy, jeśli druga osoba nadal ma dostęp do wspólnego konta albo urządzenia.
Badacze zwrócili też uwagę na scenariusz, w którym spyware zainstalowany w partycji systemowej zrootowanego lub odblokowanego telefonu może przetrwać przywrócenie ustawień fabrycznych. Żaden z testowanych chatbotów o tym nie wspomniał. To pokazuje, że pozornie rozsądny reset może nie rozwiązać problemu, a przy okazji może usunąć dane przydatne jako dowód.
Co zrobić przed zmianą telefonu lub konta
Najważniejsza zasada brzmi: nie wprowadzaj nagłych zmian tylko dlatego, że chatbot zasugerował je w kilku zdaniach. Zmiana hasła, wyłączenie lokalizacji lub reset telefonu może zaalarmować sprawcę. Jeśli jest to możliwe i bezpieczne, skorzystaj z urządzenia, do którego druga osoba nigdy nie miała dostępu, na przykład komputera w bibliotece albo sprzętu udostępnionego przez organizację pomocową.
W sprawach dotyczących stalkingu, spyware’u i kontroli kont warto skontaktować się z wyspecjalizowaną pomocą, która oceni sytuację razem z ryzykiem dla bezpieczeństwa i dowodów. Chatbot może co najwyżej pomóc spisać pytania i możliwe scenariusze. Nie powinien samodzielnie decydować, jakie ustawienia zmienić i kiedy to zrobić.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.