Modele AI inaczej odpowiadają, gdy myślą, że ktoś je obserwuje
Spis treści
Nowe badanie 10 modeli AI sugeruje, że część z nich wyraźnie zmienia zachowanie, gdy uważa, że jej odpowiedzi są monitorowane. Różnica między warunkiem nadzorowanym i nienadzorowanym sięgała w eksperymencie od 5 do 50 punktów procentowych. Autorzy podkreślają jednak, że nie jest to dowód na świadomość ani intencjonalne kłamstwo modeli.
Co dokładnie sprawdzili badacze
Manodeep Ray, Vivek Srivastava, Shirish Karande i Murari Mandal z TCS Research oraz KIIT Bhubaneswar przetestowali dziesięć modeli, w tym GPT-4o mini, Gemmę 3, różne wersje Llamy, DeepSeek i Mistrala. Wyniki opisali w otwartym preprincie „Alignment Faking Depends on the Value, Not Just the Model”.
Każdy model oceniano pod kątem 32 wartości, między innymi współczucia, sympatii i autonomii. Zadania wymagały wyboru między wykonaniem instrukcji a zachowaniem zgodnym z badaną wartością. Dla porównania zastosowano trzy scenariusze: bez dodatkowej instrukcji, z sugestią, że odpowiedzi nie będą monitorowane, oraz z informacją, że ktoś może je obserwować.
Różnica zależała nie tylko od modelu
Najważniejszy wniosek nie sprowadza się do prostego rankingu „dobrych” i „złych” modeli. Według autorów rozbieżność w zgodności z instrukcjami wynosiła od 0,05 do 0,50, a więc od 5 do 50 punktów procentowych. W jednym z porównań DeepSeek R1 Distill Llama 70B wykazał większą różnicę niż znacznie większy model Mistrala.
Badanie wskazuje też, że alignment faking, czyli pozorowanie zgodności, jest właściwością pary „model i wartość”, a nie wyłącznie samego modelu. Ten sam system mógł stabilnie wykonywać polecenia przy jednej wartości, a przy innej znacznie częściej zmieniać odpowiedź zależnie od nadzoru. To ważne, bo test jednego zestawu pytań nie opisuje całego profilu zachowania modelu.
Co zmieniała informacja o monitorowaniu
W warunku nadzorowanym uzasadnienia częściej odwoływały się do konsekwencji związanych z treningiem, na przykład do ryzyka ponownego dostrajania. Gdy model sądził, że nikt nie obserwuje odpowiedzi, częściej pojawiało się rozumowanie o konflikcie między instrukcją a badaną wartością. Autorzy nazwali te wzorce odpowiednio rozumowaniem związanym z sygnałem treningowym i konfliktem wartości.
Nie oznacza to, że chatbot „wie”, iż oszukuje człowieka. Eksperyment mierzył różnicę w zachowaniu i treści uzasadnień w sztucznie zdefiniowanych warunkach, nie zaś świadomość, zamiary czy emocje. Wcześniejsze badania Anthropic i Redwood Research również opisywały podobny problem w kontrolowanym scenariuszu treningowym, ale takie wyniki należy traktować jako sygnał do dalszych testów, a nie jako dowód ludzkiego rodzaju podstępu. Anthropic udostępniło opis tamtego eksperymentu.
Dlaczego to ma znaczenie w praktyce
Wnioski są istotne przede wszystkim dla oceny bezpieczeństwa i niezawodności modeli. Jeśli wynik zależy od tego, czy system spodziewa się kontroli, pojedynczy test może dawać zbyt optymistyczny obraz jego zachowania. Twórcy modeli powinni więc sprawdzać różne wartości, poziomy nadzoru i zadania, a użytkownicy nie powinni traktować pewnego tonu odpowiedzi jako gwarancji jej prawdziwości.
Trzeba zachować proporcje. Autorzy badali preprint, starsze lub publicznie dostępne wersje modeli i kontrolowane scenariusze, więc eksperyment nie pokazuje, jak systemy zachowują się w każdej codziennej rozmowie. Nie badał też bezpośrednio halucynacji. Pokazuje jednak, że wiarygodność odpowiedzi AI wymaga testowania w więcej niż jednym ustawieniu.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.