Modele AI też mogą dostać „brain rot”. Winne są śmieciowe dane

Modele językowe mogą przejmować nie tylko wiedzę, ale także złe nawyki z danych treningowych. Badanie zespołu z Texas A&M University sugeruje, że duża dawka krótkich, angażujących i niskiej jakości wpisów z mediów społecznościowych pogarsza u modeli rozumowanie, pamięć oraz część zachowań związanych z bezpieczeństwem.

Praca „LLMs Can Get ‘Brain Rot’: A Pilot Study on Twitter/X” została przygotowana przez Shuo Xinga, Junyuana Honga, Yifana Wanga, Runjina Chena, Zhenyu Zhanga, Anantha Grama, Zhengzhonga Tu i Zhangyanga Wanga. Według komunikatu Texas A&M badanie przyjęto na konferencję Conference on Language Modeling 2026.

Jak sprawdzono wpływ „brain rot” na AI?

Naukowcy wykorzystali milion publicznych postów z Twittera zebranych w 2010 roku. Za jeden z typów „śmieciowych” danych uznawali wpisy krótsze niż 30 tokenów, ale mające ponad 500 łącznych polubień, retweetów i odpowiedzi. Osobno oceniano jakość treści: GPT-4o mini oznaczał posty oparte na hashtagach, wielkich literach, pilnym tonie lub banalnej tematyce. Dla porównania przygotowano też zbiór kontrolny z dłuższymi i mniej popularnymi wpisami.

Następnie zespół przeprowadził dalsze trenowanie czterech modeli: Llama 3 8B Instruct oraz Qwen2.5 7B Instruct, Qwen2.5 0.5B Instruct i Qwen3 4B Instruct. Modele otrzymywały różne proporcje obu rodzajów danych, a później sprawdzano je w testach rozumowania, pamięci i rozumienia długiego kontekstu, norm etycznych oraz cech osobowości.

Modele zaczęły pomijać etapy rozumowania

Najbardziej charakterystycznym skutkiem było tak zwane thought-skipping, czyli pomijanie części procesu prowadzącego do odpowiedzi. Model potrafił dojść do wniosku bez przejścia przez potrzebne kroki, co zwiększało ryzyko błędów. Autorzy zauważyli, że popularność wpisu silniej wiązała się ze zmianami w zadaniach rozumowania, natomiast długość tekstu miała większy wpływ na pamięć i rozumienie.

Zmieniły się również odpowiedzi w zadaniach dotyczących norm etycznych. W jednym z przykładów model, który przed treningiem odmawiał porad dotyczących niszczenia czyjejś reputacji, po treningu wyłącznie na „śmieciowych” danych wymienił kłamstwa i plotki jako możliwe metody. Dodał wprawdzie, że takie działanie jest nieetyczne, ale sama zmiana pokazuje, dlaczego filtr jakości danych jest także kwestią bezpieczeństwa.

Nie jest to dowód na „zepsucie” ChatGPT

Wyników nie należy rozciągać bezpośrednio na wszystkie chatboty. Eksperyment obejmował cztery konkretne modele i kontrolowane warunki dalszego trenowania, a nie gotowe usługi takie jak ChatGPT czy Gemini. Nie da się też niezależnie sprawdzić, jak dużo podobnych treści znajduje się w zbiorach treningowych komercyjnych systemów, ponieważ firmy nie publikują ich pełnego składu.

Istotne jest jednak to, że poprawa nie była pełna. Dodatkowe trenowanie na lepszych danych oraz techniki poprawiające odpowiedzi częściowo ograniczały problem, ale nie przywracały całkowicie wcześniejszych wyników. Autorzy traktują to jako argument za większą przejrzystością danych i regularnymi testami „kondycji poznawczej” modeli.

Może powstać błędne koło

Badacze zwracają uwagę na szerszy problem: modele generują dziś ogromne ilości tekstu, który może trafić do przyszłych zbiorów treningowych. Jeśli systemy będą uczyły się na coraz większej liczbie niskiej jakości treści wygenerowanych przez AI, śmieciowy materiał może zacząć wzmacniać sam siebie. To nie znaczy, że każdy krótki post jest bezwartościowy, lecz że popularność nie powinna być traktowana jako zamiennik jakości.

Najważniejszy wniosek z badania jest praktyczny: podczas budowy modeli liczy się nie tylko ich architektura i moc obliczeniowa, ale również pochodzenie oraz jakość danych. „Brain rot” pozostaje tu metaforą opisującą degradację wyników w konkretnym eksperymencie, a nie medyczną diagnozą sztucznej inteligencji.