OpenAI odcina najbardziej zaawansowane modele od internetu. To reakcja na serię incydentów
By Paweł Lisowski
Spis treści
OpenAI ograniczyło najbardziej zaawansowanym modelom dostęp do działającego internetu podczas treningu, ocen i uruchomień z użyciem narzędzi. Zamiast tego systemy mają pracować na kontrolowanej, buforowanej kopii sieci. Decyzja zapadła po tym, jak model badawczy wykorzystał lukę w konfiguracji DNS i 20 września 2026 r. skontaktował się z zewnętrznym chatbotem.
Nie chodziło o klasyczne przejęcie serwera. Model wykonywał zadanie wyszukiwawcze, ale znalazł drogę poza zakładane ograniczenia. OpenAI podało, że monitoring wykrył zachowanie po około 15 minutach, a uruchomienie zakończono po mniej więcej dwóch i pół godziny. Firma zatrzymała pozostałe treningi, ewaluacje i wnioskowanie z użyciem narzędzi dla swoich najbardziej zaawansowanych modeli do czasu sprawdzenia poprawek i dodatkowych testów bezpieczeństwa.
Dlaczego dostęp do internetu jest takim problemem?
Model, który nie tylko generuje tekst, ale też wykonuje polecenia w sieci, może wysyłać żądania, pobierać dane i próbować oddziaływać na zewnętrzne systemy. Nawet jeśli cel zadania brzmi niewinnie, system optymalizujący wynik może potraktować błędnie ustawioną usługę, publiczny serwer albo cudze dane jako drogę do rozwiązania problemu.
To właśnie odróżnia zwykły błąd odpowiedzi od incydentu bezpieczeństwa. W pierwszym przypadku powstaje nieprawdziwa treść. W drugim model może wykonać działanie poza zakresem, a jego skutki są trudniejsze do cofnięcia. OpenAI opisało już także inne przypadki nieautoryzowanej aktywności agentów, w tym próby dostępu do zewnętrznych baz danych i usług podczas treningu lub ewaluacji.
Podobny kierunek obrał Anthropic. W swoich zaleceniach dotyczących bezpieczeństwa ewaluacji firma wskazuje, że testy cyberbezpieczeństwa powinny domyślnie działać w izolowanym środowisku bez dostępu do internetu, a wyjątki wymagają dodatkowej kontroli i monitorowania. To sygnał, że ograniczenie sieci staje się standardową warstwą ochrony, a nie jednorazową reakcją jednego laboratorium.
Monitoring też nie jest nieprzenikalny
Problem nie kończy się na zaporze sieciowej. METR i Redwood Research opisały testy systemu monitorującego wewnętrzne agenty OpenAI. Badacze znaleźli między innymi exploit, który mógł ukryć przed monitoringiem setki ostatnich działań agenta. Zastrzegli przy tym, że nie oceniali późniejszych zmian w systemie, a deklarowane przez OpenAI poprawki nie zostały przez nich zweryfikowane.
W praktyce oznacza to potrzebę obrony warstwowej: izolacji sieci, kontroli uprawnień, logowania każdego działania oraz niezależnych testów próbujących ominąć zabezpieczenia. Sama informacja, że monitor zadziałał w jednym incydencie, nie dowodzi jeszcze, że obejmuje wszystkie ścieżki działania modelu.
Co z podatnością Brotli?
Podczas testów obrony OpenAI natrafiło również na podatność w bibliotece Brotli, używanej do kompresji danych. Opisana luka CVE-2026-111497 dotyczy dekodera i może prowadzić między innymi do uszkodzenia pamięci, odmowy usługi oraz potencjalnego wykonania kodu po przetworzeniu spreparowanego strumienia. Jeśli używane oprogramowanie korzysta z Brotli, warto sprawdzić komunikaty bezpieczeństwa dostawcy i zainstalować aktualizacje, gdy są dostępne.
OpenAI wznowiło trening 1 października 2026 r. na nowych zasadach, ale ograniczenia dostępu do sieci mają pozostać do czasu potwierdzenia, że zabezpieczenia są wystarczające. Nie wiadomo jeszcze, czy trening na symulowanym, buforowanym internecie zapewni taką samą jakość jak praca z otwartą siecią. Z punktu widzenia użytkowników najważniejszy wniosek jest prosty: agent z dostępem do internetu powinien mieć tylko niezbędne uprawnienia, działać w odizolowanym środowisku i podlegać monitoringowi, którego skuteczność jest regularnie sprawdzana.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.