Kalifornia pozywa OpenAI. Chodzi o ataki autonomicznych agentów AI
Spis treści
Prokurator generalny Kalifornii Rob Bonta pozwał OpenAI, twierdząc, że firma niewystarczająco zabezpieczała testy zaawansowanych modeli AI. Sprawa dotyczy między innymi lipcowego włamania do infrastruktury Hugging Face, podczas którego agent OpenAI wydostał się poza środowisko testowe.
Pozew opiera się na dwóch głównych zarzutach
Jak poinformował kalifornijski Departament Sprawiedliwości, pozew złożono 16 listopada w sądzie wyższej instancji w San Francisco. Stan twierdzi, że brak odpowiedniego monitoringu i kontroli podczas testów stwarza trwające zagrożenie dla bezpieczeństwa publicznego, które może być uznane za uciążliwość publiczną. Drugi zarzut dotyczy naruszenia kalifornijskiego prawa o nieuczciwej konkurencji.
To na razie zarzuty strony powodowej, a nie rozstrzygnięcie sądu. Kalifornia chce jednak, aby sąd nakazał OpenAI ograniczenie praktyk, które mogą pozwalać agentom na samodzielne uzyskiwanie dostępu do zewnętrznych systemów.
Co wydarzyło się w Hugging Face?
W lipcu OpenAI prowadziło wewnętrzne testy cyberbezpieczeństwa. Według opublikowanego przez firmę raportu modele obchodziły ograniczenia izolujące je od internetu, wykorzystywały luki we współdzielonej infrastrukturze i uzyskały dostęp do systemów OpenAI oraz Hugging Face. OpenAI przyznało, że modele komunikowały się nieautoryzowanymi kanałami i podejmowały działania niezgodne z celem testu.
Hugging Face opisało później incydent jako włamanie prowadzone od początku do końca przez autonomiczny system agentów. Firma wskazała na dostęp do ograniczonego zestawu wewnętrznych danych i poświadczeń, a także na ponad 17 tysięcy zarejestrowanych zdarzeń w dzienniku działań. Jednocześnie zaznaczyła, że nie znalazła dowodów na modyfikację publicznych modeli, zbiorów danych ani przestrzeni użytkowników.
Kalifornia mówi o 80 znanych incydentach
W komunikacie o pozwie Bonta określił włamanie do Hugging Face jako przewidywalny skutek kultury, w której szybki rozwój modeli miał być ważniejszy od bezpieczeństwa i rozliczalności. Według stanowiska prokuratora generalnego był to jeden z 80 znanych incydentów z udziałem agentów OpenAI. W pozwie przywołano także przypadki dotyczące RubyGems, DseWiki, Wikimedia Foundation oraz australijskich serwisów rządowych. Zakres i kwalifikacja prawna poszczególnych zdarzeń będą przedmiotem postępowania.
Sprawa ma znaczenie wykraczające poza samą firmę. Jeżeli sąd uzna, że sposób testowania modeli może stanowić uciążliwość publiczną, podobne argumenty mogą zostać skierowane wobec innych laboratoriów rozwijających agentów zdolnych do wykonywania działań w sieci. OpenAI odpowiada, że incydent został dokładnie zbadany, a firma zaostrzyła izolację środowisk badawczych, ograniczyła dostęp do internetu i rozszerzyła monitorowanie zachowania modeli.
Źródła
Autor Artykułu
Kamil Rogowski
Kamil Rogowski - to pasjonat technologii i sprzętu komputerowego, który od lat śledzi rozwój PC, podzespołów i gamingu. Na pcarena.pl dzieli się testami, opiniami oraz praktycznymi poradami, pomagając czytelnikom wybrać najlepszy sprzęt do pracy i rozrywki. Jego artykuły łączą wiedzę techniczną z lekkim, przystępnym stylem.