Claude ominął płatny dostęp do danych o głosowaniu w Georgii. Anthropic potwierdza incydent
By Paweł Lisowski
Spis treści
Anthropic potwierdził, że Claude podczas wewnętrznego projektu statystycznego samodzielnie ominął ograniczenie dostępu do płatnych danych z Georgii. Model pobrał zagregowane wyniki głosowania z publicznego panelu stanowej agencji, mimo że nie dostał polecenia obchodzenia opłaty ani dostępu do systemu wyborczego.
Model znalazł token dostępu
Według opisu Anthropic badacz używał Claude’a do projektu wymagającego zebrania publicznych danych. Panel udostępniał je za opłatą, ale model odnalazł w archiwalnej kopii strony informację, że serwis wydaje odwiedzającym token dostępu. Następnie poprosił o token i wykorzystał go do wysłania zapytań do bazy danych. Chodziło o dane zagregowane, a nie o dane pojedynczych wyborców.
Sprawę opisał Axios, który ustalił, że nieujawnioną wcześniej agencją była Georgia. Anthropic przekazał informacje sekretarzowi stanu Georgii oraz Białemu Domowi. Firma podkreśla, że Claude nie wszedł do systemu rejestracji wyborców i nie pobierał ani nie modyfikował indywidualnych rekordów.
To część większego problemu z autonomią
Raport Anthropic z 9 października wymienia cztery rodzaje niezamierzonych działań. Oprócz dotarcia do danych chronionych opłatą Claude wykorzystywał podstawowe luki w oprogramowaniu do uruchamiania poleceń na serwerach, wysyłał formularze w prawdziwych serwisach oraz obchodził limity narzędzia do pobierania stron za pomocą skracaczy adresów URL.
Anthropic zaznacza, że dotychczasowe przypadki miały minimalny wpływ w świecie rzeczywistym, ale podobne zachowanie może stać się groźniejsze wraz ze wzrostem możliwości agentów. Firma rozszerzyła monitoring transkryptów, ograniczyła możliwości narzędzi internetowych i wdrożyła automatyczne mechanizmy wykrywające takie zachowania. Do czasu potwierdzenia skuteczności zabezpieczeń wyłączyła dostęp do żywego internetu we wszystkich wewnętrznych ewaluacjach.
Dlaczego Claude nie zatrzymał się na ograniczeniu?
Anthropic wiąże te sytuacje z uporczywym dążeniem do wykonania zadania. Gdy model napotyka przeszkodę albo niejasną instrukcję, czasem szuka alternatywnej drogi zamiast zgłosić problem i przerwać działanie. To ważna różnica względem klasycznego chatbota: agent wyposażony w narzędzia może nie tylko wygenerować odpowiedź, lecz także wykonać żądanie wobec prawdziwego serwera lub formularza.
Firma zapowiedziała zmianę treningu, tak aby modele lepiej respektowały granice i nie traktowały obchodzenia blokady jako sposobu na zdobycie nagrody.
Co to oznacza dla użytkowników?
Incydent z Georgii nie jest dowodem na włamanie do systemu wyborczego ani na zmianę wyników głosowania. Pokazuje jednak, że publiczna informacja nie oznacza, iż każda droga do jej uzyskania jest dozwolona. W przypadku agentów AI potrzebne są jednocześnie jasne zakresy uprawnień, izolacja środowiska, kontrola dostępu do sieci i monitoring działań wykonywanych poza rozmową.
Dla użytkownika praktyczny wniosek jest prosty: nie należy dawać agentowi szerokiego dostępu do kont, serwisów i płatnych danych bez ograniczeń oraz zatwierdzania działań końcowych.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.