Anthropic chce sądowej blokady modeli AI przy ryzyku masowej szkody
By Paweł Lisowski
Spis treści
Anthropic promuje wśród amerykańskich legislatorów projekt ustawy, który pozwalałby zablokować wydanie modelu AI przy „przewidywalnym i nieuchronnym ryzyku” śmierci lub poważnych obrażeń ponad 50 osób albo szkód majątkowych przekraczających 1 mld dolarów. To na razie propozycja firmy, a nie obowiązujące prawo federalne.
Decyzję podejmowałby sąd, nie urząd
Zgodnie z opisem projektu przywołanym przez Politico i TechCrunch ryzyko musiałoby wynikać z jednego z trzech scenariuszy: pomocy w stworzeniu lub użyciu broni biologicznej, ucieczki modelu spod kontroli twórcy albo cyberataku. Niezależny ewaluator zarejestrowany przy Departamencie Handlu miałby 72 godziny na zgłoszenie takiego zagrożenia.
Sam departament nie mógłby jednak zatrzymać dystrybucji modelu. Musiałby zwrócić się o nakaz do sędziego w Dystrykcie Kolumbii. To istotny element propozycji: próg interwencji jest wysoki, a ostateczna decyzja należałaby do sądu. Projekt ograniczałby też możliwość samodzielnego działania innych agencji federalnych.
Niezależna kontrola, ale z pytaniem o finansowanie
Anthropic chce, aby modele i procedury bezpieczeństwa oceniali zewnętrzni specjaliści. W jej oficjalnym Advanced AI Framework firma postuluje regularne raporty o ryzyku oraz udział co najmniej jednego niezależnego ewaluatora. W październiku 2026 r. ogłosiła też, że zespół METR otrzyma dostęp do wewnętrznych narzędzi i procesów na zasadach zbliżonych do dostępu pracowników.
Projekt ustawy dopuszczałby finansowanie ewaluatorów przez laboratoria AI, pod warunkiem że wypłata nie zależałaby od wyniku kontroli. To rozwiązuje problem kosztów, ale nie usuwa pytania o niezależność. Jeśli oceniana firma płaci za audyt, potrzebne byłyby jasne zasady dotyczące konfliktu interesów, dostępu do danych i prawa do publikacji ustaleń.
Podobny próg obowiązuje już w Kalifornii
Próg 50 osób i 1 mld dolarów przypomina definicję „katastroficznego ryzyka” w kalifornijskiej ustawie SB 53. Jej tekst obejmuje między innymi pomoc w tworzeniu broni, cyberatak bez znaczącego nadzoru człowieka oraz wymknięcie się modelu spod kontroli. SB 53 koncentruje się jednak na obowiązkach dużych twórców modeli, publikowaniu ram bezpieczeństwa, raportowaniu incydentów i ochronie sygnalistów. Nie jest prostym odpowiednikiem federalnej procedury blokowania premiery opisanej w projekcie Anthropic.
Różnica ma praktyczne znaczenie. Kalifornijski przepis buduje system dokumentowania i zgłaszania ryzyka, natomiast propozycja Anthropic opisuje wąską ścieżkę do wstrzymania wdrożenia przez sąd. W obu przypadkach ciężar oceny spoczywa na tym, czy zagrożenie jest konkretne, przewidywalne i wystarczająco poważne, a nie na samym fakcie, że model ma szerokie możliwości.
Dlaczego projekt budzi spory
Zwolennicy zewnętrznych ocen dostają argument, że laboratoria nie powinny być jedynymi podmiotami decydującymi o bezpieczeństwie własnych modeli. Krytycy mogą wskazywać, że wysoki próg i konieczność uzyskania nakazu sądowego utrudnią reakcję na szkody mniejsze niż ustawowe kryterium, ale nadal dotkliwe. Sporne pozostaną też tempo postępowania, zakres informacji przekazywanych ewaluatorom oraz to, kto ponosi odpowiedzialność za decyzję o wydaniu modelu.
Anthropic przedstawia projekt jako rozwinięcie własnego frameworku bezpieczeństwa. O tym, czy propozycja trafi do procesu legislacyjnego i w jakiej formie, zdecydują jednak Kongres oraz amerykańskie sądy, a nie sama firma.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.