Nowy Jork zaostrza nadzór nad twórcami AI. OpenAI i Anthropic przed nowymi obowiązkami

Nowy Jork uruchomił przygotowania do egzekwowania jednej z najbardziej szczegółowych amerykańskich regulacji dotyczących bezpieczeństwa sztucznej inteligencji. Według informacji TechCrunch duzi twórcy modeli granicznych, w tym OpenAI i Anthropic, mają zarejestrować się w stanowym systemie do 1 stycznia 2027 r. Tego dnia zacznie obowiązywać RAISE Act, czyli Responsible AI Safety and Education Act.

Co zmieni RAISE Act?

Przepisy obejmą modele graniczne rozwijane, wdrażane lub działające w całości albo częściowo w stanie Nowy Jork. Za „dużego twórcę” ustawa uznaje firmę, która razem z podmiotami powiązanymi przekroczyła 500 mln dolarów rocznych przychodów. To ważne doprecyzowanie: zakres nie zależy wyłącznie od popularności usługi, lecz także od skali firmy i parametrów modelu.

Firmy będą musiały opublikować i stosować własne ramy bezpieczeństwa. Dokument ma opisywać między innymi progi ryzyka, sposoby ograniczania zagrożeń, udział niezależnych podmiotów w ocenie, ochronę wag niewydanych modeli, reagowanie na incydenty oraz zasady kontroli wewnętrznego użycia AI. Ramy trzeba będzie przeglądać co najmniej raz w roku, a istotne zmiany uzasadniać publicznie w ciągu 30 dni.

Raporty, incydenty i odpowiedzialność

Przed wdrożeniem nowego modelu albo jego istotnie zmienionej wersji twórca będzie publikował raport przejrzystości. Znajdą się w nim między innymi data wydania, obsługiwane języki i formaty wyjściowe, przeznaczenie modelu, ograniczenia użytkowania oraz podsumowanie ocen ryzyka i udziału zewnętrznych ewaluatorów.

Ustawa wymaga zgłoszenia krytycznego incydentu w ciągu 72 godzin od ustalenia, że do niego doszło, albo od uzyskania faktów uzasadniających takie przekonanie. Gdy incydent oznacza bezpośrednie ryzyko śmierci lub poważnych obrażeń, odpowiednie służby trzeba powiadomić w ciągu 24 godzin. Za naruszenia prokurator generalny może dochodzić do 1 mln dolarów za pierwsze przewinienie i do 3 mln dolarów za każde kolejne.

Za wdrożenie przepisów odpowiadać ma Office of Digital Innovation, Governance, Integrity and Trust, znane jako DIGIT. Ustawa przewiduje również obowiązek złożenia aktualnego oświadczenia przez dużych twórców oraz opłaty na funkcjonowanie nadzoru. Brak zgłoszenia może oznaczać dodatkową karę w wysokości 1000 dolarów za każdy dzień zwłoki.

Nowy ośrodek badawczy i szerszy trend

Regulacja ma być uzupełniona o niezależne zaplecze badawcze. W styczniu gubernator Kathy Hochul ogłosiła utworzenie Center for AI Responsibility and Research na Binghamton University. Projekt otrzymał 30 mln dolarów od darczyńców oraz 25 mln dolarów inwestycji stanowej. Ośrodek ma prowadzić badania nad bezpieczeństwem, ochroną i przejrzystością modeli AI, a nie tylko oceniać deklaracje samych firm.

Nowy Jork nie działa w próżni. Kalifornijska ustawa SB 53 wymaga publikowania ram bezpieczeństwa, zgłaszania określonych incydentów i ochrony sygnalistów. Illinois od 1 stycznia 2027 r. ma wdrożyć SB 315, które dodatkowo przewiduje coroczne, niezależne audyty zgodności. Dla firm rozwijających modele graniczne oznacza to rosnącą liczbę stanowych reżimów, które trzeba będzie porównywać przed każdą premierą i dużą zmianą modelu.

W praktyce RAISE Act przenosi część odpowiedzialności z dobrowolnych deklaracji do publicznych procedur: firma ma nie tylko mówić, że zarządza ryzykiem, lecz także pokazać, według jakich progów je ocenia, jak reaguje na incydenty i kto może zweryfikować jej działania.

Źródła

• New York State Senate: RAISE Act, Article 44-B
• New York State Senate: definicje i próg 500 mln dolarów
• New York State Senate: wymogi przejrzystości
• New York State Senate: zgłaszanie incydentów
• New York State Senate: kary za naruszenia
• New York State Senate: oświadczenia dużych twórców
• Biuro gubernator Kathy Hochul: Center for AI Responsibility and Research
• State of California: SB 53
• Illinois General Assembly: SB 315
• TechCrunch: informacja o uruchomieniu portalu rejestracyjnego