Anthropic chce kryptograficznie potwierdzać, który model wygenerował odpowiedź
Spis treści
Anthropic pracuje nad FlashProve, otwartym prototypem, który ma kryptograficznie potwierdzać, że konkretna odpowiedź pochodzi od określonego modelu AI. Sama treść odpowiedzi nie wystarcza dziś, aby sprawdzić, czy dostawca rzeczywiście uruchomił model wskazany w dokumentacji.
Jak działa FlashProve?
System wykorzystuje dowody kryptograficzne typu zkSNARK. Dostawca publikuje zobowiązanie do jednego zestawu wag, czyli cyfrowy odcisk modelu. Wagi pozostają ukryte, ale do odpowiedzi można dołączyć dowód, że wygenerował ją właśnie ten zapisany model. Odbiorca sprawdza dowód bez dostępu do wag i bez uruchamiania całej sieci neuronowej. Szczegóły opisano w oficjalnym raporcie Anthropic.
W praktyce taki mechanizm utrudniałby podmianę modelu na tańszy przez usługę pośredniczącą. Pozwalałby też audytorom sprawdzić, czy test wykonano na deklarowanym systemie. FlashProve nie jest jednak zwykłym podpisem cyfrowym: ma dowodzić, że tokeny powstały w wyniku obliczenia z użyciem konkretnego zestawu wag. Technika zero-knowledge ma chronić same wagi, choć obecna wersja nie ukrywa architektury modelu.
Prototyp jest szybki jak na dowody, ale wolniejszy od zwykłej inferencji
W demonstracji użyto 400-miliardowego modelu mieszanego Llama 4 Maverick w wersji 4-bitowej. Na pojedynczym H100 generowanie dowodów osiągało około 110 tokenów na sekundę dla partii 24 żądań. Jeden dowód zajmował około 19 MB, a sprawdzenie na procesorze trwało około 17 sekund przy użyciu 24 wątków. Dowodzenie było około 70–95 razy wolniejsze od zwykłego przetwarzania przez vLLM.
FlashProve działa post hoc, więc dowód może powstać po wygenerowaniu odpowiedzi. Obecny prototyp sprawdza okna do 1024 tokenów i dowodzi wyboru tokenów przez dokładny model całkowitoliczbowy z zachłannym dekodowaniem. Odpowiedzi uzyskane przy próbkowaniu lub na implementacji zmiennoprzecinkowej mogą nie pasować do sprawdzanego obliczenia.
Kod jest publiczny, wdrożenia jeszcze nie ma
Anthropic udostępnił opis protokołu, kod proverów i weryfikatorów, formalizację w Lean oraz dokumentację na licencji Apache 2.0. Repozytorium FlashProve na GitHubie jest artefaktem badawczym, a nie gotową usługą. Firma podkreśla, że prace są na etapie pośrednim i nie zapowiada obecnie wdrożenia systemu.
Jeśli podobne rozwiązania dojrzeją, mogą ułatwić audyt usług AI i ograniczyć problem „uwierzenia na słowo” dostawcy. Na dziś FlashProve pokazuje przede wszystkim, że kryptograficzna weryfikacja inferencji dużego modelu jest możliwa, ale wymaga znacznego narzutu obliczeniowego i dalszych prac.
Źródła
Autor Artykułu
Marek Kasperski
Marek Kasperski - Marek Kasperski to programista–entuzjasta, który po godzinach zanurza się w świecie nowych technologii i sprzętu komputerowego. Na pcarena.pl łączy wiedzę developerską z pasją do PC, pokazując czytelnikom, jak wybrać odpowiednie podzespoły i zoptymalizować sprzęt pod własne projekty. Pisze z perspektywy praktyka, dzięki czemu jego artykuły są jednocześnie techniczne, przystępne i pełne realnych doświadczeń.