Pangram rozszerza wykrywanie AI na obrazy i wideo. Nowe narzędzie ma analizować także edycje
Spis treści
Pangram udostępnił wszystkim użytkownikom Pangram Image 1.0, narzędzie do rozpoznawania obrazów wygenerowanych przez sztuczną inteligencję. Model, który wcześniej był dostępny jako wersja badawcza, działa teraz w serwisie internetowym, przez API oraz w rozszerzeniu Chrome.
Firma deklaruje 99,96 proc. skuteczności na własnym zbiorze ewaluacyjnym. To wynik Pangramu, a nie uniwersalna gwarancja poprawnej klasyfikacji każdego zdjęcia. W praktyce znaczenie ma między innymi jakość materiału, sposób jego edycji i to, czy dany typ generatora był uwzględniony w testach.
Detektor ma rozpoznawać także zmienione obrazy
Pangram twierdzi, że w ostatnich miesiącach poprawił działanie modelu w przypadku obrazów po kompresji, rozmyciu, dodaniu sztucznego szumu oraz dalszej edycji. Wynik może być uzupełniony mapą cieplną, która wskazuje fragmenty uznane za wygenerowane przez AI. To przydatniejsze niż sam werdykt, szczególnie gdy syntetyczny element został wprowadzony do prawdziwej fotografii.
Minimalna rozdzielczość wejściowa spadła z 512 × 512 do 256 × 256 pikseli. Dla materiałów mniejszych niż 512 pikseli usługa wyświetla jednak ostrzeżenie o obniżonej pewności. Firma porównuje swoje wyniki między innymi z TruthScan, AI or Not i Sightengine, ale te liczby pochodzą z testów Pangramu, więc nie należy traktować ich jako niezależnego rankingu.
Osobny model sprawdza wideo klatka po klatce
Do filmów służy szybszy Pangram Image Flash 1.0. Model analizuje kolejne klatki i według deklaracji firmy osiąga 98,7 proc. skuteczności na benchmarku DF26, czyli o 29 punktów procentowych więcej niż następny detektor w tym zestawieniu. Pangram przygotował własny test na bazie 129 prawdziwych filmów z mediów społecznościowych, tworząc ich syntetyczne wersje przy użyciu 14 współczesnych modeli wideo.
Sam benchmark DF26 pokazuje, dlaczego takie wyniki trzeba czytać ostrożnie: obejmuje 271 prawdziwych oraz 2420 syntetycznych nagrań, a autorzy badania ocenili, że ludzie i istniejące detektory radzą sobie z nowoczesnymi fałszywymi materiałami niewiele lepiej od losowego wyboru. Detektor może więc być narzędziem pomocniczym, ale nie zastępuje sprawdzenia źródła nagrania, metadanych ani kontekstu publikacji.
Gdzie można skorzystać z Pangram Image 1.0?
Obrazy można sprawdzać w witrynie Pangramu, przez API oraz w rozszerzeniu Chrome. Na stronie da się również przesłać wideo. Rozszerzenie ma sygnalizować treści AI podczas przeglądania mediów społecznościowych, ofert sklepów internetowych, ogłoszeń najmu i innych stron zawierających obrazy.
Źródła
Autor Artykułu
Kamil Rogowski
Kamil Rogowski - to pasjonat technologii i sprzętu komputerowego, który od lat śledzi rozwój PC, podzespołów i gamingu. Na pcarena.pl dzieli się testami, opiniami oraz praktycznymi poradami, pomagając czytelnikom wybrać najlepszy sprzęt do pracy i rozrywki. Jego artykuły łączą wiedzę techniczną z lekkim, przystępnym stylem.