Aktualności Artykuł

OpenAI zaostrza ochronę dzieci. Nowy klasyfikator i ostrzeżenia w ChatGPT

Dodano: 16.11.2026
Dodaj PC Arena do ulubionych źródeł w Google i wesprzyj redakcję!

OpenAI udostępnia zatwierdzonym organizacjom nowy klasyfikator obrazów mogących przedstawiać materiały seksualnego wykorzystywania dzieci, a w ChatGPT wdraża ostrzeżenia i czasowe zawieszenia kont za próby wyszukiwania takich treści. Firma rozszerza w ten sposób ochronę dzieci na trzy poziomy: wykrywanie, reakcję wobec użytkownika oraz wsparcie dla deweloperów i organów ścigania.

Klasyfikator ma pomagać w ocenie nowych obrazów

OpenAI CSAM Image Classifier ma wykrywać także materiały wygenerowane przez AI, w tym obrazy, których wcześniej nie widziano. Narzędzie nadaje plikowi wynik wskazujący prawdopodobieństwo naruszenia, dzięki czemu może pomóc zespołom moderacyjnym ustalać kolejność ręcznej weryfikacji. OpenAI opisuje je jako rozwiązanie dla zatwierdzonych organizacji, udostępniane bez opłat po przejściu procesu akceptacji.

To ważne uzupełnienie klasycznego dopasowywania skrótów cyfrowych, które dobrze radzi sobie ze znanymi plikami, ale nie rozpoznaje materiału całkowicie nowego. W dokumentacji dla deweloperów OpenAI zaleca łączenie kilku warstw ochrony: dopasowywania skrótów, klasyfikatorów nowych treści, identyfikatorów użytkowników, kontroli kont oraz udziału przeszkolonych ludzi w ocenie najpoważniejszych zgłoszeń.

Według informacji przekazanych przy wdrożeniu, wczesne testy z partnerami pozwoliły ograniczyć liczbę obrazów kierowanych do przeglądu o 48% przy zachowaniu tej samej liczby wykrytych materiałów naruszających zasady. Obrazy oznaczone przez klasyfikator miały być przy tym dwukrotnie częściej oceniane jako nadużycie. To wynik testu OpenAI, a nie gwarancja skuteczności w każdym serwisie, dlatego narzędzie nie zastępuje ludzkiej decyzji.

ChatGPT zatrzyma rozmowę i może zawiesić konto

Nowe ostrzeżenia w ChatGPT przerywają rozmowę po rozpoznaniu próby znalezienia materiałów seksualnego wykorzystywania dzieci. Użytkownik może zostać skierowany do specjalistycznych źródeł pomocy, a konto może zostać czasowo zawieszone. OpenAI podaje, że powtarzające się naruszenia mogą prowadzić do dłuższych ograniczeń albo trwałego zamknięcia konta. Firma zaznacza również, że dostępność i wygląd interwencji mogą różnić się zależnie od kraju i rodzaju konta.

Według centrum pomocy OpenAI mechanizm jest stopniowo wdrażany na całym świecie w rozmowach ChatGPT w trybie Chat i Work na urządzeniach mobilnych oraz w przeglądarce dla kont osobistych. Obecnie nie obejmuje kont Business, Enterprise, Edu i Healthcare, trybu głosowego, Codex ani aplikacji desktopowych. W przypadku czasowego zawieszenia użytkownik zostaje wylogowany, a odwołanie składa się za pomocą odnośnika z wiadomości o blokadzie.

Wskazówki dla twórców aplikacji i śledczych

OpenAI publikuje także wytyczne dla deweloperów. Zaleca w nich jasne zasady korzystania z usługi, możliwość zgłaszania naruszeń, bezpieczne przypisywanie działań do użytkowników oraz przygotowanie procedury reagowania i raportowania. Dla platform obsługujących przesyłanie plików, edycję obrazów lub generowanie treści oznacza to konieczność zaprojektowania ochrony przed nadużyciami przed uruchomieniem funkcji, a nie dopiero po wykryciu problemu.

Firma deklaruje współpracę z National Center for Missing & Exploited Children, Tech Coalition i ROOST. Narzędzia dla organów ścigania mają obejmować między innymi funkcje analizy danych, kontrolowany dostęp do dodatków oraz szkolenia. OpenAI podkreśla przy tym, że lokalne obowiązki prawne i ścieżki zgłaszania mogą się różnić, więc wytyczne nie są poradą prawną ani uniwersalnym standardem dla każdej organizacji.

Źródła

Dodaj PC Arena do ulubionych źródeł w Google i wesprzyj redakcję!
Kamil Rogowski

Autor Artykułu

Kamil Rogowski

Kamil Rogowski - to pasjonat technologii i sprzętu komputerowego, który od lat śledzi rozwój PC, podzespołów i gamingu. Na pcarena.pl dzieli się testami, opiniami oraz praktycznymi poradami, pomagając czytelnikom wybrać najlepszy sprzęt do pracy i rozrywki. Jego artykuły łączą wiedzę techniczną z lekkim, przystępnym stylem.

Udostępnij:

Podobne Wpisy

Zobacz Także