Gemini może powiadamiać rodziców o rozmowach dzieci o samookaleczeniu
Spis treści
Google przygotowuje w Gemini mechanizm, który może powiadamiać rodzica, gdy system wykryje w rozmowie dziecka temat samookaleczenia. Informacja nie pochodzi jeszcze z oficjalnego komunikatu o wdrożeniu funkcji. Została odkryta w zasobach aplikacji Google, dlatego na tym etapie mówimy o przygotowywanej możliwości, a nie gotowej usłudze.
Jak opisuje Android Authority, trop prowadzi do nowych elementów interfejsu związanych z bezpieczeństwem młodszych użytkowników. Niezależnie od tego Nerd’s Chalk wskazuje konkretny tekst znaleziony w wersji Google 17.73.15: komunikat ma informować dziecko, że rodzic zostanie powiadomiony, jeśli Gemini wykryje rozmowy dotyczące zrobienia sobie krzywdy.
To jeszcze nie jest funkcja dostępna dla wszystkich
Analiza plików APK pozwala znaleźć ślady funkcji rozwijanych za kulisami, ale nie przesądza o ich premierze. Opcja może wymagać aktywacji po stronie serwera, zmienić zasady działania albo w ogóle nie trafić do stabilnej wersji aplikacji. Nie wiadomo też, jakie dokładnie informacje otrzyma rodzic i w jaki sposób alert będzie dostarczany.
Jak Google zabezpiecza Gemini dla młodszych osób
Google już teraz stosuje dodatkowe filtry dla niepełnoletnich. Oficjalna instrukcja dla rodziców wyjaśnia, że Gemini ma ograniczać nieodpowiednie treści, nie powinno udawać człowieka ani odgrywać szkodliwej postaci, ale filtry nie są nieomylne. W przypadku kont nadzorowanych przez Family Link rodzic może włączać lub wyłączać dostęp do Gemini, choć dostępność tej funkcji zależy od regionu.
Google informowało także, że w rozmowach mogących wskazywać na kryzys związany z samobójstwem lub samookaleczeniem Gemini ma wyświetlać moduł „Pomoc jest dostępna”, który ułatwia kontakt z profesjonalnym wsparciem. Firma podkreśla jednocześnie, że chatbot nie zastępuje terapii, opieki klinicznej ani interwencji kryzysowej.
Jeśli taka funkcja zostanie udostępniona, będzie ważnym testem granicy między ochroną dziecka a jego prywatnością. Sam alert może pomóc dorosłemu szybko zareagować, ale skuteczność rozwiązania zależy od trafności wykrywania kontekstu i jasnego wyjaśnienia, jakie dane są przekazywane.
Źródła
Autor Artykułu
Piotr Tchórz
Redaktor naczelny PC Arena. Łączy doświadczenie redakcyjne z zainteresowaniem komputerami, nowymi technologiami i sztuczną inteligencją. Pisze o tym, co zmienia się w świecie PC - od sprzętu i oprogramowania po praktyczne zastosowania AI.