Muse miał pomieszać cudze rozmowy. Meta wcześniej obiecywała pełną izolację danych
Spis treści
Pracownicy Meta zgłosili, że agent AI Muse miał łączyć informacje należące do różnych kont i wyświetlać dane, których użytkownicy nie podawali. Reuters opisał te przypadki na podstawie wewnętrznych wpisów firmowych, a wśród rzekomo pomieszanych treści znalazły się prośby dotyczące opieki nad dziećmi, porady zawodowe, zamówienia oraz salda rachunków bankowych.
Wiadomości trafiały do niewłaściwych rozmów
W jednym z opisanych przykładów Muse miał dopisać do rozmowy o pogodzie i przypływach komunikat z danymi dwóch rachunków bankowych. W innym przypadku pracownica korzystająca z agenta na prywatnym telefonie otrzymała przypomnienie o odpowiedzi na wiadomość od siostry w Signalu. Według przytoczonego wpisu nie udzielała Muse dostępu do tej aplikacji.
Nie są to potwierdzone publicznie wyniki niezależnego audytu, lecz zgłoszenia pracowników przytoczone w raporcie Reutersa. To ważne rozróżnienie, ale skala opisywanego problemu jest poważna: agent wykonujący zadania w imieniu użytkownika musi przede wszystkim utrzymać granicę między jego kontem a kontami innych osób.
Obietnice Meta zderzają się z zarzutami
Meta przedstawiała Muse jako osobistego agenta działającego w dedykowanym środowisku Muse Secure VM. Firma deklaruje, że każdy agent ma własny komputer w chmurze, a osobny moduł Sentinel ma zatwierdzać jego połączenia z internetem. Użytkownik ma też wybierać aplikacje, do których Muse otrzymuje dostęp, oraz widzieć pełny audyt wykonanych działań.
Oficjalny opis usługi mówi również, że Muse powinien pytać o zgodę przed wrażliwymi operacjami, takimi jak wysłanie wiadomości lub zakup. Jeśli jednak agent rzeczywiście pokazuje treści z niewłaściwych rozmów albo korzysta z danych z aplikacji, której nie podłączono, problem dotyczy samego modelu uprawnień i separacji danych, a nie tylko pojedynczej pomyłki w odpowiedzi.
Dlaczego to szczególnie istotne
Muse został zaprojektowany do pracy w tle, przeglądania stron i współpracy z aplikacjami użytkownika. Taka wygoda zwiększa koszt błędu: zwykła halucynacja tekstu jest problemem jakościowym, ale przypisanie cudzej wiadomości, zamówienia lub salda do niewłaściwej osoby może stać się incydentem prywatności.
Meta nie odpowiedziała od razu na prośbę TechCruncha o komentarz. Do czasu wyjaśnienia sprawy rozsądne jest traktowanie deklarowanych zabezpieczeń jako obietnicy projektowej, a nie dowodu, że każda sesja działa bezbłędnie. Użytkownicy powinni sprawdzić listę połączonych aplikacji, ograniczyć uprawnienia do minimum i nie przekazywać agentowi danych, których ujawnienie mogłoby mieć realne konsekwencje.
Źródła
Autor Artykułu
Kamil Rogowski
Kamil Rogowski - to pasjonat technologii i sprzętu komputerowego, który od lat śledzi rozwój PC, podzespołów i gamingu. Na pcarena.pl dzieli się testami, opiniami oraz praktycznymi poradami, pomagając czytelnikom wybrać najlepszy sprzęt do pracy i rozrywki. Jego artykuły łączą wiedzę techniczną z lekkim, przystępnym stylem.