Atak na Fireworks AI. Hakerzy uzyskali dostęp do transkrypcji rozmów klientów Notion
Atak na infrastrukturę Fireworks AI doprowadził do ujawnienia danych części klientów tej platformy. Wśród nich znalazły się transkrypcje rozmów Notion AI używanych przez funkcję Insights. Notion ocenia, że incydent dotyczy mniej niż 1 proc. jego przestrzeni roboczych.
Notion 2 listopada otrzymał od Fireworks informację o dostępie osób nieuprawnionych do niewielkiego zbioru danych. Początkowo firma uznała, że chodziło wyłącznie o dane syntetyczne wykorzystywane do testów. 3 listopada odłączyła swoje systemy od Fireworks, usunęła przechowywane tam dane i zatrzymała komunikację między usługami.
6 listopada Fireworks powiadomił Notion o możliwości dostępu do danych klientów, a 8 listopada potwierdził zakres kolejnego zbioru. Analiza wykazała, że obejmował on transkrypcje czatów z funkcji Insights. W większości przypadków nie da się ich przypisać do konkretnego użytkownika, zespołu ani firmy, ponieważ nie zawierały takich oznaczeń ani wyników wywołań narzędzi. Nie ucierpiały inne funkcje Notion.
Jak doszło do incydentu?
Według Fireworks 23 października doszło do incydentu u zewnętrznego dostawcy chmury obsługującego maszyny badawczo-rozwojowe firmy. Dzień później napastnicy wykorzystali tę drogę, aby dotrzeć do maszyn deweloperskich Fireworks i uruchomić nieautoryzowane zadania. Firma wykryła aktywność 24 października i podjęła działania naprawcze.
W zaktualizowanym biuletynie Fireworks wymienia między innymi informacje rozliczeniowe, metadane zasobów, wybrane zbiory danych i fragmenty nieukończonych modeli. Numery kart płatniczych nie były przechowywane w systemie i nie zostały objęte incydentem. Fireworks podkreśla też, że nie wykrył wpływu na usługi Inference, Training SDK i Nexus, które domyślnie działają w modelu zerowego przechowywania danych.
Dlaczego sprawa jest ważna dla użytkowników AI?
Fireworks wiąże atak z grupą nastawioną na finansowy zysk i sprzedaż dostępu do modeli językowych. Taki model działania określa się jako LLMJacking. Przestępcy przejmują klucze API lub tożsamości chmurowe, a następnie odsprzedają cudzy limit obliczeniowy za pośrednictwem nielegalnych bramek.
Google Threat Intelligence Group i Mandiant opisują ten schemat jako rosnący rynek. W analizowanych przez nie przypadkach nieautoryzowane użycie modeli generowało ponad 100 tys. dolarów opłat w ciągu jednego dnia, a łączne koszty w niektórych organizacjach sięgały miliona dolarów. Incydent Fireworks pokazuje przy tym drugi problem: dostawca używany przez jedną usługę może stać się kanałem dostępu do danych jej klientów.
Notion wyłączył funkcję Insights i przestał korzystać z Fireworks jako dostawcy modeli open-weight. Osoby, które otrzymały od Notion wiadomość o objęciu incydentem, mogą sprawdzić wskazane dane w swojej przestrzeni. Firma zaleca traktować je jako ujawnione, a jeśli w rozmowach znalazły się hasła, klucze API lub inne dane uwierzytelniające, niezwłocznie je unieważnić i wygenerować nowe.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.