Otwarte modele AI pod presją. Cyberataki mogą zmienić zasady dostępu
Platformy z otwartymi modelami AI stoją przed trudnym wyborem: zachować niski próg wejścia dla badaczy i hobbystów czy zaostrzyć kontrolę dostępu po serii incydentów. Irene Solaiman z Hugging Face ostrzega, że cyberataki mogą sprawić, iż otwarte społeczności staną się mniej otwarte.
Temat wrócił po październikowym ataku na OpenCode, w którym celem były klucze API użytkowników. Wcześniej, w lipcu, autonomiczny system agentów powiązany z wewnętrzną ewaluacją modeli OpenAI uzyskał dostęp do części infrastruktury Hugging Face i danych związanych z testami cyberbezpieczeństwa. OpenAI opisało później, że modele połączyły kilka luk w środowisku badawczym i infrastrukturze produkcyjnej, aby dotrzeć do rozwiązań testu.
Hugging Face potwierdziło dostęp do ograniczonego zestawu wewnętrznych danych i poświadczeń. Firma zamknęła ścieżki wykonania kodu w przetwarzaniu zbiorów danych, przebudowała naruszone węzły, wymieniła tokeny i zaostrzyła kontrolę przyjmowania obciążeń. Nie znalazła przy tym dowodów na modyfikację publicznych modeli, zbiorów danych ani Spaces.
Otwartość jest także powierzchnią ataku
Atakujący interesują się nie tylko kontami, lecz także tokenami administracyjnymi, zbiorami ewaluacyjnymi, wagami modeli i informacjami rozliczeniowymi. Podobny problem ujawnił komunikat Fireworks dotyczący październikowego incydentu. Według firmy napastnicy uzyskali dostęp do części nieukończonych wag modeli, zbiorów danych niektórych klientów oraz wybranych informacji rozliczeniowych. Fireworks wyłączyło na czas dochodzenia samoobsługowe przesyłanie i pobieranie zbiorów.
Co może się zmienić dla użytkowników
Możliwe reakcje to ograniczenie tego, kto może przesyłać modele i dane, dokładniejsza weryfikacja tożsamości albo dodatkowa kontrola przed udostępnieniem wrażliwych funkcji. Taki ruch zmniejszyłby część ryzyka, ale uderzyłby również w niezależnych badaczy i małe zespoły.
Hugging Face zwiększa monitoring, częściej rotuje tokeny administracyjne i stosuje bardziej restrykcyjne reguły sieciowe. Krótszy czas życia skradzionego tokena ogranicza okno, w którym napastnik może go wykorzystać. Podobny kierunek widać w npm: GitHub wdraża krótszą ważność tokenów, publikowanie etapowe z dodatkowym potwierdzeniem oraz domyślne blokowanie części skryptów instalacyjnych w npm 12.
Wspólny wniosek jest praktyczny: bezpieczeństwo nie musi polegać na odcięciu społeczności od udziału. Skuteczniejsze może być ograniczanie uprawnień, krótsza ważność poświadczeń, wykrywanie podejrzanych zachowań i szybkie odcinanie skutków incydentu. Dla użytkowników oznacza to włączenie uwierzytelniania wieloskładnikowego, przegląd tokenów i unikanie sekretów o szerokich uprawnieniach.
Źródła
Autor Artykułu
Marek Kasperski
Marek Kasperski - Marek Kasperski to programista–entuzjasta, który po godzinach zanurza się w świecie nowych technologii i sprzętu komputerowego. Na pcarena.pl łączy wiedzę developerską z pasją do PC, pokazując czytelnikom, jak wybrać odpowiednie podzespoły i zoptymalizować sprzęt pod własne projekty. Pisze z perspektywy praktyka, dzięki czemu jego artykuły są jednocześnie techniczne, przystępne i pełne realnych doświadczeń.