Meta prezentuje Muse Ember. Lekki model AI ma obsługiwać agentów na dużą skalę
Spis treści
Meta zaprezentowała Muse Ember — najmniejszy i najbardziej wydajny kosztowo model w rodzinie Muse. Firma projektuje go z myślą o zadaniach, które agent AI wykonuje setki razy w ciągu sesji: wywoływaniu narzędzi, podzadaniach programistycznych, routingu, ekstrakcji danych i analizie długich dokumentów.
Meta podaje cenę 0,10 dolara za milion tokenów wejściowych oraz 0,50 dolara za milion tokenów wyjściowych. W opublikowanych porównaniach Ember osiąga wyniki zbliżone do większych modeli przy niższym koszcie zadania, choć benchmarki pochodzą od producenta.
Ember ma działać jako element większego systemu agentowego. Meta proponuje podział ról: Muse Wonder planuje, a Muse Ember realizuje dużą liczbę kolejnych kroków, na przykład w obsłudze tysięcy zgłoszeń klientów.
Model jest natywnie multimodalny i potrafi analizować tekst, obrazy, dźwięk oraz wideo. Ember ma 1 mln tokenów kontekstu oraz obsługuje do 512 tys. tokenów wyjściowych.
Muse Ember jest dostępny w Meta Model API jako muse-ember-1.0 oraz w Muse Code. Meta deklaruje testy bezpieczeństwa obejmujące m.in. prompt injection. Dla zespołów budujących agentów najważniejsza będzie jednak weryfikacja tych deklaracji na własnych danych.
Źródła
Autor Artykułu
Piotr Tchórz
Redaktor naczelny PC Arena. Łączy doświadczenie redakcyjne z zainteresowaniem komputerami, nowymi technologiami i sztuczną inteligencją. Pisze o tym, co zmienia się w świecie PC - od sprzętu i oprogramowania po praktyczne zastosowania AI.