Box wykorzysta Nemotron od Nvidii. Wyszukiwanie treści ma być szybsze dla agentów
Box zapowiedział funkcję Content Retrieval, która wykorzysta modele embeddingowe Nvidia Nemotron do przygotowywania treści dla agentów AI. Firma twierdzi, że rozwiązanie pozwoli zwracać trafniejsze fragmenty dokumentów zamiast zmuszać agenta do analizowania całych plików.
Według Kari Briski, wiceprezes Nvidia ds. oprogramowania generatywnej AI, zapytania mogą być obsługiwane cztery razy szybciej, przy 20 proc. mniejszej liczbie błędów i zużyciu o 90 proc. mniejszej liczby tokenów. To deklaracje producentów, dlatego rzeczywisty efekt będzie zależał od rodzaju dokumentów, indeksu i sposobu skonfigurowania agenta.
Box zapowiada udostępnienie funkcji wszystkim klientom planu Enterprise Advance. Premiera ma nastąpić na początku przyszłego roku. Informacja została ogłoszona podczas BoxWorks 2026 Developer Summit, którego program skupia się na pracy z nieustrukturyzowanymi danymi i rozwiązaniach agentowych.
Dlaczego embeddingi mają znaczenie
Embedding zamienia tekst lub inne dane w reprezentację liczbową, dzięki której system może porównywać znaczenie zapytania i dokumentu. W praktyce wyszukiwarka nie musi opierać się wyłącznie na tych samych słowach kluczowych. Może znaleźć powiązany fragment umowy także wtedy, gdy pytanie używa innego sformułowania.
Nvidia rozwija Nemotron jako rodzinę otwartych wag i narzędzi do zastosowań związanych z wyszukiwaniem oraz generowaniem odpowiedzi na podstawie źródeł. W dokumentacji producent opisuje embeddingi jako element procesu dostrajania odzyskiwania dokumentów. Z kolei materiały dotyczące RAG pokazują typowy przepływ: pytanie jest zamieniane na embedding, następnie porównywane z bazą wektorową, a wybrane fragmenty trafiają do modelu generującego odpowiedź.
Box łączy ten mechanizm z własnymi metadanymi i kontrolą uprawnień. To istotne, bo agent powinien dostać nie tylko semantycznie pasujący fragment, lecz także taki, do którego dany użytkownik ma dostęp. Levie opisał rozwiązanie jako połączenie kilku technologii udostępnionych przez jeden interfejs API.
Co zmieni się dla użytkowników
Najbardziej konkretny scenariusz dotyczy pracy z dużymi zbiorami dokumentów, na przykład umowami. Agent może szybciej wskazać klauzule i precedensy związane z pytaniem, a do dalszego rozumowania przekazać mniejszy zestaw lepiej dobranych fragmentów. Mniejszy kontekst może oznaczać niższy koszt zapytania, ale nie gwarantuje poprawnej odpowiedzi bez kontroli źródeł i uprawnień.
Warto też pamiętać, że wynik benchmarku nie jest obietnicą identycznej jakości w każdej firmie. Na skuteczność wyszukiwania wpływają między innymi język dokumentów, ich struktura, aktualność indeksu oraz sposób formułowania pytań. Właśnie dlatego integracja Boxa ma znaczenie praktyczne: oprócz samego modelu obejmuje warstwę metadanych i bezpieczeństwa, trudniejszą do odtworzenia w samodzielnym wdrożeniu.
Źródła
Autor Artykułu
Piotr Tchórz
Redaktor naczelny PC Arena. Łączy doświadczenie redakcyjne z zainteresowaniem komputerami, nowymi technologiami i sztuczną inteligencją. Pisze o tym, co zmienia się w świecie PC - od sprzętu i oprogramowania po praktyczne zastosowania AI.