NVIDIA inwestuje w Simplismart. Startup chce uruchamiać modele AI przy mniejszej liczbie GPU
By Paweł Lisowski
Spis treści
NVIDIA inwestuje 14 mln dolarów w indyjski startup Simplismart, który rozwija oprogramowanie pomagające uruchamiać modele sztucznej inteligencji wydajniej i — w wybranych zastosowaniach — przy użyciu mniejszej liczby procesorów graficznych.
14 mln dolarów na rozwój platformy
Runda Series B była w całości rundą pierwotną. Oprócz NVIDIA uczestniczyli w niej Accel, Shastra VC i Micromax, a inwestycję poprowadził Dallas Venture Capital. Wycena Simplismart po transakcji wynosi około 100 mln dolarów. Startup z Bengaluru założyli w 2022 roku Amritanshu Jain, wcześniej inżynier Oracle, oraz Devansh Ghatak, były inżynier Google.
Kapitał ma sfinansować ekspansję w Stanach Zjednoczonych, powiększenie zespołu i rozwój narzędzi do obsługi inferencji, czyli generowania odpowiedzi przez gotowy model.
Warstwa między modelem a serwerami
Simplismart działa pomiędzy modelem AI a infrastrukturą obliczeniową. Platforma pomaga dobrać sposób wdrożenia do wymagań dotyczących czasu odpowiedzi, liczby żądań, kosztu i dostępnej mocy GPU. Firma oferuje uruchamianie modeli w swojej platformie, w chmurze klienta i lokalnie. Udostępnia narzędzia do dostrajania modeli, automatycznego skalowania zasobów i monitorowania wydajności.
Nie chodzi o prostą obietnicę, że każdy model będzie działał szybciej albo taniej. Różne aplikacje mają inne umowy SLA i ograniczenia kosztowe. Dla systemu generującego wideo ważniejsza może być przepustowość, a dla asystenta obsługi klienta — przewidywalny czas odpowiedzi.
NVIDIA rozwija podobny kierunek
Wydajniejsze serwowanie modeli może obniżyć koszt zapytania, zwiększyć liczbę zastosowań AI i w efekcie popyt na infrastrukturę. Podobny problem rozwiązuje NVIDIA Dynamo — otwartoźródłowy framework do rozproszonego serwowania generatywnej AI. NVIDIA opisuje w nim inteligentne kierowanie żądań, zarządzanie pamięcią podręczną i automatyczne skalowanie.
Klienci i deklarowane wyniki
Simplismart twierdzi, że pomogła platformie InVideo obniżyć koszty obsługi GPU o 56 procent. Wśród klientów wymienia także HeyGen, Higgsfield i Emę, a indyjski dostawca chmury Yotta korzysta z jej technologii w usłudze bezserwerowej inferencji AI. Są to deklaracje startupu; w dostępnych materiałach nie przedstawiono niezależnego testu.
Według wypowiedzi Jaina dla TechCrunch roczny wskaźnik przychodów spółki wzrósł w sześć miesięcy czternastokrotnie. To szacunek oparty na bieżącym wykorzystaniu usługi, a nie na zakontraktowanych powtarzalnych przychodach. Dokładnej wartości nie ujawniono.
Rynek staje się coraz bardziej konkurencyjny
Simplismart konkuruje z narzędziami NVIDIA oraz usługami AWS, Google Cloud i Microsoft Azure. Wspólnym wyzwaniem jest pogodzenie niskiego kosztu, krótkiego czasu odpowiedzi i wysokiej niezawodności. O pozycji startupu zdecyduje to, czy potrafi wykazać oszczędności w rzeczywistych środowiskach i utrzymać parametry SLA przy zmiennym obciążeniu.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.