Ten model głosowy ma 31,7 MB i działa lokalnie w przeglądarce
Duże modele AI potrzebują serwerów i stałego połączenia z internetem. Underdog pokazuje inną drogę: Woof to model text-to-speech o rozmiarze 31,7 MB, który uruchamia się bezpośrednio w przeglądarce użytkownika. Firma prezentuje go w formie retro gry z typowymi dla tej estetyki monitorem CRT, maszyną do pisania i tunerem muzycznym.
W demonstracji można wpisać własny tekst na ekranowej maszynie do pisania, a następnie usłyszeć go odczytanego przez model. Obracanie tunera generuje z kolei różne warianty muzyki. Według Underdog całość działa lokalnie, z wykorzystaniem WebGPU, a po załadowaniu model może pracować także bez połączenia z siecią. To ważne rozróżnienie: przeglądarka pobiera model, lecz sama generacja dźwięku nie musi trafiać do chmury.
Mały plik, ale nie dowolne zastosowanie
Woof ma 30,7 mln parametrów. Na stronie projektu Underdog podaje również wynik 1,42 proc. błędów słów w swoim teście 500 trudnych zdań. Jest to deklaracja producenta, a nie niezależny, szeroki benchmark, dlatego nie należy traktować jej jako ostatecznego porównania z większymi systemami głosowymi.
Rozmiar modelu może jednak ułatwić budowę lokalnych funkcji głosowych: prostych asystentów, narzędzi edukacyjnych, aplikacji działających offline czy spersonalizowanych materiałów audio. Mniejszy model oznacza potencjalnie krótszy czas pobierania i mniejsze koszty infrastruktury, ale nie gwarantuje takiej samej jakości, liczby języków ani wydajności na każdym komputerze.
Jest też istotne ograniczenie prawne. Woof udostępniono jako open weights na licencji CC BY-NC 4.0, czyli do zastosowań niekomercyjnych. Określenie „otwarty” nie oznacza tu automatycznie zgody na wykorzystanie modelu w płatnej usłudze lub produkcie. Przed wdrożeniem komercyjnym trzeba sprawdzić warunki licencji i ewentualnie uzyskać osobne uprawnienia.
To część większego planu Underdog
Woof nie jest jedynym małym modelem firmy. Underdog rozwija także Bark do rozpoznawania mowy oraz większy, 27-miliardowy model przeznaczony do pracy na laptopach. Wspólny kierunek jest czytelny: przenieść część funkcji AI z centrów danych na urządzenia, które użytkownicy już mają.
Założyciel Underdog, Sigil Wen, tłumaczył TechCrunch, że zależało mu na systemie działającym na sprzęcie użytkownika, aby dane pozostawały pod jego kontrolą. Demo Woof pokazuje, że lokalne generowanie mowy może zmieścić się w niewielkim pakiecie. Nie odpowiada jeszcze na pytania o jakość w wielu językach, wymagania sprzętowe i gotowość do zastosowań produkcyjnych, ale wyznacza konkretny kierunek rozwoju prywatnych narzędzi AI.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.