Były sygnalista Theranosa ostrzega: boom na AI ułatwia sprzedaż pozorów
Spis treści
Tyler Shultz, były pracownik Theranosa i jeden z sygnalistów, którzy pomogli ujawnić problemy firmy, ostrzega przed nową falą oszustw w świecie sztucznej inteligencji. Jego zdaniem inwestorom coraz trudniej odróżnić przełomową technologię od produktu, który tylko sprawia takie wrażenie.
W rozmowie z The San Francisco Standard Shultz powiedział, że „bardzo trudno odróżnić coś naprawdę wyjątkowego od nakładki na ChatGPT”. Dodał: „Jeśli ktoś chce oszukiwać ludzi, to jest to świetna okazja”. To jego ocena ryzyka, a nie twierdzenie, że każda firma AI działa nieuczciwie.
Theranos pokazał, jak drogi może być brak weryfikacji
Ostrzeżenie ma ciężar większy niż zwykły komentarz obserwatora rynku. Theranos pozyskał od inwestorów ponad 700 mln dolarów, przedstawiając urządzenie do badań krwi jako zdolne do wykonywania szerokiego zakresu testów z niewielkiej próbki. Według ustaleń amerykańskiej Komisji Papierów Wartościowych i Giełd analizator wykonywał tylko niewielką część obiecywanych badań, a większość testów realizowano na zmodyfikowanych urządzeniach innych producentów.
Sprawa nie dotyczyła wyłącznie pieniędzy. Departament Sprawiedliwości USA podał, że nieprawidłowe wyniki trafiały do pacjentów, w tym osób monitorujących ciążę i leczonych onkologicznie. Elizabeth Holmes została skazana na 135 miesięcy, czyli 11 lat i 3 miesiące więzienia, za oszustwa wobec inwestorów.
Jak sprawdzać startup AI przed inwestycją?
NIST AI Risk Management Framework zaleca ocenianie systemów pod kątem m.in. wiarygodności, bezpieczeństwa, odporności, przejrzystości i odpowiedzialności. W praktyce oznacza to pytania o działający prototyp, wyniki testów w warunkach zbliżonych do rzeczywistego użycia, ograniczenia systemu, sposób pomiaru jakości oraz dane potwierdzające deklarowane rezultaty.
Wycena i efektowna demonstracja mogą być sygnałem zainteresowania rynkiem, ale nie są dowodem skuteczności ani rentowności. Najważniejsza lekcja z Theranosa jest prosta: im większe konsekwencje błędu, tym mniej miejsca powinno być na zaufanie oparte wyłącznie na opowieści założyciela.
Źródła
Autor Artykułu
Paweł Lisowski
Paweł Lisowski - pasjonat technologii, komputerów i internetu. Od wielu lat śledzi rozwój sprzętu i oprogramowania, testuje nowe rozwiązania i dzieli się wiedzą z czytelnikami. Zafascynowany wpływem technologii na codzienne życie, tworzy praktyczne poradniki i inspiruje do świadomego korzystania z cyfrowego świata.