Startap TypeSafe AI, koji vode bivši istraživač kompanije OpenAI Diogo Almeida, Erik Gafni i Sasha Sheng, izašao je iz stealth faze sa prikupljenih 40 miliona dolara seed kapitala i novim modelom pod nazivom Jev. Model je razvijen sa ciljem da eliminiše tekstualni čet u mašinskoj komunikaciji i zameni ga tipiziranim, verovatnoćkim odlukama direktno integrisanim u softverske sisteme. Finansijsku rundu predvodi fond DCVC.

Šta je Jev i kako funkcioniše?

Za razliku od standardnih velikih jezičkih modela (LLM) koji generišu tekstualne tokove tokena, Jev je klasifikovan kao „System One model“, inspirisan konceptom brzog razmišljanja Danijela Kanemana (Daniel Kahneman). Umesto sekvencijalnog predviđanja reči, model obrađuje zahteve paralelno i vraća strukturirane podatke kroz primitive kao što su Choice, Score i Noul.

Sistem je treniran novom metodom nazvanom RLCD (Reinforcement Learning for Calibrated Decisions). Almeida, jedan od supronalazača RLHF tehnike (Reinforcement Learning from Human Feedback), ističe da je RLHF stvorio modele optimizovane za razgovor sa ljudima, ali je istovremeno uneo probleme poput preteranog samopouzdanja (overconfidence), gubljenja modova (mode dropping) i nepouzdanosti u produkciji.

Ključne tehničke karakteristike modela uključuju:

Garantovano poklapanje šeme: Za razliku od standardnog „JSON mode-a“ kod LLM-ova koji i dalje generiše tekstualne stringove nalik JSON-u, Jev garantuje striktnu usklađenost sa zadatom šemom podataka bez izmišljanja polja ili pogrešnih tipova.
Kalibrisana verovatnoća: Svaka odluka nosi ocenu pouzdanosti (confidence). Na primer, klasifikacija korisničkog upita može vratiti raspodelu {billing: 0.08, technical: 0.85, sales: 0.07} sa nivoom pouzdanosti od 0.82, što softveru omogućava automatsku eskalaciju kada je pouzdanost niska.
Skalabilnost izbora: Podržava kardinalnost do 255 diskretnih opcija po upitu.

Performanse i potrošnja resursa

Zbog paralelne arhitekture i eliminacije generisanja teksta, Jev ostvaruje značajno niže vreme odziva i troškove u poređenju sa vodećim jezičkim modelima na tržištu, navodi The Register.

Kompanija navodi sledeće metrike:

Latencija: Odziv se kreće između 70 ms i 500 ms, što je 40 do 200 puta brže od LLM-a (u demonstraciji: 0.114 sekundi naspram 8.566 sekundi za GPT-5.6 Terra).
Cena: Obrada ulaza košta 0.042 dolara po milionu tokena, dok je izlaz besplatan. Poređenja radi, GPT-5.6 Terra košta 2.00 dolara za ulaz i 12.00 dolara za izlaz po milionu tokena.
Praktični demoi: Model je demonstriran kroz bota koji igra igru Doom na osnovu strukturiranog stanja uz ~10 poziva u sekundi (po ceni od približno 7 dolara po satu rada), kao i kroz igru Wikiracing.

Širi kontekst i ograničenja

Model nosi naziv po engleskom ekonomisti Vilijamu Stenliju Dževonsu (William Stanley Jevons), poznatom po Jevonsovom paradoksu — pretpostavci da veća efikasnost resursa vodi ka njihovoj drastično većoj ukupnoj potrošnji. Kako prenosi StartupHub.ai, TypeSafe AI tvrdi da su System One radni tokovi do 193.6 puta brži i 444.6 puta jeftiniji u poređenju sa konvencionalnim pristupom.

Ipak, trenutne evaluacije nose određena ograničenja. Uporedni rezultati bazirani su na prosečnim izlazima modela GPT-6 Astra i Claude Fable 5.1, dok nezavisne verifikacije performansi i dalje nema. Takođe, merenja brzine koja navodi kompanija obavljena su sa klijentskog računara na Zapadnoj obali SAD. Iako model ne može halucinirati nepostojeća polja ili pogrešne tipove podataka, on i dalje može doneti netačnu klasifikacionu odluku.

Izvori: The Register, StartupHub.ai