Introductie van System One-modellen & Jev

Modellen zijn al jaren supermenselijk in chatfuncties, dus waar blijft alle automatisering?

Dit is de drijvende vraag geweest achter mijn werk van de afgelopen vier jaar. Bij OpenAI hielp ik bij het ontwikkelen van de methoden die taalmodellen nuttig maakten in het opvolgen van instructies en het communiceren met mensen. Dat werk vormde uiteindelijk de basis voor ChatGPT. Destijds dacht ik dat chatmodellen zouden leiden tot AGI, maar ondanks de hype werd het voor mij duidelijk dat er iets essentieels ontbrak.

Na twee jaar in stealth-modus, talloze technische uitdagingen en onderzoeksgenomen, kondig ik vandaag met veel enthousiasme aan dat TypeSafe AI ons eerste System One-model uitbrengt: een nieuwe klasse frontier-modellen die gebouwd zijn om snelle, gestructureerde beslissingen te nemen die software direct kan gebruiken.

We hebben een volledig nieuwe stack gebouwd die gericht is op automatisering, met een nieuwe modelarchitectuur, een parallelle sampler voor maximale efficiëntie en een trainingsmethode die we Reinforcement Learning for Calibrated Decisions (RLCD) noemen.

Ons eerste publieke model is Jev, dat vandaag beschikbaar is in early access. Jev behaalt vergelijkbare intelligentieniveaus op System One-taken als bestaande LLM's, terwijl hij twee ordes van grootte sneller en efficiënter is. Hoewel Jev geen tekst (strings) genereert, is hij geoptimaliseerd voor gestructureerde outputs en kan hij niet hallucineren.

Je kunt Jev zien als een frontier-intelligentie functieaanroep: ongestructureerde status gaat erin, type-veilige probabilistische beslissingen komen eruit.

Vergelijking: Traditionele LLM's versus System One & Jev

KenmerkBestaande LLM'sSystem One + Jev
OptimalisatieRLHF / RLVR (Reinforcement Learning with Human Feedback / Verifiable Rewards)RLCD (Reinforcement Learning for Calibrated Decisions)
DoelMenselijke voorkeur: teksten en chatreacties die menselijke beoordelaars prefereren.Gekalibreerde beslissingen: antwoorden met epistemisch eerlijke waarschijnlijkheden op System One-taken.
InputsOngestructureerde data (bijv. tekst), met nadruk op sequentiële berichten.Ongestructureerde data (bijv. tekst), met nadruk op gestructureerde programmastatus.
OutputsStrings / gegenereerde tekst. Flexibel, maar vereist parsing en validatie voor softwaregebruik. Risico op hallucinaties.Type-veilige gestructureerde waarden. Outputs en structuur zijn vooraf gedefinieerd. Geen typefouten mogelijk. Bevat gekalibreerde waarschijnlijkheden.
SamplingSequentieel. Genereert één token per keer, gebaseerd op het vorige.Parallel. Genereert alle outputs in één query. Zeer efficiënt en hardware-bewust.
KostenInput: \$0,20 tot \$10 / MTok. Output: ~5x duurder dan input.Input: \$0,042 / MTok. Output: GRATIS (te goedkoop om te meten).
SnelheidResponsietijd tussen 3 en 329 seconden. Een bottleneck bij integratie in code.Responsietijd tussen 70ms en 500ms. 40x tot 200x sneller voor System One-queries.
BetrouwbaarheidVaak overmoedig en inconsistent, zelfs bij vragen naar betrouwbaarheid.Communiceert altijd onzekerheid. Gekalibreerd: hogere confidence betekent hogere nauwkeurigheid.
Use casesHuman-in-the-loop taken (chatbots, copilots, coding agents). Vereist menselijk toezicht.AI-gestuurde workflows, slimme if-statements, map-reducing over big data, real-time applicaties en verificatie van LLM-outputs.

Bewijsvoering en technische resultaten

We zijn sceptici, en we begrijpen dat buitengewone claims buitengewoon bewijs vereisen.

Verifieerbare claims

Er zijn enkele punten die eenvoudig te controleren zijn:

  • Snelheid per aanroep: We zijn daadwerkelijk zo snel, hoewel onze gepubliceerde evaluaties over het algemeen zijn uitgevoerd vanaf laptops aan de Amerikaanse westkust (waar onze service momenteel is gehost).
  • Kosten per aanroep: Onze prijzen zijn transparant. De duurzaamheid hiervan moet op de lange termijn worden bewezen, maar we verwachten dat de prijzen zullen dalen, niet stijgen.
  • Geen typefouten: Dit is mathematisch onmogelijk in onze architectuur; één enkel tegenvoorbeeld zou de claim falsifiëren.

Side-by-side demonstratie

Onze demo laat een essentieel verschil zien: Jev produceert alle waarschijnlijkheden parallel in plaats van autoregressief per token. Door het opgeven van string-generatie winnen we aanzienlijke snelheid en precisie.

Nuance: De gebruikte queries in de demo zijn vereenvoudigd met leesbare keys. Voor de test is GPT-5.6 Terra gebruikt, omdat dit model gemiddeld het meest vergelijkbaar is met de intelligentie van Jev.

Workflow-evaluaties

We hebben een nieuw type evaluatie ontwikkeld om te meten hoe AI functioneert binnen code. In plaats van te optimaliseren voor een statische 'ground truth', gebruiken we de voorspellingen van de grootste en slimste externe modellen (zoals Astra en Fable) als referentiewaarden.

Jev presteert hier uitzonderlijk en domineert de Pareto-front over bijna twee ordes van grootte. Dit is representatiever voor productie-workloads in business automation dan eenvoudige chat-tests.

Nuance: De claims van 193,6x sneller en 444,6x goedkoper op onze homepage komen uit deze tests; we schatten dat dit de bovenkant is van de realistische winst.

Hallucinaties en type-veiligheid

Hallucinaties en type-veiligheid zijn onlosmakelijk verbonden. Voor automatisering is type-veiligheid een absolute vereiste. Een hallucinerende tool-aanroep is vervelend in een agent, maar een deal-breaker in een systeem met latency-garanties of in een diepe dependency-chain. Bestaande modellen, ongeacht hun intelligentie, blijven hallucineren en typefouten maken.

In ons systeem is schema-matching gegarandeerd, waardoor het percentage typefouten 0% is.

Demonstraties

Doom

We hebben aangetoond dat real-time intelligentie mogelijk is door AI te combineren met code. De bot reageert op verschillende representaties van de gamestate. Hoewel een traditionele bot beter zou kunnen spelen, is een bot die instructies volgt in real-time veel krachtiger.

Wikiracing

Het doel is om van de ene Wikipedia-pagina naar een andere te navigeren via links. Dit is een uitstekende test voor intelligentie-per-seconde en het voordeel van het niet hallucineren bij keuzes met een hoge cardinaliteit (honderden mogelijke links per stap).

Wat volgt er nu?

We staan nog aan het begin van Jev. We openen nu de early access en halen ontwikkelaars zo snel mogelijk van de wachtlijst af. We willen weten welke beslissingen jullie willen automatiseren en waar Jev tekortschiet.

We zijn TypeSafe begonnen omdat we geloven dat AI een interface nodig heeft waar software op kan vertrouwen.

FAQ

Waar komen de namen "System One Models" en "Jev" vandaan? We zijn geïnspireerd door Daniel Kahneman (Thinking, Fast and Slow). De modelklasse verwijst naar het onderscheid tussen snel, intuïtief Systeem 1-denken en traag, weloverwogen Systeem 2-redeneren. Hoewel Systeem 1-denken vaak als foutgevoelig wordt gezien, geloven wij dat System One-modellen betrouwbaarder gemaakt kunnen worden dan de alternatieven.

Jev is vernoemd naar William Stanley Jevons. Wij verwachten dat machine-intelligentie een soortgelijk pad volgt als steenkool: naarmate de efficiëntie toeneemt, stijgt de vraag. Elke ordegrootte daling in de kosten van intelligentie ontsluit ordes van grootte meer use cases.