Introductie van Ember-1

Ember-1: de helft van de tokens, dezelfde antwoorden

Ember-1 is een nieuw gespecialiseerd model van Fireworks Research dat de kwaliteit van Kimi K3 levert met 40% minder tokens. Ember-1 is gebouwd op Kimi K3 en heeft geleerd om onnodige redeneringen weg te snijden, terwijl de essentiële denkprocessen behouden blijven. We hebben het model getest op externe benchmarks, in live A/B-tests bij klanten en in onze eigen coding- en agent-workloads; in elke setting bleef de kwaliteit behouden.

Ember-1 is vandaag beschikbaar en vormt het begin van een doorlopende serie gespecialiseerde modellen van Fireworks, gevormd door de behoeften van ontwikkelaars. Ember is slechts het startpunt van wat mogelijk is met het Fireworks Training-platform.

Hoe Fireworks Research Ember-1 heeft gebouwd

We hoorden van gebruikers dat zij de codeercapaciteiten van K3 nodig hadden tegen lagere kosten, omdat de lange redeneertrajecten (reasoning traces) geautomatiseerd coderen op schaal duur maakten. Het simpelweg verlagen van de 'reasoning effort' instellingen van K3 loste dit niet op; lagere instellingen leidden tot te veel kwaliteitsverlies. Om de kwaliteit te behouden en tegelijkertijd het aantal tokens te verminderen, moest het model leren om efficiënter te redeneren, en dat betekende dat er specifieke training nodig was.

Dit proces vereiste grondig onderzoek. Ons team voerde meer dan 50 trainingsexperimenten en ruim 200 evaluaties uit, en ontwikkelde gaandeweg nieuwe trainingsalgoritmen om de redenering te verkorten zonder aan nauwkeurigheid in te boeten. Dit alles is uitgevoerd op Fireworks Serverless Training. Omdat we geen GPU's hoefden te voorzien of te beheren, konden we experimenten starten zodra we een idee hadden, alleen betalen voor wat we gebruikten en in een fractie van de gebruikelijke tijd en kosten van onderzoek naar lancering gaan.

We hebben getraind over een breed scala aan taken, zodat de tokenbesparingen van toepassing zouden zijn op veel verschillende workloads. We hebben hiervoor eigen data gebruikt; er is geen klantdata gebruikt om dit model te trainen. Vervolgens hebben we Ember-1 geëvalueerd op de Specialized Intelligence Index, publieke benchmarks en live productieverkeer om te bevestigen dat het minder tokens gebruikt zonder kwaliteitsverlies. Ember-1 is een eigen model van Fireworks en de eerste in een serie modellen van Fireworks Research.

Het probleem: denkmodellen denken te veel

Redeneermodellen zoals Kimi K3 besteden het grootste deel van hun gegenereerde tokens — soms meer dan 90% — aan interne redenering in plaats van aan het antwoord zelf. Deze denkstructuur is kostbaar voor een enkel verzoek, maar het wordt veel erger in multi-turn agentische workloads. Bij elke beurt worden alle voorgaande redeneringen opnieuw naar het model gestuurd, waardoor de context ongeveer kwadratisch groeit met het aantal beurten. Lange redeneertrajecten uit vroege beurten worden bij elke volgende aanroep opnieuw gelezen (en opnieuw gefactureerd).

Is al die redenering eigenlijk nodig? Onze experimenten gaven aan van niet. De redenering die Kimi K3 produceert is veel langer dan de taak vereist, en het overschot kan worden verwijderd zonder het antwoord te beïnvloeden. Zo is Ember-1 ontstaan: een economische versie van Kimi K3, gebouwd op basis van gespecialiseerde intelligentie.

Van een observatie naar een premium model

Niet alle redenering van K3 is verspild. Een deel ervan is zelfreflectie: het herzien van een aanname, reageren op feedback of een resultaat terugvoeren naar een eerdere beslissing kan het model helpen om fouten te herstellen. De kans ligt in het behouden van dit vermogen, terwijl onnodige redenering en onproductieve loops worden verminderd. Wij geloven dat leren van taken en feedback uit de omgeving het model kan leren om efficiënter te redeneren terwijl de capaciteiten behouden blijven.

Voor agentische taken strekt dit leerproces zich uit over de gehele interactie. Het model verkent mogelijke acties, verwerkt nieuwe observaties en verfijnt zijn redenering naarmate het vordert. Feedback verbindt beslissingen met hun consequenties, wat nuttige reflectie gedurende de hele taak stimuleert.

We hebben deze inzichten toegepast in een trainingscollectie die wiskunde, coderen, instructieopvolging, conversatie, zoeken, toolgebruik en software engineering omvat. Hierbij zijn zowel standalone problemen als uitgebreide interacties behandeld om aanpassing aan observaties en uitkomsten af te dwingen. Taakfeedback stuurt de on-policy planning en het leren, met een nadruk op het behouden van capaciteiten over dit hele scala aan instellingen.

Resultaten uit publieke benchmarks en live A/B-tests ondersteunen deze richting: over zeven benchmarks en het productieverkeer van twee klanten kon de redenering van Kimi K3 met 35–50% worden verkort zonder dat dit ten koste ging van de nauwkeurigheid. Het geïnternaliseerde gedrag laat ook een terughoudend tokengebruik zien bij mislukte pogingen, wat langdurige, onproductieve redenering vermindert.

De Specialized Intelligence Index: Ember-1 zet een Pareto-frontier voor Bedside Bench

Eerder deze week introduceerden we de Specialized Intelligence Index (SII) om open, gesloten en gespecialiseerde modellen te benchmarken tegen praktijkopdrachten die zijn gemaakt door experts uit de industrie.

We hebben Ember-1 geëvalueerd op Doximity’s Bedside Bench, een door artsen gevalideerde benchmark die 500 klinische gevallen over 10 gespecialiseerde categorieën beslaat.

Het resultaat? Ember-1 zette een nieuwe Pareto-frontier voor Bedside Bench over zowel open als gesloten modellen, waaronder GPT-5.6 Sol, GPT-6 Astra en Claude Opus 5, wat betreft kosten per taak.

Afbeelding 1: Pareto Frontier van SII op Bedside Bench Afbeelding 2: Score vs. Duration Chart op Bedside Bench SII

Evaluatie van Pareto over meer industriële benchmarks

We hebben Ember-1 ook geëvalueerd op de kwaliteit-versus-kosten frontier over enkele andere industriële benchmarks. We hebben de kosten per benchmark berekend met behulp van de publieke Kimi K3 API-prijzen (ongecachedte input $3/M tokens, gecachedte input $0.30/M, output $15/M) en dit uitgezet tegen het slagingspercentage voor vier varianten: K3 bij lage reasoning effort, K3 bij hoge reasoning effort, K3 bij maximale reasoning effort (standaard), en Ember-1.

Bij elke benchmark met meer dan 50 testmonsters bevindt Ember-1 zich op of nabij de Pareto-frontier, waarbij de kwaliteit van K3-max wordt geëvenaard tegen een fractie van de kosten, en K3-low strikt wordt overtroffen. We hebben ook GPT-6 Astra, Claude Opus-5 en GLM 5.3 geanalyseerd en stelden vast dat Ember-1 een leider was op de Pareto-frontier.

Afbeelding 3: Gemiddelde van 5 industriële benchmarks op Open en Gesloten Model Kosten/Taak

We hebben de resultaten die Ember-1 direct vergelijken met de originele K3 nader bekeken en vonden het volgende:

Industriële Benchmarks	K3 Low	K3 High	K3 max	Ember-1	Ember-1 vs. K3 Max
Terminal Bench 2.1 (89)	76.4%	77.6%	80.9%	82.0%	-51.9% / -23.1 USD
SWE-bench Verified (500)	80.4%	86.0%	93.2%	92.2%	-15.5% / -68.1 USD
SWE-Interact (75)	6.7%	13.3%	21.3%	20.0%	-32.5% / -60.8 USD
DeepSWE 1.1 (113)	55.8%	62.8%	66.4%	75.2%	-23.7% / -126.9 USD
$\tau$-2 Bench Airline (50)	64%	64%	64%	66%	-5.9% / -0.3 USD

De meest kostenefficiënte manier om K3 te draaien is niet langer door het model minder te laten nadenken, maar door Ember-1 te gebruiken: het model dat heeft geleerd om efficiënt te denken.

Validatie door klanten: Live A/B-tests

Benchmarks vertellen slechts een deel van het verhaal. Net als bij de resultaten van de Specialized Intelligence Index wilden we het model testen op meer echte workloads en met productieverkeer. De echte test is vaak of het model standhoudt in producten waar gebruikers op vertrouwen.

We hebben live A/B-tests uitgevoerd met twee klanten op hun productie-coding-workloads. In beide gevallen leverde Ember-1 indrukwekkende tokenbesparingen op: ongeveer 35% minder tokens per taak bij een vergelijkbare kwaliteit. De meeste downstream productmetrieken bleven gelijk of verbeterden, waaronder taakvoltooiing, successcores en foutpercentages, terwijl de tokenkosten aanzienlijk lager waren. Na de A/B-tests draait één klant Ember-1 nu in live productie, met plannen om het volledig op te schalen ter vervanging van het basismodel.

Model	Score	Steps	Output Tokens	Reasoning Token reduction	Total token reduction
Kimi K3	0.751	23.8	49.3K	-	-
Ember-1	0.753	21.4	29.9K	71.3%	39%

Interne validatie: Onze eigen ontwikkelaars merkten het niet

Een groot deel van het interne coding- en coworker-verkeer van Fireworks wordt aangedreven door onze eigen inferentieservice. Voordat klanten het model zagen, hebben we Ember-1 intern ingezet en onze eigen ontwikkelaars laten gebruiken voor dagelijks codeerwerk, inclusief grootschalige 'vibe testing' op echte taken.

De uitkomst waar we het meest trots op zijn: geen nieuws. Geen nieuws is goed nieuws. Ontwikkelaars gingen door met hun codeerwerk zonder de overstap te merken, terwijl ze aanzienlijk minder tokens verbruikten. Voor een model waarvan de gehele waardepropositie "dezelfde antwoorden, minder tokens" is, is een onzichtbare uitrol in intern verkeer het sterkst mogelijke signaal.

Wat is de volgende stap?

Ember-1 wordt uitgerold als een serveeroptie naast het basis Kimi K3-model als een Research Preview release op Serverless. Om het snelgroeiende open-source ecosysteem te ondersteunen, introduceren we research-releases die ontwikkelaars twee weken serverless toegang geven tot nieuwe research-modellen; deze worden permanent gemaakt op basis van de vraag vanuit de community. Voor agentische coding en andere workloads waarbij redeneertokens het grootste deel van de kosten vormen, levert Ember-1 dezelfde kwaliteit tegen ongeveer de helft van de tokenkosten.

Fireworks Research zal de grens van model-efficiëntie blijven verleggen door gespecialiseerde intelligentie naar meer Ember-modellen te brengen, zodat u de meest economische modellen kunt implementeren en uw tokenuitgaven kunt verlagen. Token-efficiëntie wordt een centraal thema voor Fireworks.

Wilt u Ember-1 een stap verder brengen en optimaliseren voor uw specifieke use case? We lanceren ook trainingsondersteuning voor Ember-1, waardoor bedrijven aangepaste, token-efficiënte modellen kunnen bouwen die zijn afgestemd op hun behoeften met hun eigen data. De toekomst van open modellen ligt in gespecialiseerde modellen die zijn getraind op uw specifieke workload.