Introductie van Beam: het open-weight model van 501B van Reflection
De capaciteiten van Beam zijn het resultaat van aanzienlijke investeringen in zowel pretraining als reinforcement learning (RL). We hebben het model getraind op 23,8 biljoen diverse, gecureerde tokens van hoge kwaliteit, afkomstig van het web en eigen gelicentieerde datasets. Hiermee matcht of overtreft Beam beschikbare open basismodellen van vergelijkbare grootte. Parallel hieraan hebben we de algoritmen, trainingsomgevingen en infrastructuur ontwikkeld die nodig zijn om high-compute RL op uitzonderlijke schaal te ondersteunen. Onze high-compute RL-run genereerde meer dan 100 miljoen rollouts op 10,5K NVIDIA GB300 GPU's gedurende vier weken training.
Samen hebben deze inspanningen geleid tot concurrerende open-weight prestaties met een efficiëntie bij inferentie die vergelijkbaar is met de meest geavanceerde modellen.
Beam ondergaat momenteel de laatste red-teaming en evaluaties. Later deze maand zullen we de gewichten, het technische rapport, de model card en de developer-artifacts vrijgeven.
Modelcapaciteiten
We hebben Beam getraind met een specifieke focus op coderen en agentische prestaties. Beam verlegt de grens van open-weight modellen in het Westen en is concurrerend met grotere open modellen zoals GLM 5.2, en nadert Qwen 3.8-Max bij coderings- en agentische taken. Waar frontier-modellen zoals Kimi K3 voorop blijven lopen in pure capaciteit, ligt het voordeel van Beam in de efficiëntie tijdens inferentie.
De onderstaande tabellen tonen de prestaties van Beam over een reeks benchmarks voor coderen, agentische taken, redeneren en STEM. NR duidt scores die niet zijn gerapporteerd.
Agentic Coding/Terminal
| Benchmark | Beam | Inkling | Nemotron 3 Ultra | GLM 5.2 | GLM 5.3 | Kimi K3 | Qwen 3.8 Max | DeepSeek V4.1 Flash |
|---|---|---|---|---|---|---|---|---|
| DeepSWE v1.1 | 44.4 | NR | NR | 44.0 | 61.0 | 68.0 | 51.0 | 74.2 |
| SWE Bench Pro v2-Hard | 77.2 | 56.9 | NR | NR | 84.3 | 88.2 | NR | NR |
| SWE Bench Pro v1 | 65.5 | 54.3 | 46.4 | 62.1 | NR | NR | 67.7 | NR |
| Terminal Bench v2.1 | 80.1 | 63.8 | 56.4 | 81.0 | 88.2 | 88.3 | 86.6 | 90.6 |
| SWE Atlas Codebase QnA | 34.6 | NR | NR | NR | 61.0 | 68.0 | NR | NR |
| SWEBench Multilingual | 78.0 | NR | 67.7 | NR | NR | NR | NR | NR |
| SWEBench Verified | 80.9 | 77.6 | 70.7 | NR | NR | NR | NR | NR |
Reasoning
| Benchmark | Beam | Inkling | Nemotron 3 Ultra | GLM 5.2 | GLM 5.3 | Kimi K3 | Qwen 3.8 Max | DeepSeek V4.1 Flash |
|---|---|---|---|---|---|---|---|---|
| AIME 2026 | 97.8 | 97.1 | NR | 99.2 | NR | NR | NR | NR |
| HLE no tools | 36.2 | 29.7 | 26.7 | 40.5 | 42.3 | 46.9 | 43.6 | 39.1 |
| SciCode | 49.7 | 46.1 | 44.6 | NR | 59.0 | 58.7 | 52.1 | 52.0 |
| CriPT AA | 16.3 | 5.4 | 3.1 | 20.9 | 19.1 | 23.4 | 20.0 | 14.3 |
| GPQA Diamond | 90.5 | 87.2 | 87 | 91.2 | 91.7 | 93.5 | 92.6 | 90.9 |
Tool Calling / Search
| Benchmark | Beam | Inkling | Nemotron 3 Ultra | GLM 5.2 | GLM 5.3 | Kimi K3 | Qwen 3.8 Max | DeepSeek V4.1 Flash |
|---|---|---|---|---|---|---|---|---|
| AutomationBench public | 37.0 | NR | NR | 26.2 | 48.2 | 46.7 | 39.8 | 54.8 |
| MCP Atlas | 78.7 | 76.0 | 63.1 | 77.8 | 84.2 | 82.3 | 84.5 | NR |
| tau3 banking | 38.0 | 25.0 | 22.6 | 37.1 | NR | 37.1 | 55.2 | NR |
| BrowseComp w/ context mgmt | 77.4 | 77.1 | 44.4 | NR | NR | 91.2 | NR | NR |
| DeepSearchQA w/ context mgmt | 80.1 | NR | NR | NR | NR | 95.0 | NR | NR |
General Capabilities
| Benchmark | Beam | Inkling | Nemotron 3 Ultra | GLM 5.2 | GLM 5.3 | Kimi K3 | Qwen 3.8 Max | DeepSeek V4.1 Flash |
|---|---|---|---|---|---|---|---|---|
| AA-LCR | 79.3 | 77.3 | 79.3 | 78.3 | 79.7 | 88.7 | 80.3 | 84.0 |
| LongBench v2 | 65.5 | NR | 61.9 | 64.0 | NR | NR | 66.3 | NR |
| IFBench | 79.7 | 79.8 | 81.7 | 73.3 | NR | NR | 82.8 | NR |
| AA Omniscience (index) | 13.0 | 14.2 | 8.6 | NR | 22.6 | NR | NR | 6.6 |
Beam combineert coderings- en agentische capaciteiten met zeer efficiënt redeneren. Op geavanceerde reasoning-benchmarks behaalt het scores die vergelijkbaar zijn met GLM-5.2, terwijl het 3 tot 4 keer minder inferentie-compute gebruikt. De efficiëntiewinst is nog uitgesprokener bij vergelijking met modellen uit de 2T+ parameterfamilie, zoals Qwen 3.8-Max, die aanzienlijk meer inferentie-compute per token vereisen.
Deze resultaten vertalen zich in meer intelligentie per token, wat sterke modelcapaciteiten levert tegen lagere kosten. Dit maakt Beam een krachtig werkpaard-model voor zakelijke coderings- en agentische werklasten.
Figuur 2: Beam demonstreert frontier-level inferentie-efficiëntie, zowel gemeten in FLOPS als in token-aantal over DeepSWE, Humanity’s Last Exam (HLE) en Terminal Bench 2.1. De berekening voor generation forward-pass compute is geschat als: $\text{FLOPs} \approx 2 \times \text{actieve parameter count} \times \text{gemiddelde gegenereerde tokens per poging}$.
High-Compute Reinforcement Learning
We hebben high-compute reinforcement learning (RL) als een centraal schaalbare as voor Beam ingezet. Het schalen van RL maakt uitgebreidere exploratie van probleemoplossingsstrategieën mogelijk, terwijl langere rollouts multi-stap redeneren, toolgebruik en adaptatie aan feedback uit de omgeving ondersteunen.
Om RL te schalen, hebben we 10,5K NVIDIA GB300 GPU's ingezet voor vier weken, waarbij meer dan 100 miljoen rollouts zijn gegenereerd met een maximale contextlengte van 256K tokens. De training en grading maakten gebruik van ongeveer 1,3 miljard sandboxes. Hiervoor hebben we één miljoen kwalitatief hoogwaardige coderings-, agentische en STEM-omgevingen verzameld. We geloven dat dit een van de grootste RL-runs is die tot nu toe door een open lab is uitgevoerd.
Figuur 3: Terminal-Bench 2.1, HLE en DeepSWE scores als functie van cumulatieve RL rollouts tijdens de training van de reasoning-expert van Beam.
We hebben Beam getraind met asynchrone policy gradients. Op grote schaal wordt policy staleness (veroudering van het beleid) een belangrijke bron van instabiliteit. We hebben nieuwe algoritmen ontwikkeld om stabiel leren te behouden onder deze omstandigheden, waardoor volledig asynchrone RL op schaal mogelijk is, zelfs wanneer er wordt geleerd van interacties die meer dan een dag eerder zijn gegenereerd.
Figuur 4: Stabiel leren gaat door terwijl staleness in de loop van de tijd toeneemt. Zelfs bij training met een veroudering van één dag — $10^7$ gewichtversies achter op het huidige beleid — blijven de numerieke waarden stabiel.
Efficiënt leren redeneren
Beam is getraind met een controleerbare lengtestraf (length penalty) die succesvolle oplossingen beloont, maar onnodige tokens ontmoedigt. In het begin van de RL-fase verbeterde de prestatie terwijl de lengte van de voltooiingen afnam; het model leerde taken effectiever op te lossen met minder redenering. Later, toen Beam sterkere agentische capaciteiten ontwikkelde, groeiden de voltooiingslengtes weer, maar deze extra tokens ondersteunden verdere prestatiewinst.
Figuur 5: DeepSWE-scores tijdens een deel van de RL-run. De Pareto-frontier beweegt in twee fasen: eerst krimpt deze terwijl het beleid token-efficiënter wordt, daarna breiden hogere redeneringsinspanningen zich naar buiten uit om hoge prestaties te behalen.
Gebruikers kunnen deze afweging beheren via de reasoning effort parameter van Beam: lagere instellingen geven de voorkeur aan kortere reacties, terwijl hogere instellingen langere redeneringen toestaan voor veeleisende taken.
Hoe gedrag generaliseert met RL
We hebben de RL-training van Beam zo ontworpen dat redeneer- en agentische capaciteiten generaliseren buiten de trainingstaken. Tijdens de training op redenering, software engineering en terminal-taken zagen we consistente winst in browsen, ondanks de afwezigheid van browsen-taken in de RL-mix. Wanneer Beam toegang kreeg tot het web, leerde het organisch om andere grote taalmodellen te zoeken en te bevragen, en OCR-API's te gebruiken om documenten te lezen.
De volgende voorbeelden tonen Beam in diverse workflows:
- Astronaut Free-Fall Game: Beam creëerde een 3D-game in p5.js waarbij een astronaut naar de aarde valt en asteroïden moet ontwijken of vernietigen. Hoewel Beam niet multimodaal is, kan het redeneren over hoe de visuals in tekstvorm moeten zijn.
- Land/Water Generalisatie-experiment: Beam creëerde een grid van $180 \times 90$ voor lengte- en breedtegraden met 16.200 punten. Beam behaalde een correcte dekking van 95,5%, wat wijst op een sterke generalisatie naar nieuwe taken.
- NYC Subway Live Map: Beam bouwde een live bijgewerkte metrokaart voor NYC met gebruik van openbare MTA-data. Het model zocht documentatie, controleerde authenticatie-eisen en bouwde zowel de frontend als backend.
- Model Fine-tuning Notebook: Via OpenCode creëerde Beam een fine-tuning notebook voor het kleinste Gemma-4 model op een Text2SQL-taak. Beam deed onderzoek naar modelkaarten en Unsloth-documentatie, wat resulteerde in een nauwkeurigheidsverbetering van 66,5% op de testset van Gemma.
Schalen van RL-omgevingen
Frontier-scale RL vereist een groot volume aan moeilijke, kwalitatieve taken. We hebben een pool van bijna één miljoen omgevingen gebouwd, primair via synthetische datapijplijnen, aangevuld met proprietary vendor-data en open-source bronnen.
We vertrouwden op een iteratief curatieproces:
- Synthese of sourcing van omgevingen over diverse domeinen (software engineering, terminal, STEM, web search, etc.).
- Strikte filtering op moeilijkheidsgraad (niet te makkelijk, niet onmogelijk) en kwaliteit (geen onduidelijke of "hackbare" taken).
- Testen via RL om verdere kwaliteits- of moeilijkheidsproblemen te identificeren voor de volgende iteratie.
Geavanceerde RL-infrastructuur
We hebben een asynchroon platform gebouwd dat rollouts, tool-executie, evaluaties en model-updates onafhankelijk laat draaien. Tijdens de training hanteerden we een gemiddelde van 110K gelijktijdige rollouts. Dit werd mogelijk gemaakt door zeven kerncapaciteiten:
- Volledig asynchrone executie: Agents genereren rollouts terwijl de trainer leert en nieuwe modelversies publiceert.
- Flexibele compute-allocatie: Aanpassing van de balans tussen inferentie en training (GPU-ratio's van 3,9:1 tot 5,4:1).
- Snelle model-updates: Nieuwe gewichten bereikten de inferentie-vloot in een mediaan van ongeveer 12 seconden.
- Veerkracht bij inferentie-fouten: 71 incidenten werden afgehandeld zonder de trainingstaken te beëindigen.
- Omgevingen op schaal: Ondersteuning tot 170K gelijktijdige sandboxes over 20 clusters en vier regio's.
- Efficiënte Trainer Packing: Dynamic packing hield training-batches gemiddeld 99,99% vol.
- Observabiliteit en reward-integriteit: Per-token records maakten numerieke consistentiecontroles mogelijk tussen training en inferentie.
Pretraining als basis voor redenering
Om redenering te faciliteren, zorgden we ervoor dat de basis van Beam rijke kennis in coderingsdomeinen had, aangeboren agentische capaciteiten en stabiele MoE-optimalisatie.
Figuur 6: Het pretraining-recept van Beam schaalt voorspelbaar over vier ordes van grootte in compute.
Stabiele en gebalanceerde MoE-optimalisatie
De architectuur van Beam combineert interleaved lokale en globale attention, fijnmazige routed experts, een gecontroleerde residual stream en diverse vormen van load balancing.
Voor expert-utilisatie gebruikten we auxiliary-loss-free load balancing, met een cosine decay van expert-bias updates. Dit resulteerde in een bijna perfect uniforme utilisatie in het uiteindelijke basismodel.
Figuur 7: De expert-utilisatie van Beam is nagenoeg uniform; de drukste expert bereikt slechts 1,04× bij voltooiing van de pretraining.
Voor de residual stream ontwikkelden we een depth-based scaling aanpak om activatiegroei tegen te gaan. Samen met SandwichNorm, elementwise attention gating en FP32 residual accumulatie, zorgt dit voor een stabiele signaalvoortplanting door alle lagen.
Figuur 8: De RMS van de residual stream blijft begrensd tijdens de pretraining over alle 52 lagen van Beam.
Kwaliteitsgerichte datacuratie
Beam is getraind op 23,8 biljoen diverse tokens van hoge kwaliteit. Ongeveer 95% van de ruwe internettokens is geëlimineerd door parsing, deduplicatie en curatie. We gebruikten eigen kwaliteitsclassificatoren voor web, code en STEM-content.
Voor code-modellering pasten we per taal specifiek afgestelde filters toe en verwijderden we kwalitatief slechte, autogenerated content. Daarnaast ontwikkelden we een high-throughput pijplijn voor PDF-artifacts met een vision-language OCR model om kennis over STEM-onderwerpen te waarborgen.
Geavanceerde pretraining-infrastructuur
Beam werd in minder dan vier weken getraind op een cluster van 6.144 NVIDIA GB300 NVL72 GPU's. We hebben vrijwel de gehele infrastructuur-stack in-house gebouwd, inclusief een Kubernetes-gebaseerde scheduler, een node lifecycle-systeem en een detectiesysteem voor silent data corruption (SDC).
De goodput (het aandeel van de tijd besteed aan trainingstappen die in het uiteindelijke model zijn behouden) bereikte aan het einde 92,3%.
Figuur 9: Training loss van Beam over de loop van de pretraining, zonder instabiliteiten of grote onherstelbare spikes.
Een sterke basis creëren voor RL in de Midtraining
De midtraining was specifiek ontworpen als fundament voor high-compute RL. We gebruikten multi-stage curatiepijplijnen om complexe, real-world taken te simuleren en uitgebreide logische ketens aan te leren.
Tijdens de midtraining is de effectieve contextlengte van Beam uitgebreid naar 1 miljoen tokens, door het gebruik van gestructureerde coderepositories en langdurige taken.
Veiligheid en Alignment
Voor veiligheid en alignment hebben we een tweede model getraind vanuit het pretrained checkpoint via een aparte SFT- en RL-pijplijn. De capaciteiten van de twee "leraren" (de RL-teacher en de safety-teacher) zijn samengevoegd via multi-teacher on-policy distillation (MOPD).
We hebben de principes voor veiligheid en alignment ingedeeld in drie niveaus:
- Harde regels: Veiligheidsbeleid volgen en identiteit als AI-agent behouden.
- Consistentie-eigenschappen: Gebruikmaken van gegeven context, accurate claims maken, onzekerheid erkennen en transparant requests volgen.
- Interactiestijl: Direct, grondig, efficiënt en proactief.
Figuur 10: Alignment & safety RL vormt voorspelbaar het gedrag van Beam in niet-verifieerbare domeinen.
We gebruikten deliberative alignment technieken om het veiligheidsbeleid direct in het redeneerproces van het model te integreren. De dataset werd adversarieel en iteratief opgebouwd om zowel schadelijke output als over-refusals (onnodig weigeren van vragen) te verminderen.
De weg vooruit
Beam is het eerste model in een serie en een demonstratie van de open intelligentie waar ons team aan werkt. We zullen de gewichten dit jaar vrijgeven onder een Apache 2.0-licentie, samen met documentatie en de volledige stack voor het draaien, evalueren en fine-tunen van het model. We zijn inmiddels al bezig met de training van de volgende generatie modellen.
Groetjes,