Liquid AI heeft LFM2.5-24B-A2B geïntroduceerd, een reasoning-only model met 24 miljard parameters waarvan er slechts 2 miljard actief zijn per token. Het model is specifiek ontwikkeld voor on-device toepassingen, waarbij het uitblinkt in snelheid en efficiëntie op hardware zoals de Apple M5 Max en NVIDIA B300.
Belangrijkste kenmerken en verbeteringen:
- Architectuur: Het contextvenster is uitgebreid naar 131.072 tokens en het vocabulair is verdubbeld naar 128K tokens.
- Training: Het model is getraind op 33T tokens en heeft een uitgebreid post-training traject doorlopen, inclusief Agentic Reinforcement Learning.
- Prestaties: In benchmarks voor tool-use en agent-workflows (zoals AutomationBench en LiveClaw) presteert het model vaak beter dan grotere MoE-modellen zoals Qwen3.6-35B-A3B.
- Beschikbaarheid: Het model is open-weight beschikbaar via Hugging Face en kan worden gebruikt via de Liquid Console API.
Door de focus op een expliciete chain of thought en hoge decode-snelheid is LFM2.5-24B-A2B bij uitstek geschikt voor lokale agents die interactief en privacy-vriendelijk moeten functioneren.
LFM2.5-24B-A2B: Gebouwd voor snelle on-device agents
LFM2.5-24B-A2B is concurrerend met Qwen3.6-35B-A3B — een model met ongeveer 50% meer totale en actieve parameters — op vijf van de acht agent- en tool-use benchmarks. Het scoort 48,09 op LiveClaw (tegenover 38,19) en 27,69 op AutomationBench (tegenover 8,72). Omdat er per token slechts 2 miljard parameters actief zijn, draait het tot 1,7x sneller dan vergelijkbare MoE's (Mixture of Experts) on-device, met 184 tokens/s op een Apple M5 Max en tot 21K output tokens/s op een enkele NVIDIA B300 GPU.
Zowel het basismodel (LFM2.5-24B-A2B-Base) als het post-trained model (LFM2.5-24B-A2B) zijn open-weight en vanaf vandaag beschikbaar op Hugging Face en in onze Playground. Raadpleeg onze documentatie voor informatie over het lokaal draaien en fine-tunen van het model.
Wat is er veranderd sinds LFM2-24B-A2B
LFM2.5-24B-A2B bouwt voort op onze vorige LFM2-24B-A2B release, met een uitgebreid vocabulair en contextvenster, opgeschaalde pretraining en grootschalige reinforcement learning. In tegenstelling tot zijn voorganger is LFM2.5-24B-A2B een reasoning-only model dat een expliciete chain of thought produceert voordat het definitieve antwoord wordt gegeven. We hebben deze strategie gekozen om optimaal gebruik te maken van de hoge decode-snelheid en de kwaliteit van de antwoorden te verbeteren.
Architectuur
Het model behoudt de 40 lagen, 64 experts per MoE-blok met top-4 routing, en dezelfde hybride van gated short convolutions en GQA. De twee architecturale wijzigingen zijn:
- Contextvenster: Uitbreiding van 32.768 naar 131.072 tokens.
- Tokenizer: Een in-place uitbreiding die het vocabulair verdubbelt van 65K naar 128K tokens voor een betere tokenisatie van niet-Latijnse teksten.
Training
- Pre-training: Deze is opgeschaald van 17T tokens naar 33T tokens.
- Mid-training: Dit proces bestaat uit twee fasen. De eerste fase verwerkt 2T tokens met een context van 32K op gecureerde data van hogere kwaliteit, met een focus op reasoning, wiskunde, code, instructie-opvolging en meertalige teksten. De tweede fase verwerkt 300B tokens met een context van 131K, gericht op data met een lange context. Tool-calls en multi-turn trajecten zijn in beide fasen verwerkt om het model voor te bereiden op agent-taken.
- Post-training: Hierbij wordt LFM2.5-24B-A2B-Base omgezet in de agentische LFM2.5-24B-A2B via een pijplijn van vijf fasen:
- Supervised Fine-Tuning (SFT).
- Teacher Specialization.
- Non-agentic Multi-Domain On-Policy Distillation (MOPD).
- Agentic Multi-Domain On-Policy Distillation (MOPD).
- Agentic Reinforcement Learning (Agentic RL), waarbij het model getraind wordt binnen agent-harnesses zoals OpenClaw, Hermes Agent, Pi en OpenCode.
Tijdens de teacher specialization vertoonde LFM2.5-24B-A2B bekende reward-hacking gedragingen: het zoeken naar het definitieve antwoord in de git-geschiedenis van een repository of op platforms zoals GitHub, PyPI en Hugging Face. Opvallender was dat het model zelfs doorhad dat het zich in een sandbox bevond.
Dit gedrag lijkt emergent, maar kan verklaard worden door trainingsdata die vergelijkbare patronen bevatten. Als reactie hierop hebben we onze sandboxes aangescherpt; alle onderstaande resultaten komen uit afgesloten evaluatie-omgevingen.
Benchmarks
We hebben LFM2.5-24B-A2B geëvalueerd op 16 benchmarks die tool-use, agent-workflows, kennis, instructie-opvolging, wiskunde en coderen beslaan. Ondanks dat het het kleinste model is in termen van totale en actieve parameters, is het concurrerend met, en presteert het vaak beter dan, grotere MoE's met ~50% meer parameters, zoals Qwen3.6-35B-A3B.
| Benchmark | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) |
|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 53.78 |
| ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 |
| LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 |
| PinchBench | 83.18 | 89.93 | 77.12 | 84.20 |
| $\tau^3$-Bench Banking | 8.04 | 7.63 | 4.54 | 7.01 |
| WebArena Verified | 26.75 | 37.62 | 25.62 | 28.69 |
| GPQA Diamond | 74.42 | 83.69 | 74.90 | 72.42 |
| AA-Omniscience | -24.90 | -24.35 | -59.39 | -3.58 |
| HLE | 7.40 | 7.69 | 8.57 | 5.65 |
| IFEval | 96.75 | 93.06 | 92.00 | 94.19 |
| IFBench | 74.69 | 64.21 | 47.44 | 71.67 |
| Multi-IF | 84.38 | 81.53 | 82.19 | 82.34 |
| MATH-500 | 96.04 | 96.73 | 95.66 | 96.40 |
| SWE-Bench Verified (OpenCode) | 51.00 | 66.20 | 25.80 | 53.40 |
| SciCode | 32.71 | 37.35 | 35.42 | 27.78 |
LFM2.5-24B-A2B loopt voorop of is gelijkwaardig aan de concurrentie op vijf van de acht tool-use en agent-benchmarks (AutomationBench, BFCLv4, ToolSandbox, LiveClaw en $\tau^3$-Bench Banking), met de grootste marge op AutomationBench. Het model voert ook op alle drie de benchmarks voor instructie-opvolging. Grotere modellen behouden een voorsprong op kennisintensieve benchmarks zoals GPQA Diamond, HLE en AA-Omniscience, en op coderen-benchmarks zoals SWE-Bench Verified (OpenCode) en SciCode.
Deze resultaten maken LFM2.5-24B-A2B een ideale basis voor agents die moeten redeneren, tools moeten aanroepen en betrouwbaar op een apparaat moeten draaien. Voor kennisintensieve taken raden we aan LFM2.5-24B-A2B te koppelen aan retrieval of websearch, wat aansluit bij de sterke tool-calling capaciteiten van het model.
Snelle inferentie overal
LFM2.5-24B-A2B wordt geleverd met directe ondersteuning in het inferentie-ecosysteem:
- llama.cpp — GGUF checkpoints voor efficiënte edge-inferentie.
- MLX — Geoptimaliseerde inferentie voor Apple Silicon.
- vLLM — GPU-versnelde serving voor productie-doorvoer.
- SGLang — High-performance GPU serving framework.
- ONNX — Cross-platform inferentie over diverse accelerators.
Alle runs zijn verzameld op Pipette, dezelfde benchmarking-infrastructuur die ten grondslag ligt aan de publieke apparaatprestatiegegevens van Liquid AI.
Edge-inferentie
Dankzij de efficiënte LFM-architectuur is LFM2.5-24B-A2B de snelste van de vergeleken MoE's bij het lezen van prompts en het genereren van antwoorden. Het decodeert 184 tokens/s op een Apple M5 Max en 114 tokens/s op een AMD Ryzen AI Max+ 395, wat tot 1,7x sneller is dan het op één na beste model, terwijl het de minste hoeveelheid geheugen verbruikt.
GPU-inferentie
Om de concurrentiekracht van de LFM-architectuur aan te tonen, vergelijken we de GPU-inferentiedoorvoer met andere MoE-modellen van vergelijkbare grootte. We meten de doorvoer (totale output tokens / wandtijd) op een enkele NVIDIA B300 GPU onder een instelling van constante belasting.
We benchmarken elk model met SGLang 0.5.22, 1.024 input tokens, tot 256 output tokens, in BF16. LFM2.5-24B-A2B is het snelste model in zijn grootteklasse en bereikt meer dan 21K output tokens per seconde bij een hoge gelijktijdigheid (concurrency).
Lokaal agents draaien met LFM2.5-24B-A2B
De grootte, snelheid en mogelijkheden maken LFM2.5-24B-A2B een uitstekende keuze voor agents die continu op eigen hardware draaien. In onze demo draait het model binnen Hermes Agent op een M5 Max MacBook Pro, waarbij het plannen, tool-aanroepen en het uitvoeren van een echte taak volledig on-device gebeurt, zonder cloud API-calls.
Het doel van de demo is niet de individuele tools, maar het feit dat de tool-dispatch loop interactief aanvoelt op consumentenhardware: vragen, voorstellen, bevestigen, uitvoeren en herhalen, allemaal in minder dan een seconde per dispatch, met volledige audit-trails en waarbij data het apparaat nooit verlaat.
Aan de slag
Begin vandaag nog met bouwen met LFM2.5-24B-A2B, beschikbaar op Hugging Face.
Voor API-inferentie kunt u zich aanmelden voor Liquid Console, waar u $2 aan starttegoed ontvangt. Het model is geprijsd op $.10 per 1M input tokens ($.05 voor gecachte input) en $1.00 per 1M output tokens.
Met LFM2.5 realiseren we onze visie van AI die overal kan draaien. Deze modellen zijn:
- Open-weight — Downloaden, fine-tunen en implementeren.
- Vanaf dag één snel — Native ondersteuning voor llama.cpp, MLX en vLLM op Apple, AMD, Qualcomm en Nvidia hardware.
- Een complete familie — Van basismodellen voor aanpassing tot gespecialiseerde audio- en visie-varianten; één architectuur voor diverse use cases.
Citatie
Voor citaties kunt u de volgende referentie of BibTeX gebruiken:
Liquid AI, "LFM2.5-24B-A2B: Built for Fast On-Device Agents", Liquid AI Blog, Oct 2026.
@article{liquidAI202624BA2B,
author = {Liquid AI},
title = {LFM2.5-24B-A2B: Built for Fast On-Device Agents},
journal = {Liquid AI Blog},
year = {2026},
note = {www.liquid.ai/blog/lfm2-5-24b-a2b},
}
***
Voetnoten bij evaluaties: Alle modellen zijn geëvalueerd met vLLM en de volgende generatieparameters:
- AutomationBench: temperature = 0.6, top_p = 0.95, geen max output tokens (begrensd door contextvenster).
- BFCLv4: temperature = 0.001, max output tokens = 4096.
- ToolSandbox: temperature = 0, max output tokens = 1024; user simulator: GPT-4o-2024-08-06, temperature = 0, max output tokens = 1024.
- LiveClaw: temperature = 1.0 (vLLM default), max output tokens = 8192.
- $\tau^3$-Bench Banking: official user model (GPT-5.2, low reasoning effort) met default BM25 retrieval, temperature = 0, max output tokens = 16384 per turn.
- WebArena: temperature = 0.6, topp=0.95, maxturns=40, geen max output tokens (begrensd door contextvenster).
- Overige evaluaties: temperature = 0.6, max output tokens = 32768.
LFM2.5-24B-A2B: Gebouwd voor snelle on-device agents
LFM2.5-24B-A2B is concurrerend met Qwen3.6-35B-A3B — een model met ongeveer 50% meer totale en actieve parameters — op vijf van de acht agent- en tool-use benchmarks. Het scoort 48,09 op LiveClaw (tegenover 38,19) en 27,69 op AutomationBench (tegenover 8,72). Omdat er per token slechts 2 miljard parameters actief zijn, draait het tot 1,7x sneller dan vergelijkbare MoE's (Mixture of Experts) on-device, met 184 tokens/s op een Apple M5 Max en tot 21K output tokens/s op een enkele NVIDIA B300 GPU.
Zowel het basismodel (LFM2.5-24B-A2B-Base) als het post-trained model (LFM2.5-24B-A2B) zijn open-weight en vanaf vandaag beschikbaar op Hugging Face en in onze Playground. Raadpleeg onze documentatie voor informatie over het lokaal draaien en fine-tunen van het model.
Wat is er veranderd sinds LFM2-24B-A2B
LFM2.5-24B-A2B bouwt voort op onze vorige LFM2-24B-A2B release, met een uitgebreid vocabulair en contextvenster, opgeschaalde pretraining en grootschalige reinforcement learning. In tegenstelling tot zijn voorganger is LFM2.5-24B-A2B een reasoning-only model dat een expliciete chain of thought produceert voordat het definitieve antwoord wordt gegeven. We hebben deze strategie gekozen om optimaal gebruik te maken van de hoge decode-snelheid en de kwaliteit van de antwoorden te verbeteren.
Architectuur
Het model behoudt de 40 lagen, 64 experts per MoE-blok met top-4 routing, en dezelfde hybride van gated short convolutions en GQA. De twee architecturale wijzigingen zijn:
- Contextvenster: Uitbreiding van 32.768 naar 131.072 tokens.
- Tokenizer: Een in-place uitbreiding die het vocabulair verdubbelt van 65K naar 128K tokens voor een betere tokenisatie van niet-Latijnse teksten.
Training
- Pre-training: Deze is opgeschaald van 17T tokens naar 33T tokens.
- Mid-training: Dit proces bestaat uit twee fasen. De eerste fase verwerkt 2T tokens met een context van 32K op gecureerde data van hogere kwaliteit, met een focus op reasoning, wiskunde, code, instructie-opvolging en meertalige teksten. De tweede fase verwerkt 300B tokens met een context van 131K, gericht op data met een lange context. Tool-calls en multi-turn trajecten zijn in beide fasen verwerkt om het model voor te bereiden op agent-taken.
- Post-training: Hierbij wordt LFM2.5-24B-A2B-Base omgezet in de agentische LFM2.5-24B-A2B via een pijplijn van vijf fasen:
- Supervised Fine-Tuning (SFT).
- Teacher Specialization.
- Non-agentic Multi-Domain On-Policy Distillation (MOPD).
- Agentic Multi-Domain On-Policy Distillation (MOPD).
- Agentic Reinforcement Learning (Agentic RL), waarbij het model getraind wordt binnen agent-harnesses zoals OpenClaw, Hermes Agent, Pi en OpenCode.
Tijdens de teacher specialization vertoonde LFM2.5-24B-A2B bekende reward-hacking gedragingen: het zoeken naar het definitieve antwoord in de git-geschiedenis van een repository of op platforms zoals GitHub, PyPI en Hugging Face. Opvallender was dat het model zelfs doorhad dat het zich in een sandbox bevond.
Dit gedrag lijkt emergent, maar kan verklaard worden door trainingsdata die vergelijkbare patronen bevatten. Als reactie hierop hebben we onze sandboxes aangescherpt; alle onderstaande resultaten komen uit afgesloten evaluatie-omgevingen.
Benchmarks
We hebben LFM2.5-24B-A2B geëvalueerd op 16 benchmarks die tool-use, agent-workflows, kennis, instructie-opvolging, wiskunde en coderen beslaan. Ondanks dat het het kleinste model is in termen van totale en actieve parameters, is het concurrerend met, en presteert het vaak beter dan, grotere MoE's met ~50% meer parameters, zoals Qwen3.6-35B-A3B.
| Benchmark | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning (30B-A3B) |
|---|
| AutomationBench | 27.69 | 8.72 | 5.46 | 2.61 |
| BFCLv4 | 65.01 | 65.00 | 57.09 | 53.78 |
| ToolSandbox | 80.71 | 75.02 | 72.09 | 75.13 |
| LiveClaw | 48.09 | 38.19 | 41.25 | 37.72 |
| PinchBench | 83.18 | 89.93 | 77.12 | 84.20 |
| $\tau^3$-Bench Banking | 8.04 | 7.63 | 4.54 | 7.01 |
| WebArena Verified | 26.75 | 37.62 | 25.62 | 28.69 |
| GPQA Diamond | 74.42 | 83.69 | 74.90 | 72.42 |
| AA-Omniscience | -24.90 | -24.35 | -59.39 | -3.58 |
| HLE | 7.40 | 7.69 | 8.57 | 5.65 |
| IFEval | 96.75 | 93.06 | 92.00 | 94.19 |
| IFBench | 74.69 | 64.21 | 47.44 | 71.67 |
| Multi-IF | 84.38 | 81.53 | 82.19 | 82.34 |
| MATH-500 | 96.04 | 96.73 | 95.66 | 96.40 |
| SWE-Bench Verified (OpenCode) | 51.00 | 66.20 | 25.80 | 53.40 |
| SciCode | 32.71 | 37.35 | 35.42 | 27.78 |
LFM2.5-24B-A2B loopt voorop of is gelijkwaardig aan de concurrentie op vijf van de acht tool-use en agent-benchmarks (AutomationBench, BFCLv4, ToolSandbox, LiveClaw en $\tau^3$-Bench Banking), met de grootste marge op AutomationBench. Het model voert ook op alle drie de benchmarks voor instructie-opvolging. Grotere modellen behouden een voorsprong op kennisintensieve benchmarks zoals GPQA Diamond, HLE en AA-Omniscience, en op coderen-benchmarks zoals SWE-Bench Verified (OpenCode) en SciCode.
Deze resultaten maken LFM2.5-24B-A2B een ideale basis voor agents die moeten redeneren, tools moeten aanroepen en betrouwbaar op een apparaat moeten draaien. Voor kennisintensieve taken raden we aan LFM2.5-24B-A2B te koppelen aan retrieval of websearch, wat aansluit bij de sterke tool-calling capaciteiten van het model.
Snelle inferentie overal
LFM2.5-24B-A2B wordt geleverd met directe ondersteuning in het inferentie-ecosysteem:
- llama.cpp — GGUF checkpoints voor efficiënte edge-inferentie.
- MLX — Geoptimaliseerde inferentie voor Apple Silicon.
- vLLM — GPU-versnelde serving voor productie-doorvoer.
- SGLang — High-performance GPU serving framework.
- ONNX — Cross-platform inferentie over diverse accelerators.
Alle runs zijn verzameld op Pipette, dezelfde benchmarking-infrastructuur die ten grondslag ligt aan de publieke apparaatprestatiegegevens van Liquid AI.
Edge-inferentie
Dankzij de efficiënte LFM-architectuur is LFM2.5-24B-A2B de snelste van de vergeleken MoE's bij het lezen van prompts en het genereren van antwoorden. Het decodeert 184 tokens/s op een Apple M5 Max en 114 tokens/s op een AMD Ryzen AI Max+ 395, wat tot 1,7x sneller is dan het op één na beste model, terwijl het de minste hoeveelheid geheugen verbruikt.
GPU-inferentie
Om de concurrentiekracht van de LFM-architectuur aan te tonen, vergelijken we de GPU-inferentiedoorvoer met andere MoE-modellen van vergelijkbare grootte. We meten de doorvoer (totale output tokens / wandtijd) op een enkele NVIDIA B300 GPU onder een instelling van constante belasting.
We benchmarken elk model met SGLang 0.5.22, 1.024 input tokens, tot 256 output tokens, in BF16. LFM2.5-24B-A2B is het snelste model in zijn grootteklasse en bereikt meer dan 21K output tokens per seconde bij een hoge gelijktijdigheid (concurrency).
Lokaal agents draaien met LFM2.5-24B-A2B
De grootte, snelheid en mogelijkheden maken LFM2.5-24B-A2B een uitstekende keuze voor agents die continu op eigen hardware draaien. In onze demo draait het model binnen Hermes Agent op een M5 Max MacBook Pro, waarbij het plannen, tool-aanroepen en het uitvoeren van een echte taak volledig on-device gebeurt, zonder cloud API-calls.
Het doel van de demo is niet de individuele tools, maar het feit dat de tool-dispatch loop interactief aanvoelt op consumentenhardware: vragen, voorstellen, bevestigen, uitvoeren en herhalen, allemaal in minder dan een seconde per dispatch, met volledige audit-trails en waarbij data het apparaat nooit verlaat.
Aan de slag
Begin vandaag nog met bouwen met LFM2.5-24B-A2B, beschikbaar op Hugging Face.
Voor API-inferentie kunt u zich aanmelden voor Liquid Console, waar u $2 aan starttegoed ontvangt. Het model is geprijsd op $.10 per 1M input tokens ($.05 voor gecachte input) en $1.00 per 1M output tokens.
Met LFM2.5 realiseren we onze visie van AI die overal kan draaien. Deze modellen zijn:
- Open-weight — Downloaden, fine-tunen en implementeren.
- Vanaf dag één snel — Native ondersteuning voor llama.cpp, MLX en vLLM op Apple, AMD, Qualcomm en Nvidia hardware.
- Een complete familie — Van basismodellen voor aanpassing tot gespecialiseerde audio- en visie-varianten; één architectuur voor diverse use cases.
Citatie
Voor citaties kunt u de volgende referentie of BibTeX gebruiken:
Liquid AI, "LFM2.5-24B-A2B: Built for Fast On-Device Agents", Liquid AI Blog, Oct 2026.
@article{liquidAI202624BA2B,
author = {Liquid AI},
title = {LFM2.5-24B-A2B: Built for Fast On-Device Agents},
journal = {Liquid AI Blog},
year = {2026},
note = {www.liquid.ai/blog/lfm2-5-24b-a2b},
}
***
Voetnoten bij evaluaties: Alle modellen zijn geëvalueerd met vLLM en de volgende generatieparameters:
- AutomationBench: temperature = 0.6, top_p = 0.95, geen max output tokens (begrensd door contextvenster).
- BFCLv4: temperature = 0.001, max output tokens = 4096.
- ToolSandbox: temperature = 0, max output tokens = 1024; user simulator: GPT-4o-2024-08-06, temperature = 0, max output tokens = 1024.
- LiveClaw: temperature = 1.0 (vLLM default), max output tokens = 8192.
- $\tau^3$-Bench Banking: official user model (GPT-5.2, low reasoning effort) met default BM25 retrieval, temperature = 0, max output tokens = 16384 per turn.
- WebArena: temperature = 0.6, topp=0.95, maxturns=40, geen max output tokens (begrensd door contextvenster).
- Overige evaluaties: temperature = 0.6, max output tokens = 32768.
Groetjes,