Introductie van Clef: onze open-source beslissingsmodellen en nieuw RL-fine-tuning platform

De afgelopen weken is er veel te doen geweest over beslissingsmodellen, zoals het Jev System One-model van Typesafe AI. Hoewel classificatiemodellen al langer bestaan, introduceert Jev een nieuw concept in de wereld van AI: een model dat goedkoop, snel en consistent begrensde gestructureerde output produceert, die in een workflow kan worden geïntegreerd wanneer er een beslissing moet worden genomen. Deze modellen zijn krachtig genoeg om met elke set inputs te werken zonder dat het model constant opnieuw getraind hoeft te worden om nieuwe classificatiecategorieën op te nemen. Dit staat in contrast met Large Language Models (LLM's), die grotendeels non-deterministisch zijn, maar open-ended genoeg zijn om te redeneren en tekst en tool-calls te genereren voor agentische workloads.

Vandaag brengen we twee door Cloudflare getrainde beslissingsmodellen uit, Clef en Clef-flash, die worden gehost op Workers AI. Clef is momenteel de leider wanneer hij wordt geëvalueerd tegen de Jev Decision Index (de volledige resultaten zijn te zien op de live benchmark-demosite). Deze modellen zijn slimmer, sneller en volledig compatibel met de Jev-API, zodat u eenvoudig met deze gehoste modellen kunt experimenteren. We maken deze modellen volledig open-source op Hugging Face onder een Apache 2.0-licentie, zodat u ze lokaal kunt draaien en zelf kunt testen.

Daarnaast introduceren we ons nieuwe reinforcement learning (RL) product, waarmee klanten Clef kunnen fine-tunen om het model aan te passen aan hun specifieke use cases.

Wat is een beslissingsmodel?

Een beslissingsmodel maakt classificaties om agents te helpen bepalen hoe ze moeten handelen, gebaseerd op bepaalde waarschijnlijkheden.

Voorbeeld: U kunt een klantenservicebericht (inputs) invoeren en vragen of dit urgent is en welk team dit moet afhandelen. Een beslissingsmodel geeft getypeerde antwoorden met waarschijnlijkheden (outputs), die uw code kan gebruiken om het ticket te routeren, een escalatie te triggeren of het voor te leggen aan een mens. Dit betekent dat er niet langer noodzakelijkerwijs een mens in de loop hoeft te zijn voor agentische beslissingen; agents kunnen programmatisch context verzamelen, beslissingen nemen en acties uitvoeren, of indien nodig een mens inschakelen.

Bij Cloudflare hebben we het nieuwe Clef-model getest binnen ons Threat Intelligence-team om ons te helpen bij het classificeren van website-domeinen. Door een domein aan Clef te geven (met Browser Run), kan het model snel identificeren in welke categorieën het domein valt. Bijvoorbeeld: het kan een domein classificeren met een kans van 95% dat het een mode-website is, 85% e-commerce, <1% phishing, enzovoort.

Deze classificatie kostte ons Clef-model 2,2 seconden voor het ophalen, renderen en classificeren van de website. Ter vergelijking: ons snelste algemene LLM, gpt-oss-120b, deed er 4,7 seconden over in dezelfde workflow en leverde slechts twee classificaties op. Een besparing van 2x in latentie en betere resultaten helpt ons de threat intelligence-workflows te verbeteren en sneller kwaadaardige of legitieme domeinen te identificeren. Wanneer u dit generaliseert naar elke use case waar snelle programmatische beslissingen nodig zijn, ontsluit u krachtige agentische workflows die autonoom kunnen beslissen, redeneren en uitvoeren.

De naamgeving In de muziektheorie is een 'clef' (sleutel) een symbool aan het begin van een notenbalk dat specifieke toonnamen toekent aan de lijnen en ruimtes. Een beslissingsmodel is analoog aan een muzieksetelteken omdat het helpt het domein van de context en de daaropvolgende noten (acties) te definiëren. We hebben Clef gekozen als naam voor onze familie van beslissingsmodellen omdat het een vergelijkbaar doel dient, en de 'CF' verwijst naar Cloudflare.

Waarin verschilt Clef van andere beslissingsmodellen?

Hoewel de markt voor beslissingsmodellen verzadigd raakt, heeft Clef enkele unieke eigenschappen:

1. Vision Encoder: Clef is in staat om afbeeldingen te verwerken en visuele inhoud te classificeren. Dit verschilt van Jev, dat momenteel alleen tekstclassificatie ondersteunt.
2. Context Window: Ons model heeft een contextvenster van 64k (vergeleken met 32k bij Jev), waardoor gebruikers meer inputstatus kunnen meegeven voor de classificatie.
3. Prestaties: Ons model is accuraat en krachtig. In de onderstaande tabel ziet u de benchmarks op basis van de Jev Decision Index.

Benchmarks: Kwaliteit

We hebben ook benchmarks uitgevoerd via de eigen evaluatiesuite van Typesafe; Clef won in 3 van de 4 gebieden van Jev. Met name Clef-flash presteert uitzonderlijk goed gezien de snelheid.

Benchmarks: Workflow

Benchmarks: Latentie

Over de 43 uitgevoerde benchmarks scoorden onze Clef-modellen beter op latentie (met uitzondering van Laya, dat zeer snel is maar inlevert op kwaliteit):

Naast de voordelen van het model zelf worden de Clef-modellen gehost op Workers AI. Door gebruik te maken van GPU's aan de edge, is de netwerklatentie laag, waardoor Clef in het kritieke pad kan worden geplaatst voor agent-beslissingen, gecombineerd met een LLM op Workers AI voor de uitvoering.

Voorbeeld API-aanroep:

curl https://api.cloudflare.com/client/v4/accounts/$CLOUDFLARE_ACCOUNT_ID/ai/run/@cf/cloudflare/clef \
-X POST \
-H "Authorization: Bearer $CLOUDFLARE_AUTH_TOKEN" \
-d '{
"model": "clef",
"state": "Checkout has been failing for every customer for the last hour.",
"questions": {
"urgent": { "type": "noul", "instructions": "Is this support request urgent?" },
"team": {
"type": "choice",
"instructions": "Which team should handle this request?",
"criteria": {
"billing": "Payments, invoices, and refunds",
"technical": "Outages, errors, and configuration",
"sales": "Plans and upgrades"
}
},
"severity": {
"type": "score",
"instructions": "How severe is the customer impact?",
"criteria": ["No impact", "Minor", "Major", "Critical"]
}
}
}'

Clef produceert strikt getypeerde outputs en is volledig API-compatibel. Het grotere Clef-model is bedoeld voor precisie, terwijl Clef-Flash ideaal is voor latentie-kritische beslissingen. De modellen zijn 'enterprise-ready': we lezen, bewaren of trainen niet op uw verzoeken of reacties (tenzij u gebruikmaakt van ons fine-tuning product).

Hoe we Clef hebben getraind

Clef is gebouwd op het concept om deterministische waarschijnlijkheden uit te voeren door de logprobs van een groot taalmodel bloot te leggen. We maken gebruik van Qwen als basismodel, dat we vervolgens hebben post-trained voor beslissingsmodellen.

Tijdens de inferentie gebruikt Clef Qwen voor een prefill-only pass, waarna de geldige schema-keuzes parallel worden gescoord. De beslissingsstap is non-autoregressief; er wordt geen tussenliggende tekst token voor token gegenereerd. Dit maakt Clef significant sneller dan autoregressieve LLM's. In plaats van tekst te genereren, leiden Clef en Clef-flash schema-keuzes direct af uit interne backbone-representaties.

Deze aanpak maakt gebruik van een gespecialiseerd tweestaps attention routing-proces: elke geldige keuze extraheert context die relevant is voor de prompt, waardoor individuele veldparameters kunnen cross-attenden met andere velden en de oorspronkelijke payload vóór de scoring.

Technische optimalisaties:

• Modelbasis: We hebben Qwen3.8-27B (voor Clef) en Qwen3.5-9B (voor Clef-flash) bevroren en de routing head samen met rank-256 low-rank adapters geoptimaliseerd.
• Training: Post-training maakt gebruik van label-smoothed cross-entropy voor geldige schema-outputs, gekoppeld aan een Brier loss om de waarschijnlijkheidskalibratie te verfijnen.
• RLCD: We hebben Reinforcement Learning for Calibrated Decisions (RLCD) ontwikkeld als secundair optimalisatiedoel. Dit geeft gedeeltelijke credits voor nabijgelegen ordinale keuzes, beloont volledig precieze record-outputs en past een referentieboete toe om distributieverschuivingen te voorkomen.

Hierdoor hebben we de accuratesse in classificatie verbeterd, de output beperkt tot uitsluitend waarschijnlijkheden en de snelheid verhoogd ten opzichte van Jev en de basis Qwen-modellen.

Fine-tuning voor specifieke mogelijkheden

Voor veel interne use cases bij Cloudflare is fine-tuning noodzakelijk. Denk aan het evalueren van Trust & Safety-meldingen, het triageren van supportverzoeken of het bepalen of een crawler een 'good bot' of 'bad bot' is.

Omdat Cloudflare meer dan 15 jaar aan netwerkdata over verschillende domeinen beschikt, kunnen we modellen fine-tunen die accurater en sneller zijn dan het generieke Clef-model. Dit vormt de basis voor ons nieuwe RL-product.

Onze nieuwe RL-service

We bieden een service aan waarbij klanten Clef kunnen fine-tunen voor hun eigen workloads met hulp van ons FDE-team (Forward-Deployed Engineers). Op basis van deze ervaringen bouwen we een self-service platform waarmee klanten data kunnen vastleggen, fine-tunen en het model opnieuw kunnen implementeren op Cloudflare.

We maken hiervoor gebruik van bestaande primitives op het Cloudflare-platform:

• Cloudflare AI Gateway: Automatisch datasets maken van verzoeken voor uw specifieke use case.
• Cloudflare Workers AI: Uitrols genereren tegen het basis Clef-model.
• Cloudflare Containers: RL-sandbox voor het scoren en herhalen van agent-acties.
• Trainer (Nieuw): Het bijwerken van de gewichten van het gefine-tunde Clef-model.
• Cloudflare Workers AI + BYO Model: Het gefine-tunde model opnieuw implementeren op Workers AI.

Probeer het vandaag nog

We geloven dat Clef de manier waarop we agents gebruiken kan transformeren, wat naadloos aansluit bij de missie van Cloudflare om de agent cloud te zijn.

U kunt de Clef-modellen nu uitproberen via Workers AI, de gewichten downloaden op Hugging Face of contact met ons opnemen voor specifieke fine-tuning use cases.