Meta introduceert de Muse Wonder-serie, bestaande uit Muse Wonder en Muse Wonder Full. Deze modellen zijn ontworpen om te fungeren als hoogwaardige persoonlijke en professionele AI-agenten.
Kernfunctionaliteiten
De modellen onderscheiden zich door twee specifieke eigenschappen:
- Active Memory: Het vermogen om belangrijke context over de gebruiker te onthouden en op te halen over verschillende gesprekken heen.
- Active Focus: Het vermogen om aanhoudend aan complexe doelen te werken, alternatieve benaderingen te proberen en blokkades op te lossen.
Toepassingen en Prestaties
Muse Wonder vertoont state-of-the-art prestaties in domeinen zoals recht, financiën en gezondheidszorg, en blinkt uit in frontier-programmeren. Daarnaast tonen de modellen een sterke generalisatie, waardoor ze effectiever zijn in het uitvoeren van onbekende taken (out-of-distribution) dan hun voorgangers.
Veiligheid en Beschikbaarheid
Er is zwaar geïnvesteerd in alignment en privacy-waarborgen om misbruik (zoals CBRN- of cyberrisico's) te voorkomen. De modellen zijn beschikbaar via de Meta Model API en Muse Code.
Muse Wonder: Een frontier-model voor persoonlijke en professionele AI-agenten
Een frontier-model dat leidend is in persoonlijke en professionele agenten
Vandaag introduceren we met trots de Muse Wonder-serie, bestaande uit Muse Wonder en Muse Wonder Full. Dit zijn onze meest geavanceerde modellen die state-of-the-art prestaties leveren bij persoonlijke en professionele agent-taken. Samen markeren ze de volgende stap op onze schalingsladder en een grote sprong richting persoonlijke superintelligentie. Muse Wonder combineert Active Memory en Active Focus om bij te houden wat belangrijk is voor de gebruiker en diligent te werken aan de gewenste doelen.
Muse Wonder is vanaf vandaag beschikbaar via de Meta Model API en Muse Code. Muse Wonder Full is vanaf vandaag beschikbaar voor abonnees van Muse Code.
Op korte termijn zal Muse Wonder experiences in Muse aandrijven, waarbij de uitrol begint bij de abonnees. Muse Wonder zal daarnaast worden ingezet voor het genereren van artefacten en processen die meer intelligentie vereisen. In de toekomst zullen we Muse Wonder gebruiken om gespecialiseerde modellen te ontwikkelen die beschikbaar worden gesteld aan iedereen die Muse gebruikt.
Schalen richting persoonlijke superintelligentie
Veertien maanden geleden zijn we begonnen met een grondige herziening van onze inspanningen op het gebied van kunstmatige intelligentie. In die tijd zijn we gegaan van het opnieuw opbouwen van onze stack vanuit basisprincipes naar het verleggen van de grenzen van het mogelijke.
Toen we Muse Spark introduceerden, schetsten we onze aanpak voor voorspelbare en rigoureuze schaling. De release van vandaag bouwt voort op dat werk binnen pretraining en reinforcement learning, wat resulteert in onze meest capabele modellen tot nu toe. Muse Wonder en Muse Wonder Full zijn getraind in ons Prometheus-datacenter op gigawatt-schaal. Ze verenigen het werk van verschillende teams binnen Meta om frontier-mogelijkheden te bieden voor complexe taken op het werk en in het dagelijks leven — een verdere stap naar het brengen van persoonlijke superintelligentie naar de miljarden mensen die onze producten gebruiken.
Frontier-mogelijkheden
Model-highlights
De Muse Wonder-serie behaalt state-of-the-art resultaten in belangrijke benchmarks voor persoonlijke en professionele agenten, geheugen en programmeren. De volledige resultaten vergelijken Muse Wonder en Muse Wonder Full met andere frontier-modellen via een breed evaluatiepakket.
We kijken nu specifiek naar vier gebieden die centraal staan bij het uitvoeren van taken in de echte wereld: domeinexpertise, Active Memory, Active Focus en frontier-programmeren.
Domeinexpertise
Muse Wonder en Muse Wonder Full passen gespecialiseerde kennis toe op problemen die mensen tegenkomen op het werk en in het dagelijks leven, van het begrijpen van een huurovereenkomst tot het analyseren van financiële of gezondheidsinformatie. Onze evaluaties omvatten taken op het gebied van recht, financiën en gezondheidszorg. Zo vereist de Legal Agent Benchmark (LAB) van Harvey dat modellen werken met brondocumenten en gedetailleerde instructies volgen om juridische producten op te leveren.
Active Memory
Een van de meest kritische stappen naar nuttige persoonlijke en professionele agenten is betrouwbaar geheugen. Modellen moeten onthouden wat belangrijk is en herkennen wanneer eerdere informatie weer relevant wordt. We noemen dit Active Memory: het meenemen van belangrijke context over de gebruiker over verschillende gesprekken heen en het actief ophalen van details die relevant zijn voor de huidige taak.
Active Focus
Het gebruik van die context om een taak te voltooien vereist een aanhoudende inspanning. Active Focus beschrijft hoe Muse Wonder blijft werken aan een uitdagend doel: het proberen van alternatieve benaderingen, het oplossen van blokkades en het aanpassen aan nieuwe informatie. Onderweg vraagt het model om verduidelijking wanneer dat nodig is en checkt het de voortgang voordat er belangrijke acties worden ondernomen. We evalueren focus via FocusBench en aanhoudende uitvoering via SWE-Marathon, waarbij wordt getest op langlopende softwareprojecten.
Frontier-programmeren
Programmeren brengt al deze capaciteiten samen. Het bouwen van software vereist het bijhouden van vereisten, het doorvoeren van wijzigingen in een codebase en het werken in herhaalde cycli van testen en revisie. Muse Wonder en Muse Wonder Full leveren frontier-prestaties bij het programmeren en ondersteunen projecten variërend van kleine applicaties tot complexe software. We hebben beide modellen getraind op diverse, langlopende taken om hen te helpen de voortgang in dit proces vast te houden.
Voorbeeld:
- Kitchen Game: Muse Wonder bouwt een speelbaar 3D-keukenspel op basis van aanpasbare image-inputs.
Mogelijkheden die generaliseren
Twee modellen kunnen vergelijkbare benchmarkscores hebben, terwijl het ene model een veel breder scala aan onbekende taken aankan. Dit raakt aan de discussie over "benchmaxxing" (het optimaliseren voor benchmarks) versus "big model smell" (een intuïtieve breedte aan capaciteiten die populaire benchmarks niet volledig kunnen vastleggen).
Om dit verschil te kwantificeren, onderzoeken we hoe de prestaties op taken die tijdens de post-training zijn getarget, zich verhouden tot de prestaties op onbekende taken naarmate we de test-time compute opschalen. Een vergelijking tussen Muse Spark 1.3 en Muse Wonder Full laat zien dat beide modellen vergelijkbaar verbeteren op out-of-distribution taken (taken die niet getarget waren tijdens post-training) bij toenemende rekenkracht.
Echter, gezien zijn prestaties bij in-distribution taken, presteert Muse Wonder Full zelfs beter op onbekende taken dan de trend van Muse Spark 1.3 zou voorspellen. Deze verschuiving komt doordat Muse Wonder en Muse Wonder Full voortbouwen op grotere, sterkere basismodellen. Een sterker basismodel zorgt ervoor dat winst uit post-training effectiever wordt overgedragen naar onbekende taken. Deze veelzijdigheid is essentieel voor persoonlijke agenten, die vele combinaties van doelen, tools en beperkingen moeten behandelen die we niet allemaal kunnen voorzien tijdens de training.
Praktijkvoorbeelden van Muse Wonder:
- Planning van een zaterdagloop: De agent werkt direct in een browser en over verschillende apps heen om een hardloopplan op te stellen op basis van persoonlijke voorkeuren en omstandigheden.
- Gepersonaliseerde geschenken: Muse Wonder ontwerpt en bestelt custom merchandise op basis van echte foto's van een persoonlijk Instagram-profiel.
- Bruilofts-tafelindeling: Muse Wonder stelt een op maat gemaakte tafelindeling op basis van een lijst met complexe matchingsvereisten.
Veiligheid aan de frontier
Het leveren van persoonlijke superintelligentie aan iedereen vereist een aanzienlijke investering in alignment en veiligheid. Een persoonlijke agent onderneemt acties namens een gebruiker en kan toegang hebben tot context zoals berichten, agenda's en privédocumenten. Dit niveau van toegang vereist een model dat discreet omgaat met privégegevens en resistent is tegen misbruik. We hebben de Muse Wonder-familie getraind om leidend te zijn op beide vlakken, met robuustheid tegen vijandige instructies (adversarial instructions) en zorgvuldige omgang met privéinformatie.
Naarmate modellen krachtiger worden, is ons doel om mensen te helpen deze mogelijkheden veilig en verantwoord te benutten. Muse Wonder biedt onze sterkste safeguards tot nu toe tegen CBRN-misbruik (chemisch, biologisch, radiologisch en nucleair) en cybermisbruik, terwijl de toegang tot frontier-cybercapaciteiten voor defensief gebruik behouden blijft, conform ons Meta Superintelligence Scaling Framework.
Muse Wonder is ons tot nu toe best aligned model, en alignment is centraal in de manier waarop we persoonlijke superintelligentie bouwen. Een volledig rapport met aanvullende veiligheidsevaluaties volgt binnenkort.
We hopen dat Muse Wonder en Muse Wonder Full meer mensen de kracht geven om hun dromen na te streven en de wereld te bouwen die zij willen. Dit is een belangrijke technische stap naar persoonlijke superintelligentie voor iedereen, met veel meer dat nog gaat komen.
Muse Wonder: Een frontier-model voor persoonlijke en professionele AI-agenten
Een frontier-model dat leidend is in persoonlijke en professionele agenten
Vandaag introduceren we met trots de Muse Wonder-serie, bestaande uit Muse Wonder en Muse Wonder Full. Dit zijn onze meest geavanceerde modellen die state-of-the-art prestaties leveren bij persoonlijke en professionele agent-taken. Samen markeren ze de volgende stap op onze schalingsladder en een grote sprong richting persoonlijke superintelligentie. Muse Wonder combineert Active Memory en Active Focus om bij te houden wat belangrijk is voor de gebruiker en diligent te werken aan de gewenste doelen.
Muse Wonder is vanaf vandaag beschikbaar via de Meta Model API en Muse Code. Muse Wonder Full is vanaf vandaag beschikbaar voor abonnees van Muse Code.
Op korte termijn zal Muse Wonder experiences in Muse aandrijven, waarbij de uitrol begint bij de abonnees. Muse Wonder zal daarnaast worden ingezet voor het genereren van artefacten en processen die meer intelligentie vereisen. In de toekomst zullen we Muse Wonder gebruiken om gespecialiseerde modellen te ontwikkelen die beschikbaar worden gesteld aan iedereen die Muse gebruikt.
Schalen richting persoonlijke superintelligentie
Veertien maanden geleden zijn we begonnen met een grondige herziening van onze inspanningen op het gebied van kunstmatige intelligentie. In die tijd zijn we gegaan van het opnieuw opbouwen van onze stack vanuit basisprincipes naar het verleggen van de grenzen van het mogelijke.
Toen we Muse Spark introduceerden, schetsten we onze aanpak voor voorspelbare en rigoureuze schaling. De release van vandaag bouwt voort op dat werk binnen pretraining en reinforcement learning, wat resulteert in onze meest capabele modellen tot nu toe. Muse Wonder en Muse Wonder Full zijn getraind in ons Prometheus-datacenter op gigawatt-schaal. Ze verenigen het werk van verschillende teams binnen Meta om frontier-mogelijkheden te bieden voor complexe taken op het werk en in het dagelijks leven — een verdere stap naar het brengen van persoonlijke superintelligentie naar de miljarden mensen die onze producten gebruiken.
Frontier-mogelijkheden
Model-highlights
De Muse Wonder-serie behaalt state-of-the-art resultaten in belangrijke benchmarks voor persoonlijke en professionele agenten, geheugen en programmeren. De volledige resultaten vergelijken Muse Wonder en Muse Wonder Full met andere frontier-modellen via een breed evaluatiepakket.
We kijken nu specifiek naar vier gebieden die centraal staan bij het uitvoeren van taken in de echte wereld: domeinexpertise, Active Memory, Active Focus en frontier-programmeren.
Domeinexpertise
Muse Wonder en Muse Wonder Full passen gespecialiseerde kennis toe op problemen die mensen tegenkomen op het werk en in het dagelijks leven, van het begrijpen van een huurovereenkomst tot het analyseren van financiële of gezondheidsinformatie. Onze evaluaties omvatten taken op het gebied van recht, financiën en gezondheidszorg. Zo vereist de Legal Agent Benchmark (LAB) van Harvey dat modellen werken met brondocumenten en gedetailleerde instructies volgen om juridische producten op te leveren.
Active Memory
Een van de meest kritische stappen naar nuttige persoonlijke en professionele agenten is betrouwbaar geheugen. Modellen moeten onthouden wat belangrijk is en herkennen wanneer eerdere informatie weer relevant wordt. We noemen dit Active Memory: het meenemen van belangrijke context over de gebruiker over verschillende gesprekken heen en het actief ophalen van details die relevant zijn voor de huidige taak.
Active Focus
Het gebruik van die context om een taak te voltooien vereist een aanhoudende inspanning. Active Focus beschrijft hoe Muse Wonder blijft werken aan een uitdagend doel: het proberen van alternatieve benaderingen, het oplossen van blokkades en het aanpassen aan nieuwe informatie. Onderweg vraagt het model om verduidelijking wanneer dat nodig is en checkt het de voortgang voordat er belangrijke acties worden ondernomen. We evalueren focus via FocusBench en aanhoudende uitvoering via SWE-Marathon, waarbij wordt getest op langlopende softwareprojecten.
Frontier-programmeren
Programmeren brengt al deze capaciteiten samen. Het bouwen van software vereist het bijhouden van vereisten, het doorvoeren van wijzigingen in een codebase en het werken in herhaalde cycli van testen en revisie. Muse Wonder en Muse Wonder Full leveren frontier-prestaties bij het programmeren en ondersteunen projecten variërend van kleine applicaties tot complexe software. We hebben beide modellen getraind op diverse, langlopende taken om hen te helpen de voortgang in dit proces vast te houden.
Voorbeeld:
- Kitchen Game: Muse Wonder bouwt een speelbaar 3D-keukenspel op basis van aanpasbare image-inputs.
Mogelijkheden die generaliseren
Twee modellen kunnen vergelijkbare benchmarkscores hebben, terwijl het ene model een veel breder scala aan onbekende taken aankan. Dit raakt aan de discussie over "benchmaxxing" (het optimaliseren voor benchmarks) versus "big model smell" (een intuïtieve breedte aan capaciteiten die populaire benchmarks niet volledig kunnen vastleggen).
Om dit verschil te kwantificeren, onderzoeken we hoe de prestaties op taken die tijdens de post-training zijn getarget, zich verhouden tot de prestaties op onbekende taken naarmate we de test-time compute opschalen. Een vergelijking tussen Muse Spark 1.3 en Muse Wonder Full laat zien dat beide modellen vergelijkbaar verbeteren op out-of-distribution taken (taken die niet getarget waren tijdens post-training) bij toenemende rekenkracht.
Echter, gezien zijn prestaties bij in-distribution taken, presteert Muse Wonder Full zelfs beter op onbekende taken dan de trend van Muse Spark 1.3 zou voorspellen. Deze verschuiving komt doordat Muse Wonder en Muse Wonder Full voortbouwen op grotere, sterkere basismodellen. Een sterker basismodel zorgt ervoor dat winst uit post-training effectiever wordt overgedragen naar onbekende taken. Deze veelzijdigheid is essentieel voor persoonlijke agenten, die vele combinaties van doelen, tools en beperkingen moeten behandelen die we niet allemaal kunnen voorzien tijdens de training.
Praktijkvoorbeelden van Muse Wonder:
- Planning van een zaterdagloop: De agent werkt direct in een browser en over verschillende apps heen om een hardloopplan op te stellen op basis van persoonlijke voorkeuren en omstandigheden.
- Gepersonaliseerde geschenken: Muse Wonder ontwerpt en bestelt custom merchandise op basis van echte foto's van een persoonlijk Instagram-profiel.
- Bruilofts-tafelindeling: Muse Wonder stelt een op maat gemaakte tafelindeling op basis van een lijst met complexe matchingsvereisten.
Veiligheid aan de frontier
Het leveren van persoonlijke superintelligentie aan iedereen vereist een aanzienlijke investering in alignment en veiligheid. Een persoonlijke agent onderneemt acties namens een gebruiker en kan toegang hebben tot context zoals berichten, agenda's en privédocumenten. Dit niveau van toegang vereist een model dat discreet omgaat met privégegevens en resistent is tegen misbruik. We hebben de Muse Wonder-familie getraind om leidend te zijn op beide vlakken, met robuustheid tegen vijandige instructies (adversarial instructions) en zorgvuldige omgang met privéinformatie.
Naarmate modellen krachtiger worden, is ons doel om mensen te helpen deze mogelijkheden veilig en verantwoord te benutten. Muse Wonder biedt onze sterkste safeguards tot nu toe tegen CBRN-misbruik (chemisch, biologisch, radiologisch en nucleair) en cybermisbruik, terwijl de toegang tot frontier-cybercapaciteiten voor defensief gebruik behouden blijft, conform ons Meta Superintelligence Scaling Framework.
Muse Wonder is ons tot nu toe best aligned model, en alignment is centraal in de manier waarop we persoonlijke superintelligentie bouwen. Een volledig rapport met aanvullende veiligheidsevaluaties volgt binnenkort.
We hopen dat Muse Wonder en Muse Wonder Full meer mensen de kracht geven om hun dromen na te streven en de wereld te bouwen die zij willen. Dit is een belangrijke technische stap naar persoonlijke superintelligentie voor iedereen, met veel meer dat nog gaat komen.
Groetjes,