Fremtiden for AI-agenter: Mindre er mer
De siste årene har standardantakelsen i KI-verdenen vært enkel: større modell, bedre resultat. Ønsket du en smartere agent, grep du etter den største frontier-modellen du hadde råd til. Men to nylige forskningsinnsatser fra NVIDIA argumenterer for at denne antakelsen svikter i det øyeblikket man går fra chatboter til agenter: systemer som planlegger, kaller verktøy og utfører oppgaver i flere steg.
De siste årene har standardantakelsen i KI-verdenen vært enkel: større modell, bedre resultat. Ønsket du en smartere agent, grep du etter den største frontier-modellen du hadde råd til. Men to nylige forskningsinnsatser fra NVIDIA argumenterer for at denne antakelsen svikter i det øyeblikket man går fra chatboter til agenter: systemer som planlegger, kaller verktøy og utfører oppgaver i flere steg.
Poenget er ikke «små modeller i stedet for store». Det er noe mer interessant: små modeller som orkestrerer store, og som bare henter inn frontier-nivå intelligens når det faktisk trengs.
Problemet med å bruke en frontier-modell til alt
De fleste agentbaserte systemer i dag lener seg på én stor språkmodell for å gjøre alt: tolke brukerens intensjon, avgjøre hvilket verktøy som skal kalles, formatere svaret og resonnere gjennom spesialtilfeller. Det fungerer, men er ineffektivt. Mye av det en agent faktisk gjør steg for steg, er smalt og repetitivt: klassifisere intensjon, generere strukturert JSON, oppsummere resultatet fra et verktøy, avgjøre hvilket av fem API-er som skal kalles neste. Ingen av dette krever en modell med noen hundre milliarder parametere. Det minner litt om å ansette en kirurg for å ta temperaturen din.
NVIDIA-forskere beskriver dette som et misforhold mellom infrastrukturkostnad og faktisk levert verdi. Å kjøre en frontier-modell på hvert eneste agentsteg betyr at man betaler frontier-priser for oppgaver som ikke krever frontier-resonnering.
Små modeller som «motoren», ikke «hjernen»
En del av NVIDIAs forskning, et posisjonsnotat om små språkmodeller (SLM-er) i agentbasert KI, argumenterer for at mesteparten av det mekaniske arbeidet inne i en agent (verktøykall, strukturerte svar, smale deloppgaver) passer bedre med små, spesialiserte modeller enn med én generalist-LLM. Argumentet handler ikke bare om kostnad. Små modeller finjustert på en smal oppgave kan være mer pålitelige på nettopp den oppgaven enn en generalistmodell, nettopp fordi de ikke distraheres av alt annet de kan. En liten modell trent kun til å produsere gyldig SQL eller JSON, har færre måter å avvike fra formatet på.
Økonomien understøtter dette: å kjøre en liten modell kan være omtrent en tierpotens (eller mer) billigere i ventetid, energi og beregningskraft enn å kjøre en stor en, noe som betyr mye når man kjører millioner av agentsteg om dagen i stedet for noen få chat-meldinger.
Å la en liten modell være orkestratoren
Den mer nyskapende delen av denne forskningen er ToolOrchestra, en metode for å trene en liten språkmodell til å sitte i sentrum av et agentbasert system som orkestrator: komponenten som avgjør hvilket verktøy eller hvilken modell som skal kalles på hvert steg, inkludert når en frontier-modell i det hele tatt skal kalles.
Dette er viktig på grunn av et subtilt feilmønster forskerne har identifisert: når man ber en frontier-modell om å styre sine egne rutingbeslutninger, har den en tendens til å overbruke seg selv (eller et lite sett med andre sterke modeller), selv når et billigere verktøy eller en mindre modell ville gjort jobben like godt. Det er en slags selvfavorisering innebygd i måten disse modellene resonnerer om sine egne evner på.
ToolOrchestra unngår dette ved å trene en dedikert, mye mindre orkestratormodell (NVIDIAs utgitte versjon har 8 milliarder parametere) med forsterkende læring, der belønningene tar hensyn til oppgavekorrekthet, kostnad, ventetid og brukerpreferanser, ikke bare «ble svaret riktig». Resultatet er en rutingstrategi som er eksplisitt kostnadsbevisst, i stedet for å alltid gripe etter den største hammeren tilgjengelig.
De rapporterte tallene er den mest interessante delen: på Humanity’s Last Exam-benchmarken oppnådde den trente orkestratoren 37,1 % mot 35,1 % for GPT-5, samtidig som den kjørte omtrent 2,5 ganger mer effektivt. På to andre benchmarker, τ²-Bench og FRAMES, gjorde orkestratoren det også bedre enn GPT-5, denne gangen med bare rundt 30 % av kostnaden. Med andre ord: en liten modell som tar smarte beslutninger om når den skal kalle en stor modell, slo en stor modell som prøvde å gjøre alt selv, og gjorde det billigere.
Det større skiftet
Setter man disse to delene sammen, tegner det seg et bilde av hvor agentbasert KI-arkitektur kan være på vei: ikke én kjempemodell som gjør alt, men en liten, effektiv orkestrator som tar bevisste, kostnadsbevisste beslutninger om når en oppgave skal overlates til en kraftigere (og dyrere) modell eller et kraftigere verktøy, og som gjør mesteparten av selve arbeidet på egen hånd resten av tiden.
Det er et skifte fra «smartere modeller» til «smartere systemer». Frontier-modellen forsvinner ikke i dette bildet. Den slutter bare å være den som driver hele showet, og blir i stedet ett verktøy blant flere, som kalles inn bare når dens ekstra resonneringskraft faktisk er verdt kostnaden.
*Kilder: NVIDIAs «ToolOrchestra: Elevating Intelligence via Efficient Model and Tool Orchestration» (research.nvidia.com) og «Small Language Models are the Future of Agentic AI» (arXiv:2506.02153).*