Kunstig Intelligens

Det store prisfallet: Hvorfor «åpne» AI-modeller har blitt nesten gratis å kjøre

Prisen på regnekraft og drift av avanserte språkmodeller faller nå så raskt at det ryster teknologibransjen. En fersk analyse peker på det som kalles «the unbearable cheapness of open weight models» – altså den ekstremt lave kostnaden ved å kjøre modeller der modellfilene er fritt tilgjengelige (som Metas Llama-serie eller franske Mistral). Der virksomheter tidligere måtte betale store summer per forespørsel til lukkede kommersielle aktører som OpenAI, er vi nå i en situasjon der det å drifte egne, skreddersydde modeller koster lommerusk i forhold. (James O'Claire / Hacker News)

Tidligere krevde det dyp teknisk spisskompetanse og skyhøye serverkostnader å drifte egne AI-modeller på en forsvarlig måte. Det siste året har vi imidlertid sett en perfekt storm: Modellene har blitt langt mer effektive og krever mindre minne, samtidig som spesialiserte skyaktører tilbyr ekstremt optimalisert maskinvare. Resultatet er at åpne modeller i dag leverer tilnærmet samme kvalitet som de dyre, lukkede motpartene, men til en brøkdel av driftskostnaden.

For selskaper som utvikler egen programvare (SaaS-leverandører), endrer dette hele kalkylen. Tidligere spiste løpende API-kostnader opp marginene dersom man forsøkte å rulle ut avanserte AI-funksjoner til tusenvis av aktive brukere. Med dagens prisbilde på åpne modeller kan AI bakes direkte inn i kjerneproduktet som en standardfunksjon, uten at det krever egne premium-prisplaner for å dekke inn driftskostnadene.

For personvernansvarlige og IT-direktører i sterkt regulerte sektorer – som bank, forsikring og offentlig sektor – løser dette et stort dilemma. I stedet for å sende sensitive kundeopplysninger ut av organisasjonen og over til eksterne API-leverandører, gjør prisfallet det økonomisk gunstig å drifte modellene i egne, lukkede skymiljøer. Man oppnår dermed full kontroll over dataflyten og GDPR-etterlevelse, uten at det lenger medfører en økonomisk straff.