Kunstig Intelligens

Tillitskrise hos AI-gigantene: Hvor ærlige er egentlig leverandørene våre?

Det koker under overflaten i AI-miljøet etter påstander om at Anthropic – selskapet bak de anerkjente Claude-modellene – ikke spiller med helt åpne kort om hvordan modellene deres styres og trenes i bakgrunnen. Diskusjonen har skutt fart etter avsløringer om hvordan sikkerhetsbarrierer og systeminstruksjoner endres uten at kundene får beskjed.

Når vi bygger tjenester på toppen av kommersielle AI-modeller, kjøper vi i praksis en lukket tjeneste. Hvis en leverandør i stillhet endrer spillereglene for hvordan modellen oppfører seg – enten for å beskytte egne interesser eller for å tvinge frem politisk korrekte svar – kan det i verste fall knekke funksjonalitet som bedriften din har brukt store ressurser på å utvikle.

For teknologidirektører og digitaliseringsledere som integrerer AI i kjernevirksomheten, understreker dette verdien av teknologisk uavhengighet. Løsningen er ikke nødvendigvis å unngå de store leverandørene, men å bygge applikasjonene med en "multi-modell-arkitektur". Ved å sørge for at du raskt kan rute om trafikken fra Claude til for eksempel GPT-4 eller en lokalt kjørt Llama-modell, reduserer du risikoen for at uventede endringer hos én enkelt leverandør lammer driften din. Les mer om saken her.

Smartere arkitektur kutter AI-regningen med 80 prosent

Det nye open-source-prosjektet architect-loop demonstrerer hvordan man kan redusere token-forbruket drastisk i komplekse utviklingsprosesser. Ved å la en mindre og rimeligere AI-modell fungere som en "arkitekt" som orkestrerer og vurderer arbeidet, slipper man å belaste de dyreste modellene med unødvendige rutineoppgaver.

I dag sliter mange bedrifter med at AI-agenter er ekstremt "pratsomme". Hver gang en agent skal løse en oppgave, sendes enorme mengder tekst (tokens) frem og tilbake til skyen, noe som gjør at driftskostnadene skyter i været. Ved å dele oppgavene smartere mellom ulike modeller, kan man beholde kvaliteten uten å betale for unødvendig datatrafikk.

For programvareavdelinger og tech-startups som utvikler egne AI-verktøy, viser dette at veien til lønnsomhet ikke handler om å vente på billigere maskinvare, men om smart design. Ved å implementere lignende to-nivå-arkitekturer i egne systemer, kan dere skalere AI-funksjonalitet til langt flere brukere uten at driftsbudsjettet eksploderer. Les mer om saken her.

Andre Nyheter