Kunstig Intelligens

Slik leder du AI-investeringer i de «autonome agentenes» tidsalder

OpenAI har lagt frem en ny strategisk veiledning for hvordan virksomheter bør styre sine AI-investeringer nå som vi beveger oss forbi enkle chat-hjelpere og inn i en tidsalder preget av autonome agenter. Kjernen i budskapet er at tradisjonelle IT-målinger ikke lenger strekker til; i stedet må selskaper begynne å måle «nyttig arbeid utført per krone».

Bakgrunnen er den raske overgangen fra reaktive verktøy til proaktive agenter som kan kjøre komplekse, flerstegs arbeidsprosesser på egen hånd. Dette krever en fundamental endring i hvordan man måler avkastning (ROI) på teknologiinvesteringer, ettersom AI-en nå tar over faktiske arbeidstimer fremfor bare å effektivisere tastetrykk.

For økonomidirektører og driftsledere som skal forsvare teknologibudsjettene fremover, innebærer dette at man må slutte å telle API-kall eller serveroppetid. Man bør i stedet kartlegge bedriftens mest verdifulle manuelle arbeidsflyter og sette opp KPI-er basert på hvor mange av disse prosessene agentene kan fullføre feilfritt på egen hånd. Dette gjør det mulig å skalere kapasiteten i for eksempel kundesupport eller dokumentanalyse lineært med etterspørselen, uten tilsvarende økning i faste personalkostnader. Les mer hos OpenAI.

Når ingeniørene får AI-budsjett: Meta-topp spår slutten på fri fôring av språkmodeller

Instagram-sjef Adam Mosseri spår at selskaper om kort tid må begynne å begrense hvor mye AI-ressurser (såkalte «tokens») hver enkelt ingeniør kan bruke. Han sammenligner AI-forbruket med tradisjonelle driftskostnader som reisebudsjetter eller lønnsposter, og mener tiden der utviklere hadde ubegrenset tilgang til dyre språkmodeller snart er forbi.

Bakgrunnen er at utvikling og testing av avanserte AI-systemer spiser enorme mengder datakraft. Når utviklingsteam eksperimenterer med å la AI-agenter løpe i kontinuerlige løkker for å løse oppgaver, kan skyregningen vokse astronomisk i løpet av noen få timer uten at ledelsen har kontroll på pengebruken.

For teknologiavdelinger og prosjektledere betyr dette at man må etablere klare rammer for ressursbruk tidlig i utviklingsløpet. Ved å innføre kvoter på token-bruk per ansatt eller per prosjekt, tvinges utviklerne til å skrive mer effektiv kode og velge mindre, mer spesialiserte modeller der det er mulig, fremfor å alltid skyte spurv med de dyreste og mest kraftkrevende modellene. Les mer hos TechCrunch.

Digitalt selvforsvar: Sikkerhetsteamene tar i bruk «promp-injeksjon» som våpen

Sikkerhetsbransjen har funnet en uventet metode for å stoppe ondsinnede AI-agenter som forsøker å trenge inn i bedrifters nettverk. Ved å ta i bruk metoder som ligner på hackernes egne – såkalte prompt-injeksjoner – kan forsvarerne nå lure angripende roboter til å slå seg selv av gjennom såkalt «context bombing».

Konteksten er at angripere i økende grad bruker automatiserte AI-agenter til å saumfare nettsider og åpne systemer etter sårbarheter. Ved å legge inn usynlige, instruksjonsbærende tekster på strategiske steder i egne systemer, blir den angripende AI-en forvirret og tvinges til å avbryte oppdraget sitt før den gjør skade.

Sikkerhetsansvarlige i både offentlig og privat sektor får her et nytt og kostnadseffektivt verktøy i verktøykassen. I stedet for utelukkende å bygge tunge, reaktive brannmurer, kan man nå designe digitale feller i kildekoden som passivt nøytraliserer automatiserte spion-boter. Dette reduserer belastningen på det menneskelige sikkerhetsteamet betraktelig. Les mer hos Ars Technica.

Internasjonale Trender

Når kunden skjeller ut AI-en: Nytt verktøy fanger opp frustrasjonen

Det nystartede selskapet Agnost AI, som nylig ble tatt opp i den prestisjetunge akseleratoren Y Combinator, har lansert en analyseplattform spesielt utviklet for å overvåke samtaler mellom kunder og AI-agenter. Systemet spesialiserer seg på å avdekke når brukere blir frustrerte og tyr til såkalt «rageprompting» – altså når de begynner å banne til eller skjelle ut tekst- eller stemmeroboten.

Ettersom stadig flere bedrifter setter AI i direkte kontakt med kundene sine, har det oppstått et kritisk blindfelt: ledere vet ofte ikke hvor eller hvorfor samtalene sporer av før kunden i verste fall forlater merkevaren helt.

For e-handelsaktører og tjenesteleverandører som baserer seg på digital kundekontakt, gir dette verktøyet en etterlengtet mulighet til å kvalitetssikre de digitale medarbeiderne sine. Ved å fange opp nøyaktig i hvilke steg av samtalen kunden mister tålmodigheten, kan produktteamene raskt justere AI-ens oppførsel, tonefall eller underliggende data før irritasjonen sprer seg i kundemassen. Les mer hos Agnost AI.

Andre Nyheter