11. June 2026
Google DeepMind har nylig begynt å sponse forskning på hva som skjer når millioner av autonome AI-agenter slippes løs på nett samtidig og begynner å samhandle. Rohin Shah, som leder arbeidet med sikkerhet rundt kunstig generell intelligens (AGI) hos AI-giganten, advarer om at dette massemarked-skiftet til agenter kan skape uforutsigbare og potensielt kaotiske dominoeffekter som ingen i dag har kontroll over.
Vi har lenge snakket om AI-agenter som den neste store bølgen – roboter som ikke bare svarer på spørsmål, men som faktisk utfører handlinger for deg, som å bestille flybilletter, forhandle kontrakter eller flytte penger. Men når tusenvis av unike agenter, utviklet av ulike selskaper med ulike insentiver, plutselig skal navigere i samme digitale rom, kan det oppstå uforutsette hendelser. DeepMind frykter at vi vil se systemiske kollapser der agentene låser hverandre i uforutsette looper eller skaper kunstige markedskrasj fordi de feiltolker hverandres intensjoner.
For finansdirektører og risikovurderere i komplekse logistikk- og forsyningskjeder betyr dette at man må slutte å tenke på AI-sikkerhet som noe som bare handler om egen programvare. Når agent-teknologien rulles ut for fullt, må IT-avdelingen designe "sikkerhetsventiler" og manuelle godkjenningsporter. Vi kan rett og slett ikke risikere at to automatiserte innkjøps-agenter begynner å overby eller blokkere hverandre i mikrosekunder på en digital markedsplass uten at menneskelige operatører kan gripe inn.
Les hele saken hos MIT Technology Review
Diskusjonen om hvorvidt programmerere blir overflødige har blusset opp igjen, og konklusjonen i en ny analyse er klar: AI kommer ikke til å erstatte utviklerne med det første. Selv om de generative verktøyene blir stadig skarpere til å spytte ut kode, viser det seg at den menneskelige evnen til å navigere i kaos, forstå kompleks forretningslogikk og drive feilsøking er tilnærmet umulig å automatisere bort.
Det er lett å la seg blende når en AI-assistent genererer hundre linjer med tilsynelatende feilfri kode på tre sekunder. Men som alle som leder teknologiske prosjekter vet, handler ikke programvareutvikling bare om å skrive kode; det handler om å forstå hva kunden egentlig trenger, integrere eldre kjernesystemer som ble skrevet på 90-tallet, og feilsøke obskure feil som oppstår i skjæringspunktet mellom ulike skyplattformer. AI mangler helt denne overordnede, helhetlige konteksten.
For teknologiledere og CTO-er bør dette endre rekrutteringsstrategien fra å lete etter måter å "erstatte hoder" på, til å heller utdanne de hodene man har. Selskapene som lykkes best fremover, er de som lar AI ta over den kjedelige rutinekodingen, mens utviklerne frigjøres til å fungere som systemarkitekter og problemløsere. Å kutte i utviklerstaben for å spare penger nå, svarer til å kvitte seg med arkitekten fordi du har kjøpt en mer effektiv spikerpistol – det ender fort med at hele bygget faller sammen.