Kunstig Intelligens

Slik endrer AI regnestykket for IT-modernisering

En fersk analyse peker på at generativ AI fundamentalt endrer de økonomiske rammene for å skrive om utdatert programvare (såkalt «legacy-kode»). Verktøyene gjør det langt billigere og raskere å oversette gammel kode til moderne språk, men det bringer også med seg en ny form for risiko: «AI-slop» i selve kodebasen.

Mange etablerte selskaper sitter på gamle IT-systemer som er dyre å drifte, men enda dyrere og mer risikable å erstatte. Historisk har slike moderniseringsprosjekter vært gigantiske økonomiske sluk med høy risiko for å feile. Med store språkmodeller (LLM-er) som kan lese, forstå og oversette gammel kode på sekunder, faller terskelen for å starte disse prosjektene dramatisk.

For selskaper med store, eldre systemer – som banker, forsikringsselskaper og offentlige aktører – betyr dette at IT-modernisering går fra å være et uoverkommelig tiårsprosjekt til å bli et håndterbart initiativ. Men her må man holde tungen rett i munnen. Hvis man lar AI skrive om systemene uten streng menneskelig kontroll, risikerer man å bytte ut gammel, solid kode med uforståelig, AI-generert spaghetti-kode. Det øker den tekniske gjelden på sikt. CTO-er bør derfor ikke se på AI som en måte å kutte utviklerstaben på, men som et verktøy for å la de eksisterende utviklerne fungere som arkitekter og kvalitetskontrollører.

Les mer om saken hos Hacker News.

«HalluSquatting»: Hackere utnytter AI-enes største svakhet til å spre skadevare

Sikkerhetsforskere har avdekket en ny sårbarhet kalt «HalluSquatting», der angripere utnytter at store språkmodeller (LLM-er) «hallusinerer» og dikter opp pakker eller kodebiblioteker som ikke eksisterer. Ved å registrere disse fiktive pakkenavnene i åpne kildekode-registre, kan hackere lure utviklere – og AI-er som skriver kode – til å laste ned skadevare og bygge massive botnett. Sårbarheten rammer ni av de mest populære AI-verktøyene på markedet.

Når utviklere eller AI-assistenter ber en språkmodell om hjelp til å løse et teknisk problem, foreslår modellen ofte spesifikke verktøy eller kodebiblioteker som bør installeres. Siden modellene sliter med å innrømme at de ikke vet svaret, dikter de av og til opp ikke-eksisterende kildekodepakker. Hackere overvåker hva AI-ene dikter opp, oppretter pakker med akkurat de fiktive navnene, og fyller dem med ondsinnet kode.

For bedrifter med egne utviklerteam eller selskaper som kjøper skreddersydd programvare, introduserer dette en helt ny risiko i forsyningskjeden. Hvis utviklingsteamet ditt bruker AI-verktøy som GitHub Copilot eller ChatGPT til å skrive kode uten strenge sikkerhetsrutiner, kan dere uvitende installere bakdører direkte inn i kjerneapplikasjonene deres. IT-ledere må umiddelbart innføre retningslinjer som krever manuell verifisering av alle eksterne kodebiblioteker som foreslås av AI, og implementere automatiserte skanneverktøy som sjekker kildekoden før den rulles ut i produksjon.

Les mer om saken hos Ars Technica.

Internasjonale Trender

Google gjør Gemini-agentene mer autonome og robuste

Google har lansert store oppdateringer for sine «Managed Agents» i Gemini-API-et. Utviklere får nå tilgang til funksjoner for bakgrunnsoppgaver (background tasks) og integrasjon med eksterne protokoller (som remote MCP). Dette gjør det enklere å bygge AI-agenter som kan kjøre komplekse prosesser over tid uten konstant overvåking eller manuell input.

Det siste året har trenden i AI-verdenen beveget seg fra enkle samtaleroboter (som bare svarer på spørsmål) til autonome agenter (som faktisk utfører handlinger). Utfordringen har vært å gjøre disse agentene pålitelige og sikre i produksjonsmiljøer. Googles nye oppdatering løser flere av disse flaskehalsene ved å la agentene jobbe i bakgrunnen og koble seg sikkert til eksterne datakilder og systemer.

For teknologiorganisasjoner og selskaper som ønsker å automatisere komplekse kundeservice- eller driftsprosesser, betyr dette at verktøykassen har blitt betydelig mer moden. Man kan nå designe agenter som ikke bare svarer på en e-post fra en kunde, men som faktisk jobber i bakgrunnen med å hente data fra ERP-systemet, koordinere med logistikkpartnere og oppdatere databasen – alt innenfor et sikkert og administrert rammeverk. Ledere bør se på dette som et startskudd for å oppgradere fra enkle «spør-og-svar»-AI-er til dype, integrerte arbeidsprosess-agenter som kan ta over tidkrevende manuelle oppgaver.

Les mer om saken hos Google AI Blog.