Kunstig Intelligens

"HalluSquatting": Slik utnytter hackere AI-ens største svakhet til å spre skadevare

Sikkerhetsforskere har avdekket at ondsinnede aktører nå aktivt utnytter AI-modellers tendens til å "hallusinere" – altså dikte opp fakta – til å infisere datasystemer. Ved å bruke ni av de mest populære AI-verktøyene lurer hackerne utviklere til å laste ned skadevare forkledd som reelle programvarebiblioteker. Denne nye og utspekulerte teknikken har fått navnet "HalluSquatting".

Det hele koker ned til at store språkmodeller (LLMer) har ekstremt vanskelig for å innrømme at de ikke vet svaret på noe. Når en programmerer ber en AI-assistent om hjelp til å løse et kodespørsmål, foreslår AI-en gjerne et programvarebibliotek som høres logisk ut, men som faktisk ikke eksisterer. Hackerne overvåker disse hyppige feilsvarene, registrerer de fiktive navnene på åpne plattformer som GitHub eller npm, og laster opp infisert kode under akkurat det navnet. Neste gang en utvikler følger AI-ens råd, henter de uvitende skadelig kode rett inn i bedriftens systemer.

For selskaper som har lagt sin elsk på AI-assistert koding for å øke effektiviteten, er dette en alvorlig vekker. Det betyr selvfølgelig ikke at dere skal kaste koding-verktøyene ut av vinduet, men det krever en umiddelbar skjerpelse av sikkerhetsrutinene. Utviklingsteam må innføre streng, automatisert verifisering av alle eksterne pakker før de integreres i produksjonsmiljøet, uansett hvor troverdig AI-en presenterte dem.

Sikkerhetsansvarlige (CISOs) bør oppdatere sine retningslinjer for leverandørkjeden (software supply chain). Å stole blindt på kodeforslag generert av en algoritme er i ferd med å bli en av de raskeste veiene inn for industrielle spioner og løsepengevirus.

Les mer hos Ars Technica

Google gir Gemini-agenter lengre tøyler for å løse komplekse bakgrunnsjobber

Google har lansert betydelige oppgraderinger for sine "Managed Agents" i Gemini API-et, som gjør det enklere for bedrifter å bygge autonome AI-agenter. Nyhetene inkluderer støtte for langvarige bakgrunnsoppgaver og dypere integrasjon med den nye standarden Remote Model Context Protocol (MCP), noe som gjør agentene langt mer stabile og handlingskraftige i reelle forretningsmiljøer.

Frem til nå har mange AI-agenter i praksis fungert som glorifiserte samtaleroboter – de svarer raskt på enkle kommandoer, men stopper opp hvis en oppgave krever flere steg eller tidkrevende prosessering. Ved å tillate asynkrone bakgrunnsjobber og standardiserte koblinger til eksterne datakilder, kan disse agentene nå arbeide uforstyrret i bakgrunnen, hente data på tvers av ulike systemer, og fullføre komplekse prosesser over tid uten kontinuerlig oppfølging.

Dette åpner døren på vidt gap for IT- og driftsledere som ønsker å automatisere tunge, manuelle prosesser. Tenk for eksempel på en virtuell saksbehandler som ikke bare tar imot en reklamasjon, men som i bakgrunnen kan verifisere ordren i ERP-systemet, sjekke lagerbeholdningen, opprette en returseddel og sende en bekreftelse til kunden – alt mens den ansatte som opprinnelig tok imot saken kan fokusere på andre oppgaver.

For teknologiledere betyr standardiseringen rundt MCP at man slipper å bygge og vedlikeholde skreddersydde integrasjoner for hver enkelt AI-funksjon. Det reduserer utviklingstiden drastisk og gjør det enklere å koble avansert kunstig intelligens direkte på bedriftens eksisterende databaseinfrastruktur uten å kompromittere sikkerheten.

Les mer hos Google AI Blog

Internasjonale Trender

AI-revolusjonen stanger hodet i sikringsskapet: Strømnettet er den ultimate flaskehalsen

Mens den offentlige debatten rundt AI ofte handler om avanserte algoritmer og mangelen på kraftige mikrochiper, er det nå en helt annen, og langt mer fysisk barriere som truer med å bremse utviklingen: strømnettet. En fersk analyse viser at den eksplosive utbyggingen av neste generasjons AI-modeller er i ferd med å kvele strømkapasiteten i flere vestlige land, noe som skaper enorme forsinkelser i etableringen av nye datasentre.

Det kreves ufattelige mengder energi for å trene og drifte de gigantiske modellene markedet etterspør. Mens teknologigiganter som Microsoft og Meta kan kjøpe opp milliarder av dollar i Nvidia-chiper i løpet av noen uker, tar det år – og i verste fall tiår – å oppgradere fysiske høyspentlinjer og sikre nok grønn kraft til å holde disse datasentrene i gang. Infrastrukturen i den virkelige verden klarer rett og slett ikke å holde følge med den digitale innovasjonstakten.

For selskaper som baserer sine fremtidige vekststrategier på tunge, skybaserte AI-tjenester, betyr dette at vi kan gå mot en periode med kapasitetsbegrensninger og økte skykostnader. Prisen på regnekraft vil sannsynligvis stige i takt med at energiprisene presses opp i områder med høy datasentertetthet.

Dette gir et klart konkurransefortrinn til de aktørene som klarer å utvikle mer energieffektive, spesialiserte modeller fremfor å basere seg på gigantiske, generelle modeller. I tillegg bør innkjøpsansvarlige begynne å stille strengere spørsmål til sine skyleverandører om deres langsiktige energisikkerhet og geografiske plassering av datasentrene for å sikre stabil drift fremover.

Les mer hos Works in Progress