Kunstig Intelligens

«HalluSquatting»: Hackere utnytter AI-ers manglende evne til å si «jeg vet ikke»

Sikkerhetsforskere har avdekket en ny og utspekulert sårbarhet kalt «HalluSquatting». Hackere utnytter det faktum at de ni mest populære språkmodellene (LLM-er) ofte dikter opp ikke-eksisterende programvarepakker når de hjelper utviklere med å skrive kode. Angriperne registrerer deretter disse oppdiktede pakkenavnene i offentlige registre og fyller dem med skadevare.

Bakgrunnen er de beryktede hallusinasjonene som oppstår fordi AI-modeller er trent til å produsere svar fremfor å innrømme blankt at de mangler informasjon. Når en utvikler ber om en løsning på et spesifikt problem, kan AI-en foreslå et fiktivt programvarebibliotek. Hackere overvåker eller forutser disse forespørslene, registrerer pakken på plattformer som npm eller PyPI, og plutselig laster intetanende utviklere ned infiserte filer.

For selskaper som utvikler egen programvare eller har egne IT-avdelinger, betyr dette en ny og skjerpet risiko i leverandørkjeden. Det holder ikke lenger bare å skanne koden som AI-en spytter ut; sikkerhetsansvarlige må nå etablere strenge rutiner for å verifisere at eksterne biblioteker faktisk eksisterer i en legitim form før de integreres i produksjon. Les saken hos Ars Technica.

Totalforbud mot AI-skrevne oppsummeringer i utviklerteam

Kenton Varda, en profilert skikkelse i teknologiverdenen, har innført et strengt forbud mot AI-skrevne endringsbeskrivelser (som PR- og commit-meldinger) i sitt team. Han opplevde at AI-verktøyene genererte oppsummeringer som var direkte ubrukelige, og som i verste fall maskerte hva koden faktisk gjorde under koderelaterte vurderinger.

Selv om generative verktøy er glimrende til å komprimere store mengder tekst, mangler de ofte evnen til å forstå den faktiske intensjonen bak en endring. Resultatet ble intetsigende tekstvegger som ramset opp åpenbare kodeendringer, mens den dypere forretningsmessige konteksten forsvant. Dette tvang menneskelige kontrollører til å bruke mer tid på å rydde opp i AI-ens misforståelser.

For teknologidirektører (CTO-er) og prosjektledere som jager økt produktivitet, er dette en sunn påminnelse om grensene for automasjon. AI kan øke farten på selve kodingen, men kommunikasjon og kontekst mellom mennesker krever fortsatt menneskelig presisjon. Overdreven bruk av AI til dokumentasjon kan ironisk nok øke den tekniske gjelden og bremse kritiske leveranser. Les saken hos Simon Willison.

Gemini ruller ut «Managed Agents» for bakgrunnsjobbing

Google har lansert en betydelig oppdatering av sine Managed Agents i Gemini API-et. Det mest spennende her er støtten for asynkrone bakgrunnsoppgaver og integrasjon med remote Model Context Protocol (MCP), noe som gjør det langt enklere å bygge pålitelige, autonome agenter for produksjonsmiljøer.

Hittil har de fleste AI-interaksjoner vært preget av umiddelbare spørsmål og svar. Med denne oppdateringen kan AI-agenter settes til å utføre komplekse oppgaver i bakgrunnen, hente data fra eksterne systemer over tid, og handle basert på endringer uten at en bruker må sitte og trykke på knapper kontinuerlig.

For driftsledere og selskaper som ønsker å automatisere komplekse arbeidsflyter, åpner dette døren for neste generasjons digitale assistenter. Tenk på roboter som ikke bare foreslår svar på kundeklager, men som selvstendig kan overvåke forsinkelser i logistikksystemet, sjekke lagerstatus via API-er og automatisk sende ut kompensasjon til kunden mens de ansatte fokuserer på mer komplekse saker. Les saken på Google AI Blog.

Internasjonale Trender

Googles deepfake-detektor avslørte politisk falskneri

Tidligere denne uken spredte det seg et bilde i sosiale medier som tilsynelatende viste den amerikanske senatoren Mitch McConnell i en sykehusseng, dekket av slanger og i dyp nød. Bildet skapte raskt uro, men ble raskt identifisert som en AI-generert forfalskning, i stor grad takket være Googles avanserte system for deepfake-deteksjon.

Dette markerer et viktig skritt fremover i kampen mot desinformasjon. Verktøyene for å skape overbevisende falske bilder har lenge vært mer tilgjengelige enn verktøyene for å avsløre dem. At teknologikjempene nå kan rulle ut automatiserte verktøy som raskt kan verifisere bilders autentisitet, er avgjørende for å opprettholde digital tillit.

For kommunikasjonsavdelinger og PR-byråer som vokker over merkevarens omdømme, viser denne hendelsen at trusselen fra syntetiske medier er reell og akutt. Samtidig gir det håp om at vi snart får standardiserte verktøy for å verifisere eget innhold. Virksomheter bør vurdere å implementere åpne standarder for innholdsautentisering (som C2PA) for å beskytte sine egne offisielle uttalelser mot manipulering. Les saken hos TechCrunch.

Andre Nyheter