09. July 2026
Tenk deg at utviklerne dine bruker ChatGPT eller Claude til å skrive kode kjappere. Kodesnutten fungerer utmerket, men KI-en foreslår å installere et eksternt programvarebibliotek som egentlig ikke eksisterer – en såkalt KI-hallusinasjon. Nå har sikkerhetsforskere avdekket at hackere aktivt utnytter denne svakheten gjennom en taktikk kalt «HalluSquatting». Ved å kartlegge hvilke pakkenavn de mest populære KI-verktøyene dikter opp, kan hackerne registrere disse eksakte navnene i offentlige databaser og fylle dem med skadevare.
Sårbarheten baserer seg på de store språkmodellenes manglende evne til å innrømme at de ikke har et svar. Når en utvikler ber om en løsning på et spesifikt teknisk problem, vil KI-en ofte fremstå som skråsikker og generere troverdige, men fiktive pakkenavn. Forskningen viser at ni av de mest brukte KI-verktøyene på markedet i dag lar seg manipulere til å foreslå disse falske pakkene. Dette gjør det skremmende enkelt for trusselaktører å spre botnett i stor skala, helt uten å måtte trenge inn i bedriftenes egne systemer først.
For teknologiledere og selskaper med egne utvikleravdelinger betyr ikke dette at dere må legge ned KI-verktøyene. I stedet kreves det en umiddelbar oppdatering av sikkerhetsrutinene. Utviklingsteam bør innføre strenge retningslinjer der ingen foreslåtte kodebiblioteker installeres blindt uten at man manuelt verifiserer pakkens historikk, popularitet og utgiver.
For IT-sikkerhetsansvarlige (CISO) bør dette være en vekker til å oppdatere bedriftens CI/CD-pipeline (produksjonslinjen for kode). Automatiserte skannere må konfigureres til å flagge nyregistrerte eller ukjente tredjepartspakker før de i det hele tatt slipper inn i bedriftens systemer. Ved å etablere en solid «human-in-the-loop»-prosess kan virksomheten fortsette å høste effektivitetsgevinstene fra KI, uten å åpne bakdøren for ondsinnede aktører. Les mer om sårbarheten hos Ars Technica.