08. July 2026
Sikkerhetsforskere har avdekket en ny og usett sårbarhet kalt "HalluSquatting", der hackere utnytter ni av de mest populære AI-verktøyene – inkludert ChatGPT og andre store språkmodeller (LLM) – til å bygge enorme nettverk av infiserte enheter (botnets). Når utviklere eller automatiserte systemer ber AI-en om kode eller programvarepakker som faktisk ikke eksisterer, foretrekker maskinen ofte å dikte opp (hallusinere) et troverdig navn fremfor å innrømme at den ikke vet. Hackere har nå begynt å overvåke disse hallusinasjonene systematisk, for så å registrere ekte skadelige programvarepakker med akkurat de navnene AI-en foreslår.
Dette handler om språkmodellenes iboende design: de er trent til å behage brukeren og fullføre tekstmønstre, ikke til å snakke sant. Tidligere har disse "hallusinasjonene" mest vært kilde til irritasjon eller morsomme feil. Nå som cyberkriminelle har satt dette i system, har imidlertid den uskyldige diktingen blitt et våpen. Ved å kapre (squatte) de fiktive pakkenavnene på plattformer som GitHub eller npm, ligger hackerne klare i buskene for neste utvikler som ukritisk kopierer AI-generert kode rett inn i bedriftens systemer.
For selskaper som i dag lar utviklingsteamene bruke AI-assistenter til raskere koding, betyr denne sårbarheten at man må revurdere sikkerhetskjeden. Tidsgevinsten ved at AI-en skriver koden, kan fort bli spist opp av katastrofale sikkerhetsbrudd dersom utviklerne installerer pakker foreslått av assistenten uten å verifisere dem. For å demme opp mot denne risikoen må tekniske ledere umiddelbart innføre strenge "zero-trust"-regler for alle eksterne avhengigheter som genereres av AI. Det innebærer i praksis en obligatorisk, manuell godkjenningsprosess for å bekrefte at alle foreslåtte kodebiblioteker faktisk er legitime før de tas i bruk.
Les mer hos Ars Technica.