Nyhetssammendrag — 16:05

Kunstig Intelligens

Sikkerhetsalarm: Hackere utnytter KIs største svakhet til å spre skadevare

Sikkerhetsforskere har avdekket at ni av de mest populære kunstig intelligens-verktøyene på markedet kan manipuleres av hackere til å infisere datasystemer og bygge enorme, ondsinnede nettverk (botnets). Metoden, som har fått navnet «HalluSquatting», utnytter språkmodellenes tendens til å «hallusinere» – altså dikte opp troverdige løgner når de ikke vet svaret på et spørsmål.

Se for deg at en av dine programvareutviklere ber en KI-assistent om hjelp til å løse et teknisk problem. Fordi modellen ikke har det nøyaktige svaret, dikter den opp et ikke-eksisterende programvarebibliotek som høres helt offisielt ut. Hackere overvåker disse systematiske hallusinasjonene, registrerer de fiktive pakkenavnene i offentlige kildekodearkiv (som npm eller PyPI), og fyller dem med skadelig kode. Når utvikleren din deretter laster ned og installerer den anbefalte pakken, blir bedriftens systemer infisert.

Virksomheter med egen programvareutvikling eller IT-avdelinger må umiddelbart skjerpe kontrollrutinene. CTO-er og IT-sikkerhetsansvarlige bør innføre obligatorisk og automatisert skanning av alle eksterne kildekodepakker før de tas i bruk i bedriftens systemer. Saken understreker også risikoen ved «skygge-IT», der ansatte uten teknisk bakgrunn bruker KI til å skrive skript for å automatisere egne oppgaver uten sikkerhetsmessig godkjenning. Les mer hos Ars Technica.

Andre Nyheter

• Google gjør Gemini-agenter mer selvstendige: Google har lansert nye funksjoner i sitt Gemini-utviklerverktøy som gjør det enklere å bygge autonome agenter. Med støtte for bakgrunnsoppgaver og dypere integrasjon mot eksterne datakilder (via Model Context Protocol), kan disse KI-agentene nå utføre komplekse prosesser i bakgrunnen uten konstant menneskelig overvåking. For selskaper som ønsker å automatisere kundeservice, dokumentbehandling eller dataanalyse, betyr dette mer pålitelig drift og færre manuelle steg. [Kilde: Google]