Kunstig Intelligens

OpenAI ruller ut «Lockdown Mode»: En digital nødbrems for bedriftens AI-data

OpenAI har startet den gradvise utrullingen av en ny sikkerhetsfunksjon kalt «Lockdown Mode». Funksjonen, som først ble hinte om i februar, blir nå tilgjengelig for et bredt spekter av brukere, inkludert de som benytter ChatGPT Business-kontoer. Dette er i praksis en digital nødbrems designet for å beskytte brukerkontoer mot eksterne trusler og hindre at sensitiv informasjon lekker ut.

Bakgrunnen for oppdateringen ligger i hvordan vi i dag bruker AI-agenter til å analysere og behandle eksterne data. Når en ansatt ber ChatGPT om å oppsummere en nettside, lese en e-post eller analysere et dokument, risikerer man å støte på skjulte, ondsinnede instruksjoner (såkalt «prompt injection»). Disse instruksjonene kan lure AI-en til å sende sensitiv bedriftsinformasjon ut av systemet til uvedkommende. Lockdown Mode er utviklet for å blokkere denne typen sårbarheter ved å låse ned kritiske funksjoner når systemet oppdager mistenkelig aktivitet.

For prosjektledere og beslutningstakere som styrer sensitive prosesser – enten det gjelder fusjonsforhandlinger, produktutvikling eller HR-evalueringer – gir dette en etterlengtet trygghet. Det betyr at man kan tillate mer offensiv bruk av generativ AI i hverdagen, vel vitende om at det finnes en innebygd forsvarsmekanisme som automatisk slår inn dersom verktøyet utsettes for manipulasjonsforsøk fra eksterne kilder.

Særlig for mellomstore bedrifter som ikke har egne, tungt sikrede IT-miljøer, vil dette fungere som en lavterskel forsikring. I stedet for å innføre strenge totalforbud mot eksterne AI-verktøy, kan IT-ansvarlige nå lene seg på at plattformen selv har mekanismer for å isolere trusler før sensitive data forsvinner ut av huset. Du kan lese mer om de tekniske sidene ved sikkerhetsfunksjonen hos Simon Willison.