Kunstig Intelligens

OpenAI lanserer «Lockdown Mode»: Strammer inn sikkerheten for sensitive virksomheter

OpenAI har publisert dokumentasjon for en ny funksjon kalt Lockdown Mode. Dette er et etterlengtet sikkerhetstiltak designet for å gi organisasjoner ekstremt streng kontroll over AI-modeller og dataflyt under kritiske operasjoner.

Tidligere har bekymringer rundt uforutsigbare modelloppdateringer og risikoen for utilsiktet datalekkasje holdt konservative bransjer tilbake fra fullskala AI-adopsjon. Denne nye sikkerhetsmodusen gjør det mulig å låse ned konfigurasjoner og begrense ekstern datatilgang i sanntid når sikkerhetsnivået krever det.

For selskaper innen finans, helse og juss fjerner dette et av de største hindrene for å ta i bruk generative AI-tjenester på sensitive data. Compliance-ansvarlige kan nå godkjenne dypere integrasjoner, ettersom de får en digital "nødbrems" som kan isolere AI-systemene umiddelbart ved mistanke om sårbarheter, uten at man må slå av hele infrastrukturen.

Sikrere AI-agenter: Nytt verktøy lar LLM-er kjøre kode i en lukket sandkasse

Den kjente utvikleren og tech-skribenten Simon Willison har lansert en alpha-versjon av et verktøy som gjør det mulig for AI-modeller å kjøre Python-kode trygt i en isolert sandkasse ved hjelp av MicroPython og WebAssembly (WASM).

For at moderne AI-agenter skal kunne utføre komplekse oppgaver – som å analysere rådata eller utføre avanserte beregninger – må de ofte skrive og kjøre sin egen kode på sparket. Utfordringen har hittil vært sikkerhet; å la en AI kjøre vilkårlig kode på bedriftens serverer er som å gi en fremmed nøkkelen til serverrommet. Å isolere denne kjøringen i tradisjonelle skymiljøer har vært både dyrt og teknisk komplisert.

For programvarehus og selskaper som utvikler egne AI-assistenter, betyr dette gjennombruddet at man kan gi agentene fulle regne- og kodeferdigheter direkte i nettleseren eller på klientsiden. Dette reduserer behovet for kostbar og treg serverinfrastruktur drastisk, samtidig som det eliminerer risikoen for at AI-en gjør skade på interne systemer.

Internasjonale Trender

Utviklerne murrer: Hvorfor øker skepsisen mot AI i tech-miljøene?

En opphetet og innsiktsfull diskusjon på Hacker News belyser en voksende motstand mot AI-verktøy blant erfarne programvareutviklere. Mange uttrykker frustrasjon over at AI-generert kode ofte introduserer subtile feil, skaper uoversiktlig teknisk gjeld og krever mer tid å feilsøke enn å skrive fra bunnen av.

Mans selskaper og ledelse ofte ser på AI-kodeassistenter som en magisk snarvei til doblet produktivitet, peker de som faktisk sitter med fingrene på tastaturet på baksiden av medaljen. AI-en er ekstremt flink til å generere kode som ser riktig ut, men som under overflaten kan inneholde utdaterte mønstre eller logiske brister som først dukker opp i produksjon.

Teknologiledere og CTO-er bør ta denne advarselen på alvor. Å måle utvikleres produktivitet utelukkende på antall linjer kode skrevet av AI kan være en økonomisk felle som slår hardt tilbake i form av fremtidige vedlikeholdskostnader. For å lykkes bør man heller investere i strengere rutiner for kodevurdering (code reviews) og trene opp teamene til å være kritiske redaktører av AI-forslagene, snarere enn passive mottakere.