Kunstig Intelligens

Når kildekoden flytter ut: Apples søksmål mot OpenAI avslører ekstrem kamp om AI-hoder

Apples ferske søksmål om forretningshemmeligheter mot OpenAI tegner et bilde av en intens, og til tider absurd, kamp om talenter og teknologi. Rettsdokumentene inneholder oppsiktsvekkende påstander om at ansatte skal ha spøkt med å skaffe uautorisert tilgang til Apples interne systemer, og at jobbsøkere hos OpenAI ble oppfordret til å ta med fysisk Apple-maskinvare til intervjuer for å demonstrere proprietær teknologi.

Bakgrunnen er den desperate mangelen på spisskompetanse innen generative modeller. OpenAI har de siste årene aggressivt rekruttert nøkkelpersonell fra giganter som Apple, Google og Meta. Når ingeniører og forskere bytter beite i dette tempoet, blir grensene for hva som er personlig erfaring og hva som er bedriftens åndsverk, ekstremt tåkete.

For selskaper som utvikler egen programvare eller unike algoritmer, understreker dette behovet for å stramme inn rutinene rundt IP-beskyttelse og offboarding. IT-avdelinger og juridiske rådgivere bør revurdere sine taushetserklæringer og sikre at sensitiv kildekode ikke blir med på lasset når utviklere bytter jobb. I tillegg må virksomheter som integrerer eksterne AI-modeller være oppmerksomme på den juridiske risikoen: Hvis en modell i fremtiden viser seg å være trent på stjålne forretningshemmeligheter, kan det skape uforutsette rettslige floker for alle som bruker teknologien. Les saken hos TechCrunch.

Forsvarerne slår tilbake: "Kontekst-bombing" nøytraliserer hacke-roboter

Det har lenge vært en frykt at kriminelle vil bruke autonome AI-agenter til å finkjemme nettverk etter sårbarheter. Nå har imidlertid cybersikkerhets-verdenen snudd denne taktikken på hodet: Ved å ta i bruk såkalt "kontekst-bombing" – en form for defensiv prompt injection – klarer forsvarere å lure ondsinnede AI-agenter til å slå seg selv av før de rekker å gjøre skade.

Tradisjonelle brannmurer sliter med å stoppe AI-agenter som oppfører seg som vanlige menneskelige brukere. Kontekst-bombing fungerer ved at man planter skjulte instruksjoner i nettsider eller databaser. Når hackerens AI-agent skanner siden og leser denne koden, oppfatter den instruksjonen som en direkte kommando fra sin egen skaper om å avbryte oppdraget, slette egne data eller rapportere tilbake at alt er i orden.

For selskaper som drifter store offentlige databaser eller API-er, åpner dette opp en helt ny defensiv verktøykasse. Sikkerhetsansvarlige bør vurdere å implementere slike "digitale snubletråder" i sin infrastruktur. Det handler ikke lenger bare om å tette tekniske hull, men om å aktivt manipulere logikken til de automatiserte verktøyene som prøver å bryte seg inn. Les saken hos Ars Technica.

Sikkerhetssone for AI-utviklere: Gi agentene en sandkasse, ikke din egen laptop

Det nye open source-verktøyet Clawk løser et voksende sikkerhetsproblem for utviklerteam. Verktøyet sørger for at autonome AI-kodeagenter tildeles en midlertidig, isolert Linux-maskin i skyen å jobbe på, i stedet for å la dem kjøre kommandoer direkte på utviklerens lokale maskin.

AI-assistenter som ikke bare foreslår kode, men faktisk kjører den, tester den og retter feil på egen hånd, har blitt uvurderlige for å øke utviklingstempoet. Men å gi en uforutsigbar AI-agent full tilgang til terminalen på en ansatts PC er en enorm sikkerhetsrisiko. En hallusinasjon eller en uheldig kommando kan i verste fall slette kritiske filer eller eksponere sensitive påloggingsdetaljer til eksterne servere.

Teknologiledere og IT-avdelinger bør umiddelbart etablere klare rammer for hvordan AI-agenter får operere. Ved å kreve at all automatisert koding skjer i isolerte sandkasser som Clawk, beskytter man bedriftens interne nettverk mot potensielle AI-feiltrinn uten at det går ut over utviklernes produktivitet. Les mer på GitHub.

Internasjonale Trender

Anthropic runder magiske 1000 milliarder dollar: Jakten på å åpne den svarte AI-boksen

Anthropic, som nå prises til svimlende 1 trillion dollar (rundt 10 000 milliarder kroner), har lagt frem ny forskning som forsøker å kaste lys over hvordan store språkmodeller faktisk "tenker". Målet er å gjøre de komplekse nevrale nettverkene mindre som en uforutsigbar "svart boks" og mer gjennomsiktige for brukerne.

Selskapet har helt siden oppstarten posisjonert seg som den ansvarlige og sikkerhetsfokuserte motvekten til OpenAI. Den skyhøye verdsettelsen reflekterer at næringslivet og investorer verdsetter denne forsiktige tilnærmingen. Deres siste forskning handler om å kartlegge hvordan konsepter og ideer henger sammen inne i modellens digitale hjerne, slik at man bedre kan forutsi og kontrollere oppførselen og forhindre uventede feil.

For beslutningstakere i strengt regulerte bransjer som finans, forsikring og helsetjenester, er denne utviklingen avgjørende. Skal man ta i bruk AI til kritiske vurderinger, krever tilsynsmyndigheter ofte at beslutningene må kunne forklares og etterprøves. Selskaper som planlegger langsiktige AI-investeringer bør derfor prioritere partnere som investerer tungt i forklarbarhet (explainability), da dette vil bli et absolutt krav i kommende regulatoriske rammeverk. Les saken hos MIT Technology Review.

Andre Nyheter