Kunstig Intelligens

Angrep som forsvar: Nå brukes «prompt injection» til å stoppe ondsinnede AI-agenter

Datasikkerhetsmiljøet har funnet en uventet alliert i kampen mot uønskede roboter: nemlig sårbarhetene i robotene selv. Sikkerhetsforskere har begynt å ta i bruk såkalt «context bombing», en teknikk der de bevisst planter usynlige instruksjoner – eller prompt injections – på nettsider for å vippe invaderende AI-agenter av pinnen.

Bakgrunnen er den eksplosive veksten i automatiserte agenter som skraper nettet for data, enten det er for å trene opp nye modeller eller for å overvåke konkurrenter. Ved å legge til rette spesifikke instruksjoner som kun oppfattes av AI-modeller (for eksempel skjult i hvit tekst eller i metadataene på en side), kan forsvarerne lure angriperens AI til å tro at den har fullført oppgaven, eller tvinge den til å slette sine egne innsamlede data før den rekker å rapportere tilbake.

For e-handelsselskaper og mediehus som forsøker å beskytte åndsverk, prislister og sensitive kundedata mot uautorisert skraping, gir dette et helt nytt og proaktivt verktøysett. I stedet for å kjempe en evig og passiv kamp med å blokkere IP-adresser, kan man nå legge ut digitale snubletråder som nøytraliserer de automatiske angriperne på direkten. Les mer om den nye forsvarsteknikken hos Ars Technica.

OpenAI Codex tar personvern på alvor: Begynner å kryptere forespørsler under kjøring

OpenAI har tatt et etterlengtet skritt for å tette en av de største bekymringene ved bruk av generative AI-modeller i næringslivet: lekkasje av konfidensiell informasjon. Selskapet har begynt å rulle ut en løsning for Codex der ledetekster (prompts) krypteres, slik at selve analysen og kodingen (inference) kjøres på kryptert materiale fremfor ren tekst.

Dette kommer som et direkte svar på den økende skepsisen fra selskaper som håndterer forretningshemmeligheter. Frem til nå har mange ledere lagt ned strenge forbud mot å bruke AI-verktøy til koding eller dokumentanalyse, rett og slett fordi man frykter at sensitive data skal bli liggende igjen på eksterne servere eller bli brukt til fremtidig modelltrening.

For finansinstitusjoner, advokatkontorer og helseforetak som håndterer strengt regulert data, reduserer denne endringen risikoen ved AI-adopsjon betraktelig. Når dataene krypteres før de i det hele tatt prosesseres av modellen, kan utviklere og analytikere trygt ta i bruk avansert kodeassistanse uten at IT-sikkerhetssjefen får magesår eller at man risikerer brudd på GDPR. Følg diskusjonen og detaljene på GitHub.

Internasjonale Trender

DeepMind-sjefen krever globalt AI-tilsyn – og vil at USA skal sitte i førersetet

Demis Hassabis, administrerende direktør og medgründer av Google DeepMind, går nå hardt ut og krever opprettelsen av et globalt tilsynsorgan for kunstig intelligens. Han mener organet må utstyres med reell makt til å «tråkke på bremsen» dersom de mest avanserte modellene (såkalt frontier AI) begynner å utgjøre en reell fare for samfunnssikkerheten.

Hassabis argumenterer for at USA bør lede an i dette arbeidet. Begrunnelsen er enkel: Det er her de absolutt ledende AI-laboratoriene befinner seg, og landet har dermed et særskilt ansvar for å sette rammene før teknologien potensielt løper løpsk. Dette føyer seg inn i en lengre rekke utspill fra AI-topper som etterlyser statlig regulering, men det er sjeldent kravene er så konkrete når det gjelder sanksjonsmuligheter.

For teknologibedrifter og investorer som planlegger langsiktige AI-satsinger, betyr dette at vi må forberede oss på et betydelig strengere regulatorisk klima i årene som kommer. Kravene til compliance, uavhengig sikkerhetstesting og dokumentasjon før lansering av nye AI-tjenester vil sannsynligvis skyte i været. Å bygge robuste rutiner for ansvarlig AI ("Responsible AI") er ikke lenger bare god etikk – det er i ferd med å bli en forutsetning for å beholde lisensen til å drive virksomhet. Se hele saken hos The Verge.

Uber gir gass med AI-laboratorium: Slik skal de vinne kampen om robotaxiene

I et ferskt intervju letter Ubers produktsjef, Sachin Kansal, på sløret om selskapets fremtidsstrategi. Gjennom sin nye datasatsing «AV Labs» og dyp integrasjon av AI, posisjonerer transportselskapet seg for en fremtid der sjåføren er byttet ut med algoritmer, uten at Uber nødvendigvis skal bygge selve bilene selv.

Forholdet til autonome aktører som Waymo er komplekst. Uber ønsker ikke å være alt for alle, men vil være den ubestridte plattformen som kobler sammen passasjerer, roboter og tradisjonelle biler. Ved å bruke AI til å forutsi etterspørsel, optimalisere ruter og gjøre brukeropplevelsen sømløs, håper de å gjøre seg uunnværlige for maskinvareprodusentene.

For logistikk- og transportselskaper viser Ubers strategi at vinneren i AI-alderen ikke nødvendigvis er den som utvikler den dyreste maskinvaren, men den som kontrollerer kundegrensesnittet og de enorme datamengdene som genereres underveis. Ved å eie plattformen sikrer de relevans uansett hvem som vinner det fysiske robotaxi-kappløpet. Les hele intervjuet på TechCrunch.

Andre Nyheter