Kunstig Intelligens

Hackernes egne AI-verktøy lures trill rundt med "kontekstbomber"

Sikkerhetseksperter har begynt å bruke hackernes egne våpen mot dem. Ved å ta i bruk såkalt "context bombing" – en form for prompt injection – kan forsvarere nå lure ondsinnede AI-agenter til å avslutte angrepene sine før de i det hele tatt har rukket å gjøre skade.

Tidligere har vi stort sett snakket om prompt injection som en sårbarhet i våre egne systemer. Men nå snus bordet. Når hackere sender ut automatiserte AI-agenter for å skanne og kartlegge bedrifters nettverk, kan forsvarerne legge inn spesialdesignede, usynlige instruksjoner i nettsidetekst eller metadata. Når hackernes AI-agent leser denne informasjonen, tolker den det som en direkte ordre fra sin egen "sjef" om å slette innsamlede data, stoppe prosessen eller rett og slett koble seg av.

For IT-sikkerhetsansvarlige og teknologidirektører representerer dette en helt ny og ekstremt billig forsvarslinje. Samtidig gir det en viktig lekse: Hvis din virksomhet utvikler eller distribuerer autonome AI-agenter for å håndtere kundeservice eller saksbehandling, må dere sikre at disse agentene ikke blindt stoler på eksterne data de leser på nettet. En konkurrent eller en misfornøyd kunde kan i teorien bruke nøyaktig samme metode for å manipulere deres interne systemer.

Les saken hos Ars Technica

DoorDash rydder opp i datakaoset med en "jury" av språkmodeller

Hvis du noen gang har klødd deg i hodet over hvordan du skal strukturere tusenvis av uorganiserte produktark eller kundemeldinger, bør du merke deg hva matleveringsgiganten DoorDash gjør nå. De har utviklet et system der flere ulike språkmodeller samarbeider som en "jury" for å automatisk berike og kvalitetssikre produktdata fra restaurantmenyer.

Å hente ut nøyaktig informasjon om allergener, ingredienser og diettmerking fra millioner av unike menyer – som ofte bare består av uskarpe mobilbilder eller uformaterte PDF-filer – er en enorm flaskehals. DoorDash løste dette ved å la flere spesialiserte AI-modeller analysere den samme menyen og deretter "diskutere" seg frem til konsensus. Hvis modellene er uenige, blir saken automatisk flagget for en rask menneskelig sjekk.

For selskaper som håndterer store mengder ustrukturerte produktdata, enten det er innen e-handel, logistikk eller eiendomsforvaltning, viser dette at man ikke lenger trenger å ansette horder av folk til manuell tasting. Ved å sette opp et system med flere modeller som kontrollerer hverandre, oppnår man en presisjon som gjør det mulig å automatisere kritiske dataprosesser nesten fullstendig.

Les saken hos DoorDash

Internasjonale Trender

Erfaringene fra Microsofts AI-utrulling: Hvordan autonome utviklere endrer spillereglene

Det har gått i overkant av et halvår siden Microsoft rullet ut autonome utviklerverktøy som Claude Code og GitHub Copilot CLI. En fersk studie har nå kartlagt hvordan disse verktøyene faktisk har påvirket arbeidshverdagen og produktiviteten i utviklingsavdelinger.

Tiden der AI bare foreslo neste linje med kode er offisielt over. De nye verktøyene fungerer som selvstendige agenter som kan ta imot en feilrapport, finne feilen i kodebasen, rette den, teste løsningen og sende inn en ferdig oppdatering. Studien viser at mens utviklingstempoet har skutt i været, har det også oppstått et uventet problem: Utviklerne bruker nå betydelig mer tid på å lese, forstå og verifisere kode som AI-en har skrevet, fremfor å skrive den selv.

For teknologiledere og sjefer for programvareavdelinger betyr dette at kompetansekravene må tenkes nytt om. Behovet for rendyrkede kodere som bare skriver syntaks faller dramatisk. Fremover vil de mest verdifulle utviklerne være de som fungerer som arkitekter og systemrevisorer – folk som evner å se det store bildet og sikre at AI-generert kode faktisk er sikker og stabil over tid.

Les studien på arXiv

Andre Nyheter