Kunstig Intelligens

«Kontekstbombe» setter kjepper i hjulene for AI-hackere

Sikkerhetseksperter har funnet en genial måte å bruke kunstig intelligens til å bekjempe ondsinnede AI-angrep. Ved å ta i bruk såkalt «kontekstbombing» – en form for defensiv prompt injection – klarer forsvarerne nå å lure ondsinnede AI-agenter til å slå seg selv av før de rekker å gjøre skade.

Bakteppet er at cyberkriminelle i økende grad bruker autonome AI-agenter til å tråle nettet, skanne etter sårbarheter og utføre automatiserte dataangrep i et tempo mennesker ikke kan matche. Tradisjonelle brannmurer og sikkerhetssystemer sliter med å stoppe disse intelligente agentene. Ved å plante skjulte instruksjoner i kildekoden eller på åpne nettsider, klarer sikkerhetsteamene nå å omprogrammere hackernes AI midt i angrepet, slik at den tror den har fullført oppdraget eller rett og slett må avslutte prosessen.

For selskaper som drifter store, åpne databaseportaler eller skybaserte tjenester, gir denne metoden et etterlengtet og proaktivt skjold. I stedet for å bruke enorme ressurser på å kontinuerlig analysere mistenkelig trafikk manuelt, kan IT-sikkerhetsavdelinger legge ut digitale «snubletråder» som nøytraliserer automatiserte spioner helt på egen hånd. Dette snur maktbalansen i cyberkrigen og gjør det betydelig dyrere og vanskeligere for hackere å lykkes med AI-drevne angrep.

OpenAI-avhopper planlegger AI-medisin-startup til 20 milliarder kroner

Den profilerte OpenAI-forskeren Miles Wang er i samtaler om å hente kapital til en ny oppstartbedrift innen AI-drevet medisinsk forskning. Det mest oppsiktsvekkende er prislappen: Wang og hans investorer sikter mot en verdsettelse på svimlende 2 milliarder dollar, eller rundt 20 milliarder norske kroner, før selskapet i det hele tatt har lansert et produkt.

Dette skyldes at bioteknologi og medisinutvikling har seilt opp som et av de mest brennhete områdene for praktisk anvendelse av generativ AI. Tradisjonell legemiddelforskning tar gjerne ti år og koster milliarder, med en ekstremt høy feilrate i laboratoriet. Ved å bruke avanserte AI-modeller til å simulere hvordan proteiner og molekyler oppfører seg, kan man barbere ned tidsbruken dramatisk og forutsi hvilke medisiner som faktisk vil fungere på mennesker.

For farmasøytiske selskaper og helseaktører markerer dette en ny tidsregning der de som tviholder på utelukkende fysiske laboratorietester risikerer å bli fullstendig utkonkurrert på tid til markedet. For investorer og teknologiledere viser dette at de virkelig store pengene i AI-universet nå flytter seg bort fra generelle tekst- og bildegeneratorer, og over til tunge, domenespesifikke løsninger som løser konkrete, fysiske problemer.

Internasjonale Trender

Agnost AI avslører hva kundene dine faktisk gjør med AI-agentene

Y Combinator-startupen Agnost AI har lansert et nytt analyseverktøy skreddersydd for å overvåke og forstå interaksjoner i tale- og chat-agenter. Verktøyet går inn i de rå samtaleloggene og trekker ut mønstre, slik at bedrifter kan fange opp når kunder blir frustrerte og for eksempel begynner å banne til chatboten – en adferd som kalles «rageprompting».

Etter det enorme rushet for å rulle ut AI-drevne kundesentre, har mange bedriftsledere oppdaget et sort hull: de aner egentlig ikke om kundene får den hjelpen de trenger, eller om de bare gir opp i frustrasjon. Siden samtalene foregår i ustrukturert fritekst, har det til nå vært nesten umulig å drive systematisk analyse uten å ansette en hær av mennesker til å lese logger. Agnost AI automatiserer denne prosessen og gjør ustrukturert dialog om til håndfaste forretningsdata.

For virksomheter som satser tungt på automatisert kundeservice eller AI-drevne salgskanaler, betyr dette slutten på kvalifisert gjetning. Ved å identifisere nøyaktig hvor i samtalen kunden mister tålmodigheten, kan produkt- og kundeserviceteam lynraskt justere AI-ens instruksjoner eller integrasjoner. Dette reduserer unødvendig kundeflukt og sikrer at investeringene i kundeservice-teknologi faktisk betaler seg i form av høyere lojalitet.

Andre Nyheter