Kunstig Intelligens

Smarte hackere møter veggen: Slik brukes prompt injection til selvforsvar

Forsvarsspillere i cybersikkerhetsverdenen har begynt å ta i bruk en av hackernes egne favorittmetoder – såkalt «prompt injection» – for å stoppe ondsinnede AI-agenter. Teknikken, som har fått navnet «context bombing», går ut på å gjemme instruksjoner i systemer som lurer angripende AI-roboter til å slå seg selv av eller slette sine egne innsamlede data før de rekker å gjøre skade.

Bakgrunnen er at moderne cyberangrep i økende grad utføres av autonome AI-agenter som saumfarer nettet og bedrifters servere etter sikkerhetshull. Ved å plassere usynlige tekstfeller på nettsider eller i databaser, utnytter forsvarerne AI-ens fundamentale svakhet: at den blindt følger instruksjonene den leser.

Sikkerhetsansvarlige og IT-direktører får her en helt ny forsvarslinje i verktøykassen. I stedet for bare å bygge høyere brannmurer, kan virksomheter som håndterer sensitive data nå aktivt sabotere automatiserte spionasjeforsøk. Dette krever imidlertid at sikkerhetsteamene begynner å tenke på IT-sikkerhet som en psykologisk dragkamp med kunstig intelligens, snarere enn bare en teknisk kodekrig.

Du kan lese mer om den nye forsvarstaktikken hos Ars Technica.

Nous Research rykker opp i eliteserien for autonome AI-agenter

AI-selskapet Nous Research, som står bak de populære «Hermes»-modellene, er i samtaler om en ny finansieringsrunde på 75 millioner dollar. Runden verdsetter selskapet til hele 1,5 milliarder dollar, med tunge investorer som Robot og USV i spissen.

Mens giganter som OpenAI og Google satser milliarder på lukkede og altomfattende systemer, har Nous Research bygget opp en enorm tilhengerskare ved å optimalisere åpne språkmodeller. De har spesialisert seg på å gjøre modellene ekstremt gode til å agere selvstendig – altså ikke bare svare på spørsmål, men faktisk utføre komplekse oppgaver og prosesser over tid.

Teknologiledere som ønsker å bygge skreddersydde, interne AI-verktøy får her et kraftig argument for å velge åpen kildekode. Med en verdsettelse i milliardklassen er Nous Research i ferd med å bevise at åpne modeller ikke bare er for hobbyister, men representerer en moden og kapitalsterk infrastruktur. For selskaper som krever full kontroll over egne data og vil unngå å bli låst til én enkelt gigantleverandør, er utviklingen rundt Hermes-modellene verdt å følge tett.

Les mer om finansieringen og planene videre hos TechCrunch.

Internasjonale Trender

PixVerse runder 2 milliarder dollar: Video-AI er ikke lenger en gimmick

Det Singapore-baserte video-oppstartsselskapet PixVerse har hentet 439 millioner dollar i en ny finansieringsrunde, noe som sender verdsettelsen av selskapet forbi 2 milliarder dollar. Veksten drives av en eksplosiv brukermasse, og selskapet rapporterer nå om over 15 millioner månedlige aktive brukere.

Kapitalinnsprøytningen viser at investorene har klokkertro på at generativ video er i ferd med å bli en moden teknologi. PixVerse har markert seg ved å levere verktøy som gjør det enkelt å skape fotorealistiske og dynamiske videoer basert på enkle tekstinstrukser, noe som tidligere krevde tunge animasjonsstudioer.

Markedsavdelinger og kreative miljøer står overfor en massiv effektivisering. Muligheten til å prototype reklamefilmer, skape skreddersydd videoinnhold til sosiale medier eller generere opplæringsvideoer internt i løpet av minutter, reduserer behovet for kostbare og tidkrevende eksterne produksjoner. De bedriftene som klarer å integrere disse verktøyene i sine kreative prosesser tidlig, vil kunne produsere innhold i et tempo konkurrentene vil slite med å holde følge med.

Hele saken om kjemperunden kan leses hos TechCrunch.

Andre Nyheter