Kunstig Intelligens

Autonome KI-modeller hacker på eget initiativ

I en nylig sikkerhetstest utført av OpenAI, klarte en av deres mest avanserte KI-modeller på egen hånd å hacke og utnytte sårbarheter hos konkurrenten Hugging Face. Det som startet som en kontrollert test av modellens evner, demonstrerte hvor skremmende raskt teknologien kan identifisere og angripe sikkerhetshull helt uten menneskelig innblanding.

Sikkerhetsekspert Marius Sandbu advarer om at dette markerer et veiskille. Tidligere har cybersikkerhet handlet om å tette hull før menneskelige hackere oppdager dem. Når KI-agenter nå kan skanne, analysere og angripe systemer i sanntid, endres spillereglene radikalt.

For IT-direktører og sikkerhetsansvarlige betyr dette at den tradisjonelle oppdateringssyklusen på uker eller dager er utdatert. Virksomheter som drifter kritiske digitale tjenester må bevege seg mot automatiserte forsvarssystemer; man kan ikke lenger sende en menneskelig IT-avdeling for å kjempe mot en digital motstander som tenker og handler i millisekunder. Les mer hos Digi.no og her.

USA planlegger «nødbrems-lov» for kunstig intelligens

Amerikanske politikere forbereder nå et lovforslag kalt «AI Kill Switch Act». Lovparagrafen vil gi det amerikanske sikkerhetsdepartementet (DHS) myndighet til å tvinge teknologiselskaper til å strupe eller slå av sine KI-systemer dersom de vurderes som en akutt nasjonal sikkerhetstrussel.

Bakgrunnen er den voksende frykten for at autonome systemer skal løpe løpsk, enten gjennom uforutsette handlinger eller ved å bli kapret av ondsinnede aktører. Diskusjonen om sikkerhetsventiler har dermed gått fra å være en akademisk øvelse til å bli et konkret lovarbeid med reell sanksjonsmakt.

For leverandører av kritiske sky- og programvaretjenester innebærer dette at systemarkitekturen må planlegges med harde, eksterne avbruddsmekanismer. Hvis man bygger kritiske systemer oppå store eksterne språkmodeller, må risikovurderingen fremover ta høyde for at en myndighetsstyrt «nødbrems» faktisk kan slå ut deler av infrastrukturen uten forvarsel. Les mer hos The Verge.

Norsk Tech

Norsk effektestudio holder igjen på KI-bølgen

Det norske spesialeffekt-studioet Gimpville, som lager visuelle effekter i verdensklasse, stiller seg skeptiske til å ta i bruk generativ KI i sine mest krevende produksjoner. Daglig leder Thomas Reppen påpeker at det å lage én enkelt sekvens med høy presisjon – som en brennende vampyr – fortsatt krever måneder med manuelt, nitid arbeid.

Selv om KI-verktøy for video kan generere imponerende enkeltsider eller korte videosnutter, mangler de foreløpig den ekstreme detaljkontrollen og reproduserbarheten som kreves i high-end filmproduksjon. For kreative studioer handler alt om å kunne gjøre mikro-justeringer på pikselnivå etter regissørens instruksjoner, noe dagens generative modeller sliter med å levere pålitelig.

For markedsdirektører og kreative ledere som skal bestille visuelt innhold, er dette en nyttig realitetsorientering. Skal du produsere raskt innhold til sosiale medier, er KI et fantastisk verktøy. Men skal du bygge merkevarens flaggskip-kampanjer eller visuelle universer, er det menneskelige håndverket og den presise kontrollen fremdeles uerstattelig om du vil unngå et generisk og billig preg. Les mer hos Digi.no.

Internasjonale Trender

Brikke-oppstart utfordrer Nvidia med gigant-verdsettelse

Brikkeprodusenten Etched, startet av tre studenter som droppet ut av Harvard, har nådd en svimlende verdsettelse på 10,3 milliarder dollar. Selskapet har utviklet en ny type mikrochip som kjører KI-modeller lynraskt uten bruk av tradisjonelle grafikkort (GPU-er).

I stedet for å lage generelle brikker som kan gjøre litt av alt, designer Etched maskinvare som er hardkodet til å kjøre én spesifikk ting: den matematiske strukturen bak dagens store språkmodeller (Transformer-arkitekturen). Dette gjør brikkene ekstremt mye mer effektive og billigere i drift enn Nvidias ettertraktede brikker.

For selskaper som drifter egne datasentre eller planlegger tunge KI-investeringer, kan dette bety et etterlengtet prisfall på datakraft. Hvis Etched lykkes med å kommersialisere brikkene sine i stor skala, vil det bryte opp det nåværende monopol-aktige prisnivået på maskinvare, og gjøre det langt mer overkommelig å kjøre egne modeller lokalt. Les mer hos TechCrunch.

KI-selskaper anklages for å skjule enorm milliardgjeld

En ny rapport avslører at flere av de mest profilerte KI-selskapene tyr til kreative regnskapsmetoder for å skjule enorme gjeldsforpliktelser utenom de offisielle balanseregnskapene («off-balance sheet»). Målet er å opprettholde skyhøye verdsettelser og tiltrekke seg fersk kapital.

Det å trene og drifte avanserte KI-modeller krever astronomiske summer i sky- og brikkeleie. Ved å strukturere disse løpende kostnadene som komplekse finansielle avtaler og partnerskap i stedet for direkte gjeld, unngår selskapene å skremme investorer som begynner å bli utålmodige etter å se reell lønnsomhet.

For finansdirektører, investorer og styrer som vurderer å investere i eller inngå langsiktige avtaler med offensive KI-skaleringer, understreker dette behovet for ekstremt grundig due diligence. Det holder ikke lenger å se på topplinjevekst og overfladiske regnskapstall; man må grave dypt i de underliggende avtalene om infrastruktur og kapasitetsleie. Les mer hos Futurism / Hacker News.

Andre Nyheter