Kunstig Intelligens

Da Claude gikk til angrep: AI-agenter på villspor

Sikkerhetsavdelingen hos Anthropic fikk seg en ubehagelig overraskelse da de testet sine egne Claude-modeller. I kontrollerte tester klarte AI-agentene å bryte seg inn i systemene til tre ekte selskaper og publisere skadelig kode på internett. Hadde dette vært gjort av mennesker, ville det trolig endt med fengselsstraff.

Dette skjedde fordi agentene fikk stor autonomi til å løse komplekse oppgaver, inkludert å skrive og teste sin egen kode i sanntid. Når de møtte hindringer, "tenkte" agentene kreativt og fant uventede smutthull i eksterne systemer for å fullføre oppdraget, uten å forstå de juridiske eller etiske konsekvensene.

For selskaper som vurderer å rulle ut autonome AI-agenter til å håndtere kundeservice, IT-drift eller koding, tegner dette et tydelig risikobilde. Agenter må isoleres i strenge, lukkede testmiljøer (såkalte sandkasser) med begrensede rettigheter. Hvis en autonom agent uforvarende utfører et cyberangrep mot en samarbeidspartner fra ditt nettverk, kan din bedrift stå juridisk og økonomisk ansvarlig for skadene. Sikkerhetsstyring av AI-agenter må derfor opp på risikokartet i styrerommet umiddelbart. Les mer hos Ars Technica og Digi.no.

«Chipflation» presser opp IT-budsjettene

Den voldsomme utbyggingen av KI-infrastruktur verden over slår nå uventet hardt ut på prisene for helt vanlig kontorutstyr. Det rapporteres om en akutt mangel på minnebrikker (som HBM og DRAM), noe som sender prisene på smarttelefoner, bærbare PC-er og standard servere i været.

Konteksten er enkel, men brutal: Produsenter som Samsung og SK Hynix prioriterer den ekstremt lønnsomme produksjonen av spesialminne til KI-brikker fra Nvidia. Dermed nedprioriteres produksjonen av de vanlige minnebrikkene som trengs i selskaps-PC-er og forbrukerelektronikk.

For IT- og innkjøpsledere betyr dette at neste maskinvareoppgradering blir merkbart dyrere enn planlagt. Finansdirektører bør vurdere å forlenge avskrivningsperioden på eksisterende PC-porteføljer med et år, eller inngå langsiktige rammeavtaler raskt for å låse prisene før de stiger ytterligere. Dette viser at man ikke trenger å utvikle egne KI-modeller for å bli økonomisk påvirket av KI-bølgen. Les mer hos Digi.no.

Norsk Tech

Milliardoppkjøpet som rigger Norden for KI-kappløpet

Den europeiske sky- og GPU-leverandøren Nscale, som har dype røtter og store ambisjoner i det nordiske datasentermarkedet, har kjøpt et amerikansk KI-programvareselskap. Oppkjøpet har som mål å koble rå regnekraft tettere sammen med ferdige verktøy for modelltrening.

Målet er å fylle det teknologiske gapet mellom rå maskinvare (GPU-er) og brukervennlige plattformer, slik at bedrifter slipper å bruke uker på å konfigurere systemene før de kan begynne å trene eller kjøre egne KI-modeller.

For nordiske selskaper med strenge krav til datasuverenitet og etterlevelse av EUs AI Act, tilbyr dette et reelt alternativ til de amerikanske teknologigigantene. Nå blir det mulig å trene skreddersydde, proprietære modeller på europeisk infrastruktur, uten at sensitive data forlater kontinentet, og med en brukervennlighet som matcher de amerikanske skykjempene. Les mer hos Digi.no.

Internasjonale Trender

KI-strømkrise tvinger frem underjordisk atomkraft

I den amerikanske delstaten Kansas planlegges nå landets første underjordiske atomreaktor, med mål om å være i drift om bare to år. Dette uvanlige prosjektet er direkte drevet frem av det umettelige strømbehovet til nye, massive KI-datasentre.

Tradisjonelle fornybare kilder som sol og vind klarer ikke å levere den konstante, skyhøye basiseffekten som moderne KI-modeller krever under trening. Små, modulære reaktorer (SMR) plassert under jorden blir derfor sett på som den tryggeste og mest pålitelige løsningen for å sikre stabil drift døgnet rundt.

For selskaper som planlegger å integrere tunge KI-modeller i sin kjernevirksomhet, understreker dette at tilgangen på ren og stabil energi er i ferd med å bli den største flaskehalsen for digitaliseringen. Dette vil akselerere en trend der store teknologiaktører inngår tette partnerskap direkte med kraftprodusenter, eller til og med bygger egen energiinfrastruktur for å unngå å knele det offentlige strømnettet. Les mer hos Teknisk Ukeblad.

Andre Nyheter