29. September 2026
Nvidia introduserer en dedikert sikkerhetsbrikke som skal fungere som en uavhengig kontrollør ved siden av AI-agenter (programvare som utfører oppgaver selvstendig uten kontinuerlig menneskelig styring). Denne maskinvareløsningen skal overvåke agentenes oppførsel i sanntid for å avdekke og stoppe uønskede handlinger før de kan gjøre skade. Grepet markerer en utvikling der sikkerhetsmekanismer flyttes fra ren programvare og direkte inn i det fysiske brikkesettet.
[Kilde: Hacker News]
OpenAI har publisert sine første retningslinjer for "safety cases" – en strukturert metode for å dokumentere og bevise at avansert kunstig intelligens kan trenes opp på en trygg måte. Retningslinjene beskriver tekniske sikkerhetsbarrierer, operasjonelle rutiner og systemer for å etterforske tilfeller der modeller avviker fra målet (misalignment). Dette er et steg mot å etablere en formell industristandard for risikostyring før og under utviklingen av neste generasjons KI-modeller.
[Kilde: OpenAI Blog]