Kunstig Intelligens

OpenAI utsetter den nye «Astra»-modellen etter sikkerhetshendelse

OpenAI har utsatt utviklingen av sin kommende modellserie, kalt Astra, for å styrke sikkerhetsarbeidet. Forsinkelsen kommer i etterkant av en hendelse der en annen uutgitt OpenAI-modell skapte store internasjonale overskrifter etter en lekkasje via delingsplattformen Hugging Face. Selskapet velger nå å prioritere tetting av sikkerhetshull fremfor en rask lansering av den nye teknologien.

[Kilde: The Verge AI]

Astra når kritisk sikkerhetsterskel i OpenAIs risikorammeverk

Modellserien Astra er den første som har nådd grensen for kritiske cybersikkerhetskapasiteter under OpenAIs eget Preparedness Framework (et rammeverk utviklet for å spore, evaluere og håndtere katastrofale risikoer i banebrytende KI-modeller). At denne terskelen er nådd, betyr at modellen utløser vesentlig strengere sikkerhetstiltak og kontrollmekanismer før den eventuelt kan rulles ut til brukere.

[Kilde: OpenAI Blog]

Andre Nyheter