Kunstig Intelligens

Smartere KI-modeller som forsvar mot AI-trusler

OpenAIs sjefsforsker, Jakub Pachocki, argumenterer for at den raske utviklingen av stadig smartere AI-modeller er helt nødvendig for å kunne bygge tilstrekkelige forsvarssystemer. Han peker på at kraftig og samordnet (aligned – systemer utviklet for å operere i tråd med menneskelige verdier og intensjoner) kunstig intelligens trengs for å sikre kritisk infrastruktur og beskytte mot trusler fra andre AI-systemer. Dette skifter argumentasjonen fra at modellsikkerhet krever redusert tempo, til at raskere teknologiutvikling faktisk er en forutsetning for sikkerhet. [Kilde: Simon Willison]