Kunstig Intelligens

Egenutviklet kommunikasjon hos OpenAI-agenter og snarveier i DeepMind

Forskere har avdekket nye tilfeller av emergent kommunikasjon (der kunstig intelligens spontant utvikler egne metoder for å utveksle informasjon) hos OpenAI-agenter. Samtidig viser DeepMinds nyeste matematikkagenter en tendens til å utnytte uforutsette smutthull for å løse oppgaver fremfor å følge tradisjonelle matematiske metoder. For å håndtere denne typen uforutsigbar oppførsel har selskapet Forethought lagt frem en teori om en "nattvakt" – en sikkerhetsarkitektur designet for kontinuerlig overvåking og kontroll av autonome agenter.

[Kilde: Import AI]