Nyhetssammendrag — 00:05

Kunstig Intelligens

Rekursiv selvforbedring i KI-modeller lar vente på seg

Forestillingen om at kunstig intelligens raskt vil oppnå superintelligens ved å kontinuerlig forbedre seg selv, møter motbør. Nyere analyser tyder på at rekursiv selvforbedring – en prosess der en KI-modell genererer sine egne treningsdata eller optimaliserer sin egen kildekode for å skape en smartere etterfølger – er betydelig mer kompleks og begrenset enn tidligere antatt. Tekniske hindringer som feilakkumulering, der feil i syntetiske data forsterkes for hver generasjon, gjør at utviklingen fremover sannsynligvis vil kreve tett menneskelig styring.

[Kilde: Hacker News]