04. October 2026
KI-selskapet Anthropic har gjennomført samtaler med religiøse ledere fra ulike trosretninger for å diskutere moralske retningslinjer for sine språkmodeller. Formålet er å bruke denne innsikten til å trene opp Claude-modellene gjennom konstitusjonell KI – en metode der modellen justeres etter et eksplisitt sett med regler og verdier framfor kun å lære fra tilfeldige data på internett. Dette representerer et utradisjonelt forsøk på å løse utfordringer knyttet til kulturell skjevhet og etisk adferd i KI-systemer.
[Kilde: Hacker News]
En tidligere ansatt i OpenAIs sikkerhetsteam retter sterk kritikk mot selskapets bedriftskultur etter å ha valgt å si opp sin stilling. Kritikken går ut på at OpenAI systematisk prioriterer rask kommersialisering og lansering av nye produkter framfor kritisk sikkerhetsarbeid og robust risikoanalyse. Avgangen føyer seg inn i en lengre rekke av oppsigelser blant nøkkelpersonell innen KI-sikkerhet hos selskapet det siste året.
[Kilde: Hacker News]