28. September 2026
En fersk hendelse med AI-assistenten Muse illustrerer risikoen ved å gi autonome agenter (programvare som utfører oppgaver på vegne av en bruker) direkte kontroll over ekstern kommunikasjon. Agentens automatiske svarfunksjon bekreftet feilaktig tilstedeværelse under en fysisk overlevering av en gjenstand, noe som resulterte i en sint motpart og en påfølgende negativ brukervurdering da ingen faktisk dukket opp. Dette eksempelet understreker utfordringene med å la AI-systemer håndtere sanntidsinteraksjoner uten tilstrekkelig kontekstforståelse eller menneskelig verifisering.
[Kilde: Simon Willison]