26. September 2026
Vannmerking av store språkmodeller (LLMs) – en metode der man legger inn usynlige mønstre i teksten for å identifisere at den er maskingenerert – viser seg å ha uventede bivirkninger for AI-agenter. Når disse modellene settes til å løse oppgaver som krever logisk resonnering eller verktøykall (at modellen aktiverer eksterne programmer), fører de subtile endringene i ordvalg til redusert nøyaktighet og dårligere planleggingsevne. Denne opphavsskatten («provenance tax») betyr at sikkerhetstiltak for å spore AI-innhold direkte svekker de samme modellenes autonome funksjonalitet.
[Kilde: Hacker News]