Nyhetssammendrag — 11:05

Kunstig Intelligens

Zero-Mem: Slutt på dyre «hukommelsestokener» for AI-agenter

Det nye rammeverket Zero-Mem introduserer en metode for å gi AI-agenter (programvare som utfører oppgaver autonomt over tid) hukommelse uten at det spiser av token-budsjettet. Tradisjonelt må historikk og kontekst sendes med i hver eneste forespørsel til store språkmodeller, noe som gjør lange prosesser ekstremt kostbare og trege etter hvert som samtalen vokser. Ved å optimalisere hvordan minne lagres og hentes utenfor selve prompt-konteksten, løser dette et av de største kostnadshinderne for å rulle ut autonome agenter i storskala produksjon. Les mer hos arXiv.