Kunstig Intelligens

OpenAI introduserer forbedret "prompt caching" for GPT-6

OpenAI har oppdatert sin kommende GPT-6-modell med forbedret "prompt caching" – en metode som lagrer tidligere prosesserte tekstinstruksjoner i minnet slik at de kan gjenbrukes uten å måtte tolkes på nytt. Oppdateringen gir høyere treffrate i hurtigbufferen, nye diagnoseverktøy og mer eksplisitt kontroll over hvor gjenbruken skal skje. For bedrifter betyr dette redusert ventetid (latency) og lavere API-kostnader ved store eller repeterende forespørsler. [Kilde: OpenAI Blog]

Qualcomms nye mobilbrikker kjører store KI-modeller lokalt

Brikkeprodusenten Qualcomm har lansert to nye prosessorer for mobiltelefoner der lokal kjøring av kunstig intelligens står i sentrum. Flaggskipbrikken er i stand til å kjøre en såkalt Mixture-of-Experts-modell (en maskinlæringsarkitektur som deler oppgaver mellom mindre, spesialiserte undermodeller) på opptil 30 milliarder parametere direkte på enheten. Dette reduserer behovet for å sende sensitive data til skyen for prosessering. [Kilde: TechCrunch AI]

Rabbit frigjør KI-agenten sin fra maskinvaren

Selskapet Rabbit, kjent for den fysiske dingsen R1, ruller nå ut sin KI-agent som en frittstående programvaretjeneste. Det nye agentiske operativsystemet "OS3" kjører i skyen og krever ikke lenger selskapets egen maskinvare for å fungere. Systemet er designet for å tolke brukergrensesnitt og utføre handlinger direkte i andre applikasjoner på vegne av brukeren. [Kilde: The Verge AI]

Andre Nyheter