Nyhetssammendrag — 18:05

Kunstig Intelligens

Shoehorn forenkler lokal kjøring av KI-modeller

Det nye verktøyet Shoehorn gjør det mulig å kjøre KI-modeller lokalt på egen maskin ved hjelp av kvantisering (en metode for å redusere filstørrelsen og minnebruken til en modell slik at den krever mindre maskinvare). Verktøyet fungerer på Mac, Linux og Windows, og leveres med et enkelt grafisk brukergrensesnitt for å finne, bygge og sette opp modeller. Dette forenkler prosessen med å teste og kjøre modeller lokalt uten å være avhengig av kostbar skyinfrastruktur.

[Kilde: Hacker News]