Nyhetssammendrag — 10:05

Kunstig Intelligens

Lokal kjøring av Laya på Mac M4 med CoreML

Det er publisert fremgangsmåter for å kjøre språkmodellen Laya helt offline på Mac M4-prosessorer ved hjelp av CoreML. CoreML er Apples integrerte rammeverk for maskinlæring, utviklet for å kjøre modeller direkte på maskinens egen prosessor. Denne metoden gjør det mulig å utføre avanserte KI-oppgaver lokalt med lav forsinkelse, uten behov for å sende sensitive data over eksterne nettverk.

[Kilde: Hacker News]

Mini-AGI: Kontinuerlig læring på forbrukermaskinvare

Det åpne kildekode-prosjektet Mini-AGI demonstrerer at det er mulig å trene en modell med kontinuerlig læring på kun 8 gigabyte videominne (VRAM – den delen av datamaskinens minne som håndterer grafikk og tunge KI-beregninger). Mens tradisjonell trening og finjustering av kunstig intelligens krever enorme datasentre, tillater dette rammeverket kontinuerlig oppdatering av modellens kunnskap direkte på rimelig maskinvare.

[Kilde: Hacker News]