Kunstig Intelligens

Store språkmodeller krympes til mobiltelefoner

Et nytt åpen kildekode-prosjekt kalt Swiftlet demonstrerer hvor raskt lokal kjøring av AI utvikler seg. Verktøyet gjør det mulig å kjøre en Qwen-språkmodell med 80 milliarder parametere på en Mac med bare 4,3 GB RAM, og en modell med 35 milliarder parametere på en iPhone. Dette oppnås gjennom ekstrem kvantisering, en komprimeringsteknikk som reduserer minnebruken til AI-modeller drastisk mot et minimalt tap i nøyaktighet. Dette svekker argumentet om at virksomheter må være avhengige av kostbare skytjenester for å kjøre kapabel AI på egne data.

Norsk Tech

Norske fagforeninger ser ingen KI-oppsigelser

Mens amerikanske teknologigiganter kutter titusenvis av ansatte for å finansiere tunge AI-investeringer, melder fagforeningene Nito og Tekna om ro i det norske arbeidsmarkedet. Norske virksomheter bruker foreløpig teknologien til å effektivisere eksisterende ansatte fremfor å erstatte dem, godt hjulpet av en samarbeidsmodell som bremser brå omstillinger. Spørsmålet er om denne buffersone-effekten varer når autonome AI-agenter blir modne nok til å ta over hele prosesskjeder på tvers av fagsystemer.