Kunstig Intelligens

Grensen for komprimering av språkmodeller

Nye ytelsestester av språkmodellen Qwen3.8 (en åpen modell med 27 milliarder parametere) viser grensene for kvantisering – en metode for å komprimere AI-modeller slik at de krever mindre minne og kan kjøres på billigere maskinvare. Mens modellen beholder det meste av sin opprinnelige kvalitet når den komprimeres ned til 4-bit, kollapser evnene fullstendig ved ekstrem 1-bit-komprimering. For virksomheter som ønsker å kjøre modeller lokalt på eget utstyr, bekrefter dette at 4-bit foreløpig er den nedre grensen for akseptabel ytelse.

[Kilde: Hacker News]

Terence Tao advarer om mangel på matematiske utfordringer

Den anerkjente matematikeren Terence Tao påpeker at mengden av gode, uløste matematiske problemer nå blir utvunnet på en ikke-fornybar måte. I takt med at stadig mer kapable KI-systemer brukes til å løse komplekse teoretiske oppgaver, advarer Tao om et fremtidig scenario der forskningsverdenen kan oppleve en reell mangel på fundamentale, åpne problemer å bryne seg på.

[Kilde: Simon Willison]