Kunstig Intelligens

Dropp de lysende hjernene: Nytt initiativ vil endre hvordan vi illustrerer AI

Organisasjonen bak prosjektet «Better Images of AI» har tatt et oppgjør med de visuelle klisjeene som preger teknologiverdenen. De har lansert et åpent bibliotek med realistiske, menneskesentrerte bilder som skal erstatte de utslitte bildene av roboter, glødende blå hjerner og svevende binærkoder som i dag dominerer presentasjoner og artikler.

Når vi skal forklare komplekse systemer, tyr vi ofte til science fiction-estetikk. Problemet er at dette skaper en unødig barriere. Ansatte kan bli unødig skremte av roboter som liksom skal ta over jobben, mens kunder kan få urealistiske forventninger til hva verktøyene faktisk leverer. AI i dag er tross alt ikke en humanoid robot med blått lys i øynene; det er statistikk, smart kode og brukervennlige grensesnitt.

For markedsavdelinger og kommunikasjonsrådgivere som skal rulle ut interne AI-verktøy, handler dette om å bygge tillit. Ved å bruke bilder som viser ekte mennesker i samspill med skjermer og data, ufarliggjør man teknologien. Det gjør det enklere å forankre endringsprosesser i organisasjonen, fordi de ansatte ser på verktøyene som praktiske hjelpemidler i hverdagen snarere enn mystisk magi.

Du kan utforske og bruke bildene gratis her: Better Images of AI.

Slik bygger du din egen «mini-ChatGPT» til en brøkdel av prisen

En forskningsartikkel om såkalt «knowledge distillation» (kunnskapsdestillering) fra lukkede språkmodeller viser hvordan man kan kopiere intelligensen til de aller største AI-modellene og overføre den til mindre, skreddersydde varianter. Prosessen går ut på å bruke en gigantisk modell (som GPT-4) som en slags «lærer» til å trene opp en langt mindre og mer effektiv modell.

Å trene en stor språkmodell fra bunnen av krever svimlende summer og enorme mengder rådata. Ved å bruke destillering lar man imidlertid den store modellen generere treningsdata for den lille. Den mindre modellen lærer å etterligne resonnementene til læreren sin, og resultatet er ofte en modell som leverer opp mot 90 % av ytelsen på spesifikke oppgaver, men til en minimal driftskostnad.

For teknologiledere og produktutviklere som ønsker å bygge AI inn i egne tjenester, er dette den mest realistiske veien til lønnsomhet. I stedet for å betale løpende lisensavgifter per forespørsel til eksterne leverandører, gjør denne metoden det mulig å drifte egne, høyspesialiserte modeller på rimeligere sky-infrastruktur eller lokalt. Det gir ikke bare full kontroll over egne data, men fjerner også risikoen for uforutsigbare månedlige IT-utgifter.

Les hele studien her: Knowledge Distillation of Black-Box Large Language Models.

Internasjonale Trender

Ny brikkearkitektur utfordrer Nvidias monopol

Det nylig publiserte whitepaperet for Sophon PFG-1 avdekker en helt ny tilnærming til AI-maskinvare. Ved å bruke en såkalt «monolittisk 3D»-arkitektur har utviklerne klart å integrere hele 330 GB med superraskt DRAM-minne direkte på selve prosessorbrikken. Det mest oppsiktsvekkende er at de gjør dette helt uten å bruke HBM (High Bandwidth Memory), som i dag er den største flaskehalsen i den globale forsyningskjeden.

Hvis du har prøvd å bestille AI-kapasitet i skyen i det siste, vet du at ventetidene og prisene styres av én ting: mangelen på avansert minneteknologi. Nvidia og konkurrentene er avhengige av å lime lynraske minnebrikker fysisk ved siden av prosessoren, en prosess som er ekstremt komplisert og preget av lav produksjonskapasitet. Ved å bygge minnet oppover i høyden (3D) direkte på silisiumet, omgår man hele denne flaskehalsen.

Innkjøpsansvarlige og CTO-er i selskaper som satser tungt på egen AI-infrastruktur bør merke seg dette skiftet. Hvis denne teknologien lar seg masseprodusere, kan det føre til et markant prisfall på AI-prosessering. Det vil redusere avhengigheten av enkelte dominerende brikkeprodusenter og gjøre det langt rimeligere å drifte tunge modeller i egne datasentre på sikt.

Dypdykk i de tekniske detaljene her: Sophon PFG-1 Whitepaper.