Kunstig Intelligens

Samsungs minneteknologi tar oppgjøret med KI-flaskehalsen

Under årets Hot Chips-konferanse presenterte Samsung nye detaljer om sin Processing-in-Memory (PIM – en maskinvarearkitektur som integrerer prosesseringsenheter direkte i minnebrikkene). Løsningen er utviklet for å overvinne den såkalte «minneveggen», som beskriver tids- og energitapet som oppstår når data flyttes mellom minne og prosessor under tunge KI-beregninger. Ved å utføre kalkulasjoner der dataene faktisk lagres, baner arkitekturen vei for langt mer energieffektiv og raskere kjøring av store språkmodeller.

[Kilde: Hacker News]