Kunstig Intelligens

Forfatterlegende med AI-advarsel: Det eldste IT-prinsippet gjelder fortsatt

Under den litterære festivalen Babell i Porto nylig rettet Margaret Atwood, den prisvinnende forfatteren bak blant annet The Handmaid's Tale, søkelyset mot et av de mest fundamentale problemene med dagens generative AI-modeller. Hennes budskap var like enkelt som det var nådeløst: Det klassiske IT-prinsippet «garbage in, garbage out» (søppel inn, søppel ut) er mer aktuelt enn noensinne.

Atwood peker på at de store språkmodellene vi omgir oss med i dag, er trent på enorme mengder ufiltrert internett-data. Når modellene fôres med lavkvalitets tekst, faktafeil og uoriginalt innhold, blir også resultatene deretter. Forfatteren minner oss om at teknologien i seg selv ikke besitter ekte forståelse; den reflekterer bare kvaliteten på det kildematerialet den har blitt tildelt.

For virksomheter som i dag utvikler egne AI-assistenter eller automatiserte saksbehandlingssystemer, gir dette en klar marsjordre: Glem jakten på de største modellene, og rett heller oppmerksomheten mot datahygiene. Bedrifter som ønsker pålitelige AI-verktøy for ansatte eller kunder, må prioritere å rydde opp i egne kunnskapsdatabaser. Å fôre en AI med utdaterte Word-dokumenter, vage retningslinjer eller rotete intranett-sider vil uunngåelig føre til «hallusinasjoner» og feilaktige beslutninger.

For innholdsprodusenter, mediehus og kunnskapsbedrifter blir Atwoods påminnelse en bekreftelse på at unik, kvalitetssikret og proprietær data er den viktigste konkurransefordelen fremover. De som klarer å kuratere og beskytte sine egne høykvalitetsdatasett, vil sitte på gullgruven i en tid der det åpne internettet i økende grad flommer over av AI-generert middelmådighet. Du kan lese mer om Atwoods betraktninger hos The Verge.