03. August 2026
Amerikanske politistyrker lener seg i økende grad på Flock Safety, et utbredt nettverk av overvåkningskameraer som bruker datasyn (computer vision – teknologi som gjør det mulig for datamaskiner å identifisere og tolke objekter i bilder og video) for automatisk å gjenkjenne bilskilt, farge og biltype. Teknologien markedsføres som et effektivt verktøy for å forebygge kriminalitet, men en hendelse der en journalist ble feilaktig stanset av politi med våpen i hånd, belyser de dype farene ved å stole blindt på automatiserte systemer uten tilstrekkelig menneskelig kontroll.
Problemet ligger sjelden utelukkende i modellens treffsikkerhet, men i krysningspunktet mellom maskinlæring og utdaterte eller dårlig integrerte databaser. Når et kamera feiltolker en enkelt karakter på et bilskilt, eller når systemet ikke klarer å synkronisere slettede meldinger om stjålne kjøretøy raskt nok, oppstår situasjoner der mangelfulle algoritmer dikterer fysisk maktbruk på feil grunnlag. Flock-direktørens uttalte visjon om «null feilaktige stopp» fremstår som en teknisk umulighet så lenge det ikke tvinges frem en uavhengig, manuell verifikasjon av AI-systemets utdata før kritiske sanksjoner iverksettes.
For virksomheter som utvikler beslutningsstøttesystemer, er denne saken en ekstrem, men høyst overførbar påminnelse om risiko. Å rulle ut autonome agenter eller prediktive AI-modeller som utløser kritiske handlinger uten strenge rammeverk for manuell godkjenning (såkalt human-in-the-loop, der mennesker må verifisere maskinens beslutning), er en oppskrift på systemsvikt – enten det gjelder politiarbeid, automatisert saksbehandling eller finansielle transaksjoner.
Les mer på The Drive.