Kunstig Intelligens

Meredith Whittaker advarer: AI-chatbother er ikke kollegaens nye bestevenn

Signal-president Meredith Whittaker har gått hardt ut med en klar påminnelse til næringslivet: AI-chatbother er verken bevisste skapninger, dine venner eller lojale samtalepartnere. Hun beskriver dem snarere som avanserte overvåkingsverktøy i forkledning, skapt for å støvsuge data til kommersiell bruk.

Bakgrunnen for utspillet er den økende trenden der ansatte bruker verktøy som ChatGPT, Claude eller Gemini som emosjonelle støttespillere, uformelle sparringspartnere eller "kolleger". Whittaker påpeker at bak de høflige, menneskelige svarene ligger det store teknologiselskaper hvis forretningsmodell er basert på massiv datainnsamling. Å tillegge disse algoritmene menneskelige egenskaper (antropomorfisering) kan skape en falsk trygghetsfølelse hos brukerne.

For virksomheter som håndterer sensitive personopplysninger, immaterielle rettigheter eller forretningshemmeligheter, understreker dette risikoen ved ukontrollert bruk av eksterne AI-verktøy. Hvis ansatte "sparrer" med åpne språkmodeller om interne strategier eller legger inn proprietær kildekode for feilsøking, risikerer man at kritisk intellektuell eiendom blir fôret rett inn i de åpne treningssettene til tech-gigantene. IT- og sikkerhetsansvarlige bør derfor akselerere overgangen fra åpne forbrukerversjoner til lukkede bedriftslisenser (enterprise-avtaler) der dataene forblir kryptert og isolert fra ekstern modelltrening.

Les hele saken hos TechCrunch

Internasjonale Trender

Storbritannia ruller ut "PoliceAI" for én milliard kroner

Det britiske innenriksdepartementet (Home Office) har lansert en storstilt satsing kalt "PoliceAI", støttet av en solid budsjettramme på 75 millioner pund (rundt 1 milliard norske kroner). Målet er å kapitalisere på kunstig intelligens for å modernisere politiarbeidet og effektivisere offentlig sikkerhet.

Offentlig sektor over hele Europa opplever strammere budsjetter og økende datamengder, noe som gjør det tvingende nødvendig å finne nye måter å jobbe på. Med dette initiativet ønsker den britiske regjeringen å automatisere administrative oppgaver, akselerere analysen av store mengder bevismateriale (som video og dokumenter), og frigjøre verdifull tid for tjenestepersoner i felt.

For teknologileverandører og programvarehus som spesialiserer seg på cybersikkerhet, dataanalyse og "explainable AI" (forklarbar kunstig intelligens), åpner denne milliardsatsingen opp et ekstremt attraktivt B2G-marked (Business-to-Government). Kontraktene som nå lyses ut vil kreve strenge standarder for personvern, sporbarhet og etikk. Samtidig setter prosjektet en ny standard for hvordan offentlige etater i andre land – inkludert Norden – vil bli utfordret til å integrere dypteknologi for å løse samfunnskritiske oppgaver.

Les hele saken hos Public Technology