Kunstig Intelligens

Krig mot hallusinasjoner: Oppstartsselskap henter millioner for å gjøre KI pålitelig

Oppstartsselskapet Probably har hentet 9 millioner dollar i en fersk finansieringsrunde. Målet deres er like enkelt som det er ambisiøst: De skal eliminere hallusinasjoner og faktiske feil fra generativ KI, slik at teknologien oppnår samme pålitelighet som tradisjonell, deterministisk programvare.

De fleste som har eksperimentert med store språkmodeller vet at de er fantastiske til å generere tekst, men upålitelige når det kommer til absolutte sannheter. Modellene gjetter på neste ord basert på sannsynlighet, noe som ofte fører til subtile, men kritiske feil. For bedrifter som ønsker å automatisere tunge prosesser, har denne mangelen på kontroll vært den største barrieren mot å la KI-en jobbe uovervåket.

For virksomheter i strengt regulerte bransjer – som farmasi, juridisk rådgivning eller finansiell rapportering – kan dette være teknologien som åpner slusene. Hvis Probably lykkes med å legge et sikkerhetslag som garanterer faktiske opplysninger, kan selskaper endelig rulle ut helautomatiske kundetjenester og dype dokumentanalyser uten frykt for juridisk etterspill eller omdømmetap. Les mer hos TechCrunch.

Norsk Tech

USA-stramming skaper digital sårbarhet: Norge må tenke nytt om KI-suverenitet

De siste ukenes politiske og teknologiske innstramminger fra USA har utløst en opphetet debatt om digital suverenitet her hjemme. Direktør i KI Norge, Hans Christian Holte, advarer om at situasjonen viser hvor sårbare vi har gjort oss ved å lene oss så tungt på amerikansk teknologi.

Bakgrunnen er en økende erkjennelse av at når stormaktene strammer inn kontrollen over sine nasjonale KI-ressurser, står norske virksomheter igjen på sidelinjen. Vi har i stor grad gjort oss avhengige av skygigantenes infrastruktur for å drive våre egne digitale transformasjoner, uten å ha en plan B dersom tilgangen begrenses eller prisene skyter i været.

For norske selskaper og offentlige etater betyr dette at risikovurderinger rundt sky- og KI-leverandører må oppdateres umiddelbart. For styrer og ledergrupper i energisektoren, finansbransjen eller helsesektoren blir det nå kritisk å vurdere alternative strategier. Dette inkluderer å ta i bruk åpne kildekodemodeller (open-source) som kan kjøres på europeisk jord, eller investere i regionale datasentre som sikrer at kritiske data og algoritmer forblir under nasjonal kontroll. Les hele saken hos Digi.no.