Kunstig Intelligens

Alibaba nedlegger forbud mot Claude Code: Sikkerhetsrisiko trumfer effektivitet

Den kinesiske tech-giganten Alibaba har lagt ned et kontant internt forbud mot bruk av Anthropic sitt nye verktøy, Claude Code, og klassifisert det som «høyrisiko-programvare». Avgjørelsen markerer en tydelig linje i sanden for hvordan store konsern håndterer autonome AI-agenter som opererer direkte på selskapets kildekode.

For å forstå hvorfor de trykker på nødbremsen, må vi se på hva verktøyet faktisk gjør. Claude Code er ikke bare en vanlig samtalerobot som ChatGPT; det er et verktøy som kjører direkte i utviklerens terminal. Det betyr at den har tilgang til å lese, skrive og feilsøke kode lokalt på maskinen. Mens dette gir utviklerne en enorm produktivitetsboost, krever det også dype systemtilganger. For et selskap som Alibaba – som må navigere i et intenst geopolitisk landskap mellom USA og Kina – representerer denne direkte tilgangen en uakseptabel risiko for at sensitive åndsverk (IP) og forretningshemmeligheter lekker ut av landet.

Dette setter fingeren på et ømt punkt for selskaper som utvikler egen programvare eller forvalter kritiske kundedata. Autonome AI-agenter som jobber i bakgrunnen gir fantastisk effektivitet, men de utfordrer også tradisjonell IT-sikkerhet fordi de krever mer enn bare lese-tilgang. For IT-sikkerhetsledere og teknologidirektører betyr dette at man må stramme inn retningslinjene for såkalt «skygge-AI». Løsningen fremover er neppe flate forbud som kveler innovasjon, men heller å styre utviklerne mot lukkede, lokalt hostede språkmodeller eller tvinge gjennom enterprise-avtaler som garanterer at sensitive kodedata ikke havner på eksterne servere. Les mer hos TechCrunch.

Internasjonale Trender

Når AI-generert søppel tar over søkeresultatene: Saken om Jim Carreys «død»

Ryktene om den kjente skuespilleren Jim Carreys bortgang spredte seg nylig som ild i tørt gress på nettet. Det som ved første øyekast virket som en vanlig, litt usmakelig internettbløff, har vist seg å være et lærerikt eksempel på en systemisk sårbarhet i hvordan AI-generert innhold forurenser den digitale hverdagen vår.

Bakgrunnen for disse falske nyhetene er en eksplosiv vekst av helautomatiske nettsteder som bruker generative språkmodeller til å spytte ut tusenvis av lavkvalitetsartikler, spesielt falske dødsannonser. Disse sidene er fintunet for å lure søkemotorer og algoritmer på sosiale medier til å gi dem synlighet. Så fort en algoritme fanger opp en liten økning i søk etter en kjendis, genererer AI-en umiddelbart en sak som bekrefter det folk lurer på – helt uavhengig av om det er sant eller ikke – utelukkende for å kapre klikk og annonseinntekter.

For markedsavdelinger og merkevarebyggere som kjøper automatisert annonsering (programmatic ads), viser dette hvor lett man kan miste kontrollen. Det er en reell risiko for at merkevarens annonsekroner ubevisst finansierer makabre, AI-genererte desinformasjonskampanjer, noe som kan skade omdømmet betydelig. For digitale plattformer og mediehus understreker dette behovet for å ta i bruk strengere verifiseringsteknologi, for eksempel kryptografisk merking av ekte journalistikk, ettersom ren algoritmisk sortering av innhold er i ferd med å bli en direkte forretningsrisiko. Les mer hos Tane.dev.