Kunstig Intelligens

Anthropics «Project Glasswing» tar tak i KI-sikkerhetens største hodepine

Anthropic har sluppet en oppdatering om sitt prosjekt «Project Glasswing». For å si det enkelt handler dette om å åpne den beryktede «sorte boksen» i store språkmodeller. Sikkerhetsekspert Bruce Schneier har kastet seg over oppdateringen, som dykker dypt inn i hvordan vi kan forstå og kontrollere de indre prosessene i avansert kunstig intelligens før modellene i det hele tatt tar beslutninger.

Hvorfor er dette viktig akkurat nå? Jo, etter hvert som selskaper ruller ut KI-agenter som handler mer og mer selvstendig på vegne av ansatte og kunder, øker også frykten for uforutsett oppførsel og sikkerhetshull. Vi snakker ikke bare om uskyldige hallusinasjoner, men om sårbarheter der ondsinnede aktører kan manipulere systemene til å lekke sensitive data eller utføre uautoriserte handlinger.

For risikovurderere og compliancedirektører i sterkt regulerte bransjer som bank, finans og helse, representerer slike verktøy en etterlengtet mulighet. Evnen til å revidere og forutsi KI-modellers oppførsel betyr at man kan rulle ut mer avansert automatisering uten å risikere gigantiske bøter eller omdømmetap. Dette rydder vei for dypere integrasjon av autonome agenter i kjernevirksomheten. Du kan lese mer om oppdateringen hos Schneier on Security og følge diskusjonen på Hacker News.

Internasjonale Trender

Nvidia og LG bygger morgendagens mekaniske kolleger i Sør-Korea

Nvidia har inngått et strategisk partnerskap med teknologikjempen LG for å utvikle og produsere humanoide roboter. Ved å kombinere Nvidias råsterke AI-plattformer med LGs enorme erfaring innen maskinvare og robotikk, ønsker de å akselerere kommersialiseringen av roboter som kan gå, gripe og navigere komplekse fysiske omgivelser.

Dette handler om langt mer enn bare imponerende PR-videoer av roboter som gjør triks. Sør-Korea står midt i en demografisk krise med en raskt aldrende befolkning, noe som gjør behovet for fysisk automatisering prekært. Gjennom dette samarbeidet flyttes roboter ut av sterile forskningslaboratorier og direkte inn i virkelige fabrikker, logistikksentre og etter hvert kommersielle bygg.

For produksjonsbedrifter og logistikkaktører som sliter med å rekruttere nok hender til manuelt arbeid, tegner dette et bilde av en nær fremtid der humanoide roboter kan avlaste mennesker på fysisk krevende områder. Dette krever imidlertid at driftsledere allerede nå begynner å tenke på hvordan den fysiske infrastrukturen – fra fabrikkgulv til HMS-protokoller – må tilpasses en hybrid arbeidsstokk bestående av både mennesker og maskiner. Les hele kunngjøringen på Nvidia Blog og se debatten på Hacker News.