Kunstig Intelligens

AI gjør kodingen – nå må systemarkitektene ta kontroll

Den kjente utvikleren Salvatore Sanfilippo (antirez) har satt i gang en viktig debatt om hvordan store språkmodeller (LLM-er) fundamentalt endrer programvareutvikling. Hans kjernebudskap er enkelt: Vi må slutte å fokusere på selve kodingen, og i stedet bruke energien på å kontrollere de overordnede ideene og systemarkitekturen. Les hele innlegget her.

Med verktøy som GitHub Copilot og avanserte AI-modeller kan hvem som helst generere komplekse kodeblokker på sekunder. Men uten en klar plan og dyp forståelse for hvordan systemene skal henge sammen, ender man raskt opp med uforståelig "spaghetti-kode" som er umulig å vedlikeholde over tid. AI-en forstår nemlig ikke hvorfor den skriver det den gjør, bare hva som statistisk sett kommer etterpå.

For teknologidirektører og selskaper som utvikler egen programvare, snur dette opp-ned på rekrutteringen. Behovet for rendyrkede programmerere som bare skriver syntaks faller dramatisk. I stedet må man jakte på "arkitekter" – hoder som kan overskue komplekse systemer, designe robuste datastrukturer og kvalitetssikre koden AI-en spyr ut.

Norsk Tech

«Vaier-gate»: Når blind tillit til automatisering blir farlig

En fersk debatt har blusset opp i Norge etter at eksperter nå krever granskning av et sensorsystem i en uoppgitt hendelse (populært kalt «vaier-gate»). Spørsmålet er om monteringshøyden og innretningen lurte det automatiserte systemet til å overse en kritisk hindring, noe som reiser fundamentale spørsmål om hvor grensene for teknologistøttet beslutningstaking går. Les saken hos Teknisk Ukeblad.

"Teknologi skal støtte menneskers vurderinger, ikke erstatte dem," påpeker eksperter i saken. Det er en velkjent utfordring innen automatisering at operatører utvikler såkalt "automasjons-kompleksitet" – en form for blind tillit til at systemene fanger opp alt, helt til den dagen en sensor feiler eller tolker omgivelsene feil.

For transportaktører, industribedrifter og logistikkselskaper som ruller ut autonome eller halvautomatiske systemer, er dette en vekker. Det viser at man aldri kan fjerne det menneskelige elementet helt fra risikovurderingen. Bedrifter må investere like mye i å trene ansatte til å tørre å overstyre teknologien, som de investerer i selve sensor- og AI-systemene.

Internasjonale Trender

Lisens-opprør mot AI: Hvorfor kreative hoder flykter fra gigantene

En personlig, men svært representativ historie om en fotograf som tar farvel med Adobe Photoshop, har truffet en nerve i det kreative miljøet på nett. Misnøyen skyldes i stor grad hvordan selskaper som Adobe presser på med sky- og AI-løsninger, ofte på bekostning av brukernes kontroll over eget materiale og personvern. Les hele historien her.

Forretningsmodellen til mange programvaregiganter har endret seg radikalt etter AI-bølgen. Generative modeller krever enorme mengder data for å trenes opp. Når selskaper sniker inn endringer i brukervilkårene som gir dem rett til å skanne brukernes filer i skyen for AI-trening, føler mange profesjonelle at de betaler for å trene opp sin egen fremtidige konkurrent.

For markedsavdelinger og designbyråer som håndterer sensitive kundedata eller strengt konfidensielle merkevare-ressurser, har verktøyvalg plutselig blitt et juridisk minefelt. Å bruke skyverktøy som krever rettigheter til innholdet for AI-trening kan i verste fall være et brudd på klientavtaler. Selskaper må nå kartlegge nøyaktig hvilke AI-vilkår som gjelder for programvaren de ansatte bruker til daglig.

Lekket politidrone-video avslører risikoen ved automatisk overvåking

En massiv lekkasje av droneopptak fra politiet i San Francisco har skapt ny debatt om grensene for urban overvåking og datasikkerhet. Videoene viser hvordan droner patruljerer gatene, men lekkasjen i seg selv viser hvor sårbare disse systemene er for dataangrep og utilsiktet eksponering. Les saken hos Wired.

Droneteknologi kombinert med AI-programvare for ansikts- og adferdsgjenkjenning blir stadig billigere og mer tilgjengelig for både offentlige og private aktører. Men når rådataene som samles inn havner på avveie, snur sikkerhetsgevinsten raskt til en PR- og personvernkatastrofe.

For selskaper som utvikler smarte by-løsninger, datasentre eller fysisk sikring av eiendom, understreker dette at innsamling av video- og sensordata krever militær-grad kryptering og sikkerhet. Hvis bedriften din vurderer AI-overvåking av områder eller ansatte, må personvernkonsekvensene og risikoen for datalekkasjer veies ekstremt nøye opp mot den faktiske nytteverdien.