Kunstig Intelligens

Fellen ved «vibe-coding»: Når AI-generert programvare blir en sikkerhetsrisiko

Konseptet «vibe-coding» – der man lager fullt fungerende applikasjoner utelukkende ved hjelp av tekstinstrukser til en AI, uten å skrive en eneste linje kode selv – har tatt tech-verdenen med storm. Historien om utvikleren Bob Starr og hans nettsted «Boomberg» viser imidlertid baksiden av medaljen. Starr bygde og lanserte en velfungerende nettside på rekordtid, bare for å oppdage måneder senere at koden AI-en hadde generert var full av kritiske sikkerhetshull som lå vidåpne for hackere.

Bakgrunnen for problemet ligger i hvordan dagens store språkmodeller (LLMer) fungerer. De er trent på enorme mengder eksisterende kode, og prioriterer ofte å levere en løsning som fungerer umiddelbart, fremfor en løsning som er maksimalt sikker. Når ikke-utviklere «viber» frem apper, mangler de ofte kompetansen til å gjøre grunnleggende sikkerhetsrevisjoner, som å sjekke om input-felter er sårbare for database-injeksjoner eller om API-nøkler ligger ubeskyttet i kildekoden.

For bedrifter som ønsker å øke innovasjonstakten, representerer dette en ny form for digital risiko. Ansatte i markeds-, salgs- eller HR-avdelinger kan nå enkelt bygge sine egne interne verktøy for å effektivisere hverdagen. Men uten sentral styring og automatiserte sikkerhetstester, risikerer virksomheten at sensitive kundedata plutselig ligger eksponert på nett. Løsningen er ikke å forby AI-verktøyene, men å etablere klare kjøreregler og automatiserte «garder» som skanner all AI-generert kode før den tas i bruk i profesjonell sammenheng.

Les hele saken hos The Verge.

Norsk Tech

Beredskap i luften: Politiet tar i bruk autonome droner

Det norske politiet tar nå et markant skritt inn i fremtiden ved å sende ut droner i forkant av patruljene. Målet er å sikre rask situasjonsforståelse på skadesteder før de menneskelige ressursene rekker å rykke fysisk ut. Dette skal gi operasjonssentralen og mannskapene på bakken verdifull sanntidsinformasjon i kritiske situasjoner.

Teknologien bak dette handler om langt mer enn bare fjernstyrte kameraer. For å kunne operere effektivt i uoversiktlige situasjoner, kreves det avansert programvare som kan håndtere hindringer, navigere under vanskelige værforhold og strømme krypterte data i sanntid. Dette er et tydelig tegn på at autonom mobilitet og maskinsyn (computer vision) nå er i ferd med å bli modent nok for samfunnskritiske oppgaver.

For virksomheter innen logistikk, tungindustri, anlegg og eiendomsforvaltning viser politiets satsing at autonome systemer er på vei ut av testlaboratoriene og inn i den operative hverdagen. Muligheten til å automatisere inspeksjoner og overvåking av store områder reduserer både tidsbruk og risiko for menneskelige operatører. Det er på tide for selskaper med fysiske verdier å vurdere hvordan lignende autonome sensorplattformer kan integreres i egen drift.

Les hele saken hos Teknisk Ukeblad.