Internasjonale Trender

Prompt-injeksjon i rettssalen

En mann i USA har forsøkt å manipulere en rettssak ved å legge inn skjulte instruksjoner i saksdokumentene han sendte inn til domstolen. Mannen mistenkte at domstolen brukte kunstig intelligens til å analysere og oppsummere sakspapirer, og forsøkte med dette å utføre en prompt-injeksjon (en sårbarhet der skjulte instruksjoner i inndata overstyrer en AI-modells opprinnelige systeminstrukser) for å tvinge systemet til å dømme i hans favør. Saken belyser en voksende sikkerhetsrisiko for organisasjoner som ukritisk tar i bruk språkmodeller til dokumentbehandling og automatisert saksbehandling uten tilstrekkelig filtrering av inndata. [Kilde: Hacker News]