Kunstig Intelligens

Hurtigere sårbarhetssøk med KI utnyttes i cyberangrep

Fire ulike hackergrupper har blitt observert i å utnytte det samme sårbarhetssettet for Google Chrome og Windows. Sikkerhetsanalytikere peker på at en kortere tidsperiode mellom sikkerhetsoppdateringer og økt bruk av kunstig intelligens til å oppdage svakheter i programvare bidrar til at sårbarheter utnyttes langt raskere enn før. Dette viser hvordan offensive KI-verktøy effektiviserer prosessen med å finne sikkerhetshull før forsvarerne rekker å tette dem.

[Kilde: Ars Technica]

Toppmatematikere i harnisk over OpenAIs metoder

Flere ledende matematikere uttrykker sterk misnøye med hvordan OpenAI opererer i krysningsfeltet mellom kunstig intelligens og ren vitenskap. Kritikken retter seg mot manglende åpenhet rundt treningsdata og metoder, samt en opplevelse av at kommersielle interesser overkjører akademiske spilleregler. Konflikten synliggjør spenningen mellom lukket selskapsutvikling og det tradisjonelle kravet om åpen etterrettelighet i forskermiljøet.

[Kilde: Hacker News]

Alvorlig «misalignment» mellom KI og matematikk

Det rapporteres om en fundamental feiltilpasning – såkalt misalignment (en situasjon der KI-systemer optimaliserer for feil mål) – når dagens språkmodeller brukes til matematisk problemløsning. Ledende fagfolk, inkludert matematiker Terence Tao, påpeker at KI-verktøyene ofte prioriterer overbevisende retorikk og mønstergjenkjenning fremfor rigid logisk bevisføring. Dette skaper utfordringer for påliteligheten i vitenskapelige anvendelser der feilmarginen må være null.

[Kilde: Hacker News]

Internasjonale Trender

Anthropic-forsker trekker seg med advarsel om superintelligens

En forsker hos KI-selskapet Anthropic har sagt opp sin stilling i protest mot det han beskriver som et uforsvarlig kappløp mot selvforbedrende superintelligens. Advarselen ble offentliggjort på plattformen X og ble i ettertid støttet av selskapets egen leder for sikkerhetsalignering. Oppsigelsen reiser nye spørsmål rundt sikkerhetskulturen hos de ledende KI-aktørene, som opplever et intenst kommersielt press om å levere stadig kraftigere modeller.

[Kilde: TechCrunch AI]