Kunstig Intelligens

Lokal kjempe på mobilen: 20B-modell kjører i 120 tok/s på iPhone

Utviklerne bak Maple-Preview har demonstrert en Mixture of Experts-modell (MoE – en AI-arkitektur som ruter oppgaver til spesialiserte undermodeller) på hele 20 milliarder parametere som kjører lokalt på en iPhone. Ved hjelp av ekstrem kvantisering (en teknikk for å krympe AI-modeller slik at de krever mindre minne) oppnår systemet en hastighet på 120 tokens i sekundet. Dette demonstrerer at avansert, personvernvennlig AI i økende grad kan kjøres direkte på håndholdt maskinvare uten skyavhengighet eller merkbar forsinkelse. Les mer hos Deepgrove.

Internasjonale Trender

Interpol: AI driver over halvparten av cyberkriminaliteten i Afrika

En fersk rapport fra Interpol slår fast at over 50 prosent av digital kriminalitet på det afrikanske kontinentet nå understøttes av kunstig intelligens. Spesielt ser man en eksplosiv vekst i automatiserte phishing-kampanjer og sosial manipulering, der generative språkmodeller brukes til å masseprodusere troverdige og personaliserte svindelforsøk. Rapporten understreker hvordan tilgjengeligheten av AI-verktøy har senket den tekniske barrieren for cyberkriminelle globalt. Les mer hos Africa News.

AI-pioneren Gwern starter kommersielt agentselskap

Den innflytelsesrike og hittil anonyme AI-skribenten Gwern Branwen avslutter sin virksomhet som uavhengig analytiker for å lansere selskapet Guardian Angel Inc. Selskapet skal etter alt å dømme utvikle personlige AI-agenter designet for å beskytte og assistere brukere i hverdagen. At en av feltets mest skarpsynte og langsiktige teoretikere går over til praktisk produktutvikling, signaliserer at modenheten i agent-teknologien nå vurderes som kommersielt klar. Se kunngjøringen på X.