Kunstig Intelligens

Er merkevaren din "i vektene"? Nytt verktøy avslører hva KI-modellene vet om deg

Du har sikkert lagt merke til at kundene dine oftere spør AI-assistenter fremfor å gjøre tradisjonelle Google-søk. Men hvordan vet du egentlig hva de mest populære språkmodellene svarer når noen spør om din bedrift eller dine produkter? Et nytt, uavhengig verktøy kalt "Are You in the Weights?" forsøker nå å gi svar på akkurat dette ved å sjekke hvor gjenkjennelig et merkenavn eller et konsept er på tvers av både de største og de mindre, åpne KI-modellene.

Bakgrunnen for prosjektet er det pågående skiftet i hvordan vi finner informasjon på nettet. Når søketrafikk flyttes fra åpne nettsider og inn i lukkede KI-modeller, mister tradisjonell søkemotoroptimalisering (SEO) mye av sin verdi. Hvis ikke merkevaren din har satt dype nok spor i treningsdataene som utgjør modellenes "vekter" (neural network weights), vil du i praksis være usynlig for brukere som navigerer verden gjennom en AI-chat.

For markedsavdelinger og PR-ansvarlige som ser at den organiske trafikken faller, representerer dette starten på en helt ny disiplin: LLM-optimalisering (LLMO). I stedet for å optimalisere for søkeord på Google, må man nå overvåke om selskapets kjernebudskap faktisk har blitt absorbert av modellene under trening. For juridiske avdelinger og rettighetshavere gir verktøyet også en konkret mulighet til å dokumentere om opphavsrettslig beskyttet materiale har blitt brukt til å trene opp kommersielle KI-modeller uten samtykke.

Internasjonale Trender

Inference-bølgen: AI-oppstarten Baseten henter gigantbeløp

Det koster enorme summer å trene opp en kunstig intelligens, men det er når modellene faktisk skal brukes i det daglige – det som kalles inference eller inferens – at de virkelige driftskostnadene løper løpsk. Nå meldes det at infrastrukturselskapet Baseten er i ferd med å lande en ny finansieringsrunde på svimlende 1,5 milliarder dollar, noe som verdsetter selskapet til 13 milliarder dollar, kun måneder etter deres forrige store kapitalinnhenting. Nyheten ble først rapportert av TechCrunch.

Konteksten her er det pågående "gullrushet" innenfor KI-infrastruktur. Mens markedet tidligere var besatt av hvem som hadde den største og smarteste modellen, handler kampen nå om å kjøre disse modellene så raskt, stabilt og billig som overhodet mulig. Baseten har spesialisert seg på nettopp dette: å tilby teknologien som lar bedrifter drifte åpne modeller (som Metas Llama-serie) i stor skala uten å måtte bygge hele det komplekse driftssystemet selv.

For selskaper som utvikler egne programvareløsninger betyr denne infrastruktursatsingen at markedet for dedikert KI-hosting er i ferd med å modnes i et voldsomt tempo. Dette gjør det langt mer realistisk og økonomisk gunstig for mellomstore og store bedrifter å droppe de dyre, generiske API-ene fra giganter som OpenAI, og i stedet drifte sine egne, finjusterte modeller. Resultatet er bedre kontroll over egne data, lavere responstid (latency) i applikasjonene, og mer forutsigbare driftskostnader over tid.