Kimi K3: Moonshot AIs 2,8 billioner parametere store utfordrer
Moonshot AI fra Beijing annonserte Kimi K3 16. juli, og fulgte opp med fulle, nedlastbare vekter 27. juli. Med 2,8 billioner parametere kaller selskapet den verdens største åpne modell noensinne – og for første gang er det et reelt spørsmål om en åpen modell faktisk henger med de lukkede toppmodellene.
Hvor god er den egentlig?
Her må råpåstanden nyanseres litt. Ifølge Moonshots egen tekniske rapport ligger K3 bak Claude Fable 5 og GPT-5.6 Sol på samlet intelligens-score – den er tredjeplass, ikke førsteplass. Men på en rekke enkeltbenchmarker innen koding og agent-oppgaver – blant annet Terminal-Bench, DeepSWE og Program Bench – leder K3 faktisk foran alle andre modeller, åpne som lukkede, inkludert Claude Opus 4.8 og GPT-5.5. Så «matcher og overgår på flere tester» stemmer, mens «overgår de beste lukkede modellene» generelt sett ikke gjør det – ennå.
Arkitekturen bak tallet
De 2,8 billioner parameterne er organisert som en Mixture-of-Experts-modell: for hvert token velges 16 av 896 eksperter, pluss to eksperter som alltid er aktive. Det gir 104 milliarder aktive parametere per token – langt fra alle 2,8 billioner brukes samtidig, men langt mer enn en enkel "16/896"-regnestykke skulle tilsi, fordi selve oppmerksomhetslaget og enkodingen alltid er på. Modellen bruker en ny arkitektur kalt Kimi Delta Attention (KDA) kombinert med Attention Residuals, og har et kontekstvindu på hele 1 million tokens.
Ikke noe du kjører hjemme
Med en full modell-checkpoint på 1,56 terabyte og Moonshots egen anbefaling om minst 64 akseleratorer for drift, er dette ingen modell du laster ned til hjemme-riggen. Dette er infrastruktur for lab og datasentre – hvis du vil teste K3 selv, er API-et hos Moonshot eller tredjepartsplattformer som OpenRouter det praktiske alternativet.
Åpen versus lukket – et reelt spørsmål
Det som gjør K3 interessant utover selve tallene, er nettopp det råteksten peker på: at gapet mellom åpne og lukkede modeller nå er tydelig mindre enn for bare et år siden. Om det er "de innovative fra den åpne siden" eller rett og slett et kinesisk selskap med enorm regnekraft som leder an, er et åpent spørsmål – men konkurransen presser tydelig prisene ned og kvaliteten opp for alle.
Ressurser
- Kimi K3 på Hugging Face – API-tilgang og prising
