Slik sjekker du om datamaskinen din kan kjøre lokale AI-modeller
Å finne ut om maskinen din takler en lokal AI-modell er faktisk enklere enn mange tror. Det du trenger å vite er egentlig bare tre ting: hvor mye minne du har, hva slags grafikkort (om noen) du har, og hvordan disse to tallene oversettes til hvilke modeller du faktisk kan kjøre.
Slik finner du spesifikasjonene dine
På Mac: Klikk på epleikonet øverst i venstre hjørne, velg "Om denne Macen". Har du en Apple Silicon-Mac (M1 til M5), er det ett tall som betyr noe mer enn resten: mengden delt minne (unified memory), siden CPU og GPU deler samme minnepool på disse maskinene.
På Windows: Trykk Ctrl+Shift+Esc for å åpne Oppgavebehandling, gå til fanen "Ytelse". Der finner du total RAM under "Minne", og om du har et dedikert grafikkort, vises VRAM-mengden under GPU-oversikten. Alternativt kan du trykke Win+R, skrive dxdiag og trykke Enter for en mer detaljert rapport, inkludert "Display Memory (VRAM)" under Skjerm-fanen.
Hvorfor minne betyr mer enn prosessor
Her er det viktigste å forstå: det er minnet – VRAM på et dedikert grafikkort, eller delt minne på en Apple Silicon-Mac – som avgjør hvilke modeller du faktisk kan laste inn, ikke prosessorkraften. En tommelfingerregel er at en modell trenger omtrent 2GB VRAM per milliard parametere ved full presisjon (FP16). Kvantisering senker dette kraftig: Q8-kvantisering halverer omtrent minnebehovet, mens Q4 omtrent firedeler det. Det betyr at en 13-milliarder-parameter-modell som normalt trenger 28GB, kan kjøres på et 16GB-kort med Q8-kvantisering, eller på et 8GB-kort med Q4.
Husk også å sette av litt ekstra plass til kontekstvinduet (KV-cache) – regn med 10-20 prosent på toppen av selve modellstørrelsen, mer om du kjører svært lange samtaler eller dokumenter.
Realistiske minimumskrav
Som en grei tommelfingerregel for 2026: 16GB systemminne, en moderne prosessor, og enten et GPU med minst 6GB VRAM eller en Apple Silicon-Mac gir deg nok til å kjøre en solid 3-7 milliarder parameter modell med Q4-kvantisering. Har du 24GB VRAM (som på en RTX 3090 eller 4090), åpner det seg for langt større modeller, opp mot 70-milliarder-parameter-klassen med aggressiv kvantisering.
La et verktøy gjøre regnestykket for deg
Vil du slippe å regne selv, finnes det små, gratis kommandolinjeverktøy som gjør akkurat dette automatisk. llmready (installeres med pip install llmready) tar imot en modell fra Hugging Face og gir deg et klart "kjør/ikke kjør"-svar basert på din egen maskinvare, uten å måtte laste ned selve modellvekten først. spec2llm gjør noe lignende, men i motsatt retning – den skanner maskinvaren din og foreslår hvilke modeller som faktisk passer.
Ressurser
- llmready på PyPI – sjekk om en spesifikk modell passer maskinen din
- spec2llm på PyPI – få forslag til modeller basert på din maskinvare
