Chatten med lokale AI-modeller

Hvorfor lokale AI-modeller?

Lokal bruk av AI-modeller gir viktige fordeler:

• Inherent sikkerhet - Dataene dine forblir på din egen datamaskin og blir aldri sendt til eksterne servere
• Ingen ekstra kostnader - Lokale modeller har ingen API-kostnader per bruk
• Personvern i fokus - Ideelt for sensitive dokumenter og informasjon

Hvorfor Ollama?

Ollama er et verktøy som gjør det enkelt å kjøre AI-modeller lokalt. Det installeres på hver datamaskin separat, noe som innebærer at det ikke er noen begrensninger på antall brukere - ingen delt server nødvendig.

Installere Ollama

1. Gå til Ollama nedlastingsside
2. Last ned versjonen for ditt operativsystem (Windows, macOS eller Linux)
3. Installer Ollama ved å følge installasjonsveiviseren
4. Etter installasjon kjører Ollama bakgrunnsdrift automatisk

Installere et språkmodell

Etter at Ollama er installert, må du minst laste ned én språkmodell:

1. Åpne Ollama-grensesnittet (via systemfelt-ikonet eller terminalen)
2. Last ned en språkmodell etter eget ønske

Anbefalt modell

Velg helst en modell som har verktøy og visjon-muligheter:

• Tool capabilities - Modellen kan bruke alle verktøyene som er tilgjengelige i applikasjonen, slik som nettsøk og bildegenerering
• Vision capabilities - Modellen kan analysere og beskrive bilder

Anbefalt modell

qwen3-vl:4b tilbyr en god balanse mellom hastighet og verktøy/visjon-muligheter. Installer denne modellen via terminalen:

ollama pull qwen3-vl:4b

Modellvalg basert på maskinvare

Ytelsen til en modell avhenger sterkt av maskinvaren i datamaskinen din:

Maskinvare	Anbefaling
Begrenset (8GB RAM, ingen GPU)	Velg mindre modeller (1-4B parametre)
middels (16GB RAM, basising)	Modeller opptil 7B parametre
Kraftig (32GB+ RAM, moderne GPU)	Større modeller mulig (13B+)

Hastighet vs. kvalitet

En mindre modell genererer vanligvis raskere svar, men kan være mindre nøyaktige. Eksperimenter for å finne den beste balansen for din situasjon.

Konfigurasjon i skrivebordsapplikasjonen

Når Ollama kjører med en installert modell, oppdager skrivebordsapplikasjonen dette automatisk. Du kan deretter velge den lokale modellen i chatten som et alternativ til skymodellene.

Tilgjengelige modeller med verktøy/visjon-støtte

Se hele listen på ollama.com/library. Filtrer på modeller med:

• Tools-tag for verktøy-muligheter
• Vision-tag for bildegjenkjenning

Populære alternativer:

• qwen3-vl:4b - Kompakt, rask, verktøy + visjon
• llama3.2-vision - Visjon-muligheter
• mistral - Rask håndtering av generelle oppgaver