Chat med lokale AI-modeller

Hvorfor lokale AI-modeller?

Lokalt arbejde med AI-modeller giver vigtige fordele:

• Inherent sikkerhed - Dine data bliver på din egen computer og sendes aldrig til eksterne servere
• Ingen ekstra omkostninger - Lokale modeller har ingen API-omkostninger pr. brug
• Privatliv garanteret - Ideelt til følsomme dokumenter og information

Hvorfor Ollama?

Ollama er et værktøj, der gør det nemt at køre AI-modeller lokalt. Det installeres på hver computer separat, hvilket betyder, at der ikke er begrænsninger på antal brugere - ingen delt server nødvendig.

Installere Ollama

1. Gå til Ollama download-side
2. Download versionen til dit operativsystem (Windows, macOS eller Linux)
3. Installer Ollama ved at følge installeren
4. Efter installation kører Ollama automatisk i baggrunden

Installere en sprogmodel

Efter installation af Ollama skal du mindst downloade én sprogmodel:

1. Åbn Ollama-grænsefladen (via systembakkeikonet eller terminalen)
2. Download en sprogmodel efter eget valg

Anbefalet model

Vælg helst en model, der har tool og vision funktioner:

• Tool capabilities - Modellen kan bruge alle værktøjerne, der er tilgængelige i applikationen, såsom internet-søgning og billedgenerering
• Vision capabilities - Modellen kan analysere og beskrive billeder

Anbefalet model

qwen3-vl:4b tilbyder en god balance mellem hastighed og værktøjs-/vision-muligheder. Installer denne model via terminalen:

ollama pull qwen3-vl:4b

Modelvalgt ud fra hardware

Ydelsen af en model afhænger i høj grad af hardwaren i din computer:

Hardware	Anbefaling
Begrænset (8GB RAM, ingen GPU)	Vælg mindre modeller (1-4B parametre)
Mellem (16GB RAM, basis GPU)	Modeller op til 7B parametre
Kraftfuld (32GB+ RAM, moderne GPU)	Større modeller muligt (13B+)

Hastighed vs. kvalitet

En mindre model generelt giver bedre hastighed, men kan give mindre præcise svar. Prøv dig frem for at finde den bedste balance for din situation.

Konfiguration i skrivebordsapplikationen

Når Ollama kører med en installeret model, opdager skrivebordsapplikationen dette automatisk. Du kan derefter vælge den lokale model i chatten som alternativ til cloud-modellerne.

Tilgængelige modeller med tool/vision support

Se den fulde liste på ollama.com/library. Filtrer på modeller med:

• Tools-mærket for tool capabilities
• Vision-mærket for billedgenkendelse

Populære muligheder:

• qwen3-vl:4b - Kompakt, hurtigt, tool + vision
• llama3.2-vision - Vision capabilities
• mistral - Hurtige generelle opgaver