Gå till huvudinnehållet

Chatta med lokala AI-modeller

Varför lokala AI-modeller?​

Lokal hantering av AI-modeller erbjuder viktiga fördelar:

  • Inherently säker - Dina data stannar på din dator och skickas aldrig till externa servrar
  • Inga extra kostnader - Lokala modeller har inga API-kostnader per användning
  • Integritet garanterad - Perfekt för känsliga dokument och information

Varför Ollama?​

Ollama är ett verktyg som gör det enkelt att köra AI-modeller lokalt. Det installeras separat på varje dator, vilket innebär att det inte finns begränsningar vad gäller antal användare – inget delat serverbehov.

Installera Ollama​

  1. Gå till Ollama nedladdningssida
  2. Ladda ned versionen för ditt operativsystem (Windows, macOS eller Linux)
  3. Installera Ollama genom installationsprogrammet
  4. Efter installationen kör Ollama automatiskt i bakgrunden

Installera ett språkmodell​

Efter att ha installerat Ollama behöver du minst en språkmodell nedladdad:

  1. Öppna Ollama-gränssnittet (via systemfältets ikon eller terminal)
  2. Ladda ned en språkmodell efter eget val

Rekommenderad modell​

Välj helst en modell som har tool- och vision-funktioner:

  • Tool capabilities - Modellen kan använda alla verktyg som finns i applikationen, såsom internet-sökning och bildgenerering
  • Vision capabilities - Modellen kan analysera och beskriva bilder
Rekommenderad modell

qwen3-vl:4b erbjuder en bra balans mellan snabbhet och tool/vision-förmågor. Installera denna modell via terminalen:

ollama pull qwen3-vl:4b

Modellval baserat på hårdvara​

Modellens prestanda beror starkt på din dators hårdvara:

HårdvaraRekommendation
Begränsad (8GB RAM, ingen GPU)Välj mindre modeller (1-4B parametrar)
Medel (16GB RAM, grundläggande GPU)Modeller upp till 7B parametrar
Kraftfull (32GB+ RAM, modern GPU)Större modeller möjligt (13B+)
Snabbhet vs. kvalitet

En mindre modell presterar generellt bättre i hastighet, men kan ge mindre exakta svar. Experimentera för att hitta bästa balans för din situation.

Konfiguration i skrivbordsapplikationen​

När Ollama körs med en installerad modell upptäcker skrivbordsapplikationen detta automatiskt. Du kan sedan i chatten välja den lokala modellen som alternativ till moln-modellerna.

Tillgängliga modeller med tool/vision-stöd​

Se hela listan på ollama.com/library. Filtrera på modeller med:

  • Tools-tag för tool capabilities
  • Vision-tag för bildigenkänning

Populära alternativ:

  • qwen3-vl:4b - Kompakt, snabb, tool + vision
  • llama3.2-vision - Vision-förmågor
  • mistral - Snabba allmänna uppgifter