Ana içeriğe atla

Yerel AI modelleriyle sohbet

Neden yerel AI modelleri?​

Yerel olarak AI modelleriyle çalışmak şu önemli avantajları sağlar:

  • Kendine özgü güvenlik - Verileriniz kendi bilgisayarınızda kalır ve asla harici sunuculara gönderilmez
  • Ek ücret yok - Yerel modellerin kullanımı için API ücretleri yok
  • Gizlilik garantili - Hassas belgeler ve bilgiler için idealdir

Neden Ollama?​

Ollama, AI modellerini yerel olarak kolayca çalıştırmanıza olanak tanıyan bir araçtır. Her bilgisayarda ayrı ayrı kurulabilir, bu da kullanıcı sayısı için herhangi bir sınırlama olmadığını – paylaşılan sunucuya ihtiyaç yok – anlamına gelir.

Ollama kurulum​

  1. Aşağıdaki sayfaya gidin: Ollama indirme sayfası
  2. İşletim sisteminiz için sürümü indirin (Windows, macOS veya Linux)
  3. Kurulumu takip ederek Ollama’yı kurun
  4. Kurulumdan sonra Ollama arka planda otomatik olarak çalışır

Bir dil modeli kurulum​

Ollama kurulduktan sonra en az bir dil modeli indirmeniz gerekir:

  1. Ollama arayüzünü açın (sistem tepsisindeki simge veya terminal üzerinden)
  2. İstediğiniz bir dil modeli indirin

Önerilen model​

Tercihen tool ve vision yeteneklerine sahip bir model seçin:

  • Tool yetenekleri - Model, uygulamadaki tüm araçları kullanabilir, internet araması ve görüntü üretimi gibi
  • Vision yetenekleri - Model görüntüleri analiz edebilir ve açıklayabilir
Önerilen model

qwen3-vl:4b hız ile araç/vision yetenekleri arasında iyi bir denge sağlar. Bu modeli terminalden kurun:

ollama pull qwen3-vl:4b

Donanıma göre model seçimi​

Bir modelin performansı bilgisayarınızın donanımına bağlıdır:

DonanımÖneri
Kısıtlı (8GB RAM, GPU yok)Daha küçük modelleri tercih edin (1-4B parametreler)
Orta (16GB RAM, temel GPU)7B parametreye kadar modeller
Güçlü (32GB+ RAM, modern GPU)Daha büyük modeller mümkün (13B+)
Hız vs. kalite

Daha küçük bir model genellikle hız açısından daha iyi performans gösterir, ancak daha az doğru yanıtlar verebilir. Sizin durumunuza en uygun dengeyi bulun.

Masaüstü uygulamasındaki yapılandırma​

Ollama çalışırken kurulu bir model varsa, masaüstü uygulaması bunu otomatik olarak algılar. Ardından sohbet sırasında yerel modeli, bulut modellerinin yerine alternatif olarak seçebilirsiniz.

Taşınabilir modellerin mevcut olmasıyla ilgili bilgiler ve araçlar​

Tam liste için ollama.com/library adresini görün. Modelleri şu etiketlerle filtreleyin:

  • Tools etiketli olanlar araç yetenekleri için
  • Vision etiketli olanlar görüntü tanıma için

Popüler seçenekler:

  • qwen3-vl:4b - Kompakt, hızlı, araç + vision
  • llama3.2-vision - Vision yetenekleri
  • mistral - Hızlı genel görevler