برو به محتوای اصلی

چت با مدل‌های AI محلی

چرا مدل‌های AI محلی؟​

کار با مدل‌های AI به صورت محلی مزایای مهمی دارد:

  • ایمن به طور ذاتی - داده‌های شما روی کامپیوتر شما می‌ماند و به سرورهای خارجی ارسال نمی‌شود
  • بدون هزینه اضافی - مدل‌های محلی برای هر استفاده هزینه API ندارند
  • حریم خصوصی تضمین‌شده - ایدئال برای مستندات و اطلاعات حساس

چرا Ollama؟​

Ollama ابزاری است که به‌سادگی امکان اجرای مدل‌های AI به‌طور محلی را فراهم می‌کند. روی هر کامپیوتری جداگانه نصب می‌شود، بنابراین محدودیت‌هایی از نظر تعداد کاربر وجود ندارد - به سرور مشترک نیاز نیست.

نصب Ollama​

  1. به صفحه دانلود Ollama بروید
  2. نسخه مناسب سیستم‌عامل خود را دانلود کنید (Windows، macOS یا Linux)
  3. Ollama را از طریق نصب‌کننده نصب کنید
  4. پس از نصب، Ollama به‌طور خودکار در پس‌زمینه اجرا می‌شود

نصب یک مدل زبانی​

پس از نصب Ollama باید حداقل یک مدل زبانی را دانلود کنید:

  1. رابط کاربری Ollama را باز کنید (از طریق آیکون نوار وظیفه یا ترمینال)
  2. یک مدل زبان به انتخاب خود دانلود کنید

مدل پیشنهادی​

بهتر است مدلی را انتخاب کنید که قابلیت‌های tool و vision را دارد:

  • قابلیت‌های Tool - مدل می‌تواند از همه ابزارهای موجود در برنامه استفاده کند، مانند جستجوی اینترنت و تولید تصاویر
  • قابلیت‌های Vision - مدل می‌تواند تصاویر را تحلیل و توصیف کند
مدل پیشنهادی

qwen3-vl:4b تعادل مناسبی بین سرعت و قابلیت‌های ابزار/vision ارائه می‌دهد. این مدل را از طریق ترمینال نصب کنید:

ollama pull qwen3-vl:4b

انتخاب مدل بر اساس سخت‌افزار​

عملکرد یک مدل به شدت به سخت‌افزار رایانه شما بستگی دارد:

سخت‌افزارتوصیه
محدود (8GB RAM، بدون GPU)مدل‌های کوچکتر (1-4B پارامتر) را انتخاب کنید
متوسط (16GB RAM، GPU پایه)مدل‌ها تا 7B پارامتر
قدرتمند (32GB+ RAM، GPU مدرن)امکان استفاده از مدل‌های بزرگ‌تر (13B+)
سرعت در برابر کیفیت

یک مدل کوچکتر معمولاً از نظر سرعت بهتر عمل می‌کند، اما پاسخ‌های دقیق‌تری ارائه نمی‌دهد. برای پیدا کردن بهترین توازن برای وضعیت شما آزمایش کنید.

پیکربندی در برنامه دسکتاپ​

به محض اجرای Ollama با مدلی نصب‌شده، برنامه دسکتاپ به‌طور خودکار آن را شناسایی می‌کند. سپس می‌توانید در چت مدل محلی را به عنوان جایگزینی برای مدل‌های ابری انتخاب کنید.

مدل‌های در دسترس با پشتیبانی ابزار/vision​

لیست کامل را در ollama.com/library ببینید. فیلتر کنید برای مدل‌هایی با:

  • برچسب Tools برای capabilityهای ابزار
  • برچسب Vision برای تشخیص تصاویر

گزینه‌های پرطرفدار:

  • qwen3-vl:4b - جمع‌وجور، سریع، ابزار + vision
  • llama3.2-vision - قابلیت‌های Vision
  • mistral - وظایف عمومی سریع