بازار مدل‌های Self-Hosted نسبت به چند سال قبل کاملاً تغییر کرده است. قبلاً اجرای یک مدل زبانی قابل قبول روی سخت‌افزار شخصی بیشتر یک پروژهٔ آزمایشی بود؛ امروز خانواده‌هایی از مدل‌ها وجود دارند که برای برنامه‌نویسی، پردازش متن، Vision، Agent، ترجمه و کاربردهای تخصصی طراحی شده‌اند.
اما عبارت «بهترین مدل Self-Hosted» کمی گمراه‌کننده است. مدلی که برای یک سرور چند GPU عالی است، احتمالاً انتخاب خوبی برای یک کامپیوتر با ۱۶ گیگابایت RAM نیست. بنابراین بهتر است مدل‌ها را بر اساس کاربرد و منابع سخت‌افزاری بررسی کنیم.
Qwen
خانوادهٔ Qwen یکی از گزینه‌های مهم در اکوسیستم مدل‌های قابل اجرا روی زیرساخت شخصی است. نسخه‌های مختلف این خانواده برای کاربردهای عمومی، برنامه‌نویسی، Vision و سناریوهای Agentic عرضه شده‌اند. در سپتامبر ۲۰۲۶ مدل‌هایی مانند Qwen3.8 در Hugging Face جزو مدل‌های پرمراجعهٔ اکوسیستم متن‌باز هستند.
یکی از مزیت‌های خانوادهٔ Qwen تنوع اندازهٔ مدل‌هاست؛ بنابراین بسته به GPU و مقدار RAM می‌توان نسخهٔ مناسب‌تری انتخاب کرد.
GLM
خانوادهٔ GLM نیز به‌خصوص برای سناریوهای Coding و Agentic مورد توجه قرار گرفته است. GLM-5.3-Flash یک مدل multimodal با حدود ۳۲۰ میلیارد پارامتر کل و ۱۸ میلیارد پارامتر فعال معرفی شده و امکان استقرار با ابزارهایی مانند vLLM، SGLang، Transformers و KTransformers را دارد.
البته عبارت «Flash» نباید باعث شود تصور کنیم اجرای کامل چنین مدلی روی یک کارت گرافیک معمولی ساده است. MoE بودن مدل تعداد پارامترهای فعال در هر مرحله را کاهش می‌دهد، اما وزن‌های مدل همچنان باید جایی نگهداری شوند.
DeepSeek
DeepSeek یکی دیگر از خانواده‌هایی است که در معماری‌های بزرگ و Agentic حضور پررنگی دارد. DeepSeek V4.1 Flash در سپتامبر ۲۰۲۶ به‌صورت یک مدل MoE با ۵۵۲ میلیارد پارامتر معرفی شد که برای ورودی حدود ۸ میلیارد و برای خروجی حدود ۱۶ میلیارد پارامتر فعال دارد. این نوع مدل‌ها بیشتر مناسب سرورهای قدرتمند و زیرساخت‌های جدی هستند تا یک سیستم دسکتاپ عادی.
Gemma
برای سخت‌افزار محدودتر، خانوادهٔ Gemma اهمیت زیادی دارد. Google مدل‌های Gemma 4 را در اندازه‌های مختلف از مدل‌های کوچک تا نسخه‌های بزرگ‌تر ارائه کرده است. این خانواده قابلیت‌های multimodal و Context طولانی دارد و نسخه‌های مختلف آن برای دستگاه‌های قدرتمند موبایل، لپ‌تاپ و سرور طراحی شده‌اند.
مدل کوچک‌تر همیشه به معنی مدل بدتر نیست. اگر وظیفه مشخص باشد، یک مدل کوچک سریع که Prompt و ابزارهای مناسبی در اختیار دارد ممکن است از یک مدل بسیار بزرگ اما کند کاربردی‌تر باشد.
پس بهترین مدل کدام است؟
قبل از انتخاب مدل این سؤال‌ها را پاسخ دهید:
- چه مقدار VRAM دارید؟
- Latency چقدر مهم است؟
- چند کاربر همزمان دارید؟
- وظیفهٔ اصلی Coding است یا Chat؟
- Vision لازم دارید؟
- مدل باید Tool Calling داشته باشد؟
- اطلاعات فارسی چقدر اهمیت دارد؟
- Context طولانی نیاز دارید؟
پس از پاسخ به این سؤال‌ها می‌توان مدل مناسب را انتخاب کرد. برای دسته‌بندی دقیق‌تر مدل‌ها بر اساس نوع کار، مقالهٔ مدل‌های Self-Hosted تخصصی را بخوانید.
Ollama یا vLLM؟
برای آزمایش روی لپ‌تاپ و Workstation، ابزارهایی مانند Ollama راه‌اندازی را بسیار ساده می‌کنند. برای Serving جدی‌تر و چندکاربره، ابزارهایی مانند vLLM معمولاً امکانات بیشتری در زمینهٔ Batching، مدیریت حافظه و Throughput ارائه می‌دهند. خود vLLM نیز در نسخه‌های جدید از خانواده‌های مختلفی مانند DeepSeek، GLM و Kimi پشتیبانی می‌کند.
Quantization چه کمکی می‌کند؟
Quantization وزن‌های مدل را با Precision پایین‌تری ذخیره می‌کند. برای مثال به‌جای FP16 می‌توان از فرمت‌های ۸ بیتی، ۴ بیتی یا روش‌های دیگر استفاده کرد. نتیجه معمولاً کاهش مصرف حافظه است، اما ممکن است مقداری از کیفیت یا سرعت تحت تأثیر قرار بگیرد. به همین دلیل انتخاب Quantization نیز بخشی از فرایند انتخاب مدل است.
جمع‌بندی
هیچ مدل Self-Hosted واحدی برای همه مناسب نیست. برای سیستم‌های کوچک، مدل‌های سبک Gemma یا Qwen می‌توانند منطقی باشند و برای سرورهای قدرتمندتر خانواده‌هایی مانند GLM، Qwen و DeepSeek گزینه‌های بیشتری در اختیار توسعه‌دهنده قرار می‌دهند.
در عمل مهم‌ترین معیار، نتیجهٔ مدل روی داده و سناریوی واقعی خودتان است، نه رتبهٔ آن در یک Benchmark.