هوش مصنوعی بدون اینترنت؛ تجربه من با Ollama و Local AI

مدتی بود که به این فکر می‌کردم اگر اینترنت در دسترس نباشد، چقدر از ابزارهای هوش مصنوعی که هر روز استفاده می‌کنیم عملاً غیرقابل استفاده می‌شوند.

مدل‌هایی مثل ChatGPT، Claude و Gemini به سرورهای قدرتمندی در سمت ارائه‌دهنده وابسته‌اند. ما فقط رابط کاربری را می‌بینیم و درخواستمان را ارسال می‌کنیم.

اما آیا می‌شود مدل هوش مصنوعی را مستقیماً روی کامپیوتر خودمان اجرا کنیم؟

بله.

البته با یک تفاوت مهم:

قرار نیست کامپیوتر شخصی ما ناگهان تبدیل به دیتاسنتر شود.

Ollama چیست؟

یکی از ابزارهایی که برای اجرای مدل‌های زبانی به‌صورت Local استفاده کردم، Ollama است.

ایده‌اش نسبتاً ساده است:

مدل را روی سیستم خودمان دانلود می‌کنیم، آن را اجرا می‌کنیم و بدون نیاز به ارسال درخواست به یک سرویس خارجی، با آن تعامل داریم.

برای شروع کافی است Ollama را نصب کنیم و بعد متناسب با سخت‌افزار و کاربردمان یک مدل انتخاب کنیم.

مثلاً ممکن است یک مدل برای کار با متن فارسی مناسب‌تر باشد و مدل دیگری برای برنامه‌نویسی.

مدل‌های مختلفی هم با حجم و قابلیت‌های متفاوت وجود دارند؛ بنابراین قبل از دانلود بهتر است مشخصات مدل و نیاز سخت‌افزاری آن را بررسی کنیم.

اولین تجربه با Ollama

بعد از نصب، می‌توانیم مدل‌های نصب‌شده روی سیستم را ببینیم:

ollama list

اگر هنوز مدلی نصب نکرده باشیم، طبیعتاً لیست خالی خواهد بود.

برای دریافت یک مدل:

ollama pull <model-name>

مثلاً:

ollama pull glm-4.7-flash

بعد از دانلود، می‌توانیم آن را اجرا کنیم:

ollama run glm-4.7-flash

از اینجا به بعد، مدل داخل Terminal در دسترس است.

برای خارج شدن از محیط گفتگو هم می‌توان از:

/bye

استفاده کرد.

اگر هم دستورات را فراموش کردید:

ollama help

لیست دستورات را در اختیارتان قرار می‌دهد.

فقط Terminal نیست

یکی از چیزهایی که برای من جذاب بود این است که Ollama صرفاً یک محیط برای چت کردن با مدل نیست.

می‌توان از آن به‌عنوان یک سرویس Local استفاده کرد و برنامه‌های دیگر را به آن متصل کرد.

این یعنی می‌توانیم یک مدل را روی سیستم خودمان اجرا کنیم و از API آن در پروژه‌ها استفاده کنیم.

برای یک توسعه‌دهنده، این قسمت احتمالاً جذاب‌تر از خود چت کردن با مدل است.

چون از اینجا به بعد، Local AI می‌تواند بخشی از یک محصول یا workflow واقعی باشد.

استفاده در برنامه‌نویسی

اگر برنامه‌نویس باشید، یکی از کاربردهای جالب آن اتصال Ollama به ابزارهای توسعه است.

مثلاً می‌توان از Extensionهایی مثل Continue در VS Code استفاده کرد و یک تجربه شبیه ابزارهای AI Coding Assistant داشت؛ با این تفاوت که مدل می‌تواند روی سیستم خودمان اجرا شود.

البته نباید انتظار داشت تجربه آن دقیقاً مشابه Cursor یا سرویس‌های ابری قدرتمند باشد.

مدلی که روی لپ‌تاپ شخصی اجرا می‌شود، به سخت‌افزار همان سیستم محدود است.

اما برای کارهایی مثل:

• توضیح کد

• پیشنهاد تغییرات

• تولید قطعه‌کد

• بررسی فایل‌ها

• کمک در Debug

• و بعضی کارهای روزمره

می‌تواند کاربردی باشد.

یک تجربه واقعی‌تر: ساخت Chatbot

من خودم Ollama را فقط برای امتحان کردن یک مدل نصب نکردم.

از API آن در یک پروژه Chatbot استفاده کردم تا ببینم چقدر می‌توان یک مدل Local را وارد یک پروژه واقعی کرد.

ساختار کلی پروژه ساده بود:

Frontend → Backend → Ollama → Local Model

در این حالت، مدل روی سیستم خودم اجرا می‌شد و Backend درخواست‌ها را به Ollama ارسال می‌کرد.

این تجربه برای من از چت کردن با مدل جالب‌تر بود؛ چون نشان داد Local AI فقط یک ابزار برای تست مدل‌ها نیست و می‌تواند بخشی از یک نرم‌افزار واقعی باشد.

مشاهده پروژه در GitHub

Ollama فقط برای Chatbot نیست

یکی دیگر از کاربردهایی که می‌تواند جالب باشد، استفاده از Ollama در Automation است.

مثلاً می‌توان آن را به ابزارهایی مثل n8n متصل کرد و بخشی از پردازش‌های متنی یک workflow را به مدل Local سپرد.

در این حالت دیگر الزاماً برای هر درخواست متنی به یک API خارجی نیاز نداریم.

این موضوع در بعضی سناریوها می‌تواند از نظر هزینه، حریم خصوصی یا وابستگی به سرویس‌های خارجی اهمیت داشته باشد.

اما یک نکته مهم

Local AI به معنی ChatGPT رایگان روی کامپیوتر شما نیست.

این شاید مهم‌ترین نکته‌ای باشد که قبل از شروع باید بدانید.

مدل‌های قدرتمند به منابع سخت‌افزاری قابل توجهی نیاز دارند.

اگر سیستم شما RAM یا GPU محدودی داشته باشد، باید مدل‌های کوچک‌تر را انتخاب کنید و طبیعتاً کیفیت و سرعت خروجی هم محدودتر خواهد بود.

بنابراین انتخاب مدل یک موضوع مهم است:

مدل بزرگ‌تر لزوماً انتخاب بهتر برای سیستم شما نیست.

گاهی یک مدل کوچک‌تر که سریع اجرا می‌شود، برای کاری که می‌خواهید انجام دهید کاملاً کافی است.

چرا Local AI برای من جذاب است؟

برای من مهم‌ترین بخش ماجرا فقط «بدون اینترنت بودن» نیست.

Local AI چند ویژگی جالب دارد:

کنترل بیشتر

مدل روی سیستم خودمان اجرا می‌شود و وابستگی کمتری به سرویس‌های خارجی داریم.

حریم خصوصی

در سناریوهای مناسب، می‌توان پردازش داده را روی سیستم خودمان نگه داشت و اطلاعات را برای پردازش به یک API خارجی ارسال نکرد.

آزادی در آزمایش

می‌توانیم مدل‌های مختلف را دانلود کنیم، تست کنیم و ببینیم کدام مدل برای نیازمان مناسب‌تر است.

امکان ساخت

برای یک توسعه‌دهنده، API محلی یعنی می‌توان AI را مستقیماً وارد پروژه‌ها و ابزارهای شخصی کرد.

در نهایت، آیا ارزش استفاده دارد؟

اگر انتظار داشته باشید Ollama روی هر لپ‌تاپی تجربه‌ای در حد بهترین سرویس‌های ابری ارائه دهد، احتمالاً ناامید می‌شوید.

اما اگر هدفتان این باشد که با مدل‌های مختلف آزمایش کنید، Local AI را یاد بگیرید، مدل را وارد پروژه‌های خودتان کنید یا در بعضی workflowها وابستگی به سرویس‌های خارجی را کمتر کنید، ابزار بسیار جالبی است.

چیزی که برای من جذاب بود، خود Ollama نبود.

ایده‌ای بود که پشت آن قرار دارد:

اینکه مدل هوش مصنوعی لزوماً نباید همیشه جایی روی یک سرور دور اجرا شود.

گاهی می‌تواند همین‌جا، روی کامپیوتر خودمان باشد.

و برای یک توسعه‌دهنده، این یعنی یک ابزار جدید برای ساختن چیزهای جدید.