امروز مدلهای هوش مصنوعی رایگان در اختیار عموم قرار گرفته و میتوانید این مدلها را دانلود کنید و برای کارهای مختلف از جمله کسب اطلاعات و جستجو، ترجمه، ویرایش یا ساخت عکس و ویدیو و آهنگسازی و غیره از آن استفاده کنید. بعضی از مدلها حجم کمی دارد و امکانات و توانمندیها محدودتر است و برخی دیگر، حجیم است و قابلیتهای جالبی دارد. برای اجرای یک مدل زبانی بزرگ محلی یا Local LLM بهینه نیازی به یک سرور حرفهای یا کامپیوتر گرانقیمت و یا سیستم گیمینگ قدرتمند ندارید، شاید یک سیستم معمولی و ارزان نظیر یک لپتاپ میانرده کافی باشد.
صرفنظر از لازمههای سختافزاری، چیزی که بیش از همه مرا شگفتزده کرده، ساده و در دسترس شدن فرایند دانلود و نصب نرمافزار و مدل هوش مصنوعی است. تجربهی من نشان میدهد که دیگر خبری از راهاندازی سرور، ایجاد محیط توسعه یا تبدیل رایانه به یک ایستگاه کاری پیچیده برای هوش مصنوعی نیست . تنها کافی بود یک برنامه نصب کنم، مدل موردنظر را انتخاب کنم و از یک مدل زبانی محلی برای انجام کارهای روزمره استفاده کنم. همین موضوع باعث شد نگاه من به هوش مصنوعی محلی کاملاً تغییر کند. اگر یک رایانه نسبتاً مناسب دارید و نصب نرمافزارهای معمول دسکتاپ برایتان کار دشواری نیست، دیگر لازم نیست از دور فقط به هوش مصنوعی محلی نگاه کنید؛ اکنون میتوانید واقعاً از آن استفاده کنید.
نرمافزار معروف Ollama به راحتی نصب میشود و کار کردن با آن سادهتر از چیزی است که فکر میکنید. نیازی به وارد کردن دستورات پیچیده یا طی کردن مراحل پیچیده نصب و کانفیگ وجود ندارد. بنابراین این نرمافزار جایگزین خوبی برای ChatGPT و رباتهای هوش مصنوعی امروزی است و میتوانید بدون متصل شدن به اینترنت و با حفظ حریم خصوصی و امنیت، از آن در سیستم خودتان استفاده کنید.
سرویسهای هوش مصنوعی آنلاین از نظر سرعت پاسخگویی و دقت، نسبت به مدلهایی که به صورت آفلاین قابل استفاده است، برتری دارند اما اگر هدف کاربر استفاده از هوش مصنوعی بدون هزینه کردن برای خرید توکن یا اشتراک پریمیوم باشد یا کاربر بخواهد از هوش مصنوعی بدون ارسال اطلاعات به سرورهای آنلاین استفاده کند، چارهای جز کار با مدلهای آفلاین و قابلدانلود وجود ندارد. در واقع حتی مشاغل و سازمانهای بزرگ که محدودیت بودجه ندارند، ممکن است برای حفظ حریم خصوصی و امنیت، از مدلهای هوش مصنوعی آفلاین استفاده کنند.
برای نصب مدلها حتی به خط فرمان هم نیاز نداشتم
Ollama اضافه کردن یک مدل زبانی محلی را به سادگی نصب یک نرمافزار معمولی کرده است
بیشترین شگفتی برای من این بود که تقریباً هیچ تنظیمات پیچیدهای لازم نبود. پیش از شروع تصور میکردم حداقل بخشی از کار باید از طریق خط فرمان انجام شود، زیرا معمولاً همین مرحله باعث میشود بسیاری از کاربران عادی از هوش مصنوعی محلی فاصله بگیرند. در ویندوز این یعنی اجرای PowerShell، وارد کردن یک دستور و امیدوار بودن به اینکه هیچ مرحلهای را از قلم نینداخته باشید. در واقع دقیقاً همین کار را انجام دادم و ابتدا Gemma 3 را از طریق PowerShell نصب کردم، چون فکر میکردم این بخشی اجتنابناپذیر از فرایند است.
اما بعد متوجه شدم که Ollama امکان نصب مدلها را مستقیماً از داخل رابط کاربری خودش فراهم کرده است. همان لحظه بود که این پروژه دیگر شبیه یک آزمایش مخصوص توسعهدهندگان نبود و بیشتر به یک نرمافزار معمولی رایانه شخصی شباهت پیدا کرد. دیگر لازم نبود در میان مستندات جستوجو کنم، دستورات مختلف را از راهنماها کپی کنم یا مدام نگران باشم که شاید مرحلهای را اشتباه انجام داده باشم. کافی بود برنامه را باز کنم، مدل موردنظر را انتخاب کنم و کار را آغاز کنم.
این یک تغییر بزرگ است. اگر نصب یک نرمافزار معمولی و کار با یک رابط کاربری ساده را بلد باشید، دیگر استفاده از هوش مصنوعی محلی خارج از دسترس شما نخواهد بود.
انتخاب مدل مناسب بسیار مهمتر از چیزی بود که تصور میکردم
رایانه من از اجرای هوش مصنوعی محلی برمیآمد، اما همه مدلها برای آن مناسب نبودند
نصب Ollama ساده بود، اما انتخاب مدل مناسب کمی زمان برد. مینیپیسی من کارت گرافیک مجزا ندارد، بنابراین نمیتوانستم بزرگترین مدلی را که پیدا میکنم نصب کنم و انتظار عملکرد مطلوب داشته باشم. این بخش از فرایند پیچیدهترین قسمت کار بود، زیرا باید مدلی را انتخاب میکردم که با سختافزار واقعی رایانه من سازگار باشد، نه سختافزاری که آرزو داشتم در اختیار داشته باشم.
برای همین کمی تحقیق کردم، چند مدل مختلف را امتحان کردم و عملکرد هر کدام را در استفاده واقعی زیر نظر گرفتم. بعضی از مدلها آنقدر کند بودند که استفاده از آنها منطقی نبود، در حالی که برخی دیگر با سختافزار من سازگاری بسیار بهتری داشتند. پس از آزمایش چند گزینه، در نهایت Gemma 3:12B را انتخاب کردم، زیرا بهترین تعادل را برای این مینیپیسی ارائه میداد.
این تجربه یک درس مهم به من داد. هوش مصنوعی محلی بسیار سادهتر از گذشته شده است، اما انتخاب مدل همچنان اهمیت زیادی دارد. یک مدل مناسب میتواند کل تجربه را کاربردی و لذتبخش کند، در حالی که انتخاب اشتباه باعث میشود استفاده از هوش مصنوعی محلی به کاری خستهکننده تبدیل شود.
همچنین عملکردی را که Ollama گزارش میکرد بررسی کردم، زیرا مفهوم «قابل استفاده بودن» بسته به سختافزار افراد متفاوت است. هنگام اجرای Gemma 3:12B روی مینیپیسی من بدون کارت گرافیک مجزا، Ollama نرخ پردازش ورودی یا Prompt Eval Rate را ۳۱٫۷۸ توکن در ثانیه و نرخ تولید پاسخ یا Eval Rate را ۷٫۱ توکن در ثانیه اعلام کرد.
به زبان ساده، مدل میتوانست درخواستهای من را نسبتاً سریع پردازش کند، اما پاسخ را با سرعتی بهمراتب پایینتر تولید میکرد. با این حال این عملکرد برای تهیه طرح اولیه، خلاصهسازی متن، یادداشتبرداری و کمک در نگارش کاملاً قابل قبول بود، هرچند همچنان به سرعت یک چتبات مبتنی بر فضای ابری نمیرسید.
دانلود کردن و اضافه کردن مدلهای مختلف هوش مصنوعی در Ollama بسیار ساده است و میتوانید به راحتی بین مدلها سوییچ کنید و پاسخهای مختلف را بررسی کنید.
از آن برای کارهای واقعی استفاده کردم، نه فقط نمایش قابلیتهای هوش مصنوعی
زمانی که Ollama وظایف روزمره را برعهده گرفت، واقعاً کاربردی شد
پس از اینکه مدل مناسب را پیدا کردم، دیگر به Ollama به چشم یک پروژه آزمایشی نگاه نمیکردم و آن را مانند یکی دیگر از ابزارهای روزمره رایانهام به کار گرفتم. این همان تغییری بود که اهمیت داشت. دیگر هدفم این نبود که فقط سؤالهای عجیب از آن بپرسم یا ببینم آیا یک مینیپیسی ارزان از نظر فنی قادر به اجرای هوش مصنوعی هست یا خیر. کمکم از آن برای همان کارهای کوچکی استفاده کردم که معمولاً بدون فکر کردن، ChatGPT را برای انجامشان باز میکردم.
این کارها شامل پردازش ایدههای اولیه، مرتب کردن یادداشتها، خلاصهسازی متن، مقایسه گزینههای مختلف و کمک به تهیه طرحهای اولیه قبل از تبدیل آنها به متنی کاملتر و حرفهایتر بود. شاید همیشه به سرعت یا کیفیت یک چتبات ابری نمیرسید، اما لزوماً هم نیازی به این موضوع نداشت.
برای بسیاری از کارهای روزمره و کماهمیت، عملکرد آن کاملاً کافی و کاربردی بود. مهمتر از همه اینکه همه چیز بهصورت محلی اجرا میشد و دیگر لازم نبود نگران باشم که هر ایده خام، یادداشت شخصی یا پیشنویس اولیه حتماً باید از رایانه من خارج شود.
چتباتهای ابری همچنان در برخی زمینهها برتری دارند
هوش مصنوعی محلی کاربردی است، اما جایگزین همه چیز نمیشود
استفاده از Ollama باعث شد نگاه من به هوش مصنوعی محلی تغییر کند، اما باعث نشد استفاده از ChatGPT، Claude یا Gemini را کنار بگذارم. چتباتهای مبتنی بر فضای ابری همچنان زمانی که به پاسخهای سریعتر، اطلاعات بهروز، استدلال قویتر یا قابلیتهایی فراتر از تولید متن نیاز دارم، انتخاب بهتری هستند.
البته این موضوع از ارزش هوش مصنوعی محلی کم نمیکند؛ بلکه فقط نقش متفاوتی برای آن تعریف میکند. قرار نیست Ollama در همه زمینهها از بزرگترین مدلهای ابری بهتر باشد. کافی است برای کارهای روزمرهای عملکرد مناسبی داشته باشد که در آنها حفظ حریم خصوصی، کنترل بیشتر و راحتی استفاده اهمیت بالاتری نسبت به سایر عوامل دارند.
Ollama باعث شد هوش مصنوعی محلی برای کاربران عادی کامپیوتر آماده به نظر برسد
Ollama هوش مصنوعی محلی را بینقص نکرد و اساساً هم انتظار چنین چیزی را نداشتم. بعضی مدلها همچنان سریعتر از سایرین هستند و انتخاب بهترین مدل متناسب با سختافزار هنوز هم به کمی تحقیق نیاز دارد. همچنین Ollama تنها نرمافزاری نیست که تلاش میکند استفاده از هوش مصنوعی محلی را سادهتر کند. LM Studio نیز یکی دیگر از گزینههای محبوب است، بهویژه اگر رابط کاربری کلاسیک و شبیه نرمافزارهای دسکتاپ را ترجیح میدهید.
با این حال، Ollama همان ابزاری بود که باعث شد همه چیز برای من معنا پیدا کند. این نرمافزار هوش مصنوعی محلی را به چیزی تبدیل کرد که روی یک رایانه معمولی کاملاً در دسترس و کاربردی است. کافی بود برنامه را نصب کنم، مدل موردنظر را انتخاب کنم و بدون تبدیل این فرایند به پروژهای چندروزه، از آن برای انجام کارهای واقعی استفاده کنم.
برای هر کسی که همیشه درباره هوش مصنوعی محلی کنجکاو بوده اما تصور میکرده استفاده از آن بیش از حد فنی و پیچیده است، این همان نقطه عطف واقعی محسوب میشود. Ollama نشان میدهد که مدلهای زبانی محلی سرانجام در حال خروج از دنیای توسعهدهندگان هستند و جای خود را روی رایانههای شخصی کاربران عادی باز میکنند.
سیارهی آیتی