کمبود حافظه گرافیکی یا VRAM همیشه به این معنی نیست که نمیتوانید مدلهای بزرگ هوش مصنوعی را روی کامپیوتر شخصی اجرا کنید. با استفاده از ابزار llama.cpp و تنظیم نحوه استفاده از حافظه کارت گرافیک و رم سیستم، در برخی شرایط میتوان مدلهایی را اجرا کرد که حجم فایل آنها از ظرفیت VRAM بیشتر است. این روش بهویژه برای اجرای محلی روی لپتاپهای مجهز به کارت گرافیک ۸ گیگابایتی کاربرد دارد.