اجرای مدلهای زبانی بزرگ روی کامپیوتر شخصی با ابزارهایی مانند llama.cpp امکان استفاده از هوش مصنوعی بدون وابستگی به سرویسهای ابری را فراهم کرده است؛ اما سرعت تولید پاسخ همیشه به قدرت کارت گرافیک و حجم حافظه آن بستگی ندارد. قابلیت MTP یا Multi-Token Prediction یکی از روشهایی است که میتواند سرعت تولید متن در مدلهای خانواده Gemma 4 را به شکل چشمگیری افزایش دهد.
این قابلیت با کمک یک مدل کمکی به نام Drafter کار میکند و به مدل اصلی اجازه میدهد بهجای تولید توکنها بهصورت کاملاً متوالی، چند توکن احتمالی را همزمان بررسی کند. در نتیجه، ممکن است بدون تعویض کارت گرافیک یا کاهش حجم مدل، سرعت اجرای محلی بیشتر شود.