Пост پ.ن: دوستان AI روی گوشی داره جدی‌تر می‌شه.

12 сентября 2026

CodeNeuron

Ответیه آپدیت جالب برای اجرای LLMها روی Apple Silicon یک تیم کوچک به اسم Mirai، قابلیت Speculative Decoding رو به موتور Inference خودش اضافه کرده. فعلاً از Qwen3.6 27B پشتیبانی می‌کنن و پشتیبانی از Qwen3.8 27B و Muse Glimmer هم در راهه. نکته جالب اینه که ادعا می‌کنن عملکردشون روی Apple Silicon به شکل

پ.ن: دوستان AI روی گوشی داره جدی‌تر می‌شه. به نظرم با این سرعت پیشرفت در Inference، Quantization و Speculative Decoding، تا یک سال دیگه ممکنه واقعاً به اجرای مدلی در سطح Qwen3.8 27B روی گوشی برسیم. اگر این اتفاق بیفته، بخش بزرگی از AI می‌تونه On-Device اجرا بشه؛ بدون Cloud و وابستگی دائمی به API. به نظرم این مسیر خیلی جذاب‌تر از چیزی‌یه که الان به نظر میاد.

44 · 11:55

Рядом в ленте

CodeNeuron11:47پ.ن: اگر واقعاً این‌قدر نگران ریسک‌های تکنولوژی هستید، قبل از AI شاید بهتر باشه نگران چیزهای خیلی معمولی‌تری باشید که همین الان هم می‌تونن آدم رو بزنن. فعلاً فا C

CodeNeuron11:53یه آپدیت جالب برای اجرای LLMها روی Apple Silicon یک تیم کوچک به اسم Mirai، قابلیت Speculative Decoding رو به موتور Inference خودش اضافه کرده. فعلاً از Qwen3.6 2

это сообщение

CodeNeuron12:02انگار داستان Context Window خیلی قبل‌تر از LLMها شروع شده بود. شرلوک ۱۴۰ سال پیش می‌گفت مغز مثل یک اتاق زیرشیروانیه و نباید هر آشغالی رو توش ریخت. یودا گفت باید C

CodeNeuron07:44من خودم به این نتیجه رسیدم که حتی قصد ندارم هیچ کاری رو صرفاً با استفاده از هوش مصنوعی خودکار کنم. نه اینکه بهش اعتماد نداشته باشم؛ اتفاقاً خیلی هم ازش استفاده