Відповідьповідомлення недоступне
Бери MoE версію як Qwen3.6 35b a3b де активні параметри викинеш на відюху, а решту що не влізе на оперативку. Буде бодай якась робоча швидкість генерації. Ще по слухам мб упродовж місяця вийде 3.8 MoE.
Якщо хоч саме dense модельку то мб доведеться тобі Q3 квант юзати із контекстом в RAM. Але все що ниже Q4 зазвичай має проблему залупінга або використання тулзів. Але на r/LocalLlama бачив що юзабельно для людей. Там же можеш знайти гайди як то всьо провернуть