Ответсообщение недоступно
хорошая шутка про мелких , пока не почитаешь сколько этой штуке надо железа:
Recommended setup for q4:
• 101× RTX 4090 with expert parallelism (each holds 9 experts)
• Alternative: 8× H100 80GB with tensor + expert parallelism
• Alternative: 16× A100 80GB with pipeline parallelism
впрочем ничего нового )