Vibe Coding Community

проще заплатить

это покупать комп за пол ляма тогда будет около 110 токенов в сек

. Что произойдёт на 64 ГБ: Вариант А: Полная точность (FP16) — 54 ГБ. Это почти весь объём вашей памяти. Система и другие программы будут испытывать нехватку. Скорость генерации будет низкой (около 2–5 токенов/сек),

Лучшее самому

🤯

Зайди в твитер тибо он скидывает