Machine learning chat

⚡️ Thinking Machines Lab Миры Мурати выпустила Inkling-Small - открытую MoE-модель на 276 млрд параметров, которая активирует лишь 12 млрд на токен. И эта «младшая» версия обошла Inkling с 41 млрд активных параметров: — Terminal-Bench 2.1: 64,7% против 63,8%; — HLE: 31,6% против 29,7%; — SWE-Bench Verified: 80,2% против 77,6%. Результат получили после on-policy-дистилляции от старшей модели и ещё двух недель RL на агентном программировании. Inkling-Small поддерживает изображения и аудио, контекст до 1 млн токенов и регулируемую глубину рассуждений. Веса опубликованы полностью. Похоже, у разработчиков мультимодальных агентов появился крайне эффективный открытый фундамент. https://thinkingmachines.ai/news/inkling-small/