Сергей Мод | Нейросети и Бизнес

Инженер из Netflix сжал контекст AI-агента на 95% - и точность не упала. Два года все гонялись за большими окнами контекста: 128K, 200K, 1M токенов. Библиотека Headroom идёт в другую сторону: сжимает всё, что агент читает перед отправкой в модель. Логи, файлы, результаты поиска, куски документов - всё это занимает место и стоит денег. Что делает Headroom: • Сжимает входящий контекст на 60-95% • Хранит оригиналы локально, модель достаёт нужное по запросу • Данные не покидают твою машину • Работает с Claude, Cursor, Codex, Aider, Copilot Проверили на стандартных тестах точности (GSM8K и TruthfulQA - задачи на математику и правдивость ответов). Результаты не просели. Запускается как библиотека, прокси или MCP-сервер (протокол для подключения инструментов к агенту). 39K звёзд на GitHub, лицензия Apache 2.0. Меньше токенов - меньше затрат, быстрее ответ, та же точность. Репозиторий: Headroom на GitHub.

AutoCAD стоит от $50 000 за место. Этот редактор зданий - бесплатный и работает в браузере. Pascal Editor - 3D-редактор для проектирования зданий прямо в браузере. Без установки, без лицензий. Что умеет: • Рисовать стены, этажи, зоны - с полной иерархией здания • Красить стены и мебель в любой цвет (свежее обновление) • Раскладывать этажи в «взрыв-схему», чтобы видеть каждый слой отдельно • Отменять любое действие - полноценный undo/redo Работает на WebGPU - это значит рендер прямо на видеокарте, без тормозов. 16 900 звёзд на GitHub. MIT-лицензия - бери и делай что хочешь. BIM-софт (программы для проектирования зданий) стоит десятки тысяч долларов за место. Pascal Editor - рабочая альтернатива с открытым кодом. Проект называется Pascal Editor - ищи на GitHub.

Открытый OCR распознал 10 тысяч медицинских и финансовых документов - включая почерк врача, который OCR не брал 30 лет. Простыми словами: библиотека берёт скан или фото документа и превращает в чистый текст - Markdown, HTML или JSON, с сохранением структуры. Что умеет: • Читает рукописный и неровный текст, вплоть до курсива • Восстанавливает таблицы с объединёнными ячейками • Распознаёт формулы и переводит в LaTeX • Вытаскивает чекбоксы и поля форм со значениями • Работает на 40+ языках • Запускается локально или на сервере vLLM для больших объёмов Протестирован на 10К финансовых и медицинских документов, обгоняет другие open-source OCR на бенчмарке OLMOCr. Открытый код, Apache 2.0, 4.8К звёзд на GitHub: Chandra Для бизнеса это архив бумажных документов, который можно превратить в структурированные данные без ручного ввода - врачебные карты, счета, старые формы.

Загружаешь одну фотографию - и система выдаёт точную локацию, а следом список камер-считывателей номеров рядом, с именами владельцев. Платформа Raven (бывший GeoSpy) подключила базу из 100 000+ камер LPR по США - это камеры, которые автоматически считывают номера машин на дорогах. Как это работает: • загружаешь фото • AI определяет геолокацию по деталям на кадре • система показывает ближайшие камеры-считыватели номеров и кто ими владеет Из одной картинки получается готовая цепочка: место → камеры рядом → конкретная зацепка для расследования. Инструмент делают для следователей и служб безопасности, но принцип шире. Раньше AI-сервис выдавал один ответ на один запрос. Теперь агент сам связывает несколько источников данных в цепочку и доводит до результата, готового к действию. AI-агент строит цепочку: от одного вопроса через связанные данные до ответа, с которым можно сразу действовать.

31 ГБ векторных данных сжались до 4 ГБ - без единого часа обучения. Если у тебя AI-поиск по своей базе документов (RAG), каждый текст превращается в вектор - числовой отпечаток смысла. Чем больше документов, тем больше памяти жрут эти отпечатки. На 10 млн документов это легко 31 ГБ RAM. TurboVec - open-source библиотека на Rust (быстрый язык для системного софта) для такого поиска. В основе алгоритм Google TurboQuant: три простых шага без обучения на твоих данных - нормализация, случайный поворот и раскладка по бакетам (группам похожих векторов). Что это даёт: • сжатие в 16 раз без потери точности поиска • на ARM-чипах (Apple, многие серверы) быстрее FAISS - популярной библиотеки Meta - на 12-20% • готовые интеграции с LangChain и LlamaIndex - фреймворками для RAG-приложений • работает в изолированной сети (air-gapped), данные не уходят в чужое облако Та же база знаний помещается в сервер в разы дешевле - и весь поиск остаётся внутри компании, без облачных API.

Mistral выложил в открытый доступ голосовую модель уровня ElevenLabs - и это всего 4 миллиарда параметров. Называется Voxtral TTS. В слепых тестах носители языка выбирали её голос вместо ElevenLabs Flash v2.5 в 68% случаев. Что умеет: • Клонирует голос по 3-секундному образцу - сохраняет паузы, ритм, интонацию • Отдаёт первый звук через 70 миллисекунд - подходит для живых голосовых агентов, а не только для озвучки роликов • Держит эмоции и сарказм в голосе, не только текст читает • Работает на 9 языках, причём голос из французской фразы можно перенести на английскую речь без дополнительного обучения Веса модели лежат на Hugging Face по лицензии CC BY-NC 4 - использовать можно бесплатно, но не в коммерческих продуктах без отдельного разрешения. Раньше качественный голосовой агент означал подписку на закрытый API и счёт за каждую минуту речи. Теперь топовое качество голоса можно запустить у себя, если продукт не строится на продаже самого голоса.

На видео - AI-агент, который сам собрал сайт: от структуры страниц до готового кода.  Я не вёл его за руку - один раз правильно построил контекст и поставил задачу. Раньше делегировать работу можно было только сотруднику. Сейчас точно так же можно делегировать её AI-агенту. Правило одинаковое: не умеешь ставить задачу сотруднику - он сделает её плохо. Не даёшь агенту контекст, четкие правила и память о задаче - результат будет тоже же слабым. Когда контекст выстроен правильно, агент проходит все этапы задачи автономно, в фоне, даже когда ты спишь. Что уже умеют агенты в моих проектах: Контент и маркетинг • собирают сайты и лендинги • ведут соцсети, e-mail и телеграм-каналы • монтируют рекламные ролики и управляют кампаниями Люди • ищут клиентов и сотрудников • проводят онбординг и обучение Рынок • анализируют конкурентов и тренды, делают из инфоповодов контент • находят рыночные возможности, помогают в управлении инвестициями Модели (GPT, Opus, Gemini и т.д) - это движок. Сама модель не создает вам конкурентное преимущество, потому что, доступ к ним есть у всех кто погружен в AI.  Но то, что может действительно вас ускорить и поднять ваш бизнес - это технология создания рельсов для LLM-моделей. Это назваться Harness.  Простым языком это технология построения контекста, workflow и правильной постановки задачи для AI-агентов.  Если вы простроили правильный контекст и создали фундамент, то агенты будут допускать меньше ошибок, лучше понимать цели проекта, и работать автономно.  Если Harness не простроен и фундамента нет, вся мощь AI будет работать для вас обычным чат-ботом, и отвечать на вопросы. В целом также как и с живыми сотрудниками, если вы наняли человека на работу и в первый день бросили его -> ожидать высоких результатов было бы странно.

4 приложения на iOS, 0 пользователей, 0 дохода - в наше время это проблема касается почти каждого разработчика. Все строят приложения с помощью Claude. Быстро, без команды и денег на разработку. Раньше написать рабочий продукт умел не каждый - это само по себе было редкостью. Но сейчас продукт может собрать почти любой человек с подпиcкой за $20. А привести в бизнес первых пользователей - нет. Умение построить продукт больше не редкость. Редкость - умение привести к нему первых 100-500-1000 клиентов. На своих проектах вижу: то, что раньше называли маркетингом, теперь основная работа основателя. Код и автоматизация - расходный материал. Аудитория и дистрибуция - то, что решает, будет у продукта жизнь или нет. Эту задачу под капотом решает моя AIAvatar.pro: автономные AI-инфлюенсеры продвигают бренд сами - выкладывают сотни Reels в месяц на десятках аккаунтов, пока ты строишь продукт или отдыхаешь.

HyperFrames от HeyGen ушёл в open source - и теперь видео собирается из HTML В HyperFrames агент пишет обычный HTML и CSS с покадровой анимацией. Headless Chrome отрисовывает кадры, FFmpeg склеивает их в MP4. Один и тот же HTML-файл каждый раз выдаёт одинаковый видеоряд - рендер детерминированный, без React и монтажных пайплайнов. Просто HTML. Apache 2.0, ~35 000 звёзд на GitHub, скиллы ставятся в Claude Code одной командой. Рендер локальный. Нужен Node 22 и FFmpeg на машине агента - облачного API нет. Для агентских видео-скриптов без монтажки - рабочий инструмент HeyGen с открытым кодом.

Очень полезный гайд по настройке Hermes Agens (автономные AI-сотрудники). В гайде: • Настройка многоуровневой памяти и семантического поиска. • Оптимизация стоимости работы агента с помощью GLM 5.2 и роутинга моделей. • Самообучение агента, навыки, субагенты и мультиагентные сценарии. • Развертывание одного Hermes для работы с ПК, сервером и мобильными устройствами. • Настройка безопасной автономной работы через sandbox, ограничения и внешнюю «клетку». • Обзор новых возможностей Hermes 0.19 Quicksilver и подборка полезных community-навыков. :contentReference[oaicite:1]{index=1} P.S. Автор: @edvardgrishin27

90% кода можно писать моделью за $2 за миллион токенов Схема простая: дорогая модель (тот же Claude) остаётся архитектором - держит спецификацию, принимает решения, проверяет результат. А печатает код Grok 4.5, он в разы дешевле топовых моделей и токенов на задачу тратит примерно в два раза меньше. Маршрутит задачи между моделями бесплатный плагин для Claude Code с открытым кодом (лицензия MIT). Он сам решает, где хватит дешёвого исполнителя, а где нужен архитектор.

Graphify строит граф знаний кода без единого вызова LLM Инструмент проходит по синтаксическому дереву Tree-sitter прямо на диске и складывает связи между функциями и файлами в граф. Каждая связь помечена: EXTRACTED - взято прямо из кода, INFERRED - выведено логикой. Любую можно проверить руками. На бенчмарке LOCOMO это дало 0.497 recall@10, тогда как специализированные системы памяти на том же тесте показали 0.048 и 0.149. Построение графа стоит 0 кредитов LLM - модель вообще не запускается. Поддержка около 40 языков, плюс PDF, картинки и аудио. Лицензия Apache-2.0, 97 тыс. звёзд на GitHub, встраивается в Claude Code одной командой. Минус - без модели граф видит только структуру связей, смысл кода остаётся за агентом сверху.