Embedika | ИТ-решения для бизнеса Chat

In-Context Learning — свойство языка, а не только архитектуры трансформера Материал подготовлен на основе исследования от канала Ruslan Dev.  Одно из ключевых практических свойств современных LLM — способность решать задачи, которым модель явно не обучалась. Достаточно нескольких примеров в промпте, чтобы модель смогла выучить их общий паттерн . Этот феномен называется In-Context Learning (ICL). Автор канала RuslanDev предлагает объяснение: ICL — это свойство структуры естественного языка, которое трансформер адаптирует через self-attention. Для бизнеса это важно, потому что объясняет, почему одни задачи LLM решают надёжно, а другие — нет. Как работает attention В классических нейросетях преобразования идут последовательно. В трансформере механизм attention устроен иначе: каждый токен формирует запрос, ключ и значение — что ему нужно, чем он полезен другим и что передаёт. Модель вычисляет, насколько запросы одних токенов соответствуют ключам других, и строит взвешенные связи между всеми токенами. По сути, это граф: узлы — токены, рёбра — сила их взаимного влияния. Принципиальный момент: структура не задана заранее, а вычисляется из самих данных. Аналогия с восстановлением функции Задачу трансформера можно описать так: по отдельным точкам восстановить зависимость между ними. Чем больше точек — тем точнее результат. Точки — это токены контекста, правило восстановления — матрица внимания. На практике это означает: качество ответа зависит от того, насколько хорошо подобран контекст — примеры, формулировки, структура промпта. Почему это объясняет few-shot learning Трансформер строит интерполяцию между примерами из контекста. Но по нескольким точкам произвольную функцию восстановить нельзя — это математический факт. Значит, распределение токенов языка не случайно: многообразие описывающих его функций ограничено и гладко. Именно это позволяет модели восстанавливать зависимость по малому числу примеров. Для бизнеса это означает: LLM надёжно работают там, где язык по

Подготовка данных — обязательное условие эффективности корпоративного RAG Контекст в компании распределен. Один и тот же процесс или объект могут описывать несколько документов: приказ, регламент, инструкция, шаблон. Эти документы живут в разных системах (СЭД, файловых хранилищах, порталах, почте) и редко синхронизируются между собой, а версии и приоритеты почти невозможно контролировать вручную. Когда RAG-система получает запрос, она ищет ответ по всем доступным внутренним источникам. И если в базе одновременно лежат действующая и устаревшая редакции регламента, два противоречащих друг другу положения или разные версии одного договора, система найдет оба варианта, но не будет знать, какой из них правильный. Поэтому главным фактором точности ответа становится не мощность модели, а проблемы источников: ➖ Противоречивые версии. Когда в базе есть и актуальная, и устаревшая редакция документа, RAG не может определить, какая из них действующая; ➖ Смысловые конфликты между документами. Регламент и инструкция описывают одну процедуру по-разному, при этом каждый документ по отдельности выглядит корректно. ➖ Разорванные связи. Документ ссылается на приложение, которого нет в системе, или на редакцию, которая уже заменена, поэтому ответ строится на неполном контексте. ➖ Неоднозначные формулировки. Условие допускает несколько трактовок, и модель выбирает ту, которая статистически вероятнее, а не ту, которая юридически верна. ➖ Некачественные сканы и метаданные. OCR распознал текст с ошибками, атрибуты заполнены неверно или отсутствуют — в таком случае ответ опирается на искаженный источник. Отдельная проблема — права доступа. Если RAG не наследует ролевую модель из источника, он может показать сотруднику документ, который ему не предназначен. Из-за чего вопрос переходит в плоскость безопасности. Начинать нужно с источников, т.к. пока в документах есть противоречия и устаревшие версии поиск будет менее результативным. Пошаговый порядок действий мы подробно разбирали в пост

Галлюцинации ни при чем, качество ответа ИИ теряется еще на этапе запроса Шаблонный или неточный ответ нейросети принято объяснять несовершенством технологий и галлюцинациями. Но часто причина кроется в самом запросе. Пользователь описывает задачу общими словами, а модель восполняет недостоющие вводные собственными предположениями. В новой колонке для Techinsider Корней Мамруков, бизнес-аналитик в Embedika, разобрал, из каких элементов складывается запрос с предсказуемым результатом и что делать, когда одного промпта не хватает. В статье разбираем ключевые причины неудачных запросов и приемы работы с ними: ▫️ Почему нейросеть додумывает требования к ответу, если не задать роль и критерии оценки результата; ▫️ Как одна фраза про уточняющие вопросы снимает несколько итераций доработки запроса; ▫️ Почему формулировки вроде «докажи, что...» заранее подсказывают модели нужный ответ и как получить объемную картину вместо односторонней; ▫️ Как декомпозиция и расстановка приоритетов помогают справиться с многоступенчатыми задачами; ▫️ Что делать с оценочными формулировками и почему стоп-лист работает лучше пожеланий; ▫️ Как учитывать ограничения памяти модели в длинных диалогах и когда проще начать новый. 🔗 Полная версия статьи — на сайте Techinsider #сми_о_нас

Почему легкие модели обрабатывают большинство запросов к API Мы продолжаем разбирать тренды из исследования AIANA RAI-2026 о рынке искусственного интеллекта России. В прошлом обзоре мы фиксировали ключевые цифры. Сегодня разберем, как меняется спрос на модели и почему это важно для тех, кто внедряет ИИ в корпоративные процессы. Еще недавно рынок выглядел как гонка за одной универсальной моделью. Сейчас же модели разделились на два класса, и у каждого своя задача. ✅ Фронтирные модели — для сложных рассуждений. Это тяжёлые модели, которые умеют работать с длинным контекстом и выстраивать многошаговые цепочки рассуждений. Они нужны там, где задача требует анализа, а не быстрого ответа. ✅ Лёгкие модели — для массовых, простых запросов. Они быстрее и дешевле, но не рассчитаны на сложные сценарии.  В исследовании приведены данные по реальному использованию моделей через API: легкие модели занимают шесть позиций из восьми в топе по доле запросов и суммарно собирают 63% всех запросов при 34% токенов. Разницу объясняет длина задачи: тяжелой модели отдают 60-70 тыс. токенов контекста и длинную цепочку рассуждений, а легкой — 2-10 тыс. токенов, чаще всего это один шаг агента.  Такой агент работает не одним запросом, а последовательностью шагов. Например, при подготовке ответа по внутренней базе документов он сначала находит подходящие источники, затем извлекает из них нужные фрагменты, сверяет данные между документами и только потом формирует итоговый ответ. Каждый шаг — отдельный вызов модели, и на него уходит немного токенов. Поэтому счет запросов растет быстрее счета токенов, а основную нагрузку берут на себя легкие модели. Для компаний, которые внедряют ИИ в работу с документами и данными, этот тренд означает, что не все задачи необходимо решать через мощные и дорогостоящие модели. Часть задач эффективнее и дешевле закрывать легкими моделями. А тяжёлые подключать точечно там, где действительно нужен глубокий анализ и длинная цепочка рассуждений. Сегодня компании вс

Подборка полезных и интересных материалов Господдержка ИИ-разработчиков, контроль над действиями агентов и экономика внедрения — в новой подборке собрали материалы о том, как отрасль решает вопросы регулирования, инфраструктуры и реальной отдачи от технологий. Статьи: 📎 Материал «Ведомостей» о том, какие условия поддержки отечественных ИИ-разработчиков обсуждают в правительстве. 📎 Статья «Известий» о создании крупнейшими российскими технокомпаниями систем контроля за действиями ИИ-агентов. 📎 Публикация «Коммерсанта» о подорожании серверных комплектующих на фоне растущего спроса на ИИ. 📎 Интервью TAdviser с лидером направления «Сбер2B ИИ» об экономическом эффекте от ИИ-агентов и их практических задачах. 📎 Колонка Forbes о роли MCP и других протоколов для связки ИИ-агентов с сервисами. 📎 Колонка в Forbes о полной стоимости внедрения ИИ в бизнес. Заметки:  ✍️ Презентации докладчиков с конференции «Яндекса» Deep Tech Night. ✍️ AvitoTech — о пути от LLM-портала до фабрики внутренних агентов и корпоративном ассистенте «Виталик». ✍️ Yandex Cloud & Infrastructure — об оптимизации инференса LLM: кешировании, времени ответа и GPU-ресурсах. ✍️ «Инфосистемы Джет» — об опыте передачи бухгалтерских процессов под управление ИИ. Книги: 📚 «Человек + машина», Пол Доэрти, Джеймс Уилсон — о переосмыслении бизнес-процессов и создании новых рабочих мест с опорой на ИИ. 📚 «Искусственный интеллект на службе бизнеса», Аджей Агравал, Джошуа Ганс, Ави Голдфарб — как машинное прогнозирование снижает неопределенность и помогает принимать управленческие решения. Подкасты: 🎤 «По проводам | MWS AI» — выпуск о цифровой трансформации промышленности и о том, где скрывается реальный экономический эффект. 🎤 «Путь ИИ» — выпуск о девяти принципах агентизации бизнеса и причинах провала большинства ИИ-пилотов.

ИИ в крупном бизнесе: сценарии, которые дошли до продакшена Почти половина ИИ-проектов в крупных компаниях закрывается без ожидаемого экономического эффекта. При этом часть решений все же доходит до промышленной эксплуатации и приносит измеримый результат там, где есть цифровой след, понятный процесс и быстрый эффект.  В совместном исследовании компании «Инфосистемы Джет» и Smart Ranking изучили, какие сценарии уже работают в российских компаниях и какой эффект они дают. В карточках собрали самые распространенные кейсы из отраслевого среза исследования #аналитика

Как внедрить ИИ в работу с документами без остановки бизнеса Крупные компании редко решаются на полную замену систем документооборота, ведь пока идет миграция, бизнес-процессы не могут остановиться. Поэтому для внедрения ИИ в работу с документами чаще используют другую модель — Land and Expand. Сначала берут один конкретный документный сценарий и доводят его до результата, а затем расширяют решение на смежные функции за счет уже созданной основы. Попытка сразу построить универсальную систему упирается в абстрактность, отсутствие единого владельца и длинный цикл продажи. У платформы нет конкретной боли, которую можно измерить в первые месяцы. Поэтому основной рекомендацией становится другая логика: ➡️ Land — вход через конкретный документный сценарий и рабочее место.  ➡️ Expand — расширение через единое контентное ядро, повторно используемые AI-навыки и межмодульные связи. Второй сценарий подключается быстрее и дешевле, потому что использует то, что уже создано. Начинать стоит с одного документного сценария, где есть понятная боль и измеримый результат. Не нужно пытаться охватить сразу все процессы, т.к. это распыляет ресурсы и откладывает момент, когда бизнес увидит эффект. При выборе первого контура стоит ориентироваться на несколько критериев: ➖ Процесс регулярно повторяется и содержит большую долю рутины; ➖ Есть цифровой след, документы уже существуют в электронном виде; ➖ Результат можно измерить: например, через время, количество ошибок, стоимость обработки; ➖ Есть владелец процесса, который заинтересован в улучшении. Когда первый контур дошел до промышленной эксплуатации, начинается Expand. Второй сценарий должен использовать те же сущности, права, граф, доказательства, поиск и аудит, что и первый. Механика расширения включает следующие шаги: 1️⃣ На этапе диагностики фиксируются 2-3 смежных контура, но пилотируется один; 2️⃣ Архитектура, права доступа, источники и KPI согласуются сразу как общие, а не локальные для одного сценария; 3️⃣ В пилоте сохраняю

Как управлять информацией, когда в компании слишком много документов Чем больше компания, тем больше документов появляется в ее работе: нормативные документы, регламенты, инструкции, договоры, проектная и техническая документация. Кажется, что основная задача — просто хранить эту информацию и обеспечить к ней доступ. На практике с ростом объема документов возникают новые проблемы: найти нужные данные становится сложнее, документы оказываются распределены по разным системам, а сотрудники тратят время на проверку актуальности и сопоставление информации. Разберем несколько проблем, с которыми сталкиваются компании: 1️⃣ Сложно быстро найти нужную информацию. В компании могут быть тысячи и десятки тысяч документов, а поиск нужного фрагмента информации требует просмотра нескольких источников. Сотрудник знает, что нужный документ существует, но не всегда знает, где именно его искать и как сформулировать запрос. 2️⃣ Непонятно, какой документ является актуальным. При большом количестве подразделений и информационных систем появляются дубли, разные версии и документы, которые могут противоречить друг другу. В результате актуальность информации приходится проверять дополнительно. 3️⃣ Документы существуют отдельно друг от друга. Один документ может ссылаться на другой, описывать определенный бизнес-процесс, объект или оборудование. Но если эти связи не структурированы, сотруднику приходится самостоятельно находить и сопоставлять информацию из разных источников. 4️⃣ Сложно работать с большими массивами технической информации. В инженерных и промышленных проектах документы связаны не только между собой, но и с конкретными объектами, моделями, оборудованием и его параметрами. При этом изменение одного элемента может затрагивать большое количество связанных данных. 5️⃣ Эксперты тратят время на повторяющиеся проверки. Юристам, методологам и другим специалистам приходится регулярно анализировать документы по одним и тем же правилам, искать риски, проверять соответствие требов

Пять материалов о том, как строить агентов, почему метрики врут и что меняет ИИ в разработке Недавно познакомились с каналом EasyData. Автор — преподаватель и ML-инженер, занимающийся рекомендательными системами. В канале делятся опытом, инструментами и разбирают рабочие задачи. Выбрали пять публикаций, которые нам показались наиболее интересными: ◾️ Подборка визуализаций, где можно вручную покрутить гиперпараметры и увидеть, как работают алгоритмы, — от градиентного спуска до внутреннего устройства GPT-2. ◾️ Готовые наборы агентов, навигатор по экосистеме (300+ инструментов), курсы от Microsoft и фундаментальные гайды Anthropic. Плюс краткий разбор Claude Opus 4.8 с акцентом на агентные сценарии. ◾️ Обзор исследований: ИИ ускоряет написание кода, но не ускоряет доставку фич; разработчиков скорее трансформируют, чем заменят; 70% компаний используют ИИ, но 89% пока не видят роста производительности. ◾️ Четыре задачи, где оффлайн-метрики радовали, но в проде всё пошло не так. Например, RAG находит нужные документы в 99% случаев, но 25% ответов содержат фактические ошибки. ◾️ Классические ML-задачи: ранжирование, калибровка, прогнозирование Три кейса с неочевидными причинами провалов: высокий ROC-AUC без роста CTR, падение recall после калибровки и проигрыш в A/B-тесте из-за свежих данных. Канал EasyData — про то, с чем действительно сталкиваешься в работе над DS-продуктами. В канале регулярно публикуются разборы, подборки и кейсы. Делимся ссылкой: @data_easy

Дайджест событий в области искусственного интеллекта ИИ продолжает закрепляться в юридической, финансовой и инженерной практике — от оценки зрелости компаний до контроля строительной документации. В подборке этого месяца собрали новости о ключевых запусках, обновлении моделей и свежие исследования. В России: 📊 «Сбер» представил модель ИИ-зрелости компаний, дополняющую руководство AI-Disrupt PDLC. ⚖️ «Яндекс» перевел ИИ-помощника «Нейроюрист» на новую архитектуру для решения сложных юридических задач. 🏦 ФНС представила новый ИИ-инструмент для оценки финансового состояния бизнеса. 💳 «ЮKassa» запустила MCP-сервер для передачи ИИ-агентам рутинных финансовых задач. 📚 Минцифры рассматривает вопрос субсидий или грантов при формировании датасетов для обучения LLM. 🎓 МФТИ открыл курс для аспирантов по созданию продвинутых ИИ-помощников и выстраиванию персональной ИИ-среды. 🖥 Бизнес обратился к правительству с просьбой рассмотреть лизинг серверов и GPU для обучения и инференса ИИ-моделей. В мире: 🗣 OpenAI перевела голосовой режим ChatGPT Voice на модели GPT-6 и добавила взаимодействие с почтой, календарем и Slack. 🔬 Google проводит постобучение Gemini 4 и планирует выпустить модель до конца 2026 года. 📦 Amazon добавила в ИИ-помощника продавца Seller Assistant агентные возможности для рутинных задач. 💻 SpaceXAI выпустила Grok 4.7 с улучшенными возможностями в программировании. 🧑‍⚖️ OpenAI представила ИИ-сервис для юристов Astra for Law. Аналитика: 📈 Ifop: положительное влияние ИИ на эффективность работы отмечают 72% опрошенных французов, 26% не видят изменений. 🏗 Signal: по данным эксперимента, ИИ выявляет до 93% контрольных дефектов в проектной документации для строительства. ⚖️ Smart Ranking: ИИ-функции используют 48% участников рейтинга российского рынка LegalTech. #дайджест

Как превратить 8 000 документов в рабочий инструмент, а не корпоративный архив Чем больше документов накапливается в компании, тем сложнее с ними работать. Найти нужный регламент среди тысяч файлов, проверить его актуальность, разобраться в связанных документах — на все это у сотрудников уходит время, которое можно потратить на более важные задачи. В прошлый раз мы рассказывали, с какими проблемами сталкиваются компании, когда документов становится слишком много. Сегодня разберём один из таких use-кейсов — работу с большой базой нормативно-методической документации. В компании накопилось более 8 000 документов, а ее структура включала около 20 организаций. Документы создавались и согласовывались в СЭД. Но для работы с уже утвержденной базой сотрудникам не хватало удобного инструмента. Задача была не просто собрать документы в одном месте, а сделать так, чтобы с ними было легче работать: 1️⃣ Упростить поиск. Раньше документы искали через реестры, а за помощью часто обращались к методологам. В новой системе появился интеллектуальный поиск по содержанию документов. Пользователю не обязательно знать точное название или реквизиты — искать можно по смыслу запроса. 2️⃣ Помочь ориентироваться в большой базе. Документы распределили по областям регламентации. Так сотрудник может выбрать нужное направление и посмотреть связанные с ним материалы. Для документов также формируется краткий обзор, который помогает быстро понять их содержание. 3️⃣ Работать только с актуальными документами. Новую систему интегрировали с действующей СЭД. Там документы по-прежнему создаются и согласовываются, а в базу для сотрудников попадают уже утвержденные версии. Система также учитывает структуру компании и показывает пользователям релевантные для них документы. 4️⃣ Собрать нужные инструменты в одном месте. Сотрудники могут создавать подборки документов, смотреть аналитику и оставлять обратную связь. В итоге вместо обычного архива получается база, которой можно пользоваться в ежедневной раб