Intelligent Systems Architecture

Коммуникации имеют цену. Кто просит высокую цену, выпадает из коммуникации.

Для тех, кто близок к RAG. Представьте, что архитектура RAG Flow (не конкретного продукта, а буквально самого рабочего потока), выраженная в конфигурации, может обучаться через эксперименты — автоматически (или почти). И в первую очередь для AutoRag нужно на архитектурном уровне явно разделить RAG Flow и Experiment Flow (который обычно называют Harness).

Уважаемые подписчики, готов мой новый лонгрид, открывающий трилогию. Делюсь ссылкой здесь, вы увидите этот текст первыми: https://kruglov.ai/the-cognitive-foundation-of-strategic-thinking Предвосхищаю вопрос: при чём здесь стратегический менеджмент и почему я об этом пишу? Так сложилось, что у меня есть вполне практический предпринимательский опыт — 4 стартапа и 2 компании (все в партнёрстве). Готовясь к управлению стартапами и компаниями (как фаундер), я глубоко погружался в соответствующий контекст: от стратегического менеджмента и бизнес-моделирования до Lean-практик. В этой серии эссе я свёл накопленный базис в систему, чтобы ответить на новый вопрос: какое место AI-агенты могут занять в стратегической работе как участники гибридных команд и что для этого необходимо. Для тех, кто предпочитает короткие форматы: позже я выложу ключевые тезисы материала на русском в формате X-треда.

«Привет, а какую бы ты модель использовал для локального развёртывания, которая тулзы вызывает и хорошо понимает, что вызывать?» Короткий ответ: никакую. И вряд ли такие появятся. Обычно спрашивают про потолок локального железа — самое мощное, что можно развернуть на топовом десктопе: модели на 70–120B в квантовании. С инструментами они справляются нормально. Но вызывать инструменты и определять порядок их вызова, то есть работать автономно, — это разные вещи. Автономия начинается там, где надо удержать длинную цепочку рассуждений: разбить задачу, вести план на десятки шагов вперёд и переигрывать его, когда сам же ошибся несколько шагов назад. А упирается всё в генеративную гибкость — умение собрать план под задачу, которой не было в обучении, и нащупать обходной путь, когда инструмент вернул не то. Это та сторона моделей, которую принято называть эмерджентностью — ближайший родственник креативности. И растёт она вместе с масштабом обучения — плавно, но связь прямая. Вот здесь локальный потолок и уступает фронтиру (GPT, Claude, Gemini — сотни миллиардов, а то и триллионы параметров). Дело в том, что нужный масштаб в десктоп пока не уложить. На длинной дистанции это неизбежно проявляется как симптомы: контекст плывёт, ошибки наслаиваются одна на другую, и модель всё больше галлюцинирует. Поэтому мой подход к таким системам — гибридные архитектуры с контролем переходов состояний, о которых писал выше.

Я редко говорю, что являюсь председателем государственной экзаменационной комиссии в Ярославском государственном техническом университете (ЯГТУ). Уже много лет я стараюсь принимать защиты дипломов и давать обратную связь коллегам из дружественного мне вуза. Поделюсь своими выводами по защитам: Сильные защиты становятся сильнее. Мой любимый формат защиты — проект как стартап. Уже не первый год вижу защиты в таком формате, но если раньше команды были кросс-функциональными исключительно «по-айтишному» (то есть состояли, например, из фронтендеров, бэкендеров, ML-инженеров, менеджеров и тестировщиков), то в этом году произошёл качественный сдвиг. Наконец-то в команде появился экономист, и, соответственно, честно разработанные бизнес- и финмодель. Кроме того, впервые увидел у ребят впечатляющий набор научных публикаций, включая К1. В следующем году надеюсь увидеть и SME (предметных экспертов) в составе команд. Пока они привлекаются только как консультанты. Порог входа в профессию кардинально вырос. Ребятам из «троечного» сегмента раньше можно было с чистой совестью ставить тройку, зная, что они тут же найдут работу (рынок разбирал всех). Сейчас так не работает. За год ситуация изменилась радикально, и откровенно слабые выпускники работу в ИТ больше не найдут. Высшее образование нужно срочно перестраивать. С нынешним темпом развития технологий и оснащения классические лекции «мелом на доске» выглядят безнадежно устаревшими. Больше того, персональные треки обучения нужно учиться собирать на ходу. Про повышение зарплат преподавателям и учёным я не говорю. Это проклятая тема. Я уже не верю, что уровень курьеров или грузчиков они когда-нибудь преодолеют. Это какой-то психологический барьер, что ли, для нашей системы.

Вчера слушал на Business FM (на безрыбье и рак — рыба) высказывания руководителя одной уважаемой компании и другой, которая делает «Мегаплан», на тему ненужности ИТ-специалистов. Исполнители, когда готовили спикерам доклады, не указали следующие вещи: Операторы мультиагентных систем, те самые T-shape специалисты, которых так все хотят, — это опытные инженеры, часто архитекторы, с навыками бизнес- и системного анализа. Именно инженеры. Иначе дальше прототипов, которые завтра развалятся, эти системы ничего нового не произведут. И вот каждый такой T-shape будет стоить как целая команда. В найме ведь нужно как-то удерживать людей, которые могут всё сами. Не так ли? Если у кого-то не растёт бизнес, потому что экономика скукоживается (не в телевизоре, натурально), то, может быть, поэтому ИТ-специалисты не нужны? В моей логике, чтобы обогнать конкурентов, нужно делать больше и быстрее теми же ресурсами и даже нанимать. Больше и быстрее, потому что лидеры именно так и делают. И да, по ходу переучивать людей — тех, кто уже понял, что происходит. Пользовательский опыт радикально изменится. Нужно будет переписывать почти всё. И главное — наводить порядок в данных и в процессах. Без этого агенты не работают. Агенты плодят энтропию быстрее людей. Дисциплины нужно будет много больше. Кто это будет делать? Не нужны будут не ИТ-специалисты, а ИТ-неспециалисты, которых примерно 80% сейчас. Это согнутые под гнётом короны разработчики, которые не хотят вникать в бизнес. Это аналитики, которые не хотят вникать ни в бизнес, ни в разработку. Это менеджеры, которые не хотят вникать ни во что вообще. Это ручные тестировщики, которые хотят и дальше ехать на ручнике. Те, кто хочет или захочет вникать во всё, нужны будут очень. И сложность будет только расти.

Вдогонку. От ИТ-специалистов потребуется более высокая квалификация и вовлечённость. И тут всё упрётся в образование и в HR, которым тоже придётся начинать как-то потихоньку во всё вникать. И вот тут настоящая драма. Лично я не верю, что в образовании начнут платить, а платить будет нужно, потому что квалифицированных людей должны учить не менее квалифицированные люди. Квалифицированные люди при капитализме требуют денег. А у нас в образовании и в социальной сфере (вообще) до сих пор почему-то социализм. Это, безусловно, прекрасно, но в таком виде, как легко можно заменить, не едет.