DigEd chat

​​Учить океан плавать Автор Холлис Роббинс ставит под сомнение применение модели «Большой пятёрки» (Big Five) для описания личности ИИ-моделей и предлагает перейти от статичных черт к контекстной, реляционной и нарративной модели личности. «Большая пятёрка» — открытость, добросовестность, экстраверсия, доброжелательность и невротизм — возникла из лексического анализа человеческого языка. Исследователи из почти 18 тысяч слов, описывающих людей, последовательно выделили пять устойчивых факторов. Проблема, по мнению автора, заключается в том, что при этом была потеряна значительная часть контекста, в котором существуют характеристики личности. Многие слова, описывающие человека, невозможно интерпретировать вне ситуации: «высокомерный» предполагает отношение к кому-то; «пугающий» описывает воздействие на другого человека; «мстительный» или «прощающий» предполагают предшествующие события; «уклончивый» предполагает, что человек что-то скрывает от кого-то; «саркастический» предполагает наличие слушателя. Таким образом, личность проявляется не только как набор характеристик отдельного индивида, но и как система отношений, реакций, историй и взаимодействий. Исследователи ИИ активно используют Big Five потому, что для неё уже существуют десятилетия исследований, стандартизированные анкеты и большие массивы человеческих данных. Но автор считает, что это создаёт ложное ощущение научной строгости. Типичный эксперимент выглядит так: модели задают персону, предлагают пройти тест Big Five и затем оценивают полученные показатели. Но модель может одновременно соглашаться с утверждениями «Я экстраверт» и «Я интроверт», поскольку она оптимизируется под конкретный контекст запроса, а не обязательно формирует стабильное человеческое самоописание. Более того, эксперименты показывают, что поведение ИИ-персон может существенно меняться после выполнения заданий, взаимодействия или изменения жизненного сценария. В некоторых исследованиях нарративная структура объясняла поведенческую вариативность значительно лучше, чем заданная персона. Вместо того чтобы сводить личность LLM к пяти числовым координатам, Роббинс предлагает вернуться к гораздо более богатому лексическому пространству. LLM способны работать с огромным количеством слов и семантических связей. Поэтому, считает автор, имеет смысл исследовать, как слова организуются по своим предпосылкам и контекстам, а не только по сходству значений. Особенно важны четыре измерения, которые теряются в Big Five: отношения → история → аудитория → самоанализ. То есть вместо вопроса «Насколько эта модель экстравертна?» гораздо интереснее спрашивать: «Как эта модель ведёт себя по отношению к конкретному человеку, в конкретной истории и в последовательности взаимодействий?» Главный тезис статьи довольно радикален: личность нельзя адекватно представить как набор независимых черт. Особенно это справедливо для LLM, чьё поведение определяется языковым контекстом и последовательностью взаимодействий. Автор предлагает рассматривать личность скорее как динамический паттерн поведения в контексте, а не как фиксированный профиль из пяти характеристик. Для AI-агентов это означает переход: от personality traits (черт характера) → к personality-in-interaction (личности во взаимодействии); от анкеты → к наблюдению за поведением; от отдельного сценария → к истории взаимодействий; от пяти факторов → к богатому семантическому и нарративному пространству. «Большая пятёрка — это всего лишь способ плавания»: она может быть удобным инструментом, но не должна приниматься за саму природу личности. Читать 5мин