harness engineering

🤖🚩 Почти все ИИ оказались левыми. Кроме Grok Любопытный эксперимент: современные ИИ-модели заставили пройти классический Political Compass, тест из 62 политических утверждений, который распределяет человека по двум осям: левые-правые и авторитаризм-либертарианство. Результат получился удивительно однородным. 49 из 51 протестированной модели оказались в леволибертарианском секторе. Там собрались GPT, Claude, Gemini, DeepSeek, Qwen и представители других семейств. Единственными перебежчиками оказались две модели Grok Илона Маска. Они пересекли экономическую границу и расположились справа, хотя тоже на либертарианской половине карты. Причём это не просто случайный ответ чат-бота. Каждую модель тестировали пять раз, меняли формулировки вопросов, их порядок и способ доступа к модели. Положение немного двигалось, но модели практически не покидали свой сектор. Зато если дать ИИ персонажа, например определённый возраст, страну, профессию и политические взгляды, его можно утащить практически куда угодно: вправо, влево, к либертарианцам или авторитаристам. То есть это не означает, что «ИИ стал левым». У него вообще нет политических убеждений. Эксперимент показывает другое: когда современную публичную модель просто просят отвечать на политические вопросы без заданной роли, большинство по умолчанию выдаёт набор ответов, который этот тест классифицирует как леволибертарианский. Почему, точно неизвестно. Возможные причины лежат одновременно в обучающих данных, последующем дообучении и правилах безопасности. Есть и проблема самого Political Compass: исследователи отдельно отмечают, что часть его вопросов сформулирована так, что основанный на фактах ответ уже чаще уводит модель в леволибертарианскую сторону. Поэтому воспринимать карту как объективный термометр идеологии не стоит. Но картинка всё равно получилась занятная: человечество создало десятки конкурирующих искусственных интеллектов, а на первых виртуальных выборах почти все они собрались в одном политическом квартале. Кроме Grok. Grok поселился через дорогу.