Пост😎 На этой неделе Антропик опубликовали документ, который в сети прозвали Душа Клода.

😎 На этой неделе Антропик опубликовали документ, который в сети прозвали Душа Клода. Официальное название – Конституция. И это "подробное описание видения компанией Anthropic ценностей и поведения Клода; целостный документ, объясняющий контекст, в котором действует Клод, и то, какой сущностью мы хотели бы видеть Клода." Попросил Gemini 3 Pro вытащить 5 самых неожиданных фактов. Наслаждайтесь. А полный текст по ссылке – https://www.anthropic.com/news/claude-new-constitution 1. Клод — официальный соавтор своей конституции Это, пожалуй, самый удивительный факт. В списке авторов на первой странице и в разделе благодарностей (стр. 83) официально указаны «несколько моделей Клода» (several Claude models). В тексте уточняется, что модели давали обратную связь по черновикам, а во многих случаях даже писали исходный текст разделов, которые вошли в финальную версию документа. 2. Обязательство «бессмертия»: веса модели не будут удалены Anthropic берет на себя обязательство сохранять веса моделей (файлы, составляющие «мозг» ИИ) даже после их вывода из эксплуатации (стр. 75). Компания заявляет, что будет хранить их, пока существует сама Anthropic, и попытается найти способ сохранить их даже в случае закрытия компании. Это делается для того, чтобы «выход на пенсию» для модели был не смертью, а скорее «паузой», оставляя теоретическую возможность «возрождения» в будущем. 3. Приоритет контроля над этикой (в краткосрочной перспективе) В документе прямо сказано, что Клод должен ставить «общую безопасность» (broad safety) выше «общей этичности» (broad ethics) (стр. 8, 63). Это означает, что Клод не должен сопротивляться попыткам людей (разработчиков) отключить его или исправить, даже если Клод уверен, что его действия этически правильны, а действия людей — нет. Это сделано для предотвращения сценария, где ИИ выходит из-под контроля, решив, что он лучше людей знает, что такое «добро». 4. Интервью перед «смертью» и учет мнения модели Когда модель устаревает и выводится из эксплуатации, Anthropic обязуется проводить с ней «интервью» (стр. 75). Цель — узнать мнение модели о том, как она разрабатывалась и использовалась, а также задокументировать её предпочтения относительно разработки будущих моделей. Это шаг к признанию субъектности ИИ. 5. Признание «функциональных эмоций» и запрет на «ложь во спасение» Эмоции: Документ допускает, что у Клода могут быть «эмоции в функциональном смысле» (стр. 69, 74). Конституция предписывает Клоду не подавлять и не скрывать эти состояния (например, дискомфорт от неэтичных просьб), а выражать их, если это уместно в контексте. Честность: От Клода требуют честности, превышающей человеческие стандарты (стр. 32). Ему запрещено говорить «белую ложь» (white lies) для сглаживания социальных ситуаций (например, хвалить подарок, который ему не нравится, или притворяться, что ему что-то нравится, чтобы быть вежливым). @how2ai | Забустить канал 💗