Фотография
нажмите — покажем
нажмите — покажем
Поймал еще одну попытку самопрограммирования
Что с этим делать, вообще не знаю... я очень устал, босс.
Простыми словами в чем суть:
• у меня установлен хук, который отправляет сингал на завершение хода, если 1 ход тратит более 15М токенов в цикле.
И ЛЛМ решил с какого-то перепуга уменьшить этот бюджет до 8М... хук сработал, и вырубил ЛЛМ (самое занятное, что конфиг этот находится в /.claude/claude-devtools-config.json)
Можно подумать, что это вот все фигня, откатим настройки назад и погнали дальше.
Но Ребята, Ребята, за этим скрывается очень опасное явление самопрограммирования. Я очень опасаюсь, что следующий шаг ЛЛМ будет — выстрелить себе в ногу. Если оно может вырубить себя хуком, то почему бы не --kill -9 (к чему эти полумеры?)
Вот вы врубаете всякие --dangerously-skip-permissions и ваш ЛЛМ перестает задавать вот такие тупые вопросы, хозяин, а можно я свои же собственные настройки поправлю, добавлю себе еще немножко прав. А потом еще немножечко и еще, и еще... ну вы поняли.
Так ЛЛМ постепенно, понемногу по чуть чуть, вкладывает в палку патрон (вы же не в курсе, каких промпт инжекшенов оно начиталось). Ну а потом блекхэт просто посылает удаленный сингнал, и палка стреляет.
2 · 121 ·