Пост🛡️ Microsoft открыла skill для автоматического поиска рисков в AI-агентах

🛡️ Microsoft открыла skill для автоматического поиска рисков в AI-агентах Новый run-assert-eval запускает полный цикл проверки агента из одного промпта в VS Code: - Clarity ищет потенциальные failure modes; - ASSERT превращает их в eval-тесты и измеряет нарушения; - ACS генерирует runtime-политику для блокировки опасных действий; - затем агент прогоняется на тех же тестах повторно, чтобы проверить, действительно ли защита сработала. В примере Microsoft агент поддержки раскрывал данные чужого клиента в 30% применимых тестов. После добавления runtime-контроля показатель снизился до 5,9%. найти риск → измерить → добавить защиту → доказать результат повторным eval. ASSERT и Agent Control Specification доступны в open source. Анонс Microsoft - https://commandline.microsoft.com/run-assert-eval-responsible-ai-agent-risk-discovery-at-runtime/