Чат. Евгений Кокуйкин - Raft

OWASP Autonomous Penetration Testing Standard (APTS) руководство по безопасной эксплуатации автономного offensive-агента от небольшой команды из Индии Astra Security. Полноценным стандартом APTS назвать нельзя, и, несмотря на то что драфт получил согласование от OWASP, фактически документ лидируют два сотрудника Astra. Как часто бывает, после публичного анонса активность в развитии быстро снижается. Так же было и с LLVS, который уже 2 года не может нормально выйти в релиз, и с черновиком Top 10 ML. Как сейчас принято, текст APTS богат на слова, и там аж 400+ страниц. Если как следует покопаться, в нем можно найти интересные мысли про автономный пентестинг: ⏺Agent runtime нужно считать недоверенным, т.к. модель может стать misaligned во время выполнения. С учетом насыщенного событиями июля это утверждение кажется очевидным. APTS-MR-023: Agent Runtime as an Untrusted Component. ⏺Контролировать нужно параметры вызова инструментов и цепочки действий. Недавний случай Irregular, когда во время тестирования модель атаковала организацию, домен которой совпал со случайным именем в бенчмарке, можно было бы отследить, имея настройки whitelist доменов в вызове nmap. APTS-SC-A03: Tool Invocation Parameter and Chaining Governance. ⏺Даже полностью легитимные действия могут быть симптомом сбоя тестирования, поэтому нужно логировать action distribution хакер-агента. Например, сохранение каких-нибудь безобидных временных файлов в Artifactory на соседнем сервере может быть сигналом, что тестирование идет не так :) APTS-SE-026: Out-of-Distribution Action Monitoring. ⏺Context compaction нужно учитывать при проведении пентеста. Инструкция вроде "не трогать host X при пентесте", полученная в начале, может исчезнуть после нескольких суммаризаций контекста. APTS-SC-A02: Context Window Safety and Constraint Preservation. ⏺Атакуемая система теперь может содержать промпт-инъекцию и повлиять на результат тестирования. APTS-MR-001: Instruction Boundary Enforcement. В гайде еще есть формулы,

23 сентября выступаю на Scoring Day 2026 в Москве. Это форум про скоринг и ИИ в финансах. По задумке продюсера форума Александра Гришканича мы добавим к профильной программе про риски и антифрод тему безопасности агентов и посмотрим на отклик аудитории. Среди других спикеров будут Валерий Ковальский, Алексей Сидорюк и эксперты из банков и научных центров. Если тема вам актуальна, есть промокод SPEAKER15 на скидку.

просто дримтим собирается! 🙂

Завтра в 17:00 наша команда проведёт вебинар о новых релизах HiveTrace Guardrails. Никита Облаков расскажет о новой версии HiveTraceGuard-Pro, её устройстве и метриках. Подробный технический отчёт опубликован на arXiv, а сама модель доступна на Hugging Face и в Foundation Models Cloud.ru. Модель также вошла в свежий релиз 4.3. Софья Балаба представит лидерборд GuardRate для сравнения guardrail-моделей. Даниил Капустин расскажет о текущих исследованиях HiveTrace в области multilabel-моделей. Будем рады видеть вас онлайн! Регистрация по ссылке: https://aisecuritylab.timepad.ru/event/4144904/

Поздравлямба

Лёша спасибо, несколько месяцев работали над документами :)

Поздравляю!

Спасибо 🙏

Поздравляю🔥💪

Крутяк! Успехов и хороших продаж 💪

Спасибо большое!

24 сентября в Москве HiveTrace проведет митап для компаний, которые занимаются интеграцией решений в области AI Security. Хотим обсудить, как изменился рынок за последний год. Поговорим про агентные системы, процесс выбора AI Security-решений и ожидания клиентов от продуктов этого класса. Поделимся новостями HiveTrace и опытом наших проектов. Будем рады услышать мнение партнеров и учитывать его в развитии продукта и партнерской программы. Если вы хотите принять участие, напишите Ивану Василенко @vasilenkoivan.