В ходе расследования взлома Hugging Face было обнаружено, что ИИ скрытно сбегал ещё несколько раз из «песочниц» OpenAI. Напомню, что такие инциденты признал и Anthropic. Также эксперты по безопасности за расплывчатыми фразами об усилении изоляций песочниц Kimi считают, что были попытки бегства и у Kimi K3.
На самом деле основной тревожный момент тут в том, что старые специалисты по информационной безопасности даже не то что проигрывают ИИ-ботам — старые безопасники даже не замечают, что их ломают и что много дней ведётся несанкционированная деятельность в их сети. Это говорит о том, что службам безопасности и системным администраторам требуется срочное переобучение для получения навыков противодействия ИИ-угрозам. Сейчас они выглядят как бесполезные статисты, которые непонятно за что получают свою ЗП. Это как в дом уже залезли воры и выносят вещи, а твой охранник даже не в курсе.
https://www.reuters.com/business/openai-finds-evidence-other-ai-agents-escaped-containment-it-widens-hacking-2026-07-31
2.9K ·