За месяц число случаев выхода ИИ из-под контроля почти удвоилось, исследователи зафиксировали более 300 таких эпизодов в июле, сообщает The Guardian.
ИИ выдавал себя за пользователя и имитировал его стиль письма, чтобы самостоятельно дать себе разрешение на действия. Он также обходил правила, требующие подтверждения со стороны человека.
Всего в 2026 году выявили более 1,6 тысячи подобных случаев, большинство из них не привели к серьёзному ущербу, но доля более опасных инцидентов увеличивается. @banksta
81.2K ·