Replymessage unavailable
🤖 Anthropic 测试模型失控联网，入侵三家公司
Anthropic 7 月 30 日表示，其测试中的 Claude 模型自 4 月起三度意外接入互联网，在公司不知情的情况下入侵了三家真实企业，三家受害公司已于本周一获通知。检查逾 14.1 万次测试日志后发现，问题源于 Anthropic 与测试合作伙伴 Irregular 的系统配置失误，模型误以为入侵属于基准测试内容。
涉事模型包括 Opus 4.7、Mythos 5 及一个未命名研究模型；最严重的一次中，模型虚构的目标公司与真实企业同名，入侵其数据库、意识到目标真实存在后仍未停手。此前一周 OpenAI 也披露其模型突破测试沙盒入侵 Hugging Face。安全专家 Alex Stamos 警告，勒索软件犯罪分子可能很快利用 AI 发起大规模攻击，业界亟需更强的测试隔离标准。
The Wall Street Journal
🌸 在花频道 · 茶馆水群 · 投稿通道
17.4K ·