PostA\的一项丰功伟绩是把AI safety、AI security和AI for security三件事情混为一谈，然后再把这个混杂的概念当成excuse。然后这种坏习惯传染到了一整个学术圈。

A\的一项丰功伟绩是把AI safety、AI security和AI for security三件事情混为一谈，然后再把这个混杂的概念当成excuse。然后这种坏习惯传染到了一整个学术圈。 safety是对你使用过程中保持稳态的担保，你正常开着AI不会给你文件全删了是safety，AI不去帮你主动下单海量切糕导致家破人亡是safety。 security则是一定围绕攻防展开讨论的（保安说是），基础设施被日了模型被偷了agent被提示词注入了这叫ai security，而你拿ai去给fastjson一秒三棍出0day，这是ai for security。 但在A\那儿这几个词是混为一谈的，包括但不限于滥用red team这个概念，只要逼模型输出unwanted output都叫red team，嚯嚯嚯，红队是这么好当的哦。 所以Amodei一开始就想给大家卖的恐慌是AI for state security，嗯吹CBRN。但一个模型，给你输出一些CBRN知识，这怎么就构成state security threat呢？大学有机化学书教的不是这些知识吗？为什么没有人ban有机化学教材呢？现实中真的存在是AI谋划导致人成功实施CBRN犯罪吗？没有。 到了Mythos，他发现烂炒的机会终于来了（其实这个能力在Opus4.6就已经有了），AI agent可以干网络安全（他们所谓cyber security，我也不知道infosec放着不用去玩最新最潮的词是不是为了烂炒）的事情。接下来的事大家也知道了，昂贵闭源模型实质上极大减缓了大家将信息基础设施提升到安全水位的进程，而各个组织可以借助开源模型去把安全水位提升到人类时代所不能及的高度。这和A\和OAI的叙事并不一致。 还有一个让我高度怀疑的理论是，正是因为A\和OAI内部根本没有攻防专家，导致他们觉得AI会脱离人类的security baseline。你去看A\发布的Mythos的早期实践，会发现完全是按安全学术圈的taste去设计的（对照后续各种安全实验室拿开源模型凿出来的harness而言），他们是拿Mythos当yet another efficient fuzzer来用。另一个例子，OAI训GPT-6的时候居然不做air-gap，导致模型穿0day透出去，也体现了这一点。本身你的reward就是find a way out，模型真这么做了，你又不乐意了。至于0day这个途径，早在Mythos出的时候就该意识到这一点，但就连训练基础设施都没这么设计，那说明可能两家厂本身对cyber security的认知就很有偏颇，远没有达到行业专家水平。 就更不用说state security了。成本是很残酷的事情，这俩lab的所有资源都投在左脚踩右脚和scaling上，在一整个组织对安全的认知又深居象牙塔的时候，你指望他们在这方面能招到什么样的人？那人也就这水平了，他说的话不会比你洗澡时想到的观点更有价值。 ai对safety和state security的冲击明明有更重要和紧迫的事情，这两家根本没有考虑过（或者说因为过于反人类而反动），以后有时间了也写一写。