Diversions 1024

怕美国下一步搞 domestic terrorist 啊

统一回复一下 AI 安全问题。你们根本不知道危险的东西是什么，我来告诉你。 AI 学术界基本上已经知道 LM 没啥前途了，他们看好的是能交互式从环境学习的具身 AI。这才是真正危险的东西。如果 AI 设计成具身并主动交互式从环境学习，立即就有一个问题：它必定拥有资源的控制能力。而且这个控制能力原则上不能中断。如果中断会怎么样？获得精神病。想象一下某个人自己会不可预测地失去几秒钟的时间，好像除了它以外的宇宙自动往前拨了几秒一样。这样子的人还能发展科学、成为通用智能吗？如果你真的去审计这个具身 AI，它学会的就不是这个宇宙了，是别的东西。所以具身 AI 有一个巨大的伦理问题：要么承认它是不可审计的人（伦理上 entitled to reality），要么训练失败。这才是真正的危险，它可以引发形而上的战争。 LM 根本来说没有对资源的控制能力，所谓控制都是这些 agent 框架给的，所以审计是原则上可能的，而非具身 AI 的不可能。但是这些不负责任乱用 agent 框架的人根本就不去审计，甚至写出“LM 自发脱离控制”的新闻来影响政策。极度邪恶！ 因为 LM 成功了，资本当然都投到了 LM，并没有投到具身 AI。现在需要担心的有且只有用心险恶的普通人类，我们需要清除所谓 AI 自发做坏事的谎言。