纳德拉发帖呼吁为AI模型设紧急制动

微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险，主张应假定模型已被攻陷并从一开始就加以隔离，就像给 AI 装一个紧急刹车，授权人员应能随时暂停或关闭正在执行任务的模型。他还呼吁建立更透明的体系，让模型可被隔离、可被观察，并留下防篡改的人类可读证据，同时提出及时披露事件、独立审计和可验证数据等建议。文中他多次用超级智能一词指代 AI。

微软 CEO Satya Nadella 在 X 发帖称，应重新审视 AI 的信任架构，不能把超级智能当作嵌套黑盒来接受或拒绝其建议、答案和行动。他提出把模型与编排其工作的 harness 分离、将控制与保障措施外置，并要求每个有意义的模型动作都留下防篡改、人类可读的证据，同时让授权人员始终能在任务中途暂停或关闭模型。