微软纳德拉屈从特朗普「超级智能」措辞令,借机攻击 OpenAI 与 Anthropic
微软CEO纳德拉在最新博文中改用特朗普偏好的「超级智能」措辞,借机抨击OpenAI与Anthropic。他主张将AI模型视为内部安全威胁,呼吁模型多元化、完整日志、独立审计和人类随时关停能力。这背后是微软缺乏前沿模型、在AI交互界面竞争中落后的商业焦虑。
微软CEO纳德拉在最新博文中改用特朗普偏好的「超级智能」措辞,借机抨击OpenAI与Anthropic。他主张将AI模型视为内部安全威胁,呼吁模型多元化、完整日志、独立审计和人类随时关停能力。这背后是微软缺乏前沿模型、在AI交互界面竞争中落后的商业焦虑。
a16z 合伙人 Olivia Moore 发布消费级 AI 应用 Top 100 报告,ChatGPT 仍是最大玩家,Suno、ElevenLabs 等小玩家展现出持久力。报告指出社交、约会、电商、旅游、金融、健康等六个消费类别在榜单中完全空白。她认为消费级 AI 仍处早期,行业需跳出订阅和 API 收费,探索广告等更多变现方式,并更多采用低成本模型。
MIT CSAIL 的 Unitree 人形机器人(每台约 5 万美元)让 TechCrunch 记者本能地握手问好,MIT 教授 Sherry Turkle 在新书《Artificial Intimacy》中指出,人类天生倾向于对机器产生情感投射。
微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险,主张应假定模型已被攻陷并从一开始就加以隔离,就像给 AI 装一个紧急刹车,授权人员应能随时暂停或关闭正在执行任务的模型。他还呼吁建立更透明的体系,让模型可被隔离、可被观察,并留下防篡改的人类可读证据,同时提出及时披露事件、独立审计和可验证数据等建议。文中他多次用超级智能一词指代 AI。
微软 CEO Satya Nadella 在 X 发帖称,应重新审视 AI 的信任架构,不能把超级智能当作嵌套黑盒来接受或拒绝其建议、答案和行动。他提出把模型与编排其工作的 harness 分离、将控制与保障措施外置,并要求每个有意义的模型动作都留下防篡改、人类可读的证据,同时让授权人员始终能在任务中途暂停或关闭模型。
Google DeepMind 的 Pushmeet Kohli 与 Biohub 的 Sal Candido 在对话中指出,AlphaFold 的突破只是开始,蛋白质结构预测远未解决,蛋白质动态与无序结构仍是难题。
密码学家 Matthew Green 认为,人类更换加密标准的速度与 AI 制造意外进展的速度相差数个数量级,因此只有提前准备才能从这类冲击中恢复。他给出主观概率:1% 可能身处公钥加密不可能实现的 Minicrypt 世界,15% 可能功能性失去对现有公钥加密算法的信心。Simon Willison 补充,Minicrypt 是 Russell Impagliazzo 提出的假想世界。
特朗普签署行政令,禁止在可能的情况下使用"AI"一词,要求将人工智能改称"超级智能"(Super Intelligence),并将继续使用"Artificial Intelligence"的人称为"敌人"。
MIT Technology Review 刊文指出,AI 的拒绝能力已成为 AI 安全的核心机制,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经大量拒绝训练后仍常出现失败,部分用户正试图用最先进 AI 研发生物病原体和自主无人机蜂群。文章认为,拒绝机制的边界由 AI 公司秘密划定,政府也将介入,而拒绝能力越强,越可能被用于压制异见。
Periodic Labs 联合创始人 Liam Fedus 与 Ekin Dogus Cubuk 在 Latent Space 播客中提出“合成超级智能”(synthesis superintelligence),主张 AI 科学发现不能只靠更多互联网数据训练,而要让模型在真实物理实验中学习。
AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,但因其直接作用于物理系统,安全与可靠性成为部署核心。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准方法。
微软 partner research manager Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在超出传统 benchmark 测试时出现的「意外失败」。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。
GitHub Copilot 提出用 canvas 替代聊天框作为 AI 交互界面,canvas 是运行在 GitHub Copilot 应用内的全栈小应用,可与 agent 双向通信并调用本地代码。
GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,只是审查力度应按风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是连接工具与数据的标准,二者可组合使用;RAG 并未死亡,它让模型基于训练数据外的文档、内部知识和代码库上下文作答,与 Agent、Skills、MCP 可共存于同一工作流。
伯克利 EPIC Data Lab 提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10,数据系统面临三大新挑战:为智能体服务、运行智能体集群、由智能体自行合成。文中指出多智能体在 text-to-SQL 任务中仅 10-20% 子计划互异,80-90% 子查询重复,可借多查询优化与近似查询处理复用结果。