跳到正文
今天10月11日周日5 条
  1. The Decoder43

    微软纳德拉屈从特朗普「超级智能」措辞令,借机攻击 OpenAI 与 Anthropic

    微软CEO纳德拉在最新博文中改用特朗普偏好的「超级智能」措辞,借机抨击OpenAI与Anthropic。他主张将AI模型视为内部安全威胁,呼吁模型多元化、完整日志、独立审计和人类随时关停能力。这背后是微软缺乏前沿模型、在AI交互界面竞争中落后的商业焦虑。

  2. TechCrunch · AI40

    a16z 合伙人 Olivia Moore 谈消费级 AI 现状:ChatGPT 仍遥遥领先,Suno、ElevenLabs 展现持久力

    a16z 合伙人 Olivia Moore 发布消费级 AI 应用 Top 100 报告,ChatGPT 仍是最大玩家,Suno、ElevenLabs 等小玩家展现出持久力。报告指出社交、约会、电商、旅游、金融、健康等六个消费类别在榜单中完全空白。她认为消费级 AI 仍处早期,行业需跳出订阅和 API 收费,探索广告等更多变现方式,并更多采用低成本模型。

  3. The Verge · AI58

    微软 CEO 纳德拉称应假定所有 AI 模型都已被攻陷

    微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险,主张应假定模型已被攻陷并从一开始就加以隔离,就像给 AI 装一个紧急刹车,授权人员应能随时暂停或关闭正在执行任务的模型。他还呼吁建立更透明的体系,让模型可被隔离、可被观察,并留下防篡改的人类可读证据,同时提出及时披露事件、独立审计和可验证数据等建议。文中他多次用超级智能一词指代 AI。

  4. TechCrunch · AI62

    微软 CEO 纳德拉称 AI 模型需要紧急刹车

    微软 CEO Satya Nadella 在 X 发帖称,应重新审视 AI 的信任架构,不能把超级智能当作嵌套黑盒来接受或拒绝其建议、答案和行动。他提出把模型与编排其工作的 harness 分离、将控制与保障措施外置,并要求每个有意义的模型动作都留下防篡改、人类可读的证据,同时让授权人员始终能在任务中途暂停或关闭模型。

10月10日周六
10月9日周五
  1. Simon Willison30

    Matthew Green:AI 冲击下公钥加密或面临信心危机

    密码学家 Matthew Green 认为,人类更换加密标准的速度与 AI 制造意外进展的速度相差数个数量级,因此只有提前准备才能从这类冲击中恢复。他给出主观概率:1% 可能身处公钥加密不可能实现的 Minicrypt 世界,15% 可能功能性失去对现有公钥加密算法的信心。Simon Willison 补充,Minicrypt 是 Russell Impagliazzo 提出的假想世界。

  2. MIT Technology Review · AI34

    我们是否过度信任 AI 说"不"的能力

    MIT Technology Review 刊文指出,AI 的拒绝能力已成为 AI 安全的核心机制,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经大量拒绝训练后仍常出现失败,部分用户正试图用最先进 AI 研发生物病原体和自主无人机蜂群。文章认为,拒绝机制的边界由 AI 公司秘密划定,政府也将介入,而拒绝能力越强,越可能被用于压制异见。

10月8日周四
  1. MIT Technology Review · AI20

    AVEVA 如何为自主工业 AI 构建更安全的落地路径

    AVEVA 首席技术官 Arti Garg 提出,工业 AI 正从预测分析转向基础模型、physical AI 与 agentic AI,但因其直接作用于物理系统,安全与可靠性成为部署核心。AVEVA 的责任 AI 框架强调安全、效率与人类监督,主张 AI 应增强而非取代关键决策中的人。Garg 还参与 IEEE 工作组,制定覆盖电力、能源、水资源与碳的 AI 环境影响测量标准方法。

10月7日周三
  1. Microsoft Research22

    微软研究员 Jennifer Neville 谈 AI 评测与「意外失败」:从传统 benchmark 之外看模型真实表现

    微软 partner research manager Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在超出传统 benchmark 测试时出现的「意外失败」。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。

9月25日周五
9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解 AI 热门观点:该不该读 AI 生成的代码、RAG 是否已死、Skills 是否杀死了 MCP

    GitHub Podcast 最新一期拆解了五个 AI 热门观点:AI 生成的代码仍需阅读和负责,只是审查力度应按风险分级;Skills 与 MCP 解决不同问题,前者是打包的团队经验,后者是连接工具与数据的标准,二者可组合使用;RAG 并未死亡,它让模型基于训练数据外的文档、内部知识和代码库上下文作答,与 Agent、Skills、MCP 可共存于同一工作流。

7月7日周二
  1. Berkeley AI Research36

    智能免费之后怎么办?面向智能体、由智能体运行、由智能体构建的数据系统

    伯克利 EPIC Data Lab 提出,随着推理成本从 2023 年初 GPT-4 级约 $30/百万 token 降至如今不到 $1、部分厂商低于 $0.10,数据系统面临三大新挑战:为智能体服务、运行智能体集群、由智能体自行合成。文中指出多智能体在 text-to-SQL 任务中仅 10-20% 子计划互异,80-90% 子查询重复,可借多查询优化与近似查询处理复用结果。