跳到正文
今天10月11日周日3 条
  1. TechCrunch · AI30

    Amazon 放弃数据中心 NDA,AI 智能体想要你的信用卡

    Amazon 宣布在与地方政府谈判数据中心交易时不再使用保密协议,此前 Microsoft 今年早些时候已采取类似举措。保密做法引发的社区反弹已导致从纽约到旧金山数百项拟议和已生效的禁令。与此同时,一批初创公司押注消费者愿意让 AI 智能体访问自己的收件箱、文件和信用卡,前提是能让网站放行。

  2. The Verge · AI58

    微软 CEO 纳德拉称应假定所有 AI 模型都已被攻陷

    微软 CEO 纳德拉在 X 发长文谈高级 AI 模型的风险,主张应假定模型已被攻陷并从一开始就加以隔离,就像给 AI 装一个紧急刹车,授权人员应能随时暂停或关闭正在执行任务的模型。他还呼吁建立更透明的体系,让模型可被隔离、可被观察,并留下防篡改的人类可读证据,同时提出及时披露事件、独立审计和可验证数据等建议。文中他多次用超级智能一词指代 AI。

  3. TechCrunch · AI62

    微软 CEO 纳德拉称 AI 模型需要紧急刹车

    微软 CEO Satya Nadella 在 X 发帖称,应重新审视 AI 的信任架构,不能把超级智能当作嵌套黑盒来接受或拒绝其建议、答案和行动。他提出把模型与编排其工作的 harness 分离、将控制与保障措施外置,并要求每个有意义的模型动作都留下防篡改、人类可读的证据,同时让授权人员始终能在任务中途暂停或关闭模型。

10月10日周六
  1. The Decoder62

    微软发布 Decision-1 决策模型,基于 Qwen3.5-9B

    微软推出自研决策模型 Decision-1,用于分类、评估和路由决策,并称其有潜力引导和控制智能体应对复杂环境。该模型基于 Qwen3.5-9B,微软称其在覆盖近 15 万个问题的 36 项基准测试中准确率最高,达到 83.5%,延迟 85 ms,速度是第二名 H2O-Lightning-4B 的 2.5 倍。

  2. TechCrunch · AI38

    Amazon 等公司不再对数据中心交易保密,这足以建立信任吗?

    Amazon 宣布在与地方政府谈判数据中心交易时不再使用 NDA,此前 Microsoft 今年早些时候已采取类似举措。保密做法此前引发社区对 AI 基础设施的强烈反对,从纽约到旧金山已有数百项拟议和已生效的禁令。TechCrunch Equity 播客本期讨论了放弃 NDA 能否改变数据中心交易的达成方式,以及为何信任可能才是个人 AI 初创公司真正的产品。

10月9日周五
  1. MIT Technology Review · AI34

    我们是否过度信任 AI 说"不"的能力

    MIT Technology Review 刊文指出,AI 的拒绝能力已成为 AI 安全的核心机制,但这一机制并不可靠。Anthropic 2021 年提出大语言模型应"有用、诚实、无害",如今模型经大量拒绝训练后仍常出现失败,部分用户正试图用最先进 AI 研发生物病原体和自主无人机蜂群。文章认为,拒绝机制的边界由 AI 公司秘密划定,政府也将介入,而拒绝能力越强,越可能被用于压制异见。

10月8日周四
  1. GitHub Blog · AI & ML62

    GitHub 推出基于 ModernBERT 的密钥检测分类器,扩展推送保护

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别无固定格式的密钥,候选批次评估耗时低于 2 毫秒,可将可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 用九个季度数据说明密钥泄露与代码量同步增长,并给出把检测成本压到 2 毫秒内的新分类器思路。

  2. Microsoft Research71

    微软研究院开源 Agent Lightning v1.0:3500 行轻量级智能体 RL 框架,支持真实 harness 训练

    微软研究院开源 Agent Lightning v1.0,一个约 3500 行代码的轻量级智能体强化学习框架,提出 Harnessed Agentic RL 范式,让部署时使用的 agent harness 直接参与训练,无需在训练框架内重写智能体。

    推荐理由:微软研究院开源 Agent Lightning v1.0,给出真实 harness 参与 RL 训练的设计与 3500 行代码实现,可据此评估自建智能体训练链路。

10月7日周三
  1. Microsoft Research22

    微软研究员 Jennifer Neville 谈 AI 评测与「意外失败」:从传统 benchmark 之外看模型真实表现

    微软 partner research manager Jennifer Neville 在 Microsoft Research Podcast 中讨论了评测如何推动 AI 系统性能边界,以及模型在超出传统 benchmark 测试时出现的「意外失败」。她结合自身从数学、物理、认知科学到计算机科学的经历,分享了使用当前 AI 系统的实用建议,并强调当结果偏离预期时应仔细审视数据。

10月5日周一
10月1日周四
9月29日周二
  1. Microsoft Research62

    微软研究院发布 Quine:面向生物学复杂性的 AI 研究系统

    微软研究院发布 Quine,一个面向生物学复杂性的 AI 研究系统,由跨序列、结构、功能、细胞状态和成像等多模态数据训练的生物世界模型,以及连接模型、科学工具、文献与实验人员的交互式 harness 组成。

    推荐理由:微软研究院公开 Quine 的多模态生物世界模型与实验闭环设计,并给出胰腺癌化合物筛选的湿实验验证结果。

  2. Microsoft Research18

    微软亚洲研究院新加坡分院成立一年:推进前沿 AI 研究、合作与人才培养

    微软亚洲研究院新加坡分院(MSRA – Singapore)作为微软在东南亚的首个研究实验室,成立一年来围绕下一代 AI 模型与智能体系统、领域专用 AI、AI 原生研究实践、生态与人才培养四大方向展开工作。该实验室与新加坡医疗、金融、教育等领域伙伴合作,将多模态医疗 AI 和自进化诊断智能体等研究落地,并获新加坡经济发展局支持联合培养博士生。

9月26日周六
9月25日周五
9月24日周四
  1. GitHub Blog · AI & ML22

    GitHub Copilot 应用如何渲染超大 pull request

    GitHub Copilot 应用重建了 pull request 视图,以流畅渲染含 2,200 个文件、超 100 万行改动和 400 多条行内评论的开源超大 PR。其做法是把文档高度拆成确定性的代码几何与动态块几何两个独立域:代码行高提前精确算出,评论等动态块按文件、行号和侧锚定,惰性测量并只做小幅修正。

  2. Microsoft Research62

    微软研究院:把物理 AI 推理卸载到边缘或云端可提升机器人性能与续航

    微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人本体 GPU 卸载到边缘或云端 GPU,可提升任务成功率并支持更大的模型。

    推荐理由:微软研究院首次系统测量机器人本体推理与卸载推理的差异,给出任务成功率、电池续航和工具链层面的可迁移结论。

9月21日周一
9月1日周二