跳到正文
10月1日周四
9月24日周四
  1. Microsoft Research62

    微软研究院:把物理 AI 推理卸载到边缘或云端可提升机器人性能与续航

    微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人本体 GPU 卸载到边缘或云端 GPU,可提升任务成功率并支持更大的模型。

    推荐理由:微软研究院首次系统测量机器人本体推理与卸载推理的差异,给出任务成功率、电池续航和工具链层面的可迁移结论。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX:K-Search 如何把内核优化经验带到 Apple Silicon

    Berkeley AI Research 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX 后端,通过结构化的 CUDA 到 MLX 翻译层,让已有 CUDA 内核作为知识库适配 Apple Silicon。

    推荐理由:K-Search 把 CUDA 内核优化经验迁移到 Apple Silicon,读者可看到跨硬件迁移的具体方法与实测差距。

5月8日周五
  1. Berkeley AI Research36

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究团队梳理了并行推理领域进展,指出当前多数方法(如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS)的并行结构由外部预设,而非模型自主决定。文章重点讨论自适应并行推理,即让模型自行判断何时分解任务、生成多少并行线程以及如何协调,并介绍了 ParaThinker、GroupThink、Hogwild! Inference 等近期方案。