头条精讲
DeepSeek 开源推理框架:走向真正普惠的未来(在新标签页打开)
推荐理由DeepSeek 把内部推理框架与官方 API 对齐的编解码组件一起开放,补上从模型权重到规模化服务的中间层。部署团队可据此比较算子、调度与接口一致性各自负责什么,并评估英伟达和昇腾上的私有化部署路线;本次新增的是服务框架,不是另一轮模型升级。
DeepSeek 发布 V4.1-Flash-1017 新模型,在性能提升的同时降低任务成本,并开放自研搜索 API 与模型权重。
推出 TPU 上全新的 vLLM 和 SGLang 推理引擎(在新标签页打开)
推荐理由Google 让 vLLM、SGLang 在保留熟悉的 PyTorch 模型定义、调度和服务接口时接入 TPU。适合正在评估硬件替代路线的团队:通过前缀缓存、分层 KV 存储和预填充解耦,理解迁移工作究竟发生在哪里,以及应如何用自己的工作负载比较延迟与成本。
Google 推出适用于 vLLM 和 SGLang 的原生 PyTorch 后端,让 TPU 能够为智能体和多模态工作负载提供高性能、可定制的推理能力。
Anthropic 技术团队成员:当 Claude 从助手变成主动协作的 AI 队友(在新标签页打开)
推荐理由Anthropic FDE 团队负责人用项目追踪、反馈分流与排班协调,讲清 Claude 如何逐步接过持续职责。希望从个人提效走向团队协作的读者,可以学习共享上下文、工具身份、记忆、触发和反馈怎样配合,并保留人对需求、代码与行动项的判断。
Anthropic FDE 团队负责人介绍,如何借助逐步授权、共享上下文、工具、记忆、触发机制和反馈,让 Claude 成为主动协作的队友,同时保留人的关键决策。
今日精华
训练中自己生成的 Rollout,模型还能学到什么?小红书 AllSpark 提出 ROSS(在新标签页打开)
推荐理由做模型后训练的团队,可参考如何保留错误尝试的上下文、只学习其中有效片段,把已有 rollout 变成可复用的训练资产。
小红书 AllSpark 提出 ROSS 方法,通过选择性监督微调让模型重新学习训练中生成的历史 rollout,在单轮 RL、多教师蒸馏及 Agentic RL 三类场景中均显著提升模型性能,且无需额外生成新轨迹。
FairStress:深入评估 LLM 决策中的公平性(在新标签页打开)
推荐理由负责高影响 AI 应用的团队,可学习把公平评估从最终答案延伸至受劝说时的稳定性,并检查身份线索如何改变模型判断。
AllenAI 推出 FairStress 基准测试,通过对 15 个模型进行对抗性前缀测试,覆盖 13M 个测试案例,揭示 LLM 存在「反刻板印象式过度纠偏」:当有利于少数群体候选人时,模型更容易放弃正确决策。
再访 Dyna Robotics:被部署教训300天后,找到机器人 Scaling Law(在新标签页打开)
推荐理由通过机器人创始人的部署复盘,理解硬件形态、动作模型和数据采集如何围绕真实客户任务取舍,建立比演示视频更具体的观察框架。
Dyna Robotics 创始人分享了具身智能在真实场景部署中的教训,强调从 VLA 转向世界动作模型(WAM),并认为简单精巧的设计更具规模化扩展性。
SGLang 低延迟模式:内核与运行时(在新标签页打开)
推荐理由已有 GPU 推理服务的开发者,可沿内核、通信和运行时的协同优化定位延迟来源,并学习在一致硬件与并发口径下比较收益。
SGLang 推出低延迟模式,并采用插件框架为 NVIDIA 和 AMD GPU 提供专用内核,大幅提升智能体工作流的推理速度。
Index-Translate:支持 150 种语言的多模态翻译模型是如何炼成的?(在新标签页打开)
推荐理由需要字幕和内容出海的团队,可参考多语言数据配比、音节控制与文档一致性训练,把翻译质量要求转化为可训练和可评测的目标。
哔哩哔哩 Index LLM 团队发布 Index-Translate 系列模型,覆盖 150 种语言的文本、图文、语音及长文档翻译,并开源 2B/9B/35B-A3B 三种规模与免费 API。
NVIDIA Cosmos3-H-Dreams:通过生成式模拟让临床手术栩栩如生(在新标签页打开)
推荐理由世界模型与机器人研究者,可借动作条件下的手术视频生成理解交互式模拟的构建方法,以及真实数据、蒸馏和流式推理如何配合。
NVIDIA 发布 Cosmos3-H-Dreams,这是首个基于临床胆囊切除术数据训练的实时生成式手术模拟器,可在单块 GPU 上实现带实时运动学控制的交互式模拟。
Monzo 自建编码智能体走红:把内部平台变成智能体的基础设施(在新标签页打开)
推荐理由平台工程团队可参考银行如何复用工具网关、沙箱和网络边界,将编码助手扩展为组织能力,并设计可审查的业务人员交付流程。
Monzo 工程师介绍如何借助内部工具网关、隔离沙箱和既有平台,把 Slack 中的编码智能体发展为全公司的可复用能力。
补充阅读
3 位 Java 冠军如何借助 GitHub Copilot 提升生产力(在新标签页打开)
推荐理由Java 开发者可参考定制技能、任务验证关卡与确定性检查,把编码智能体纳入现有工程实践,同时保留架构决策的责任。
3 位 Java 冠军分享了将 GitHub Copilot 用作思维碰撞伙伴和执行智能体的具体做法,重点强调设置验证关卡、定制技能、使用确定性工具,以及在委派实现工作的同时保留架构责任。
可编程数据中心——SF Compute 的 Evan Conrad(在新标签页打开)
推荐理由评估算力采购的团队,可通过算力合约与订单簿设计理解 GPU 市场如何匹配不同配置、期限和交付需求。
SF Compute CEO Evan Conrad 详述公司如何从转租 GPU 集群,发展为可编程数据中心:通过实物交割算力合约,并以订单簿撮合各种 GPU 配置,打造流动性市场。
PyTorch 2.15 中的 MPS(在新标签页打开)
推荐理由在 Apple Silicon 运行模型的开发者,可结合内核、精度与内存优化判断本地推理可行性,并明确需要实测的模型和设备组合。
PyTorch 1.15 为 Apple Silicon 上的 MPS 带来了多项显著性能优化,包括 FP8 支持、借助 Metal 内核加速 LLM 解码,以及降低视频生成的内存占用。
ALTK-Evolve:无需前沿模型,学习型记忆如何在客户服务任务中登顶 τ²-bench 排行榜(在新标签页打开)
推荐理由希望改善客服智能体的团队,可学习从历史尝试提炼操作准则的方法,把经验记忆与模型权重更新作为两条可比较的改进路线。
ALTK-Evolve 使用 GPT-4.1 从训练数据中提取行为准则,并将其追加到智能体的提示词中,最终在 τ²-bench 零售领域取得 67.5% 的 Pass^4 分数,无需更新模型权重便超越了所有其他参赛方案。
一次搜索,双重空间:在 PyTorch Helion 中使用 NVIDIA CompileIQ 控制编译器(在新标签页打开)
推荐理由GPU 内核开发者可参考联合搜索编译器与内核参数的方法,检查已经调优的实现是否仍受底层编译决策限制。
Helion 新增了与 NVIDIA CompileIQ 的编译器控制集成,可联合自动调优内核和 PTXAS 设置,带来超越现有 Helion 自动调优的可测量加速。
字节跳动 Athanor:4 个 Agent 自主后训练,104 小时追平官方指令版(在新标签页打开)
推荐理由自动化研究团队可借多智能体后训练实验观察任务协调、实验复用和计算预算,并识别研究路线趋同对探索范围的影响。
字节跳动等团队提出 Athanor 系统,让四个 Claude Agent 自主完成 Qwen3-4B-Base 的后训练研究,104 小时、约 1.18 万美元后追平官方指令版,但研究路线高度趋同。
能把健康问题交给 ChatGPT 吗?OpenAI 谈医疗 AI 的信任、能力与边界(在新标签页打开)
推荐理由关注医疗 AI 的读者,可从研究负责人的解释理解专家评估、通用模型与工作流集成如何共同建立可用性与信任。
OpenAI 健康研究负责人解释,通用模型、专家评估与工作流集成如何普及健康智能,同时保留医疗服务所需的人与机构责任。
超越原型:使用 Ray 扩展框架无关的 AI 智能体基础设施(在新标签页打开)
推荐理由准备将 Agent 原型扩大到生产的开发者,可参考框架无关的执行与观测设计,评估并发任务下的可靠性和资源管理。
本文探讨如何借助 Ray 将 AI 智能体从原型扩展为生产级基础设施,重点介绍编排、可观测性与可靠性。
借助 Model Explorer 为自定义边缘编译器带来可视化图调试(在新标签页打开)
推荐理由边缘编译器工程师可学习把中间表示和性能信息连起来,缩短导出回归、设备委派和周期瓶颈的定位路径。
Google AI Edge Model Explorer 支持对自定义边缘编译器 IR 进行可视化调试,帮助 Arm 工程师发现导出回归、验证 NPU 委派,并精准定位边缘设备上的周期级瓶颈。
Al Chen:用可验证的工程证据缩短大型银行 AI 部署审查(在新标签页打开)
推荐理由面向银行交付 AI 的团队,可参考漏洞复现、恢复正确性与评估解释检查,将部署保证转换为审批方可以验证的工程证据。
Al Chen 解释如何用漏洞复现测试、恢复正确性验证和关注泄漏风险的 LLM 评估,缩短银行企业 AI 的生产部署审查。



