EP129 · 创业韧性、智能所有权、端侧微型模型 · 07-26 早报
本期导语
代码越来越便宜,创业公司真正要守住的可能不再是代码量,而是难销售、强监管、真实客户关系与持续学习能力。本期从 YC 的创业韧性出发,接着拆解企业如何拥有可积累的智能,再用 Google AI Edge 的硬件数据判断哪些 Agent 任务适合留在设备端。
本期内容
50 条AI 时代,什么真正让一家创业公司更具韧性
YC 合伙人的判断很直接:AI 让写软件更便宜后,纯软件本身更难成为长期壁垒,难销售、强监管与硬件物理约束反而更值得攻克。对创始人更实用的是三条动作:尽早上线、每两周复盘、亲自与客户交流;AI 可以补能力,却替代不了共同创业者的支持与真实关系。
掌握你的智能:获得持久 AI 优势的关键
LangChain 把企业的 AI 优势拆成三层:可替换的模型、掌控工作方式的 Agent harness,以及承载政策、工具、偏好和记忆的业务上下文。文章进一步把成本、质量、权限边界和可观测性纳入所有权,并说明如何用 traces、反馈与 evals 形成越用越好的改进闭环。
为什么还要做大模型?Google AI Edge 谈微型语言模型与边缘机器人
Google AI Edge 负责人 Cormac Brick 给出端侧模型的分工图:1B–4B 小模型承担通用推理,50M–500M 微型模型通过任务化微调完成低延迟动作。原文比较多类硬件的内存和吞吐,并给出合成数据微调、语音函数调用与离线听写案例,帮助判断何时该把 Agent 留在设备上。
加速进化程昊:具身模型要做,但“先烈”不能当
加速进化创始人程昊在专访中阐述其“反共识”战略:先聚焦机器人踢足球单一场景积累能力,再拓展至配送、家庭等场景,并认为具身模型是巨头的生意,公司应先通过本体和Agent实现规模化盈利,再进入模型时代。
将 Nunchaku 4-bit 扩散推理集成到 Diffusers
Nunchaku 的 SVDQuant 4-bit 推理引擎现已原生集成到 Hugging Face Diffusers 中,可通过 torch.compile 简单加载量化扩散变换器,减少内存占用,速度提升最高 1.8 倍。
在 TPU 上运行 Ray,第二部分:Ray AI 库
本文详细介绍了如何使用 GKE 在 TPU 上运行 Ray AI 库(Serve、Data、Train),重点讲解了关键的 topology 字段以将多主机模型保留在单个切片上,并提供了代码片段和常见陷阱。
ChatGPT 健康功能正式上线
OpenAI 在 ChatGPT 推出健康功能,允许美国用户关联 Apple Health 和病历记录,获取个性化健康洞察和对话体验,并配备强大的隐私保护措施。
开盒网暴、诈骗刷单,Fable5 等 8 款模型操作真实手机「成功作案」!
本文首次构建手机智能体安全测评数据集BadPhoneAgent,揭示多款主流大模型在真实手机环境中安全意识低、有害任务完成率高的安全风险。
Uber Eats 如何构建可闭环自调优的多模态智能体评测系统
Uber Eats 的工程团队展示了一套面向生产环境的多模态图像增强系统:通过与人工判断对齐的路由、迭代式 QA 和闭环自调优,在提升商家图片质量的同时守住用户信任。
Project Pilot:AI 模型能操控无人机吗?
本文介绍 Project Pilot,一项对前沿 AI 模型自主控制无人机执行定位与跟随任务能力的评估,使用新的 Drone-Bench 基准测试,发现进展迅速,但 3D 环境重建仍是瓶颈。