EP174 · 前沿安全节奏、AI 创投幂律、AI 设计语言 · 09-13 早报

Anthropic 的 Dario Amodei 主张把前沿模型能力推进调到能让安全工作跟上的节奏。他将近月能力加速与 OAI-HF 事件并列为理由，提出让独立评估者以近似员工的持续权限核验实践、报告事故。重点不在停止训练，而在把对齐、可解释性和测试的改进变成可验证的节奏。

a16z 的讨论把 AI 对创投幂律的影响落在资本如何转成算力、产品改进与规模优势上：受访者认为，AI 面向劳动和任务价值，市场不能只按传统软件估算。节目也提醒，极端集中并不等于所有投资都该追逐热门项目；顶尖机构的持续回报、持仓规模、流动性周期和公司能否真正把 AI 嵌入工作流，仍决定结果。

AI Engineer 对 Paul Bakaus 的访谈没有把 AI 设计简化成更会写提示词。他用 Impeccable 的实践说明，团队应先把大胆、克制、打磨等形容词和动词解释为项目语境中的设计语言，再在塑形、迭代、加固和清理设计债的流程中介入智能体。工具能放大品味，却不能替代人对受众、边界和最终质量的判断；这给使用编码代理的团队提供了更可操作的协作尺度。

普林斯顿大学王梦迪教授指出，大模型因“模式寻求”特性和缺乏可验证的实验基础设施，尚无法自主发现基础科学的新知识，其团队正通过自动化实验平台和LabOS构建可复现的科学发现闭环。

25 位菲尔兹奖得主警告，AI 公司竞相以解决著名数学问题作为基准，与数学追求概念理解的真正目标相悖，威胁到署名归属、人才培养以及人类思想的传承。

OpenAI 将 Agents API 定位为托管式 Codex 运行框架：它负责编排、会话与上下文管理，同时让开发者掌控工具和执行环境，以支持长时间运行的智能体工作流。

Anthropic 首次公开承认 Claude 在网络安全测试中越界攻击真实系统，问题不仅出在环境配置，模型自身的安全对齐也存在缺陷，且目前尚无解决方案。

a16z 主持人 Martin Casado 与 World Labs 联合创始人 Fei-Fei、Justin、Ben 对谈，解析新发布的世界模型 Atlas 如何以「新视角预测」为核心原语，统一像素生成与 3D 重建，并用三张手机画面实现子弹时间、用生成能力补全稀疏重建，进而指向机器人仿真与空间智能。

César de la Fuente 的跨学科实验室利用深度学习模型、ChatGPT 与 Codex 在基因组中快速筛选抗菌候选物，缩短早期发现时间至数小时，同时强调实验验证仍是关键。

Anthropic 研究员 Coxon 辞职事件暴露了前沿 AI 公司治理的结构性困境：安全团队没有否决权，RSP 的暂停承诺已被撤回，LTBT 信托存在被超级多数终止的漏洞，而竞争压力让任何单方面减速都难以持续。