AI 每日早报公开专栏
登录后订阅

登录后会回到本专栏。公开期次现在即可阅读。

AI 每日早报
Ginolujiaxian

EP99 · DSPy 提示优化、Saga 回滚、出海 C-Corp · 06-26 早报

本期内容跨度较大,节奏偏轻。三篇精讲涵盖 Dropbox 用 DSPy 构建 LLM 评测与提示词优化闭环的工程实践、Cloudflare Workflows 引入 Saga 回滚的新写法,以及出海融资前的公司架构基础准备。没有特别突破性的议题,但对正在做相关事情的读者来说,每篇都有可落地的细节可参考。另有 swyx 演讲技巧、智能体记忆分层、Mistral OCR 4 等延伸阅读。

31

我们如何利用 DSPy 将 AI 评估转化为 Dash Chat 的更优回复

Dropbox 技术团队分享了 Dash Chat Agent 的评估优化实践。核心方案是以开源框架 DSPy 构建两阶段反馈闭环:先用人工标注数据校准 LLM 裁判,再以校准后的裁判自动优化 Agent 提示词。人工评估覆盖意图理解、语义相关性、工具调用等 5 个维度,评分采用 1–5 分制。上线后不完整回答减少 26%,遗漏关键点减少 13%,token 用量下降 5.4%。对正在搭建 Agent 评测与提示词优化闭环的团队有参考价值。

文章Dropbox Tech Blog作者:Simran Jumani
查看原文 How we used DSPy to turn AI evaluations into better responses in Dash Chat(在新窗口打开)

我们如何为 Cloudflare Workflows 构建 Saga 回滚

Cloudflare 官方博客介绍了 Workflows 新发布的 Saga 回滚功能。开发者现在可以在 step.do() 中直接传入 rollback 函数,工作流失败时按步骤启动顺序的逆序执行补偿,且回滚步骤同样具备重试与超时保障。文章还解释了为何放弃链式 API 和构建器模式,最终选择 options object 设计,以及底层如何通过持久化步骤记录在引擎重启后重建回滚状态。搭建含支付、库存等多步骤分布式业务的开发者可以关注。

文章The Cloudflare Blog作者:Vaishnav Kavitha
查看原文 How we built saga rollbacks for Cloudflare Workflows(在新窗口打开)

AI 创业者想出海拿美元,搭好可融资的企业架构才是第一步

Founder Park 整理了清律纽约律师事务所南李律师关于出海企业架构的分享。核心观点是「投资人投的是创业企业,不是创业产品」,MVP 验证之外必须搭建可融资的法律架构。文章建议融资导向的团队首选特拉华州 C-Corp:LLC 因穿透税制和 QSBS 限制普遍不受 VC 欢迎。股权归属采用美国标准的四年 Vesting 加一年 Cliff,并建议创始人主动设置而非等投资人提要求。适合有出海融资计划的 AI 创业者参考。

文章Founder Park
查看原文 AI 创业者想出海拿美元,搭好可融资的企业架构才是第一步(在新窗口打开)

Vector RAG 不够用了——我为多智能体记忆构建了一个上下文图层

本文提出了一种用于多智能体记忆的上下文图层,通过将事实存储为实体和关系,在多跳查询中表现优于原始历史记录和纯向量 RAG,实现了 88.9% 的准确率和每次查询 26.9 个 token 的效率。

文章Towards Data Science作者:Emmimal P Alexander
查看原文 Vector RAG Isn’t Enough — I Built a Context Graph Layer for Multi-Agent Memory(在新窗口打开)

3 个智能体,3 个大模型,1 块老旧 GPU:在裸机上实现并行推理工程

本文解释了由于 KV 缓存预分配,在单块低显存 GPU 上并行运行多个基于大模型的智能体为何会失败,并介绍了一个名为 lmxd 的小型 C++ 守护进程,通过强制执行显存记账来解决这一问题。

文章Towards Data Science作者:Anubhab Banerjee
查看原文 3 Agents. 3 LLMs. 1 Aging GPU: Engineering Parallel Inference on Bare Metal(在新窗口打开)
登录后订阅

登录后会回到本专栏。公开期次现在即可阅读。

查看往期