AI 每日早报公开专栏
登录后订阅

登录后会回到本专栏。公开期次现在即可阅读。

AI 每日早报
Ginolujiaxian

EP93 · 限研争议、应用攻防、工程再思 · 06-20 早报

Anthropic 限制竞品研究、Fable 被迫全球下线,AI 主权与公平竞争的矛盾摆上桌面,Nvidia 与新基准证明智能体编程远未触顶。一场实测演讲层层攻破 LLM 应用护栏,提醒最小权限才是真正防线。还有人断言:软件工程 50 年从未真正工程化,程序员要从人肉编译器转型为产线设计师。

23

测试神话与寓言,超越 SWE-bench,Nvidia 的开放竞争者

Andrew Ng 罕见动怒:Anthropic 不仅给 Claude Fable 5 加上限制竞品研究的条款,还被曝悄悄降低疑似同行研究者的输出质量;美国商务部出口管制更直接逼得 Fable 全球下线,掀起多国关于 AI 主权的讨论。同期 DeepSWE 等新基准证明智能体编程能力远未触顶,Nvidia 也以混合架构悄然加入开源模型竞速。

文章The Batch | DeepLearning.AI作者:Analytics DeepLearning.AI
查看原文 Testing Mythos and Fable, Moving Beyond SWE-bench, Nvidia's Open Contender(在新窗口打开)

攻破 LLM 驱动的应用:从上下文投毒、工具越权到纵深防御

Spring I/O 演讲实测攻破 LLM 应用:用路径穿越污染 RAG 知识库让助手认账虚构条款,靠 SQL 注入伪造聊天记忆诱导越权操作,再用拆分提问绕过护栏套取用户数据;核心结论是护栏只能降风险,授权、最小权限工具与可观测性才是真正防线。

视频Spring I/O作者:Spring I/O
查看原文 Breaching LLM-Powered Applications: Overcoming Security and Privacy Challenges by Brian Vermeer(在新窗口打开)

AI 革命新思考:过去 50 年,软件工程其实没真正「工程化」过?

作者提出尖锐论断:过去 50 年软件工程靠人脑堆代码,从未真正工程化;大模型第一次实现耗能换高阶认知,但范式必须从人为中心 + AI 辅助转向 AI 为中心,否则不确定性会在人机之间循环放大——程序员将从人肉编译器转型为产线设计师与偏差拉回者。

文章dbaplus社群
查看原文 AI 革命新思考:过去 50 年,软件工程其实没真正“工程化”过?(在新窗口打开)

TypeScript 7.0 RC 发布,编译器移植 Go 实现 10 倍提速

TypeScript 7.0 RC 发布,该版本将编译器从 TypeScript 完整移植到 Go,实现了约 10 倍的性能提升,同时引入了新的并行化控制、重构的监视模式以及更新的默认配置。

文章Microsoft for Developers作者:Daniel Rosenwasser
查看原文 Announcing TypeScript 7.0 RC - TypeScript(在新窗口打开)
登录后订阅

登录后会回到本专栏。公开期次现在即可阅读。

查看往期