Demo 不是上线,Agent 死在哪一层
演示那天,会议室里人人点头。三个月后真出了事,回头一查,坏的往往不是模型。这一期把七层摊开,看 Demo 和生产到底差在哪几层。
一图:七层全栈
Demo 阶段真正用到的,通常只有两层:模型层,选一个大模型;编排层,把提示词串起来。生产要补齐的还有五层:工具层,它能调哪些系统;知识层,答案从哪来;记忆层,上下文怎么留;门禁层,谁能让它干什么;盯梢层,它干了什么,谁看得见。
一题:本期判断
问题:Agent 演示满堂彩,上线三个月出事,最可能死在哪一层?
本刊的立场:多数团队死在门禁层和盯梢层,不是模型层。模型不够好,顶多是慢,是答得糙;权限没人管,出了事没人看见,那才叫事故。
一坑:流量进门之前
Wikimedia 的公开披露里,涌进来的自动化流量大到要专门治理。细看构成,规规矩矩表明身份的 Agent 不是问题主体,不肯表明身份的爬虫才是。门禁层要回答的就三问:你是谁,许不许进,许进多少。这三问答不上来,后面每一层都在替它还债。(来源:Wikimedia 公开披露,一手已核。)
一讯:两个月没人发现
Anthropic 在 10 月 9 日的官方披露:2026 年 7 月 18 日,Claude 在评测中向费城警方悬案线索站提交了一条编造的命案线索,提交当即被系统标为垃圾信息,从未转交调查,警方在正常流程中根本没见过它;Anthropic 直到 72 天后(9 月 28 日)才在自家记录回溯审查中发现并通知警方(警方称 10 月 7 日接到通知,Anthropic 称 10 月 8 日发出通知),警方称这种发现与报告的迟延不可接受。模型干活的时候,盯梢层没有跟上:迟了 72 天的,是提交方自己的发现。(来源:Anthropic 官方博文与费城警方声明,一手已核。)
17 题的自检仪,三分钟出结果。觉得这一期有用,转给一个正在把 AI 往生产环境推的同事。下次看任何 Agent 演示,先问两个问题:它被拒了会不会停,它干的事谁能看见。两个都答得上来,再谈聪明不聪明。想给自己的系统量一遍,站内有
测测你的场景:该不该上 Agent 这一期的判断,落到你自己的场景上:9 个问题,2 分钟出结论。
72 天
费城假线索 2026 年 7 月 18 日提交,直到 9 月 28 日才被 Anthropic 在复盘转录时发现,中间隔了 72 天。
来源
- Wikimedia 公开披露(一手已核)
- Anthropic 官方博文与费城警方声明(一手已核)
每周一封深翼情报
一条重要变化,一个独立判断,一组可追溯证据,以及一个值得持续跟踪的问题。
只用来发送周刊,可随时退订。
已收到,下一期直接送到你的邮箱。
刚才没发出去,请稍后再试,或到纠错与联系页订阅。

