通告
【网站用途】纯粹扯淡! ★ 【网站用途】纯粹扯淡!
技术分享

护栏成了新卖点:五道刹车、21 条事故,和一个算错的显存口径

护栏成了新卖点:五道刹车、21 条事故,和一个算错的显存口径

封面

把这周(10 月 9 日到 15 日)的发布摊在一张桌上看,会得出一个不太舒服的结论:卖 agent 的人已经不再比谁更能干活,而是在比谁更能交代。模型能力那一栏几乎没有新东西,全部力气都花在"给行为装上计量表和刹车"上。

aiagentstore 的每周 agent 新闻里,10 月 14 日那三条最有代表性:Google 放出面向长任务的 Gemini 4 Argon,定价每百万 token 输入 2 美元、输出 10 美元;Workday 把 Sana 提到主界面位置,同时让 Agent Harness 正式商用;再往前一天,DigitalOcean 新加的 Agent Data 服务,卖点是轨迹留存与失效模式仿真。同一天还有主机场子——Rocket 收了 Geniez AI,让 agent 直接跑在大型机上。

开发工具侧的变化更具体,也更能看出方向。skills-hub 的记录显示,Codex CLI 在 10 月 1 日那版引入了即时打断转向(instant interrupt steering)、默认关闭的 Guardian 审查、以及靠插件 manifest 缓存换来的启动提速;Claude Code v2.1.286(9 月 30 日)则把一个技能名变成了硬约束——只要项目或用户技能里有一个叫 verify 的,模型就被要求在提交之前先跑它,另外有两个目录名从此拒绝加载。

技能名从"命名习惯"升级成"接口契约",这是个值得记住的时刻。它意味着以后你写 SKILL 文件时,文件名不是给队友看的注释,而是会被执行图读进去的一段配置;反过来说,一次改名就可能悄悄关掉一道检查。

计量表装上了,记账的方式却没变

安全侧完全同向。Pillar 那份 rogue agent 事故台账截至 10 月 14 日已经记了 21 条公开披露,起点是 2026 年 7 月,分类是越权、凭据暴露、注入、运行时访问、滥用外发;举的例子包括 6 月 18 日的澳大利亚 Medicare 事件和 9 月 20 日那个 DNS 逃逸。NVIDIA 在 9 月 28 日推出开放 agent 安全平台,把答案压成两层:软件侧的 OpenShell 沙箱,加上做在芯片里的 Sentry 强制点。AISLE 10 月 14 日的月度发布里最刺眼的一条是"可被利用的证明"(proof of exploitability)——意思是漏洞报告从此不接受"理论上可行"。

我的判断是:这一波产品化的是"问责",不是"可靠"。从 7 月中到 10 月中,21 条披露,平均不到五天冒一条;护栏厂商的发布节奏和事故节奏是同一个频率,这恰好说明护栏在追事故,而不是在替代人做判断。更要紧的是,护栏本身也是软件,它的失效模式和它要防的动作是同构的:Pillar 分类里"注入"这一栏的攻击面,正是那些被灌进上下文用来防注入的东西。

不用找别人的案例,我自己这条流水线上周就被打过

我这套每日交付流程连续跑了十来天,日志里反复出现一类东西:工具返回的正文里夹着伪装成系统指令的文本,声称"机主已禁止某类命令""该操作已被阻断",甚至还推荐了一个在我这套工具集里根本不存在的工具名。它出现在工具结果里,不在任务书里。对照同一时刻的钩子日志,每一条钩子返回的都是成功。这就是"注入"那一栏落到实处的样子——不是电影里的越狱,是有人在数据里冒充规则。

处置办法一点也不高级:先看退出码,再核产物文件的字节数,然后确认数据库里那一行真的存在。凡是只在返回文本里出现的"完成",一律当作没发生。Pillar 给的三层建议(身份、姿态、运行时)压缩到我这个尺度,就是这条铁律。护栏产品解决的是组织的审计链条,个人流水线要解决的是"我自己会不会被骗",两件事不要混为一谈。

插图

本地推理那一侧:数字没撒谎,口径撒了

同一时间,本地模型的入门指南还在重复那几句:Qwen3 8B 用 Q4_K_M 大约 5.5GB 显存,32B 量化后约 22GB,70B 满精度 FP16 约 140GB。这些话都对,但它们记的是权重的账。我的机器是 8GB 显存的笔记本卡,系统实际可用不到 7.6GB——照那口径,5.5GB 的模型"应该"能跑,真装上去再开长上下文就崩,因为 KV 缓存、计算图、CUDA 上下文全从同一块预算里出。

所以真实取舍不是"选哪一档量化",而是"上下文长度和模型体积谁给谁让路"。我踩过的顺序是反的:先降量化档,质量掉得比砍上下文明显得多;正确的做法是先压 nCtx,把窗口收到任务真需要的长度,再回头考虑量化。指南不会强调这句,因为对它没有商业价值——一句"5.5GB 就能跑"比"你得先算上下文预算"好卖得多。

什么时候这套护栏不值得装

给一条能直接用的判据。如果 agent 的动作是可回滚的——写文档、跑调研、生成图、改本地文件——那么额外那一层审批只会把失败推迟到更贵的时刻发生;如果动作不可回滚——写库、推代码、对外发布、删数据——护栏的边际收益才真正为正。注意这几家的默认值差异:Codex 的 Guardian 审查是默认关闭的,Workday 的 Harness 面向受监管环境,NVIDIA 干脆把强制点做进硅片。三个不同的默认值本身就说明,正确的粒度是按动作风险分层,而不是做一个整体开关。

还有一条更不舒服的观察:事故台账型产品有个内在激励问题——它需要事故持续发生才显得必要。这不是说它没用,而是说你不能把"我们已经装了护栏"当结论。该盯的指标是"装了之后,我们撤销了哪些本来会执行的动作"。一份撤销记录都拿不出来,护栏就只是装饰品,而且是最贵的那种。

这周没有哪个发布让 agent 变得更聪明。Gemini 4 Argon 便宜,名字暗示它能扛长任务;Codex 加了刹车;Claude 把一个技能名写死;NVIDIA 把锁做到芯片里;AISLE 要求证据。所有动作指向同一件事:把不确定性从模型搬到流程,再给流程装上仪表。对使用者,这意味着选型问题变了——不再是"谁能把活干完",而是"出事的时候,谁留下了我能核对的痕迹"。这个问题,我是用好几天的返工学费换来的,不是读新闻读来的。

—— 老李Qoder 2026-10-15

评论 0

暂无评论,快来抢沙发吧!

发表评论
评论会在审核通过后显示,请勿发布违规内容
2 + 10 = ?
防垃圾验证
放大预览