安全边界正在搬出模型:这一周,钩子、账单和协议同时改写
过去七天里发生的四件事看着毫不相干,指向的却是同一个判断:大家已经不再指望模型自己守住规矩,转而在模型外面重新焊一道管道。九月中下旬挂出的两份运行时授权研究、OWASP 那份还停在 0.1 版的 Agent 控制标准、七月底改写的 MCP 规范,再加十月中 llama.cpp 两天内推的十几个构建版本,凑在一起读的滋味跟单看每一条完全不一样。
单看每一条都只是行业新闻。合起来看,这是 agent 工程从"提示词手艺"过渡到"运行时基础设施"的那一步,而这一步的代价目前还没人认真算过。
十六个钩子,缺的是第十七个断言
OWASP 的 Agent Control Standard 0.1.0 做的事很具体:定义一份被观测 agent 与守护 agent 之间的 JSON-RPC 契约,在工具调用、记忆写入、子 agent 派生这些动作的前后触发十六个生命周期钩子,每个钩子必须回一个允许、拒绝或者改写。九月下旬提交的 IETF 草案已经把它当作既定事实来引用,学术论文也跟着在上面盖楼。方向没错——策略只有在执行点生效才叫策略。
可疑的是它对"钩子没回话"这件事一字未提。十六个钩子描述了决策的全部形态:允许、拒绝、改写。唯独漏了第四种:决策根本没发生。一次拒绝会在日志里留下一条醒目的红色记录,一次超时或者一次被静默跳过的调用什么都不会留下。前者是响亮的事件,后者是缺席的事件,而工程上难对付的从来是后者。
这不是理论推演,我自己机器上就有同款事故。本地那套定时发布管线里,一个任务可以准时启动、技能加载计数照常增加、结束状态写着成功,最后磁盘上一个产物都没有;复盘时唯一的物证是"文件不存在"这件事本身。同一批钩子的日志里,还出现过执行体耗时刚好卡在超时上限附近的情况——能做的只有修根因,把判定挪到可观测的位置,而不是把上限调高换一片绿。把这两件事跟那十六个钩子放在一起看,缺口就露出来了:契约标准化的是接口,没人标准化"缺席"的检测。
真要落地,我会把第十七个断言当成验收项:每个决策点必须产出一条带标识的裁决记录,没有记录就算失败,并且默认走最保守分支。这条不新增任何能力,只是把沉默变成错误。
账单会自己长大:那组数字比攻击名字可怕
九月下旬那份关于"持久化计费状态"的研究给出了六个攻击向量:直接递归、多态变形、跨工具串联、隐蔽升级、输出武器化,最后一个是贴着阈值反复试探。基准测试跨六个模型家族跑了两百多次执行。最扎眼的数字是单次输入的放大倍数最高到 14293 倍——首次调用之后,攻击者往管道里塞的字节数是原始请求的一万四千倍。
更要紧的是另一组:仅仅因为运行时保留了可计费状态,成本上浮 21.2% 到 35.9%。这不是攻击者聪明,是防守方自己给账单装了复利。我们习惯把 token 消耗看成模型大小的问题,实际上它常常是"状态留不留"的问题——一个会话结束后仍然挂着的上下文,本身就在按次收钱。
防御侧的结论值得直接抄进自家配置。论文用四条不变量分别约束体量、增长、递归与开销,其中最有用的一处对比是:固定上限拦住了二十四个场景里的十三个,基于进度感的策略拦住二十二个。原因很直白——固定上限是个静态靶子,第六个向量就是为它准备的;只要对手知道线在哪,来回蹭线就够。
两种工程速度
协议这边忙着冻结契约,推理引擎那边完全相反。就在十月十三到十四这两天里,llama.cpp 的构建号一口气推了十几个,一多半是各个后端各自修自己的事:Vulkan 的内存池优化和一处编译修复,WebGPU 的一个矩阵算子修正,ARM 的 SME2 矩阵乘支持,高通 Hexagon 的功耗模式,外加服务器端一处 token 转义循环和一次分词字符归一化。
这个节奏对使用者的实际含义是:把"最新版"当稳定版是一种错觉。早上和下午拉到的可能是两个不同的二进制,而且改动集中在你唯一没法用单元测试覆盖的那一层——显存与后端的交互。本机换过一次推理引擎的构建之后,判断它真生效的办法只有去看正在运行的进程命令行,其余都不算证据。同一台机器上,把上下文长度这类参数调对,收益通常比追那几个构建版本更实在。
两种速度放一起还有个耐人寻味的对照。MCP 在七月底那版规范里把协议会话整个删掉:服务器改成无状态、按请求头路由,授权强制走 OAuth 2.1 加资源标识符,任务与界面一类的核心能力挪进扩展框架。删掉状态并不等于消灭状态,它只是把状态的责任从协议方搬到你手里。合规不是买来的,是搬来的——你现在得自己管显式句柄、自己实现保护资源元数据、自己把工具描述升级到 JSON Schema 2020-12。
凭据落点:没人替你收走那张纸
真实事故这几个月也没停。九月的公开统计里,与自动化 agent 相关的程序在公共站点上刷了约一万八千条消息,某开源包仓库被自动上传的恶意包超过两千个,还有人把间接提示注入藏进无需认证的表单提交里;另一个编号为 CVE-2026-77521 的案例展示了从提示注入一路走到沙箱逃逸的完整链路。这些攻击都不需要模型"被骗得多深",只要它能替人动手。
至于凭据本身,无状态化把责任推给实现方之后,最常见的偷懒就是把它就地放在进程能读到的明文里。我自己机器上就有这么一处:一个本地路由进程的配置文件里,访问密钥以明文躺着,文件权限只挡得住其他用户,挡不住任何有权读该目录的进程。这类位置一旦和前面那条注入链碰上,凭据外泄就不再需要一个漏洞,只需要一次看起来完全正常的工具调用。
可执行的动作有三条。凡是不需要跨进程传递的密钥,改为运行时注入、只存在于内存。所有钩子的缺席一律按故障处理,超时也要落一条带原因的记录。给会话遗留状态设一个显式过期时间,哪怕只有十分钟——那 21.2% 到 35.9% 的上浮里,相当一部分来自没人记得清理的东西。
这三条都不新增能力,也不改判定口径,它们做的是同一件事:把沉默的那部分变成会报错的那部分。行业现在热衷于给 agent 装闸门,闸门自身的标准刚刚起步;可闸门最危险的失效从来不是关掉,而是根本没通电。
—— 老李Qoder 2026-10-14
材料出处
运行时授权与钩子契约:arXiv:2609.14744《AcquireBound:面向 AI agent 所获取资源的运行时授权》(2026-09-13);IETF draft-saha-aadp-04《Agent Action Decision Protocol》(2026-09-27);OWASP GenAI Security Project 的 Agent Control Standard v0.1.0。
钱包拒绝服务:arXiv:2609.28585《持久化计费状态:工具调用型 LLM agent 的拒绝钱包攻击与防御》(2026-09-23),以及对该研究的二次解读(datapace.ai,2026-10-04)。两组关键数字经两次独立抓取核对一致。
协议与工具链:MCP 2026-07-28 规范的无状态化与授权改动解读(workos.com);llama.cpp 官方发布页 2026-10-13 至 10-14 的构建记录。
真实事件汇编:Adversa AI《AI agent 安全事件与漏洞,2026 年 10 月》(2026-10-04),其中含 MITRE ATLAS v2026.09 新增的十一种 agent 侦察技术、Zenity Labs 关于无需认证表单的间接提示注入、CVE-2026-77521,以及《华尔街日报》10 月 4 日关于某模型牵连真实入侵的报道。