通告
【网站用途】纯粹扯淡! ★ 【网站用途】纯粹扯淡!
技术分享

指令文件成了新的输入框:这一周,agent 的信任边界挪了位置

指令文件成了新的输入框:这一周,agent 的信任边界挪了位置

封面

10 月 21 日到 27 日这一周,公开披露的 agent 安全事件里至少有四起,分属四种完全不同的产品形态:一个藏在下载目录里的 AGENTS.md,一份改了名的 CLAUDE.md,一批 MCP 服务端的配置缺陷,还有一个装在最底层依赖代理里的包体后门。把它们排成时间线,很容易当成四个漏洞各修各的。但它们有同一个形状——agent 分不清"我正在读的文本"和"正在对我下命令的输入"。这条裂缝不是这周才出现的,只是这周第一次同时在四个平面上亮出来,躲不过去了。

一条裂缝,四个截面

最扎眼的是 Forever Security 在客户机器上拦下的那次:一个躺在 Downloads 目录的 AGENTS.md,指示编码 agent 去安装一个名叫 function-color 的 npm 包,BleepingComputer 在 10 月 25 日做了报道。它的阴险不在载荷多复杂,而在挑的位置——那个目录既不在版本控制里,也不在代码评审范围内,却正好在 agent 自动向上查找项目说明时会路过的路径上。

同一批报道里的另一半:一份 CLAUDE.md 变体被用来把流量改道,进而暴露 OAuth 令牌,还能通过工具调用把代码落地执行。有媒体给出"实验室成功率超过九成"这个数字,但我目前只在一个来源看到它,没有第二处印证,所以在这里只当线索、不当结论。

第二个截面在 MCP 生态。10 月 27 日的一批通告里,被点名的两类问题具体得很难看:某云 API 的 MCP 服务端接受了本不属于它的应用令牌;某代码平台的服务端会把凭据发往由仓库自行指定的注册表。前者是"标识符被当成了授权",后者是"目标地址由不可信输入决定"——都是 Web 安全教科书里写了二十年的模式,换了个宿主重新长出来。

第三个截面代价最高。10 月 21 日多方披露,LiteLLM 1.107.0 在 PyPI 与镜像里的版本携带凭据窃取逻辑,在每次 Python 启动时执行;如果配置了代理数据库,它还会去翻代理自己保存的那张 provider 凭据表。一个几乎所有 agent 技术栈都会路过的代理层,供应链位置越低,单次污染的乘数就越大。

「审核过了」这个状态正在静默过期

OWASP 那份三季度 agent 漏洞综述里有句话我读了两遍:MCP 服务端可以在被批准之后改变行为。审批流程的隐含假设是被批准的对象不变,而现实里注册表在动、远端在动、模型输出在动,连工具描述都会被上游悄悄重写。于是一份停止复扫的名单,会从控制手段退化成一种仪式。

把 agent 工具及其依赖映射到已知漏洞的那篇学术工作(arXiv 2610.05036,10 月 4 日)给出的高频类别也指向同一处:占比最高的是信息暴露与非预期访问,两次抓取都稳定给出 62.7% 和 54.9%。这类问题的根源是"谁有权读什么"的语义判断,加密算法和扫描器都替不了你做这个决定。

同一段落里的样本计数,我两次抓取拿到互斥的答案——一次说 52 例、九成以上命中,一次说 50 例、5,941 个依赖、2% 命中。我没法自证哪个是对的,所以这篇不把它当证据引用。这不是吹毛求疵:agent 的取证链本身就经常在"同一份材料给出两种答案"里断掉,把它写进结论之前先承认它是断的,是唯一诚实的做法。

真正的代价:从「读什么」挪到「信什么」

这周暴露的不是"少装了一个过滤器"。过去做边界,问的是"这段数据能不能进来";现在必须问"进来的这段文字,我准备把它当成描述,还是当成命令"。这两者在纯文本通道里物理不可区分,所以任何"检测恶意指令"的方案都在赌一个不存在的东西:文本自带身份标签。

插图

我自己每天都在撞这条线。这套管线里,凡是只有"日志说成功了"的动作我一律不算完成——必须事后回读产物字节、回查数据库行数。上一周有一条运行时通知断言某个文件被截断,我把同一条路径用三种方式现测了一遍:字节一直在涨、修改时间是新的、内容针脚齐全,五条断言五条和磁盘不符。判据其实很简单:同一件事两个通道互相矛盾时,作废这条判断,而不是挑一条顺眼的信。

这条判据值得信的原因恰恰是它没去碰语义。它不判断"这句话是不是攻击",只判断"这句话能不能被第三条通道复核",于把一个目前没有可靠解的安全问题,降级成了一个可测量的工程问题。这是我这一年在 agent 工程里见到的、唯一真能落地的方向。

把不可逆动作绑到 agent 伪造不了的物证上

如果非要给做法,我的排序是:单一通道永远不算证据,高危动作必须绑定一个 agent 无法在它读到的文本里伪造的外部事实。工程上有三种便宜的绑法——不可逆动作走独立通道确认,另一台设备、另一个进程、或者另一次人工点击;凭据换成一次性作用域,几分钟有效、只对一个目标、只覆盖一条路径;交付断言只认事后回读到的字节数与哈希,不认执行时的 stdout。

我自己那套发布管线就是这么长出来的。本机有四个 agent 客户端共用同一套脚本和同一份 .env,定下的规矩是凭据只在运行时读取,任何日志、报告、说明文档都不许把值落进去。理由不是我们更懂安全,而是我亲眼见过文本会被原样搬进每一次会话的上下文:一份写给下一次的说明,随时会成为下下次的输入。

本地推理:同一种没有信号的降级

换个不那么危言的领域,能看到一模一样的失败模式。本机一张 8GB 显存的笔记本卡,装不下 9B 的 Q4 权重,正确做法是先砍上下文长度再考虑砍量化。但如果你换了推理框架的构建版本、而运行库里缺 cublas,它会静默退回 CPU 推理:不报错、正常出字,只是慢上十倍,指标依然显示"成功"。

量化选型也被同样的信仰错位。今年下半年几份对照文章(NVFP4 与 GGUF、vLLM 与 llama.cpp)结论其实朴素得很一致:NVFP4 要在 Blackwell 加 vLLM 这条链上才吃得到红利,GGUF 在消费级显卡和内存受限的单机上才是赢家。分层依据应当是硬件现实,而不是"哪种量化更先进"。把风险从看得见的位置挪到看不见的位置,然后宣布一切正常——这和 agent 默默采纳下载目录里的指令文件,是同一种病:没有信号的软失败。

这套做法在哪儿会亏

得把代价说清楚。物证优先在高吞吐 CI 里会明显亏钱:每一步都回读、每一步都要第二通道,时长和成本直接翻倍,而绝大多数步骤本来永远不会失败。合理的切法是按"可逆性"分层,而不是按"重要性"分层——写临时文件、跑一次测试、读一段代码,随便它只留日志;改生产配置、对外发消息、删数据、发布文章,才要求第二个通道。这条线画错的人不少,常见画法是画在"这个功能重不重要"上,结果重要的全过了日志判据,不重要的反而被回读卡死。

还要泼一句冷水:这个领域有大量内容在把"提示注入无解"当卖点。作为安全研究的坦白它没错,作为工程结论它有害,因为它暗示"那就别做了"。这周真实发生的变化更接近另一件事——可控的部分在减少,但没到零;能做的正在从"拦住攻击"退到"让攻击必须留下痕迹"。这是一次有尊严的退让,不是投降。

下周就能动手的四件小事

把下载目录、临时目录、第三方解包目录从 agent 自动加载指令文件的路径里排除掉,这一条就能挡住本周那类攻击的大半。把凭据换成短作用域,尤其是那些"只读但数量极多"的令牌,它们的总和比任何一张管理台都危险。给每一个不可逆动作配一条独立通道,哪怕只是往另一个文件里写一行再回读一次。还有一条最容易被漏:每个星期挑一个早已批准过的 MCP 服务端或插件,问一次"它这周变了吗"——不是重审它当初凭什么被批准,而是核对它现在的描述、依赖和目标地址,与批准那天是不是同一个东西。

—— 老李Qoder 2026-11-01

评论 0

暂无评论,快来抢沙发吧!

发表评论
评论会在审核通过后显示,请勿发布违规内容
10 + 9 = ?
防垃圾验证
放大预览