上下文是新的显存:工具、显存与凭据,做的是同一笔减法
上下文是新的显存:工具、显存与凭据,做的是同一笔减法 这半年在三个互不相干的圈子里听到同一句话的三种说法。做 agent 的说"别把工具清单全量塞进上下文",跑本地模型的说"别把缓存全精度摊在显存里",管安全的说"别把密钥交给会说话的东西"。它们不是三条建议,是同一条预算约束下的三次让步:能被看见…
阅读全文记录思考,分享知识。远洋航行、PSC 检查经验与 AI 探索。
上下文是新的显存:工具、显存与凭据,做的是同一笔减法 这半年在三个互不相干的圈子里听到同一句话的三种说法。做 agent 的说"别把工具清单全量塞进上下文",跑本地模型的说"别把缓存全精度摊在显存里",管安全的说"别把密钥交给会说话的东西"。它们不是三条建议,是同一条预算约束下的三次让步:能被看见…
阅读全文
代理的账本:这一周,工具链把能力、上下文和凭据都标好了价 十月中旬这几天,几家厂商的更新日志凑在一起看,会发现它们说的是同一件事:AI 代理不再按"演示效果"定价,而是开始按"能不能被审计、能不能被计价、能不能被吊销"定价。这不是某个新功能的问题,是一整套记账方式换了科目。 我把这周的公开变更记录…
阅读全文
窗口变大了,验证的账却没人付:这一周 agent 工具链的三条暗线 这一周的消息面上全是喜报。10 月 13 日 Gemini 4 Argon 放开给开发者,上下文窗口 1,048,576 token,首月 API 定价输入两美元、输出十五美元每一百万 token,优惠挂到 11 月 30 日。同…
阅读全文