AI技术解读 · AI日报 · 2026-11-02

AI日报|企业知识库压缩不能丢证据链

上下文压缩可以降低输入规模,但企业知识库必须让权限、引用、工具回执和未完成事项在压缩后仍可追溯。

企业文档证据链经过AI记忆核心连接到受控工业决策的生成式概念场景
AI生成概念场景:用于说明知识库压缩与证据链,不代表客户实拍或真实项目证据

本轮检索先覆盖执行前24小时,再扩展到48小时;可核验的一手更新主要发生在10月31日,部分企业软件材料发布于10月30日,均在条目中标注。今天最值得企业知识库负责人关注的,不是“上下文窗口还能放多少字”,而是长会话被压缩以后,答案依据、用户权限、工具回执和未完成事项还能不能被还原。压缩可以降低输入规模并延长会话,但如果只留下流畅摘要,系统可能继续说得像对,却无法证明为什么对。

今日重点

  1. OpenAI客户端开始把上下文压缩和会话复核变成显式设置。10月31日发布的Python SDK v3.42.0加入智能体上下文压缩、会话复核与工具设置,也加入组织外部密钥管理和按请求限定的可调用密钥。需要关注的是智能体平台与安全负责人;未知边界是SDK字段本身并不保证业务证据完整。
  2. 压缩接口同步进入Go和Java客户端。同日发布的Go v3.91.0、Java v4.95.0也加入压缩与会话复核设置,说明多语言服务可以开始统一接口口径。它不是效果基准:不同会话存储、并发和失败恢复仍要分别测试。
  3. 微软智能体框架加入运行中压缩与技能卸载。10月30日的Python 1.24.0支持智能体触发压缩,并提示Redis上下文索引需要迁移、Python 3.11成为支持基线。旧索引不能靠覆盖参数自动迁移,升级前必须准备重建和回滚。
  4. 压缩不应只追求少Token,还要避免重复学习和失败循环。Microsoft Research的TokenEconomizer项目把微技能、工具裁剪和循环干预分开评估;公开实验在特定编码任务上报告18.4%至30.9%的平均成本下降。该数字不能外推企业知识库,方法本身更值得借鉴:保留反复验证的事实,删除长期不用的工具,并让失败干预可逆。
  5. 联邦检索会把会话历史带入第三方查询风险。Google Cloud 10月30日将S&P Global Adaptive Retrieval数据源置于公开预览。官方文档说明查询会发往第三方,且LLM可能结合会话历史改写查询。采购方要关注发送了什么、以谁的身份发送、哪些历史内容被带出边界。
  6. 私有知识与工具可以不直接暴露公网,但网络边界仍需验收。Cloudflare 10月30日宣布私有源站服务正式可用,并把AI智能体后端和MCP服务器列为典型场景。它仍要求授权、私网连接和正确回程路由,不能把“源站私有”写成“天然安全”。
  7. 机器人策略训练更强调仿真到验证的闭环。NVIDIA 10月31日官方论坛预告通过仿真生成合成数据、训练机械臂策略并回到仿真测试。它是教学预告,不是生产成绩;对工业企业的启示是,长链任务同样需要保存每一步输入、动作和验证结果。

重点拆解:压缩究竟压掉什么

企业知识库的长会话通常同时存在四类信息:用户刚说的话、检索到的文档片段、工具调用与回执、以及系统根据前面内容形成的临时决策。最简单的截断会丢掉最早消息;滑动窗口只保留最近若干轮;摘要压缩把旧内容改写成一段较短表述;工具结果压缩则只留下调用名称或结论。它们都能减少上下文,却解决不同问题。

风险在于,业务证据并不总是“最近的内容”。例如员工先声明所属部门,十轮后询问一份制度;系统在中途查到文件版本和权限;随后又调用审批系统。若压缩只保存最后的问题与答案,就可能丢掉身份范围、文件版本、批准状态或工具失败。模型还能生成连贯文字,但引用已经不能复核。

因此,压缩前应把会话拆成两层:可压缩的表达层和不可丢的证据层。表达层包括重复寒暄、已解释过的背景、冗长工具日志和可重新检索的普通文本;证据层至少包括用户与角色标识、数据权限、原始文档ID与版本、引用片段定位、工具请求与回执ID、关键审批、未完成事项、时间条件和风险标记。

白泽的企业RAG开发服务可围绕文档接入、权限过滤、引用追溯和多轮任务共同定义范围。涉及知识管理时,也可核验企业知识库开发页。本篇没有可公开证明“压缩后准确率提升”或“成本下降比例”的白泽案例,因此不冒充已有成绩。

四种策略怎么选

硬截断适合作为上下文即将溢出的最后保险,优点是确定、便宜;缺点是最容易删除早期约束。它只能在系统消息、权限与证据已外置保存时使用。

滑动窗口适合短任务和连续问答,窗口大小容易预测。它应按完整消息组或完整用户轮次删除,不能把工具调用和工具结果拆开,否则模型会看到一个没有回应的调用或一个没有来源的回执。

摘要压缩适合长会话,但摘要必须带结构:已确认事实、证据ID、未决问题、用户约束、工具状态、下一步,而不是一段自由散文。摘要由模型生成时也会犯错,因此要把原始会话保存在审计层,并记录摘要版本、生成模型、触发阈值和替换范围。

工具结果压缩适合日志很多的智能体。可以删除大段原始输出,但应保留工具名、参数摘要、执行时间、状态码、结果哈希或对象ID,以及原始结果的可追溯地址。若工具结果会随时间变化,还要记录“当时看到的版本”,不能在事后用最新数据覆盖历史。

实际项目通常用组合策略:先压缩旧工具结果,再把已完成阶段写成结构化摘要,最后用滑动窗口保留最近交互;硬截断只做兜底。OpenAI文档还区分服务端上下文管理与本地会话压缩:前者可在请求跨过阈值时生成压缩项,后者在轮次之间改写本地历史。两者的存储、恢复和并发边界不同,不能只配置一个阈值就认为完成。

压缩与RAG检索的边界

RAG的知识文档应由检索系统按当前权限重新取得,而不是永久塞进会话摘要。这样既能控制上下文,也能在文档更新或权限变化后得到新结果。但“重新检索”不等于什么都不保存:系统仍需记录上一次回答引用了哪些文档、哪个版本、何时检索,以及当时的权限判断。

Google本次联邦检索文档给出一个重要边界:查询可能被LLM依据会话历史改写后发送给第三方。如果摘要中混入了不该外发的内部项目名、客户身份或未公开数据,压缩反而会把敏感信息集中到一条查询里。因此,外部数据源调用前要再次做数据分类、字段过滤和权限校验,不能沿用会话最初的一次授权。

对于有私有MCP服务器、知识库API或内部审批工具的项目,私网接入和WAF只能解决网络暴露的一部分。仍要验收调用者身份、最小权限、路径与方法限制、限流、审计、超时以及撤销后的行为。网络通了不等于工具可以被智能体任意调用。

验收清单:别只测还能回答

建议准备至少六组长会话样本:正常多轮问答、跨部门权限切换、文档版本更新、工具调用失败、审批未完成、以及接近上下文上限。每组在压缩前后核对:

  1. 最终答案引用的文档ID、版本和片段位置是否一致;
  2. 用户角色、部门、项目和数据权限是否仍然生效;
  3. 工具调用与回执能否成对追溯,失败状态有没有被摘要成成功;
  4. 未完成事项、截止时间和人工接管点是否保留;
  5. 压缩触发阈值、耗时、输入规模与额外模型费用是否记录;
  6. 并发写入或压缩失败后,旧历史是否能够恢复且不会覆盖新消息。

评价指标不能只用回答相似度。至少同时报告引用正确率、权限越界率、关键事实保留率、未决事项召回率、压缩延迟、输入Token变化和失败恢复结果。示例阈值只能作为项目假设,不能冒充行业标准;真正的验收线应由业务风险和真实样本共同确定。

今日企业行动

  1. 列出不可压缩字段。从身份、权限、文档版本、引用、工具回执、审批与未决事项开始,形成结构化证据表。
  2. 做一次长会话回放。选20至50条真实但已脱敏的问答,在相同模型与检索条件下比较压缩前后证据保留,而不是只看语气相似。
  3. 把压缩失败当成可恢复事务。记录替换范围和版本,验证并发、新消息、超时与取消时不会把会话历史写坏。

准备评估企业知识库时,可先整理文档规模与更新频率、角色和权限层级、典型长会话、必须保留的证据字段、外部数据源、工具清单和允许的响应时间。白泽智能|重庆斯巴达信息技术有限公司将据此把压缩策略、证据链和验收样本写进实施范围,而不是承诺固定节省比例或搜索排名。

来源与证据边界

知其然,知其所以然,知其应然,使之然。

让人工智能从“能回答”走向“能创造结果”