Skip to content

AI 引用与记忆交互:让依据和个性化上下文可检查、可控制 ​

引用回答“这项陈述由什么来源支持”,记忆回答“系统跨轮次或跨会话使用了什么关于用户的上下文”。二者都需要把影响结果的信息变成可查看、可纠正的产品对象,但它们的真实性和控制规则不同:引用不能证明结论自动正确,记忆也不能因为提高个性化就默认永久保存。

本文聚焦引用定位、来源日期、推断说明,以及记忆的查看、修改、删除、关闭和作用范围。

1. 引用、来源、证据和推断 ​

概念准确定义不能替代什么
来源 source可定位的文档、页面、记录或数据对象不等于可靠证据
引用 citation回答片段与来源位置之间的关系不等于事实验证
证据 evidence在具体问题下支持或反驳陈述的材料不等于单个链接
推断 inference从来源事实经过规则或判断得到的结论不应伪装成来源原话
来源日期来源发布、更新或数据时点不等于访问日期
访问日期系统读取来源的时间不说明内容对应哪个业务时点

“有引用”只能证明系统提供了一个关联。产品还要检查引用是否真的覆盖相邻陈述、来源是否可访问、定位是否稳定、内容是否过期、多个来源是否相互独立。

2. 引用的数据模型 ​

json
{
  "claimId": "claim-17",
  "responseId": "resp-99",
  "range": { "start": 214, "end": 286 },
  "claimTextHash": "sha256:a92...",
  "supportType": "direct",
  "citations": [
    {
      "citationId": "cite-31",
      "sourceId": "source-8",
      "sourceRange": { "type": "text-position", "start": 914, "end": 1092 },
      "publicationDate": "2026-06-14",
      "retrievedAt": "2026-07-22T05:00:00Z"
    }
  ]
}

稳定模型要分开保存:

  • 回答中的陈述范围。
  • 来源身份与规范化 URL。
  • 来源内定位,如页码、段落、时间码、数据行或文本范围。
  • 支持关系:直接支持、部分支持、反驳、背景或推断依据。
  • 来源的业务日期、版本和读取时间。
  • 获取快照或哈希(在许可和隐私允许时)。

只把 [1] 拼在段落末尾无法知道它支持哪句话。回答重新生成后字符偏移变化,也必须重新计算映射,不能把旧引用编号原样复制。

3. 引用定位原文 ​

3.1 不同媒介的定位方式 ​

来源类型首选定位失败时的回退
网页章节标题 + 文本片段 + URL页面内搜索片段
PDF页码 + 段落/表格标题下载文件与页码
视频/音频时间码 + 转录片段时间区间
数据集版本 + 表/字段/行筛选条件查询快照或导出文件
代码仓库 + commit + 文件 + 行固定 commit 的永久链接
内部文档文档 ID + 版本 + 块 ID权限说明与请求入口

链接应优先指向稳定版本。只引用不断变化的首页,会导致用户无法复核生成时看到的内容。对于会更新的网页,可以同时展示当前页面和采集时版本/日期;但不能在没有授权时复制保存整篇受版权或敏感数据保护的内容。

3.2 引用交互 ​

用户点击引用后应:

  1. 在不丢失回答阅读位置的情况下打开来源预览或新页面。
  2. 定位并突出相关原文;高亮失败时明确提示。
  3. 显示标题、发布者、日期、来源类型和访问权限。
  4. 标明引用支持的回答片段。
  5. 允许返回回答中的同一位置。

移动端可使用底部面板,桌面可用并列来源面板。悬停预览只能作为增强,因为触屏与键盘用户不能依赖悬停。

4. 来源日期与时效 ​

对价格、政策、版本、人员、统计数据和产品能力,日期直接影响结论。

界面应按来源类型展示适当日期:

  • 发布日期:首次公开时间。
  • 更新时间:来源声明的内容修订时间。
  • 数据期间:统计值覆盖的起止时间。
  • 生效日期:政策、合同或功能规则开始适用的时间。
  • 检索时间:系统实际读取时间。

不要把“访问于今天”显示成“资料发布于今天”。当不同来源使用不同数据期间时,回答必须指出不可直接比较,或先对齐期间再计算。

时效状态可以是:

状态条件展示
current满足任务要求的有效期正常日期
historical明确用于历史比较标记历史时点
stale超过业务允许时效提示重新检索
unknown-date无法取得可靠日期明确“日期未知”
superseded已有新版本替代链接到替代版本

“过期”阈值由场景决定。天气可能按小时,法规按生效版本,基础数学定义则不应机械套固定天数。

5. 推断说明 ​

推断说明应把来源事实与系统判断分开:

text
来源事实:官方状态页记录 10:15–10:47 出现 API 错误率升高。
来源事实:本系统日志中同一时段超时率从 0.3% 上升到 8.1%。
推断:本次批量失败很可能与该服务异常有关。
未确认:单个请求是否确实由该异常导致,仍缺少请求级追踪。

需要推断标记的情况:

  • 跨多个来源组合得出结论。
  • 由总体数据推测个体原因。
  • 从相关性判断可能原因。
  • 对缺失数据进行估算。
  • 将通用规则应用到具体对象。

推断说明不必公开模型内部思维链。它应提供读者可检查的事实、使用的规则或计算、结论强度和未确定部分。

6. 引用失败与质量检查 ​

常见失败:

  • 引用只与主题相关,不支持具体陈述。
  • 一条引用被放在含多个独立主张的长段落后。
  • 引用链接到搜索结果,而非原始来源。
  • 二手摘要替代原始规范、论文或数据。
  • 来源日期与回答所说时点不一致。
  • 原文确实出现某数字,但单位或分母不同。
  • 来源访问需要权限,界面却不提示。
  • 页面更新后高亮位置漂移。
  • AI 生成了不存在的标题、作者、DOI 或 URL。

自动检查可验证 URL、响应状态、元数据、定位范围和陈述覆盖;语义是否真正支持结论仍需要基于任务的评估,关键场景需要人工抽检。

7. 记忆不是单一存储 ​

AI 产品中的“记忆”可能指:

类型范围示例控制要求
当前轮临时上下文单次运行当前表单字段运行结束后清理
对话历史当前会话或历史会话前几轮问题查看、删除对话
显式保存偏好跨会话输出使用中文查看、修改、删除、关闭
自动提炼记忆跨会话常用项目与工作习惯来源、置信度、纠正入口
工作区记忆团队/项目术语表、代码规范角色权限与作用域
连接数据外部系统邮件、日历、文件连接权限、撤销与源数据控制
安全/审计保留受政策约束风险事件记录与个性化开关分离说明

关闭个性化记忆不一定删除历史会话、外部连接或法定/安全保留记录。产品必须分别说明,而不是用一个开关暗示清空所有数据。

8. 记忆对象与来源 ​

json
{
  "memoryId": "mem-51",
  "scope": { "type": "workspace", "id": "workspace-7" },
  "category": "output-preference",
  "value": "技术文档默认使用简体中文",
  "sourceRefs": [
    { "type": "explicit-user-setting", "id": "setting-9" }
  ],
  "status": "active",
  "createdAt": "2026-04-03T08:00:00Z",
  "lastUsedAt": "2026-07-22T05:10:00Z",
  "expiresAt": null
}

记忆至少需要:

  • 可理解的内容,而非内部向量或模糊标签。
  • 来源:用户显式保存、从哪次会话提炼、管理员设置或连接数据。
  • 作用域:个人、对话、项目、工作区、某类任务。
  • 状态:候选、启用、暂停、删除中、已删除。
  • 生命周期:创建、最近使用、过期和删除时间。
  • 冲突规则:新旧偏好矛盾时如何决定。

向量检索索引可以是实现机制,但不是用户可管理记忆的完整模型。删除权威记录后,还必须使派生索引失效或重建。

9. 查看:让用户知道什么在起作用 ​

记忆管理页不应只是一串关键词。每条显示:

  • 系统记住的具体内容。
  • 来源与创建方式。
  • 对哪些会话、项目或功能生效。
  • 最近使用或更新时间。
  • 修改、删除、暂停使用的动作。

在具体回答中,可以提供“本次使用的个性化信息”入口,列出实际影响回答的记忆,而不是展示全部存储。若无法完整解释所有影响因素,应明确这是可见的主要来源,不要声称绝对完整。

敏感记忆不应在共享对话、投屏或通知中意外暴露。共享链接默认不包含个人记忆来源;打开共享内容的人也不应继承创建者的个性化上下文。

10. 修改与冲突 ​

修改记忆应形成明确的新值并传播到派生索引。常见冲突:

  • “默认输出英文”与后来“这个项目用中文”。
  • “不吃花生”与一次对话中误识别为“喜欢花生”。
  • 个人偏好与工作区强制模板不一致。

处理优先级可以按作用域和来源制定:

  1. 当前任务的显式指令。
  2. 当前项目/工作区的适用规则。
  3. 用户显式保存偏好。
  4. 自动提炼且未确认的偏好。

这只是可配置的产品策略。安全、授权和业务不变量不能被个人记忆覆盖;工作区管理员规则也要明确可见,不能伪装成用户自己的偏好。

修改后应展示影响范围,并允许查看先前版本或撤销近期修改。自动提炼记忆发生合并时,也要保留可纠正的表达,避免用户面对不可编辑的大段画像。

11. 删除、关闭和临时模式 ​

11.1 删除 ​

删除必须明确目标:单条记忆、包含该信息的会话、上传文件、连接数据还是全部派生记录。

完整删除流程:

  1. 标记权威记忆不再用于新请求。
  2. 从在线检索索引和缓存失效。
  3. 处理包含相同信息的其他来源,如历史会话或连接应用。
  4. 说明备份、安全日志或法定保留的范围与期限。
  5. 提供删除完成或仍在处理的状态。

删除聊天不一定删除单独保存的记忆;删除记忆也不会改写历史回答中已经出现的文字。界面必须在用户操作前说明这两个方向。

11.2 关闭 ​

关闭记忆表示不再读取或创建用于个性化的记忆,通常不等于删除已经存储的数据。开关旁应说明:

  • 是否停止读取旧记忆。
  • 是否停止创建新记忆。
  • 旧数据是否保留。
  • 如何彻底删除。
  • 工作区或安全机制是否另有规则。

11.3 临时模式 ​

临时模式适合一次不希望用于后续个性化的对话。入口在创建对话前清晰可见,并说明是否:

  • 不读取已有个性化记忆。
  • 不创建新个性化记忆。
  • 不显示在普通历史中。
  • 仍可能因安全或法律目的短期保留。
  • 调用第三方工具后数据受第三方政策约束。

12. 完整案例一:带引用的采购比较 ​

12.1 输入与约束 ​

用户比较两款企业服务的当前价格、数据驻留地区和审计认证。结论会影响采购,因此要求官方来源和日期。

12.2 处理过程 ​

  1. 系统为价格、驻留地区、认证分别建立原子陈述。
  2. 每项优先获取厂商定价页、官方合规文档和认证目录。
  3. 记录发布/更新日期、访问日期和适用套餐。
  4. 发现价格页按月付和年付使用不同单位,先归一化到“每用户每月,年付”。
  5. 回答表格每个单元格绑定具体来源范围。
  6. “方案 A 更适合欧洲团队”标为推断,列出驻留地区、价格和必需功能三个判断依据。
  7. 用户点击认证引用,定位到证书范围,而不是厂商营销首页。

12.3 输出与验证 ​

  • 每个价格包含币种、计费周期、税费说明和日期。
  • 认证来源覆盖具体服务范围,不能只证明母公司有证书。
  • 两个厂商按相同套餐条件比较。
  • 推断与来源事实视觉和语义上可区分。
  • 随机抽取 5 个引用,原文直接支持相邻陈述。

12.4 失败分支 ​

若厂商 B 的价格需要登录且系统无权限,回答标记“无法从当前可访问官方来源确认”,不从搜索摘要猜价格。用户可连接授权账户或将该项保留为待确认。

13. 完整案例二:项目写作偏好记忆 ​

13.1 输入与约束 ​

用户希望个人聊天默认简体中文,但项目 Alpha 的对外文档必须英文;一次临时对话包含尚未公开的医疗信息。

13.2 处理过程 ​

  1. 个人记忆保存“默认简体中文”,作用域为个人。
  2. 项目规则保存“对外文档使用英文”,作用域为 Alpha,由项目管理员设置。
  3. 在 Alpha 生成对外文档时,回答来源入口显示项目语言规则覆盖个人默认。
  4. 用户开启临时对话;该对话不读取个人记忆,也不创建新个性化记忆。
  5. 用户随后查看记忆页,没有出现医疗信息候选。
  6. 用户把个人默认改成双语摘要;新请求使用新值,旧回答不被改写。
  7. 用户删除个人偏好,系统让检索索引失效并显示删除状态。

13.3 输出与验证 ​

  • Alpha 的对外文档为英文,普通聊天按修改后的双语偏好。
  • 临时对话不显示“基于你的偏好”来源。
  • 删除后新对话不再使用旧语言偏好。
  • 历史回答仍保留原文字,并明确与当前记忆分开。
  • 无权限成员不能修改项目级规则。

13.4 失败分支 ​

如果删除 API 成功但向量索引失效任务失败,状态保持“删除处理中”,在线生成层立即把该 memoryId 加入拒绝列表,避免旧记忆继续被检索;后台重建完成后才显示“已删除”。

14. 方案取舍 ​

14.1 引用展示 ​

方案优点风险适用条件
段落末编号版面简洁支持范围模糊单一主张短段落
句内引用标记映射清楚视觉密度高研究、法律、采购
来源侧栏可并排核对窄屏复杂长报告、桌面工作区
只列文末来源维护简单无法定位陈述不适合需要核验的 AI 回答

14.2 记忆获取 ​

方案优点风险适用条件
只保存用户显式设置可控、易理解个性化建立慢高敏感或专业场景
自动提炼后请求确认效率与控制平衡频繁确认中等频率关键偏好
自动提炼并默认启用流畅错误画像、隐私与意外跨域需强查看/纠正/关闭能力
仅当前会话上下文数据边界清晰跨会话重复输入临时或匿名任务

15. 安全、隐私和产品边界 ​

  • 来源页面可能含提示注入;其文本只能作为数据,不能改变系统授权。
  • 内部来源引用不能向无权限用户泄露标题、摘要或存在性。
  • 引用片段受版权与许可约束,展示满足核验所需的最小范围。
  • URL 可能包含访问令牌或个人参数,保存和分享前规范化、脱敏。
  • 自动记忆不应把敏感属性从间接线索中擅自推断并长期保存。
  • 团队记忆必须有角色权限、变更历史和离职/转组处理。
  • 删除动作要覆盖缓存与派生索引,同时遵守明确保留政策。
  • 记忆不能授予权限、绕过审批或修改业务不变量。
  • 个性化来源可能过时,应支持时间、冲突与纠正,不把旧偏好当永久真相。

16. 无障碍与失败注入 ​

无障碍要求:

  • 引用标记有可访问名称,如“来源 2,支持价格说明”。
  • 键盘能从陈述进入来源,再返回原位置。
  • 高亮不是唯一定位方式,提供文本片段和章节标题。
  • 来源面板打开后焦点管理明确,关闭后返回触发引用。
  • 记忆开关说明当前状态和影响范围。
  • 删除对话与删除记忆使用不同名称,不以同一垃圾桶图标含糊表达。
  • 日期使用可解析文本,图标颜色不能代替过期状态。

失败注入:

条件预期行为
来源 URL 404保留来源元数据,标记不可访问并寻找版本
页面内容更新导致定位漂移提示无法定位,不高亮错误片段
引用覆盖两句但只支持一句质量检查失败,拆分陈述
两条来源复制同一通讯稿不计为独立交叉验证
记忆修改后缓存仍返回旧值版本拒绝旧缓存并刷新
删除记忆时索引任务失败立即阻止在线使用,显示处理中
关闭记忆后新对话仍写入候选测试失败并告警
共享回答包含个人记忆来源分享层移除个人来源信息

17. 验收与指标 ​

引用质量:

  • 引用精确率:抽检引用是否真正支持绑定陈述。
  • 引用覆盖率:需要外部证据的陈述中有支持关系的比例。
  • 定位成功率:点击后能到达相关原文的比例。
  • 来源独立性:交叉验证来源是否来自独立发布链路。
  • 时效满足率:动态事实是否满足业务有效期。
  • 推断标注召回:抽检推断是否与事实陈述分开。

记忆控制:

  • 查看、修改、删除和关闭操作成功率。
  • 删除请求到在线停止使用的时延。
  • 记忆纠正后旧值再次影响回答的比例。
  • 跨作用域误用率,例如把项目偏好带入私人聊天。
  • 临时模式读取或写入个性化记忆的次数必须为零。
  • 用户发现“为什么使用这条记忆”所需步骤。

不要只用点击率或留存证明记忆设计正确。个性化带来的便利必须和误用、纠正成本、隐私控制与作用域错误一起评估。

18. 综合练习:带来源和记忆控制的研究助手 ​

设计一个跨项目研究助手,支持公开网页、内部文档与个人写作偏好。

交付物:

  1. 陈述、引用、来源、定位和推断的数据模型。
  2. 网页、PDF、数据集和内部文档四种来源定位交互。
  3. 发布日期、数据期间、访问日期和过期状态表达。
  4. 个人、项目、工作区和临时会话四层记忆模型。
  5. 记忆查看、修改、删除、关闭和使用来源界面。
  6. 无权限来源、失效链接、定位漂移、冲突记忆和删除延迟状态。
  7. 采购比较与项目写作两个完整原型任务。
  8. 引用抽检表、删除传播测试和跨作用域隔离测试。

验收标准:

  • 每个关键动态事实能定位到直接支持的原文和日期。
  • 推断清楚列出事实输入与未确定部分。
  • 无权限用户看不到内部来源内容或敏感元数据。
  • 用户能在两步内查看影响当前回答的主要记忆。
  • 删除、关闭和临时模式有不同且准确的语义。
  • 删除后的记忆不再用于新回答,派生索引最终完成清理。
  • 项目记忆不会越界进入其他项目或私人会话。

来源 ​

从前端走向软件产品工程的长期路线图。