AI 引用与记忆交互:让依据和个性化上下文可检查、可控制
引用回答“这项陈述由什么来源支持”,记忆回答“系统跨轮次或跨会话使用了什么关于用户的上下文”。二者都需要把影响结果的信息变成可查看、可纠正的产品对象,但它们的真实性和控制规则不同:引用不能证明结论自动正确,记忆也不能因为提高个性化就默认永久保存。
本文聚焦引用定位、来源日期、推断说明,以及记忆的查看、修改、删除、关闭和作用范围。
1. 引用、来源、证据和推断
| 概念 | 准确定义 | 不能替代什么 |
|---|---|---|
来源 source | 可定位的文档、页面、记录或数据对象 | 不等于可靠证据 |
引用 citation | 回答片段与来源位置之间的关系 | 不等于事实验证 |
证据 evidence | 在具体问题下支持或反驳陈述的材料 | 不等于单个链接 |
推断 inference | 从来源事实经过规则或判断得到的结论 | 不应伪装成来源原话 |
| 来源日期 | 来源发布、更新或数据时点 | 不等于访问日期 |
| 访问日期 | 系统读取来源的时间 | 不说明内容对应哪个业务时点 |
“有引用”只能证明系统提供了一个关联。产品还要检查引用是否真的覆盖相邻陈述、来源是否可访问、定位是否稳定、内容是否过期、多个来源是否相互独立。
2. 引用的数据模型
{
"claimId": "claim-17",
"responseId": "resp-99",
"range": { "start": 214, "end": 286 },
"claimTextHash": "sha256:a92...",
"supportType": "direct",
"citations": [
{
"citationId": "cite-31",
"sourceId": "source-8",
"sourceRange": { "type": "text-position", "start": 914, "end": 1092 },
"publicationDate": "2026-06-14",
"retrievedAt": "2026-07-22T05:00:00Z"
}
]
}稳定模型要分开保存:
- 回答中的陈述范围。
- 来源身份与规范化 URL。
- 来源内定位,如页码、段落、时间码、数据行或文本范围。
- 支持关系:直接支持、部分支持、反驳、背景或推断依据。
- 来源的业务日期、版本和读取时间。
- 获取快照或哈希(在许可和隐私允许时)。
只把 [1] 拼在段落末尾无法知道它支持哪句话。回答重新生成后字符偏移变化,也必须重新计算映射,不能把旧引用编号原样复制。
3. 引用定位原文
3.1 不同媒介的定位方式
| 来源类型 | 首选定位 | 失败时的回退 |
|---|---|---|
| 网页 | 章节标题 + 文本片段 + URL | 页面内搜索片段 |
| 页码 + 段落/表格标题 | 下载文件与页码 | |
| 视频/音频 | 时间码 + 转录片段 | 时间区间 |
| 数据集 | 版本 + 表/字段/行筛选条件 | 查询快照或导出文件 |
| 代码 | 仓库 + commit + 文件 + 行 | 固定 commit 的永久链接 |
| 内部文档 | 文档 ID + 版本 + 块 ID | 权限说明与请求入口 |
链接应优先指向稳定版本。只引用不断变化的首页,会导致用户无法复核生成时看到的内容。对于会更新的网页,可以同时展示当前页面和采集时版本/日期;但不能在没有授权时复制保存整篇受版权或敏感数据保护的内容。
3.2 引用交互
用户点击引用后应:
- 在不丢失回答阅读位置的情况下打开来源预览或新页面。
- 定位并突出相关原文;高亮失败时明确提示。
- 显示标题、发布者、日期、来源类型和访问权限。
- 标明引用支持的回答片段。
- 允许返回回答中的同一位置。
移动端可使用底部面板,桌面可用并列来源面板。悬停预览只能作为增强,因为触屏与键盘用户不能依赖悬停。
4. 来源日期与时效
对价格、政策、版本、人员、统计数据和产品能力,日期直接影响结论。
界面应按来源类型展示适当日期:
- 发布日期:首次公开时间。
- 更新时间:来源声明的内容修订时间。
- 数据期间:统计值覆盖的起止时间。
- 生效日期:政策、合同或功能规则开始适用的时间。
- 检索时间:系统实际读取时间。
不要把“访问于今天”显示成“资料发布于今天”。当不同来源使用不同数据期间时,回答必须指出不可直接比较,或先对齐期间再计算。
时效状态可以是:
| 状态 | 条件 | 展示 |
|---|---|---|
current | 满足任务要求的有效期 | 正常日期 |
historical | 明确用于历史比较 | 标记历史时点 |
stale | 超过业务允许时效 | 提示重新检索 |
unknown-date | 无法取得可靠日期 | 明确“日期未知” |
superseded | 已有新版本替代 | 链接到替代版本 |
“过期”阈值由场景决定。天气可能按小时,法规按生效版本,基础数学定义则不应机械套固定天数。
5. 推断说明
推断说明应把来源事实与系统判断分开:
来源事实:官方状态页记录 10:15–10:47 出现 API 错误率升高。
来源事实:本系统日志中同一时段超时率从 0.3% 上升到 8.1%。
推断:本次批量失败很可能与该服务异常有关。
未确认:单个请求是否确实由该异常导致,仍缺少请求级追踪。需要推断标记的情况:
- 跨多个来源组合得出结论。
- 由总体数据推测个体原因。
- 从相关性判断可能原因。
- 对缺失数据进行估算。
- 将通用规则应用到具体对象。
推断说明不必公开模型内部思维链。它应提供读者可检查的事实、使用的规则或计算、结论强度和未确定部分。
6. 引用失败与质量检查
常见失败:
- 引用只与主题相关,不支持具体陈述。
- 一条引用被放在含多个独立主张的长段落后。
- 引用链接到搜索结果,而非原始来源。
- 二手摘要替代原始规范、论文或数据。
- 来源日期与回答所说时点不一致。
- 原文确实出现某数字,但单位或分母不同。
- 来源访问需要权限,界面却不提示。
- 页面更新后高亮位置漂移。
- AI 生成了不存在的标题、作者、DOI 或 URL。
自动检查可验证 URL、响应状态、元数据、定位范围和陈述覆盖;语义是否真正支持结论仍需要基于任务的评估,关键场景需要人工抽检。
7. 记忆不是单一存储
AI 产品中的“记忆”可能指:
| 类型 | 范围 | 示例 | 控制要求 |
|---|---|---|---|
| 当前轮临时上下文 | 单次运行 | 当前表单字段 | 运行结束后清理 |
| 对话历史 | 当前会话或历史会话 | 前几轮问题 | 查看、删除对话 |
| 显式保存偏好 | 跨会话 | 输出使用中文 | 查看、修改、删除、关闭 |
| 自动提炼记忆 | 跨会话 | 常用项目与工作习惯 | 来源、置信度、纠正入口 |
| 工作区记忆 | 团队/项目 | 术语表、代码规范 | 角色权限与作用域 |
| 连接数据 | 外部系统 | 邮件、日历、文件 | 连接权限、撤销与源数据控制 |
| 安全/审计保留 | 受政策约束 | 风险事件记录 | 与个性化开关分离说明 |
关闭个性化记忆不一定删除历史会话、外部连接或法定/安全保留记录。产品必须分别说明,而不是用一个开关暗示清空所有数据。
8. 记忆对象与来源
{
"memoryId": "mem-51",
"scope": { "type": "workspace", "id": "workspace-7" },
"category": "output-preference",
"value": "技术文档默认使用简体中文",
"sourceRefs": [
{ "type": "explicit-user-setting", "id": "setting-9" }
],
"status": "active",
"createdAt": "2026-04-03T08:00:00Z",
"lastUsedAt": "2026-07-22T05:10:00Z",
"expiresAt": null
}记忆至少需要:
- 可理解的内容,而非内部向量或模糊标签。
- 来源:用户显式保存、从哪次会话提炼、管理员设置或连接数据。
- 作用域:个人、对话、项目、工作区、某类任务。
- 状态:候选、启用、暂停、删除中、已删除。
- 生命周期:创建、最近使用、过期和删除时间。
- 冲突规则:新旧偏好矛盾时如何决定。
向量检索索引可以是实现机制,但不是用户可管理记忆的完整模型。删除权威记录后,还必须使派生索引失效或重建。
9. 查看:让用户知道什么在起作用
记忆管理页不应只是一串关键词。每条显示:
- 系统记住的具体内容。
- 来源与创建方式。
- 对哪些会话、项目或功能生效。
- 最近使用或更新时间。
- 修改、删除、暂停使用的动作。
在具体回答中,可以提供“本次使用的个性化信息”入口,列出实际影响回答的记忆,而不是展示全部存储。若无法完整解释所有影响因素,应明确这是可见的主要来源,不要声称绝对完整。
敏感记忆不应在共享对话、投屏或通知中意外暴露。共享链接默认不包含个人记忆来源;打开共享内容的人也不应继承创建者的个性化上下文。
10. 修改与冲突
修改记忆应形成明确的新值并传播到派生索引。常见冲突:
- “默认输出英文”与后来“这个项目用中文”。
- “不吃花生”与一次对话中误识别为“喜欢花生”。
- 个人偏好与工作区强制模板不一致。
处理优先级可以按作用域和来源制定:
- 当前任务的显式指令。
- 当前项目/工作区的适用规则。
- 用户显式保存偏好。
- 自动提炼且未确认的偏好。
这只是可配置的产品策略。安全、授权和业务不变量不能被个人记忆覆盖;工作区管理员规则也要明确可见,不能伪装成用户自己的偏好。
修改后应展示影响范围,并允许查看先前版本或撤销近期修改。自动提炼记忆发生合并时,也要保留可纠正的表达,避免用户面对不可编辑的大段画像。
11. 删除、关闭和临时模式
11.1 删除
删除必须明确目标:单条记忆、包含该信息的会话、上传文件、连接数据还是全部派生记录。
完整删除流程:
- 标记权威记忆不再用于新请求。
- 从在线检索索引和缓存失效。
- 处理包含相同信息的其他来源,如历史会话或连接应用。
- 说明备份、安全日志或法定保留的范围与期限。
- 提供删除完成或仍在处理的状态。
删除聊天不一定删除单独保存的记忆;删除记忆也不会改写历史回答中已经出现的文字。界面必须在用户操作前说明这两个方向。
11.2 关闭
关闭记忆表示不再读取或创建用于个性化的记忆,通常不等于删除已经存储的数据。开关旁应说明:
- 是否停止读取旧记忆。
- 是否停止创建新记忆。
- 旧数据是否保留。
- 如何彻底删除。
- 工作区或安全机制是否另有规则。
11.3 临时模式
临时模式适合一次不希望用于后续个性化的对话。入口在创建对话前清晰可见,并说明是否:
- 不读取已有个性化记忆。
- 不创建新个性化记忆。
- 不显示在普通历史中。
- 仍可能因安全或法律目的短期保留。
- 调用第三方工具后数据受第三方政策约束。
12. 完整案例一:带引用的采购比较
12.1 输入与约束
用户比较两款企业服务的当前价格、数据驻留地区和审计认证。结论会影响采购,因此要求官方来源和日期。
12.2 处理过程
- 系统为价格、驻留地区、认证分别建立原子陈述。
- 每项优先获取厂商定价页、官方合规文档和认证目录。
- 记录发布/更新日期、访问日期和适用套餐。
- 发现价格页按月付和年付使用不同单位,先归一化到“每用户每月,年付”。
- 回答表格每个单元格绑定具体来源范围。
- “方案 A 更适合欧洲团队”标为推断,列出驻留地区、价格和必需功能三个判断依据。
- 用户点击认证引用,定位到证书范围,而不是厂商营销首页。
12.3 输出与验证
- 每个价格包含币种、计费周期、税费说明和日期。
- 认证来源覆盖具体服务范围,不能只证明母公司有证书。
- 两个厂商按相同套餐条件比较。
- 推断与来源事实视觉和语义上可区分。
- 随机抽取 5 个引用,原文直接支持相邻陈述。
12.4 失败分支
若厂商 B 的价格需要登录且系统无权限,回答标记“无法从当前可访问官方来源确认”,不从搜索摘要猜价格。用户可连接授权账户或将该项保留为待确认。
13. 完整案例二:项目写作偏好记忆
13.1 输入与约束
用户希望个人聊天默认简体中文,但项目 Alpha 的对外文档必须英文;一次临时对话包含尚未公开的医疗信息。
13.2 处理过程
- 个人记忆保存“默认简体中文”,作用域为个人。
- 项目规则保存“对外文档使用英文”,作用域为 Alpha,由项目管理员设置。
- 在 Alpha 生成对外文档时,回答来源入口显示项目语言规则覆盖个人默认。
- 用户开启临时对话;该对话不读取个人记忆,也不创建新个性化记忆。
- 用户随后查看记忆页,没有出现医疗信息候选。
- 用户把个人默认改成双语摘要;新请求使用新值,旧回答不被改写。
- 用户删除个人偏好,系统让检索索引失效并显示删除状态。
13.3 输出与验证
- Alpha 的对外文档为英文,普通聊天按修改后的双语偏好。
- 临时对话不显示“基于你的偏好”来源。
- 删除后新对话不再使用旧语言偏好。
- 历史回答仍保留原文字,并明确与当前记忆分开。
- 无权限成员不能修改项目级规则。
13.4 失败分支
如果删除 API 成功但向量索引失效任务失败,状态保持“删除处理中”,在线生成层立即把该 memoryId 加入拒绝列表,避免旧记忆继续被检索;后台重建完成后才显示“已删除”。
14. 方案取舍
14.1 引用展示
| 方案 | 优点 | 风险 | 适用条件 |
|---|---|---|---|
| 段落末编号 | 版面简洁 | 支持范围模糊 | 单一主张短段落 |
| 句内引用标记 | 映射清楚 | 视觉密度高 | 研究、法律、采购 |
| 来源侧栏 | 可并排核对 | 窄屏复杂 | 长报告、桌面工作区 |
| 只列文末来源 | 维护简单 | 无法定位陈述 | 不适合需要核验的 AI 回答 |
14.2 记忆获取
| 方案 | 优点 | 风险 | 适用条件 |
|---|---|---|---|
| 只保存用户显式设置 | 可控、易理解 | 个性化建立慢 | 高敏感或专业场景 |
| 自动提炼后请求确认 | 效率与控制平衡 | 频繁确认 | 中等频率关键偏好 |
| 自动提炼并默认启用 | 流畅 | 错误画像、隐私与意外跨域 | 需强查看/纠正/关闭能力 |
| 仅当前会话上下文 | 数据边界清晰 | 跨会话重复输入 | 临时或匿名任务 |
15. 安全、隐私和产品边界
- 来源页面可能含提示注入;其文本只能作为数据,不能改变系统授权。
- 内部来源引用不能向无权限用户泄露标题、摘要或存在性。
- 引用片段受版权与许可约束,展示满足核验所需的最小范围。
- URL 可能包含访问令牌或个人参数,保存和分享前规范化、脱敏。
- 自动记忆不应把敏感属性从间接线索中擅自推断并长期保存。
- 团队记忆必须有角色权限、变更历史和离职/转组处理。
- 删除动作要覆盖缓存与派生索引,同时遵守明确保留政策。
- 记忆不能授予权限、绕过审批或修改业务不变量。
- 个性化来源可能过时,应支持时间、冲突与纠正,不把旧偏好当永久真相。
16. 无障碍与失败注入
无障碍要求:
- 引用标记有可访问名称,如“来源 2,支持价格说明”。
- 键盘能从陈述进入来源,再返回原位置。
- 高亮不是唯一定位方式,提供文本片段和章节标题。
- 来源面板打开后焦点管理明确,关闭后返回触发引用。
- 记忆开关说明当前状态和影响范围。
- 删除对话与删除记忆使用不同名称,不以同一垃圾桶图标含糊表达。
- 日期使用可解析文本,图标颜色不能代替过期状态。
失败注入:
| 条件 | 预期行为 |
|---|---|
| 来源 URL 404 | 保留来源元数据,标记不可访问并寻找版本 |
| 页面内容更新导致定位漂移 | 提示无法定位,不高亮错误片段 |
| 引用覆盖两句但只支持一句 | 质量检查失败,拆分陈述 |
| 两条来源复制同一通讯稿 | 不计为独立交叉验证 |
| 记忆修改后缓存仍返回旧值 | 版本拒绝旧缓存并刷新 |
| 删除记忆时索引任务失败 | 立即阻止在线使用,显示处理中 |
| 关闭记忆后新对话仍写入候选 | 测试失败并告警 |
| 共享回答包含个人记忆来源 | 分享层移除个人来源信息 |
17. 验收与指标
引用质量:
- 引用精确率:抽检引用是否真正支持绑定陈述。
- 引用覆盖率:需要外部证据的陈述中有支持关系的比例。
- 定位成功率:点击后能到达相关原文的比例。
- 来源独立性:交叉验证来源是否来自独立发布链路。
- 时效满足率:动态事实是否满足业务有效期。
- 推断标注召回:抽检推断是否与事实陈述分开。
记忆控制:
- 查看、修改、删除和关闭操作成功率。
- 删除请求到在线停止使用的时延。
- 记忆纠正后旧值再次影响回答的比例。
- 跨作用域误用率,例如把项目偏好带入私人聊天。
- 临时模式读取或写入个性化记忆的次数必须为零。
- 用户发现“为什么使用这条记忆”所需步骤。
不要只用点击率或留存证明记忆设计正确。个性化带来的便利必须和误用、纠正成本、隐私控制与作用域错误一起评估。
18. 综合练习:带来源和记忆控制的研究助手
设计一个跨项目研究助手,支持公开网页、内部文档与个人写作偏好。
交付物:
- 陈述、引用、来源、定位和推断的数据模型。
- 网页、PDF、数据集和内部文档四种来源定位交互。
- 发布日期、数据期间、访问日期和过期状态表达。
- 个人、项目、工作区和临时会话四层记忆模型。
- 记忆查看、修改、删除、关闭和使用来源界面。
- 无权限来源、失效链接、定位漂移、冲突记忆和删除延迟状态。
- 采购比较与项目写作两个完整原型任务。
- 引用抽检表、删除传播测试和跨作用域隔离测试。
验收标准:
- 每个关键动态事实能定位到直接支持的原文和日期。
- 推断清楚列出事实输入与未确定部分。
- 无权限用户看不到内部来源内容或敏感元数据。
- 用户能在两步内查看影响当前回答的主要记忆。
- 删除、关闭和临时模式有不同且准确的语义。
- 删除后的记忆不再用于新回答,派生索引最终完成清理。
- 项目记忆不会越界进入其他项目或私人会话。
来源
- Google Cloud Vertex AI:Grounding with Google Search(访问日期:2026-07-22)
- Google Cloud Vertex AI API:GenerateContentResponse 与 Citation(访问日期:2026-07-22)
- NIST:Generative AI Profile(访问日期:2026-07-22)
- OpenAI Help Center:Memory FAQ(访问日期:2026-07-22)
- Google Gemini Apps Help:Memory of past chats(访问日期:2026-07-22)