RESEARCH|CONVERSATIONAL CAPTURE
评估 GEO,要看整段对话,而不是一次回答。
Conversational Capture 是一个在多轮对话整体上评估 GEO(生成式引擎优化)效果的框架,而不只看单次回答。在对话早期被引用的来源,在之后的轮次中也更容易被再次引用。论文把这种“对话捕获”形式化,并说明单轮评估可能把 GEO 方法的优劣排错。
模型推算得出的关键数值
- 第 10 轮的复利比 ρ(实际收益相对单轮外推的倍数)
- 2.23
- 对话闭环带来的收益,超过单轮评估能看到的收益
- 1.48 > 1.20
- GEO 方法在单轮与整段对话中排序的一致度(Kendall)
- τ = 0.4
- 5 万组随机 5 方法组合中,排序出现分歧的比例
- 90%
以上均为由论文模型推算的示例,并非对任何实际 AI 搜索引擎的测量。
论文摘要
以往的 GEO 评估大多是“单轮”的:针对一个固定查询,衡量某个来源在一次回答中有多显眼。这种做法默认查询由外部给定、与系统无关,而且各轮之间相互独立。
但在真实对话中,AI 的回答会改变用户的认知,进而改变下一个问题。当 GEO 让回答偏向某个来源时,这种偏向会通过两条路径延续到之后的轮次:检索与生成依赖对话历史的“机器侧”路径,以及用户追问被引向该来源的“人类侧”路径。论文把这一现象称为“对话捕获”(conversational capture)。关键在于,这种持续性可能与该来源是否仍符合用户当下的需求无关。
论文没有提出新的 GEO 方法或基准,而是一篇重新审视“评估单位”本身的理论研究。研究未收集人工标注,文中所有数值都由模型推算得出。
方法:把对话建模为闭环
论文把对话建模为由用户层(更新信息需求、提出问题)和智能体层(检索与生成回答)组成的双层闭环系统,并定义了可在整段对话上计算的指标。
- 累计对话可见度(CCV):把每一轮的可见度在整段对话上累加。位置调整词数、LLM 印象评分等现有 GEO 指标都可以逐轮直接使用。
- 直接项与反馈项:把整段对话的收益分解为单轮评估可以外推的“直接项”,以及只有在对话闭环中才会产生的“反馈项”。在单轮评估中,反馈项恒为零。
- 机器侧 M1 与人类侧 M2:通过嵌套的反事实比较,把反馈项拆分为对话历史带来的再次引用(M1)和用户问题方向的漂移(M2)。M1 无需用户模型,只要在相同查询上比较“有历史”和“无状态”的引擎即可测量。
- 捕获系数、复利比与误排诊断:定义“上一轮被引用”会让下一轮被引用的概率提高多少(捕获系数 κ),实际收益相对单轮外推的比值(复利比 ρ),以及 GEO 方法在单轮与整段对话中排序的一致度(Kendall τ)。
- 理论分析:借助波利亚坛子(强化过程)理论,论文证明了早期轮次决定长期结果的路径依赖(非遍历性),并证明在捕获形成期间,GEO 的累计收益随对话长度超线性增长。
模型推算示例:第 10 轮的收益分解
| 指标 | 数值 |
|---|---|
| 单轮收益 L1 | 0.120 |
| 单轮简单外推 T·L1 | 1.200 |
| 直接项 | 1.200 |
| 反馈项 | 1.481 |
| 其中机器侧 M1 | 0.851 |
| 其中人类侧 M2 | 0.630 |
| 整段对话收益 LT | 2.681 |
| 复利比 ρ | 2.234 |
主要结论
- 在模型推算示例中,10 轮对话的总收益为 2.68,其中单轮评估能捕捉到的直接项只有 1.20,闭环产生的反馈项(1.48)反而更大。
- 复利比在第 10 轮达到 2.23,即实际收益超过单轮外推的两倍。对话越长低估越严重,之后趋近上限(本例约 4.17)。
- 在 5 种 GEO 方法的对比中,单轮评估排名第一的方法在整段对话中只排第三,两种排序的一致度仅为 Kendall τ = 0.4。
- 在 5 万组随机生成的 5 方法组合中,有 90% 出现排序分歧,48% 的情况下单轮第一并不是整段对话的第一。
- 如果用户面对被“捕获”的回答,提出“这是否经过独立证实?”之类的纠偏式追问并转向竞争来源,人类侧路径会变为负值,单轮评估则会高估 GEO。无论哪个方向,单轮评估都存在偏差。
对 GEO、LLMO 实务的启示
以下是 VeReach 把论文理论用于实务的理解(假设)。实际引擎中的效应大小,论文本身也尚未测量。
单轮引用率看起来最好的方法,在整段对话中未必最好。重要主题值得用包含追问的多轮对话来检验。
路径依赖意味着 GEO 的影响集中在对话早期。成为第一个问题中被引用的来源,会左右后续对话。
人类侧路径取决于用户读完回答后接着问什么。把对比、价格、案例等用户接下来想知道的信息放在自己的信息源中,是合理的做法。
论文提出回答引擎端的应对:每轮重新锚定、保证来源多样性、说明引用原因。只依赖“捕获”的做法可能被削弱,因此提升真实的相关性和可信度才是前提。
局限与注意事项
- 这是一篇理论与建模研究,没有对实际 AI 搜索引擎或真实用户进行测量,所有数值都由模型推算得出。
- 机器侧 M1 与人类侧 M2 的分配(0.35 / 0.25)仅为示意,实际数值需要通过后续实证研究估计。
- 模型主要处理一个经过 GEO 优化的来源与其他竞争来源总体之间的竞争,多个已优化来源之间的竞争不在范围内。
- 论文给出了下一步的实证方案:使用 TopiOCQA、QReCC、ORConvQA 等对话式问答语料进行验证。
常见问题
- 什么是对话捕获(Conversational Capture)?
- 指在与生成式 AI 的多轮对话中,早期轮次被引用的来源在之后的轮次中也更容易被引用的现象。它通过依赖对话历史的检索(机器侧)和被回答引导的追问(人类侧)两条路径发生,而且可能与该来源是否仍符合当前需求无关。
- 为什么单轮 GEO 评估不够?
- 单轮评估默认问题由外部给定、各轮相互独立,因此“回答改变下一个问题”的闭环效应(反馈项)始终被当作零。在论文的模型推算示例中,被忽略的部分比被捕捉到的部分还大,GEO 方法的排序也出现了分歧。
- 这篇论文发表在哪里?
- 论文收录于 ACM 国际会议 HAI ’26(第 14 届人机智能体交互国际会议,2026 年 11 月 16〜19 日,大阪),并于 2026 年 9 月 30 日在 arXiv(2609.40069)公开。DOI 为 10.1145/3841580.3841626。
- GEO、LLMO 工作应该做哪些调整?
- 不要只凭单轮引用率判断方法;重要主题应在包含追问的整段对话中检验;并努力成为第一次回答就被引用的可靠来源。不过实际引擎中的效应大小,论文本身也尚未测量。
论文信息
- 标题
- Conversational Capture: A Trajectory-Level Framework for Evaluating Generative Engine Optimization in Multi-turn Human-Agent Interaction
- 作者
- Junwei Yu (The University of Tokyo), Jieyu Zhou (UniConvo Inc.), Mufeng Yang (University of Tsukuba), Yepeng Ding (Hiroshima University), Hiroyuki Sato (National Institute of Informatics)
- 发表
- HAI ’26: 14th International Conference on Human-Agent Interaction (ACM), Osaka, Japan
- 公开日期
- 2026年9月30日
- 标识符
- arXiv:2609.40069 [cs.HC] · DOI: 10.1145/3841580.3841626
- 关键词
- GEO(生成式引擎优化)
- LLMO
- 对话式 AI 搜索
- 多轮评估
- RAG
- AI 引用
- 路径依赖
- ChatGPT
VeReach 的 GEO 研究系列
GEO-SFE 研究“什么样的结构更容易被 AI 引用”,Conversational Capture 研究“如何在整段对话中评估 GEO”,JuryFlow 研究“AI 评估结果有多可信”。
- GEO-SFE:AI 引用由结构驱动
Structural Feature Engineering for Generative Engine Optimization: How Content Structure Shapes Citation Behavior
Junwei Yu, Mufeng Yang, Yepeng Ding, Hiroyuki Sato · 2026年3月31日
不改内容、只优化结构,在 6 个主要生成式引擎上引用率提升 +17.3%。标题、段落、列表、强调与内链的五条原则。
- JuryFlow:把 LLM 评审的分歧变成信号
JuryFlow: Disagreement-Guided Human-in-the-Loop Multi-Agent Evaluation
Mufeng Yang, Junwei Yu, Yepeng Ding · 2026年9月30日
把多个 LLM 评审之间的分歧当作不确定性信号,定向重新评估,在 LLMBar 上准确率从多数投票的 0.718 提升到 0.784。HAI ’26 论文。