搜索索引重建怎样防止旧数据回流:快照、增量与别名切换

从商品搜索重建出发,比较停写与在线方案,拆解快照衔接、版本化删除、连续检查点和双索引回退,说明别名切换前必须核验什么。

搜索索引重建最危险的时刻,往往是进度条已经到百分之百之后。新索引文档数与旧索引相同,别名也切换成功,用户却发现刚改的价格退回去了,已经下架的商品重新出现在搜索结果里。原因通常不是复制漏了一页,而是全量扫描、增量更新和删除没有共享一套顺序规则。

本文讨论一个具体场景:PostgreSQL 保存商品事实,Elasticsearch 提供搜索,需要修改字段映射并重建索引,业务写入仍在继续。目标不是宣称搜索拥有数据库事务级一致性,而是让新索引在切换时没有未经解释的缺口,并且在切换后还能可靠回退。我的判断是:双索引只是部署形态,真正决定可靠性的,是快照与日志的接缝、单商品版本的比较规则,以及回退窗口内旧索引是否仍在更新。

先约定哪些数据必须正确

假设一个商品对应一条完整的搜索投影,包含商品编号、标题、价格、所属商户、是否下架及源数据版本。数据库是唯一事实源,用户请求先提交数据库,不直接修改搜索索引。索引允许几秒的可见延迟,但不能因为重建而遗漏已经确认的修改。下单价格仍需回查交易服务,不能把搜索结果当作价格承诺。

这个限定很重要。如果投影同时读取商品、库存、优惠和商户四张表,而四者独立变化,“商品版本”就不足以代表整个文档。必须先定义聚合投影的生成与版本规则,或者把不同一致性要求的字段拆开。否则,即使每个写入请求都成功,也可能组合出一个从未真实存在过的状态。本文先解决单一完整投影的重建,不把多表一致性藏进一段消费者代码。

还有两条约束需要写进设计:同一个商品编号不能在删除后重用一个更小的版本;同一个版本必须对应确定的投影内容。价格修正、下架、恢复上架都增加版本。索引构建版本则单独记录,例如一个索引使用第二版投影逻辑,另一个使用第三版,不能把“业务数据版本”和“转换代码版本”混成一个数。

停写重建与在线重建,代价差在哪里

第一种方案是短暂停止业务写入:排空在途事务,读取稳定数据,建立新索引,核验后切换,再恢复写入。它容易证明正确,因为复制期间没有新的状态竞争。对于数据量小、低频修改且能接受维护窗口的后台系统,这常常比维护一套复杂增量链路更划算。停止写入必须覆盖所有入口,包括定时任务、批量导入和管理员脚本;只把网页按钮置灰并不构成写入屏障。

第二种方案是在旧索引继续服务时,用一致快照构建新索引,同时保留快照之后的变更,待追平后切换。它把停写成本转换成日志保留、双份资源、消费者管理与故障恢复成本。适合不能长时间停写,且已经有可靠变更流的系统。这里的“在线”也不意味着永远不能暂停几秒。短暂冻结投影消费者、让两个索引停在同一边界,通常比在持续变化的数据上比较总数更容易验收。

不建议把应用同步双写两个索引作为唯一保障。一次请求可能成功写入旧索引,却在新索引超时;调用方不知道超时是未执行还是响应丢失。补偿、重复与顺序问题会重新出现,而且进入业务请求的延迟路径。更稳妥的分工是数据库可靠提交,两个独立消费者从可重放的变更流生成索引。每个消费者单独保存进度,任一索引故障不会要求业务事务回滚。

快照与增量必须从同一条接缝开始

常见错误是先记录“当前最大事件编号”,然后开始扫描数据库,最后只补这个编号之后的事件。自增编号的分配顺序不等于事务提交顺序:较小编号可能被一个长事务持有,在扫描越过该行之后才提交。仅以最大编号作水位,就可能永远跳过这次修改。

PostgreSQL 的逻辑解码提供了可用的基础:通过流复制接口创建逻辑复制槽时,可以导出与后续变更流衔接的快照。扫描使用该快照,随后衔接对应的日志位置。官方文档明确描述了这种快照与变更流的关系,但创建槽、保持快照会话和消费者恢复仍应由经过验证的连接器负责,不宜把几个 SQL 命令拼起来就称作完整 CDC 实现。PostgreSQL 17 逻辑解码概念

在架构上,可以把重建分成以下数据流:业务事务产生带版本的完整投影;快照扫描器写入新索引;变更捕获器持续保存快照之后的提交;增量消费者按自己的进度更新新索引;旧消费者照常维护旧索引。扫描和增量可以串行,也可以并行。串行更易实现,但积压较大;并行更快,却必须让目标端拒绝旧版本覆盖新版本。

复制槽还可能保留大量 WAL,因此要同时观察源库磁盘与消费延迟。若发现重建速度跟不上,应该先降速扫描、扩充可靠日志缓冲或放弃本次构建,不能为了清理磁盘而跳过一段日志后继续声称数据完整。快照失效或必要日志已丢失时,最清楚的恢复方式是从新的完整边界重新开始,而不是猜测缺了哪些商品。

用业务版本抵御乱序,不依赖到达时间

设商品 A 在快照中的版本为 40,随后修改为 41,再下架为 42。如果增量先写入版本 42,扫描器稍后才送来版本 40,目标端必须保留 42。用任务启动时间、请求时间戳或消息到达先后来判断都会出错,因为机器时钟和网络队列并不能表示商品修改顺序。

Elasticsearch 的外部版本机制允许只接受更大的版本。下面是提交到测试索引的两条 NDJSON 记录,第一行描述动作,第二行是完整文档;文件末尾需要换行。这里的版本来自业务数据库,不能拿旧索引自动生成的内部版本来代替。

{"index":{"_index":"products_v3","_id":"merchant7:product9","version":42,"version_type":"external"}}
{"product_id":"product9","merchant_id":"merchant7","revision":42,"deleted":true}

下架也写成一个版本化文档,而不是立刻物理删除。这样,即使旧快照或旧消息晚到,索引里仍保留足以拒绝它的版本。查询路径过滤 deleted=true 的记录。保留的是最少量的墓碑信息,不需要继续保存已经删除的商品正文;涉及必须立即清除的数据时,还需要专门的删除与重放设计,不能用长期保留完整内容来换取方便。

外部版本的严格比较也意味着重复投递同一版本会产生冲突,这不必然代表故障。不过消费者不能把所有冲突统一吞掉:需要确认目标已有更高版本,或者同版本对应的投影摘要一致。同版本不同内容说明转换过程不确定、版本分配有漏洞或写入者越权,应该中止切换并调查。改用允许相等版本覆盖的模式可能掩盖问题。Elasticsearch Index API 的版本规则

版本是有范围的整数,跨语言传输必须避免精度丢失。数据库的大整数如果经过 JavaScript 的普通数值转换,可能在进入请求前已经失真。实现时应使用能准确保存整数的解析和序列化路径,或者在业务层明确一个安全范围并强制校验。本文示例的 42 只是说明规则,不代表完整的版本编码方案。

写入成功与推进进度,是两件事

批量写入返回成功的 HTTP 状态,并不表示其中每条文档都成功。消费者必须检查每个条目的状态,区分暂时限流、字段映射错误、权限错误和预期的版本冲突。Elastic 的 Bulk API 明确提供顶层错误标志及逐条结果,应用需要据此处理,而不是看到一次响应就把整批消息标为已消费。Elasticsearch Bulk API

假设同一日志分区依次包含提交 100、101、102,第三条已经写入,而第二条因为映射错误失败。此时不能把检查点推进到 102。目标文档可能部分领先,但“连续完成边界”仍停在 100。并行处理需要维护已完成集合,只在前方没有缺口时推进。跨多个分区时,应保存每个分区的边界向量,不能把不同分区的最大数字直接比较。

检查点应在目标端确认结果之后持久化。写入后崩溃、检查点未保存会带来重复,但业务版本可以处理重复;反过来,先保存进度再写入,一次崩溃就可能造成永久丢失。失败消息可以进入待处理队列,以免阻塞其他商品,但这不等于可以放行切换。只要切换边界之前仍有未解决失败,就还欠着一笔数据账。

切换前验收一个明确边界,而不是盯着总数

全量扫描结束后,选定一个已确认提交的日志边界 H。让新旧消费者都处理到 H,并在继续消费下一段之前暂停;业务数据库可以继续接收写入,新的变更留在可靠日志中。这样两个索引拥有共同的比较基准。H 的表示应沿用连接器提供的提交位点,分区系统则使用位点向量,而不是随手记录某台机器的当前时间。

还要等待索引刷新使已接受写入进入搜索可见状态。否则,按编号直接读取能看到文档,搜索查询却仍看不到它,比较结果会出现误判。核验至少分三层:记录是否齐全;记录的版本、删除标记及关键字段是否符合 H;新映射是否让业务查询得到合理结果。数量相同只能证明一个很弱的条件,少一件又多一件、价格错了或租户过滤错了,总数都可能不变。

可以按商户和编号范围分桶,比较每桶的记录数、版本统计及规范化投影摘要,再对差异桶展开核对。比较内容时需排除新旧映射本来就打算改变的表达,并保留可复查的基准。对于排序改动,还应准备固定查询集,检查相关性、分页稳定性和空结果比例。这些阈值由实际业务制定,不宜从别人的案例搬来一个“相似度达到百分之九十九”就宣布通过。

如果业务不能承受暂停消费者带来的搜索延迟,可以在影子读流量下持续比较,再通过更细粒度的版本范围解释差异。代价是验证逻辑复杂得多。多数中小系统更适合一个可测量的短暂停顿,而不是为“完全不停”引入一整套难以维护的比较机制。

别名切换要原子,回退资格要另外判断

验收完成后,把查询别名从旧索引移到新索引。以下是供 Kibana Dev Tools 使用的请求片段,假定旧索引、别名以及新索引均已建立,且别名目前只指向旧索引。执行前应核对实际名称和权限,不能在生产环境照抄。

POST /_aliases
{
  "actions": [
    {"remove": {"index": "products_v2", "alias": "products_search", "must_exist": true}},
    {"add": {"index": "products_v3", "alias": "products_search", "filter": {"term": {"deleted": false}}}}
  ]
}

多个别名动作可以在一次操作中完成。仍然要检查响应中的动作结果,并读回别名确认唯一目标;响应超时后先读现状,不能盲目再次执行旧假设下的切换。别名过滤也不是权限系统,按编号获取文档不会应用同样的查询过滤,因此详情接口仍应检查租户身份与删除状态。Elasticsearch 别名文档

消费者不要跟随查询别名写入。新旧消费者应分别绑定自己的物理索引,否则别名一改,两条消费者可能都写到新索引,旧索引悄悄停止更新。切换后恢复两个消费者,并维持一个事先约定的回退窗口。旧索引只有在继续追平、旧版投影逻辑仍兼容当前数据时,才有资格接回流量。

若新版查询上线后出现性能退化,不能只判断旧索引还在不在。先检查旧消费者的连续进度和失败队列,再决定是否回退。假如回退窗口内已经删除了旧索引所需字段,旧转换逻辑便可能无法重建新数据;此时“秒级回退”只是纸面承诺。清理旧字段、删除旧索引和停止旧消费者应当是最后一个单独批准的阶段。

资源预算决定追平能否完成

下面仅作容量推算,不是压测结果。假设有一千万条商品投影,每条序列化后平均两 KB,原始投影体积约二十 GB;以每秒五千条的净扫描速度计算,理想扫描时间约两千秒,即三十三分钟。倒排索引、文档值、复制副本、段合并及缓存还会消耗额外资源,不能据此只准备二十 GB 磁盘。

如果扫描期间每秒新增或修改五百条,三十三分钟大约积压一百万条变更。增量消费者每秒能稳定处理两千条,而新的变更仍以每秒五百条进入,则净追赶速度只有每秒一千五百条,追平还需要约十一分钟。扫描与消费共享同一集群时,两者吞吐还会互相影响。这组数字说明,决定进度的是净追赶能力,而不是单次批量写入的最高速度。

资源预算还应覆盖日志保留、双索引副本和一次失败重试,而不只是成功路径。最直接的控制手段是给扫描器设置并发、批量大小与速率上限,优先保证线上查询和日常增量。若长期净追赶速度不为正,延长等待不会自动解决问题,需要减少重建工作、增加可用资源或选择停写窗口。

用乱序实验检查最核心的假设

下面的 Python 代码不是 Elasticsearch 客户端,而是一个单商品版本合并模型。它验证旧快照、修改和删除在不同顺序到达时,最高版本的墓碑不会被低版本覆盖,并且同版本不同内容会暴露出来。保存为 version_model.py,使用 Python 3.12 执行 python3 version_model.py。

from itertools import permutations

events = [(40, False, "old"), (41, False, "new"),
          (42, True, ""), (41, False, "new")]

def apply(current, event):
    if current is None or event[0] > current[0]:
        return event
    if event[0] == current[0] and event != current:
        raise ValueError("same revision, different projection")
    return current

for order in permutations(events):
    current = None
    for event in order:
        current = apply(current, event)
    assert current == (42, True, "")

try:
    apply((42, True, ""), (42, False, "conflict"))
except ValueError:
    pass
else:
    raise AssertionError("conflict was hidden")

print("24 delivery orders and conflict check passed")

本文已在 Python 3.12.14 实际执行该模型,二十四种投递排列和冲突检查通过。它只验证合并规则,不证明真实 CDC 不丢数据、索引刷新完成或别名切换可靠。上面的索引请求根据官方接口核对,未在真实 PostgreSQL 与 Elasticsearch 集群完成端到端测试。上线前还需注入部分批量失败、消费者重启、检查点保存失败、快照失效及切换响应丢失等故障。

这套设计的适用边界也由此清楚:有唯一事实源、可重放日志、稳定商品身份和可解释版本规则时,在线重建可以把风险收敛到几个能检查的边界。缺少这些基础,先建立一套可靠的数据变更协议,或者接受明确的维护窗口,通常比继续堆叠双写和重试更有效。索引迁移的完成条件应是“新旧状态在确定边界上已经对账,回退路径仍然成立”,而不只是任务接口返回了成功。

资料核对日期:2026 年 11 月 11 日。本文为工程设计分析,文中容量数字均为示例假设。

相关文章

评论

登录后即可参与讨论

暂无评论。