下单成功,订单列表却是空的
引言
去年大促开场 20:00,支付成功的提示弹出来了,用户刷新订单列表——空的。30 秒后再刷,订单出现了。
客诉 400 多条,全是一个描述:"付了钱,订单没了。"
同一场大促还有第二个问题:库存少卖 3,200 件。活动结束后对账,发现有 3,200 件商品明明有货、也没人下单,却从可售库存里消失了。
这两件事看起来无关,其实是同一个架构的三道裂缝:读走了从库,写走了主库,中间那 4 秒延迟没人管;库存扣减跨了两个分片,本地事务只能回滚自己那一半。
先给结论:10 万 QPS 的数据库架构,分库分表解决写扩展,读写分离解决读扩展,柔性事务解决"跨分片的写没法回滚"。三层各自都不难,难的是它们组合起来之后,路由规则和一致性边界必须显式设计——漏掉任何一条,就会同时出现"查不到"和"少卖"。
一、先算账:10 万 QPS 落到数据库是多少
不分青红皂白就上分库分表,是最常见的过度设计。先把数算清楚:
假设读写比 9:1,10 万 QPS 里写 1 万、读 9 万。但读请求里 85%~90% 应该被缓存挡住(商品详情、活动配置、榜单),真正打到数据库的读大约 9,000。
单库能力(8C16G、InnoDB、有合适索引):简单主键写大约 5,000 TPS,带二级索引和事务的写会掉到 2,000~3,000;读能到 2 万 QPS 左右,取决于数据和 Buffer Pool 命中率。
于是账变成这样:写 1 万 TPS 需要 4 个库(每库 2,500,留 20% 余量),读 9,000 只需要每库一个从库。 分 4 库 16 表,每库 4 张表。
这里有个反直觉的点:读扩展靠缓存,不靠加从库。 加从库能扛住读 QPS,但扛不住"读得慢"——慢查询会在每个从库上重复执行一遍,从库越多,主库的 binlog 压力越大。读的问题优先在缓存和索引上解决,从库是兜底,不是主力。
读写比这个数也不能拍脑袋。它得从真实链路里数出来:商品详情、购物车、订单列表是读;下单、支付、扣库存是写。大促当天的读写比往往比平时更悬殊,因为大量用户只是浏览。按平时的比例做容量规划,大促一定会翻车。
| 层级 | 单实例能力 | 实际需要 | 关键约束 |
|---|---|---|---|
| 缓存(Redis) | 10 万+ QPS | 3 主 3 从 | 热 key 分桶、命中率 ≥ 90% |
| 写库(分片) | 2,500 TPS/库 | 4 库 16 表 | 分片键决定路由,扩容要能平滑 |
| 读库(从库) | 1.2 万 QPS/库 | 4 从(一主一从) | 主从延迟、读己之写 |
| 应用实例 | 单机 3 万 QPS | 4 台以上 | 连接池 × 分片数 × 台数要算总账 |
| 连接数 | max_connections 2,000 | 应用台数 × 池 × 分片 | 见《从 8 个分片扩到 32 个,MySQL 连接数先炸了》 |
二、第一层:分库分表,分片键就是架构的地基
2.1 分片键选错,后面全是补丁
分片键要满足两个条件:能覆盖绝大多数查询条件,并且同一笔业务的所有相关数据能落在同一个分片。
订单按 user_id 分片,"我的订单"列表就是单分片查询;库存按 sku_id 分片,同一商品的扣减永远在同一个库里,天然不需要跨分片事务。这两条一立,前面那 3,200 件的少卖就不会发生——因为当初库存是按 order_id 分的,一笔订单要扣多个商品的库存,必然跨分片。
分片键选错的补救成本极高:要么全表广播,要么建异构索引表同步一份数据,要么改分片键重刷全量。这一步在架构评审时必须钉死,不能"先上线再说"。
三种补救的代价差得很远:全表广播是"每次查询多扫 3 个库",性能线性下降但不用改数据;异构索引表要新增一条同步链路,又多了一个会不一致的地方;改分片键重刷全量则要停写、双写、校验,基本等于重做一次迁移。能选第一种就别选第三种。
2.2 扩容要预留"逻辑分片"
一开始就分 4 库 16 表,实际只用了 8 张表,剩下 8 张空着——这叫预留。等到写压力上来,把空表挂到新库上,数据迁移量小得多。
如果一开始就按实际容量精确分配,扩容时 user_id % 4 变成 user_id % 8,几乎所有数据都要搬家。取模数一变,路由全变,这是分库分表最贵的一次操作。
一致性哈希看起来能避免这个问题,但它带来两个新麻烦:数据分布不够均匀,需要虚拟节点调平衡;查询"我的订单"这种范围需求,反而可能落到多个分片。分片方案优先选"取模 + 预留",别一上来就上一致性哈希。
三、第二层:读写分离,延迟是绕不过去的成本
3.1 4 秒延迟从哪来
主从复制是"主库写 binlog → 从库拉取 → 从库 apply"。大促期间主库每秒 2,500 次写,binlog 产生速度超过从库单线程 apply 的速度,延迟就堆起来了——那天峰值到 4 秒。
延迟不是故障,是架构的固有属性。任何"写完立刻读"的路径都会踩到它:下单后跳订单详情、支付回调后查支付状态、创建后立刻列表刷新。
监控上只看 Seconds_Behind_Master 是不够的,它是按"从库执行到的 binlog 时间戳"估算的,主库时钟、大事务都可能让它显示 0 而实际已经落后。更可靠的是在应用侧做"写后读校验"抽样:写一条记录,记下时间戳,立刻从从库读,读不到就打点。这个采样比任何复制指标都准,因为它测的是用户真实感受到的延迟。
3.2 读己之写:把"刚写的"强制打回主库
// 写操作成功后,在当前线程打一个 5 秒的标记
public void afterWrite(long userId) {
WriteMark.mark(userId, Duration.ofSeconds(5));
}
// 数据源路由时优先看标记
protected String determineDataSource() {
Long userId = WriteMark.current(); // ThreadLocal 里的 userId
if (userId != null && WriteMark.isFresh(userId)) {
return "master"; // 5 秒内读主库
}
return "slave";
}
WriteMark 用 ThreadLocal 存"刚写过"的标记,配合 Redis 里按 userId 记的时间戳,这样同一个用户换台机器、换个请求也能读到主库。关键是标记要绑用户,不能绑请求——用户下单和刷新列表是两个请求,不在同一个线程里。
代价也要认:这 5 秒内该用户的读全落在主库,大促峰值时主库读压力会涨。所以标记窗口要尽量短,能用"写后返回完整数据给前端"的场景,就别再查一次库。
还有一个更省事的写法:接口层加注解 @ForceMaster,AOP 拦截后把数据源切到主库,业务代码零侵入。但注解只能覆盖"同一个请求内"的读,跨请求的场景还是得靠 userId 时间戳。两种手段并存,别只做一种。
四、第三层:柔性事务,别追求跨分片的强一致
4.1 跨分片写只能用"最终一致"
分片之后,一个本地事务只能保证单个库内的原子性。跨库扣库存、跨库生成订单,XA 的 prepare 阶段要持有所有分片的锁直到 commit,10 万 QPS 下这是自杀(细节见《从 8 个分片扩到 32 个,MySQL 连接数先炸了》)。
现实做法是"本地消息表 + 补偿":在业务库里和业务数据同一个事务写一条消息记录,再由独立任务投递、重试、对账。
@Transactional
public void createOrder(Order order) {
orderMapper.insert(order); // ① 业务写
outboxMapper.insert(new OutboxEvent("STOCK_DEDUCT", order)); // ② 同库同事务写消息
}
// 独立任务扫描 outbox,投递到下游;失败重试,超过阈值告警
①②在同一个本地事务里,所以"业务成功但消息没记下来"这个窗口不存在。 这是它比"先写库再发 MQ"强的地方——后者的窗口就是《Kafka 事务消息实战》开头那 1,842 笔漏单。
TCC 为什么不用:Try 阶段就要冻结资源,Confirm/Cancel 要三个接口全实现,还要处理"空回滚"和"悬挂"。这套东西在支付核心链路上值得,在商品库存这种允许短暂不一致的场景里,成本远大于收益。柔性事务的选型标准不是"哪个更严谨",而是"这笔业务能容忍多久的不一致"。
4.2 对账是柔性事务的最后一道闸
柔性事务的承诺是"最终一致",那就必须有人验证"最终"到了没有。
对账任务按时间窗口扫:订单表里 PAID 但库存流水里没有扣减记录的、库存流水扣了但没有对应订单的,两边做差集。3,200 件少卖就是被这个任务在第二天发现的——它没能阻止事故,但它让损失可量化、可补偿。
对账频率决定了不一致的暴露时间:T+1 对账,用户可能要等一天;5 分钟窗口对账,能在客诉之前发现问题。代价是查询压力,所以只对"金额、库存、积分"这类关键字段做,别全表对。
对账最怕的是"对不出来"。两边都用 create_time 切窗口,但主库和从库的时间、业务写入的时间、补偿任务的时间各不相同,窗口一错位就会造出一批假差异。按业务主键对,不按时间对——时间只用来缩小扫描范围,用来判定"这一条该不该在"的一定是业务 ID。
五、避坑清单
- 分片键要在架构评审时钉死,它决定了 90% 的查询能否单分片完成。
- 分片数预留一倍,
% 4扩到% 8是全量迁移,不是加机器。 - 读写分离必须配"读己之写",写完立刻读的路径一定要打回主库。
- 跨分片写不要用 XA,本地消息表 + 补偿 + 对账才是 10 万 QPS 下的解。
- 对账要按关键字段做,全表对账会把自己变成新的故障源。
收尾
分库分表扩写、读写分离扩读、柔性事务兜一致性——三层各自都对,但组合起来必须显式定义"哪些读走主库、哪些写允许跨分片",否则查不到和少卖会同时发生。
你们的订单列表,写完之后是立刻查库还是直接返回前端?跨分片的扣减又是怎么收口的?
关注我,每周拆一个真实生产故障。
标题:下单成功,订单列表却是空的
作者:jiangyi
地址:http://jiangyi.space/articles/2026/11/06/1793800126897.html
公众号:服务端技术精选
评论