接口 410ms,并行之后 145ms,异步首包 28ms
引言 商品详情页,打开要 410ms。产品说"用户划走只要 3 秒,410 毫秒已经吃掉七分之一"。 一个详情页要调 6 个下游:商品基础信息 40ms、库存 60ms、价格 90ms、评价 120ms、推荐 80ms、促销 100ms。串行加起来正好 490ms,实际 410ms——因为有几个调用走的是缓存。 这 6 个调用彼此没有依赖:价格不依赖库存,推荐不依赖评价。"无依赖"就是并行的前提,如果有依赖关系(比如要先拿价格才能算促销),那部分只能串行,能并行的只有后半段。判断一个接口能不能并行,第一件事是画依赖图,不是直接上 CompletableFuture。 改成并行之后,RT 掉到 145ms;再改成异步,首包 28ms。三个数字看着都很美,但后两种方案的代价完全不同: 并行是把"等 6 次"变成"等最慢的那一次",接口语义不变,成本是线程池 异步是让接口先返回、结果后补,RT 从"多久处理完"变成"多久能看到第一屏",成本是状态机 先给结论:串行 410ms、并行 145ms、异步首包 28ms——但并行有线程池上限,异步有状态机成本;能并行的别异步,能缓存的别并行。 ....