周宇航 Damien Collins

秒杀入口

请求先过一段 Redis Lua 脚本，时间窗校验、一人一单、库存预扣在同一个脚本里原子完成，不会出现扣了库存却没记下用户的情况。通过后投一条 RocketMQ 消息，下单在消费者里异步落库，接口不等数据库事务。

一致性

扣减用带库存条件的 UPDATE，卖完就扣不动；同一用户重复提交由唯一索引挡掉；订单超时未支付，延迟消息关单，定时扫描再兜一层，两条通道都能把库存加回去。

搜索

商品文本向量化存进 Elasticsearch，BM25 关键词召回和 kNN 语义召回并行跑，再按 RRF（k=60）用排名融合，绕开两路分数量纲不一致的问题。

结果 秒杀零超卖、零重复下单，售罄时数据库无效事务降到 0，入口吞吐提升 2.7 倍，P99 延迟降低 54%。混合搜索 Recall@10 从 0.54 提到 0.88，NDCG@10 从 0.50 提到 0.85。

• Java 21
• Spring Boot
• Redis
• RocketMQ
• Elasticsearch

快通道

政策文档和历史工单先编译成 72 条互相链接的知识条目。用户点开售后页，直接返回预置的候选答案，不调用模型，也不做向量检索。

慢通道

用户自己输入问题才走 RAG：BM25 和向量各召回一批，RRF 融合后交给模型生成，答案里带原文引用。最高召回分低于阈值就直接说查不到，不硬答。Agent 主循环用 ReAct，能自己选工具、接多轮。

评测

改 prompt 或者换模型之后，效果容易悄悄变差。所以把错误按五个环节分层归因，再设一条回归线，新版本低于线就不算通过。

结果 快通道截留 21.3% 的请求，P50 延迟 40 ms；慢通道输入 token 降 25.1%，召回率 95%，引用越界 0 例。

• Java 21
• Spring Boot
• Spring AI
• Elasticsearch
• MySQL
• Redis

Trace

用 trace > span 两层模型记录一次 Agent 执行，span 可以是 LLM 调用、工具调用或检索，靠 parent_span_id 建树，嵌套链完整保留。父节点缺失的 span 提到根层展示，不会整棵子树消失。

评分与归因

规则评分、工具序列评分、LLM-as-Judge 三路各管一段。工具序列完全一致记 1.0，集合相同只差顺序记 0.8，其余按最长公共子序列的比例算。失败用例按输入理解、规划、工具调用、输出生成、数据环境五层归因，归因器只读 Trace 和评分证据，不读故障注入参数。

门禁

从历史任务存一条基线，新任务对比通过率、平均分和 P95 耗时，任一越界接口返回 422，命令行退出码 1，CI 直接拦住。Judge 是可选的，不配模型端点就只跑确定性评分器。

• Java 21
• Spring Boot
• MyBatis-Plus
• MySQL
• Spring AI
• Vue 3

工具层

只读四个：查订单、查库存、订单详情、知识检索；写入两个：改订单状态、锁库存。写入按订单加 SKU 幂等，重复调用不会重复扣。工具直接读写 MySQL，不是返回假数据。

治理层

鉴权、权限校验、限流、审计、越权防护都收在 AOP 切面里，工具实现里不出现治理代码。API Key 存 MySQL，Redis 做缓存和限流计数。拦截结果走 Micrometer，Prometheus 端点直接能抓。

客户端验证

自己写了一个 Java Client，走 Streamable HTTP，覆盖握手、工具列表、六个工具调用，以及 401、403、越权和 429 四种拦截，16 项检查跑完。

• Java 21
• Spring Boot
• Spring AI
• MySQL
• Redis
• Prometheus