Files
crawler-plugin/backend-java/docs/migration-inventory.md
T
huangzd1997 629fdfab79 feat(ASIN缓存): 新增 ASIN 采集结果跨任务缓存(asincache 模块 + V139)
同一个 (国家, ASIN) 的详情页被反复重采:单任务内 62.9 倍重复(43,504 行只有 692 个
不同 ASIN)、8 天跨任务 6.7 万行重复(2026-10-01 实测),每条重复都意味着重开一次页、
可能重买一次代理 IP。关键词链与变体链的结果分别落在两处互相看不见,只有 Java 侧能同时
收到两条链的结论,所以缓存放服务端、由服务端判新鲜度。

- 新表 biz_asin_result_cache(V139):一个 (国家, ASIN) 一行,重采覆盖;只收两种可复用
  结论 —— OK(页面正常且有价格,复用 60 分钟)、NOT_FOUND(详情页 404,复用 7 天);
  空价 / 风控拦截页 / 采集异常一律不入库,避免把瞬时故障锁成永久结论
- 新鲜度只在服务端判(按 observed_at 真正开页时间);采集端拿不到 / 看不懂一律照常开页
  (fail-open),任何情况下不许让缓存导致漏行、错行
- 新增内部接口 /api/internal/asin-cache/query|write(X-Internal-Token 自校验,与
  InternalBrandTaskController 同口径),供采集端开页前先问、采完回写
- 关键词采集链在任务锁外旁路写入:缓存写失败的代价只是"下次多开一次页",只记 warn,
  不影响 chunk 提交
- migration-inventory.md 快照更新至 V139,「V137 冗余索引 DROP」待办顺延 V140

测试:AsinResultCacheServiceTest(13)/ InternalAsinCacheControllerTest(5)/ 采集链
4 个测试类(35)共 53 例全绿。
2026-10-01 12:19:05 +08:00

2.1 KiB
Raw Blame History

Flyway 迁移盘点(task-193)

生成方式:src/test/java/com/nanri/aiimage/config/MigrationInventoryTest.java(只读审计,可重复)。 快照日期:2026-10-01。

概览

  • 版本化迁移文件数:138(src/main/resources/db/V*.sql,其中整数版本 137 个 + 小版本 V25_1)
  • 整数版本范围:V1..V139,其中 V132/V133 为已退役空号(见下),其余连续
  • 历史遗留小版本:V25_1__shop_manage_group_bind_user.sql(Flyway 语义 25.1,紧跟在 V25 之后、V26 之前执行,属历史命名,保留)
  • 最新版本:V139__asin_result_cache.sql
  • 重复版本:无
  • 迁移命名:全部符合 V<整数>(_<子版本>)?__<描述>.sql,无空格

生产已执行核对

生产 flyway_schema_history 末段:V125..V131 之后直接是 V134__publish_item_free_text_columns、V135__dedupe_total_data_wide_columns(两条 installed_on 均为 2026-09-25 20:46:16),库内没有 132/133 记录。

V132/V133 空号的来历

本地曾存在 V132__web_config_add_is_latest.sql、V133__hide_redundant_indexes_invisible.sql,与另一分支已在生产落库的 V134/V135 冲突。因 Flyway 未开启 out-of-order,把任何迁移编到 132/133 会在启动期报 "resolved migration not applied";因此这两条改为 V136/V137,132/133 永久退役,不可回填。

后续新增迁移从 V140 起取号(只认"当前最大值 + 1",不要为还没写出来的迁移预留号段——预留会在 1..max 里留洞,integerVersionsSequentialFromOne 会红)。

原先挂在待办里的"V137 冗余索引 DROP"迁移计划取 V139,该号已被 V139__asin_result_cache.sql 占用,顺延到 V140。

约束

  • 审计测试断言:整数版本从 1 到当前最大值连续(RETIRED_HOLES = {132, 133} 内的号段除外)、无重复文件名、命名正则合规、历史文件校验和可复算稳定。
  • 修改任何已部署历史迁移会破坏 Flyway checksum,属违规;由本盘点测试 + code review 把关(git 层是否改动由 CI/review 校验)。