perf(货源): 分类匹配批量分块,类目树文本整批只随一次请求发送

分类判定按 llmCategoryBatchSize(默认10)分块、每块一次 LLM 调用:formatTwoLevels 的两层类目树此前随每行请求重复发送,是分类链路最大的 token 开销(10 行/块省约九成)。块内缺编号/坏编号的行、整块调用失败的行回退逐行单调用,行级失败语义不变。env: AIIMAGE_SIMILAR_ASIN_LLM_CATEGORY_BATCH_SIZE,设 0/1 回退旧行为。
This commit is contained in:
2026-10-02 23:41:28 +08:00
parent 486c5c1d38
commit 68b19f22b3
4 changed files with 344 additions and 5 deletions
@@ -170,6 +170,14 @@ public class SimilarAsinProperties {
private int llmMaxTokens = 64000;
private int llmConnectTimeoutMillis = 10000;
private int llmReadTimeoutMillis = 600000;
/**
* 批量分类的行数(2026-10-02):>1 且批内多行时,分类判定按该行数分块、每块一次
* LLM 调用 —— 类目树文本(formatTwoLevels,数千字符量级)整块只随请求发送一次,
* 不再随每行重复发送(这是分类链路最大的 token 开销,10 行/块可省约九成)。
* 缺编号/解析失败的行、整块调用失败的行回退逐行单调用,行级失败语义不变。
* 设 0/1 回退逐行旧行为。
*/
private int llmCategoryBatchSize = 10;
/**
* 首次尝试读超时(毫秒):上游偶发单请求不应答,首查用更短预算快速失败后重试。
* 与外观专利同口径:那边一批 5 张图后单次耗时按倍数涨,60s 会误杀正常慢响应,