perf(货源): 分类匹配批量分块,类目树文本整批只随一次请求发送
分类判定按 llmCategoryBatchSize(默认10)分块、每块一次 LLM 调用:formatTwoLevels 的两层类目树此前随每行请求重复发送,是分类链路最大的 token 开销(10 行/块省约九成)。块内缺编号/坏编号的行、整块调用失败的行回退逐行单调用,行级失败语义不变。env: AIIMAGE_SIMILAR_ASIN_LLM_CATEGORY_BATCH_SIZE,设 0/1 回退旧行为。
This commit is contained in:
@@ -170,6 +170,14 @@ public class SimilarAsinProperties {
|
||||
private int llmMaxTokens = 64000;
|
||||
private int llmConnectTimeoutMillis = 10000;
|
||||
private int llmReadTimeoutMillis = 600000;
|
||||
/**
|
||||
* 批量分类的行数(2026-10-02):>1 且批内多行时,分类判定按该行数分块、每块一次
|
||||
* LLM 调用 —— 类目树文本(formatTwoLevels,数千字符量级)整块只随请求发送一次,
|
||||
* 不再随每行重复发送(这是分类链路最大的 token 开销,10 行/块可省约九成)。
|
||||
* 缺编号/解析失败的行、整块调用失败的行回退逐行单调用,行级失败语义不变。
|
||||
* 设 0/1 回退逐行旧行为。
|
||||
*/
|
||||
private int llmCategoryBatchSize = 10;
|
||||
/**
|
||||
* 首次尝试读超时(毫秒):上游偶发单请求不应答,首查用更短预算快速失败后重试。
|
||||
* 与外观专利同口径:那边一批 5 张图后单次耗时按倍数涨,60s 会误杀正常慢响应,
|
||||
|
||||
Reference in New Issue
Block a user