huangzd1997
|
31d3c0857d
|
fix(安全): X-Internal-Token 不再绕开用户态接口的 user_id 归属绑定
守卫里"令牌可信即在 shouldNotFilter 整体放行"把刚上线的绑定又开了一个洞:这把
X-Internal-Token 是硬编码在分发出去的桌面客户端里的静态共享密钥(amazon/tool.py:20、
crawler_core/log_uploader.py:38),它能证明"走了内部通道",证明不了"这个 user_id 是谁"。
带 JWT + 这把钥匙的请求因此完全不参与绑定,等于给别人令牌就能读任意 user_id。
改法只拆语义不加开关:令牌继续豁免"要不要凭据"(否则仅凭令牌即鉴权的
/api/admin/shop-manages/credential 会被误拦 401),不再豁免"归属归谁"。
管理员/超管代客操作豁免照旧。
对现网零影响的取证:全工作区 .py 里 operatorId/operator_id 出现 0 处,所以纯令牌请求
进 requireUserOrInternal 后无 JWT→resolveToken 即抛→identity=null→绑定不触发;
不带 user_id 的按 task_id 回调仍然整体跳过守卫(新用例用 verify(never()) 守住)。
AdminApiGuardFilterTest 30 个用例全绿;新增 4 个,其中 internalTokenDoesNotBypassOwnershipBinding
在改代码前是红的,就是那个洞的可执行证明。
|
2026-09-28 18:45:46 +08:00 |
|
huangzd1997
|
812ac31a48
|
docs(运维): §13.5 可观测改动两台发版验收(md5 6880abb0,ran=false 已能在巡检里读到)
|
2026-09-28 17:22:39 +08:00 |
|
huangzd1997
|
575b7f9f8c
|
fix(可观测): 让"续跑/兜底拉取没开"在日志里可辨识,并纠正与 yml 相反的默认值
V129 客户端中断自动续跑从上线至今一次都没执行过:aiimage.task-resume.enabled
继承 aiimage.client-task-pull.enabled,两台生产两个键都没设 → false →
resumeInterruptedTasks() 第一行 return。7 天 12 个「客户端异常中断」任务、
48 轮巡检 resume(s=0 r=0 k=0 u=0)、pull-pending 1 小时 4443 次空返回,
在日志上与"恰好没有中断任务"完全同形。
不改开关(属产品语义:兜底拉取会把用户只解析没点启动的 PENDING 真跑,
而外观专利占 LLM 花费 95% 且扣用户自付次数),已写进决策文档 §十三 交人工决定。
本版只做三件事:
- ResumeStats.ran:真查过库才算跑过;巡检段位改 resume(ran= s= r= k= u=)
- TaskResumeService / TaskClientPullService 各加 @PostConstruct 生效配置启动行
- @Value 的 enabled 默认由 :true 改为继承 client-task-pull.enabled:false(与 yml 同语义)
测试:TaskResumeServiceTest +4、TaskClientPullServiceTest +1,全量 3271 通过 / 0 失败。
|
2026-09-28 16:52:33 +08:00 |
|
huangzd1997
|
35f0debb69
|
docs(运维): §12.6 开机自回收上线验收,并更正按文案计数这条判据口径
回收日志 count=3 出现在启动后 9.9 秒,三条在飞作业 retry_count 跨发版一个没涨(含已到 3 的 20833)。
同时记下 error_message 会被下一轮处理覆盖, reclaimed_rows 读到 0 不等于机制没工作。
|
2026-09-28 16:16:12 +08:00 |
|
huangzd1997
|
7bb03466b0
|
fix(任务): 开机自回收改以本进程启动时刻为界,发版不再蚕食结果文件作业的重试次数
原判据是 now-max(60,staleSeconds),但 ApplicationReadyEvent 只在重启后几秒响一次,
那时遗留行的心跳也只停了几秒,条件结构上永不成立——线上"实例重启,作业已重新排队"累计 0 条。
遗骸改由 stuck 扫描按 +1 重试处理(今天 A 发了 7 版、重试预算只有 5),
20833 已被吃掉一次,20836/任务29475 就是被这条链判成"已达到最大重试次数"的。
|
2026-09-28 15:59:47 +08:00 |
|
huangzd1997
|
2689fd5e1f
|
docs(运维): §11.6 锁忙重投修复的验收结果,并记下 jar 路径空输出这个取证坑
同一条 busy 日志新旧对照 54 次/分钟 → 2.7 次/分钟,claimed 由 0 变 25 与 busy 1:1,
证明重投确实改由轮询驱动;process success 在纯窗口内为 0 不足以判成败,留给下一个完成样本。
|
2026-09-28 15:39:25 +08:00 |
|
huangzd1997
|
505b1c60ac
|
docs(运维): §十一 锁忙零退避重投的取证链与修法,并更正 §10.3 的"29473 已完成"
§10.3 那句把"输入封口"写成了"任务已完成":29473 实际 13:59 后就没动过,
biz_file_task 仍 RUNNING、结果无 url、组装 job 20833 RUNNING retry_count=2。
|
2026-09-28 15:21:06 +08:00 |
|
huangzd1997
|
ac7412f77d
|
fix(任务): 结果文件作业撞锁后不再自带下一次投递,消除零退避自循环
requeue() 在把行从 RUNNING 翻回 PENDING 的同一刻 publish 一条 dispatch 事件,
于是投递链立刻重新 claim 同一个 job、再撞同一把锁(持锁方是分钟级的 LLM 批次)。
线上实测 20 分钟 667 次、占该实例日志 8.7%,且每次要占满 taskQueueExecutor 的
10 秒探锁 —— 该池只有 12 个许可且与货源 LLM 重提、图像视频轮询共用,按 Little 定律
相当于长期吃掉近一半容量。
撞锁分支改用同语义但不发事件的 deferRunning(),重投节奏交回 runPendingJobs 的
10 秒周期;本地轮询关闭的 profile 没有周期兜底,继续走 requeue 以免作业搁死在 PENDING。
|
2026-09-28 15:20:59 +08:00 |
|
huangzd1997
|
a9ddf8a696
|
docs(运维): §9.6 发版后验收,并给"0 命中"划清边界
两台同一 md5 已起、锁等待 60 秒增量 0、被打断的 4 笔 job 全部续跑(外观 20833 抬了 2 次 retry)。
但这窗口里没有外观的 stale 恢复长批次,所以只证明没回归、不证明长事务已消除;另记下发版脚本
异常采样会把旧 JVM 最后一段混进来,那条 NoClassDefFoundError 的时间戳在容器启动前 1.4 秒。
|
2026-09-28 14:29:41 +08:00 |
|
huangzd1997
|
6df20ff5c6
|
docs(运维): §九 补齐 110 秒锁等待的持锁方取证与两处修法
上一版写"持锁方仍未定位"是错的,实际已定位到外观专利的 stale 恢复路径。
同时记两条当时看着像证据其实不是的判据(CglibAopProxy 出现在栈里 ≠ 在事务里;
burst 之后抓的线程转储不能当反证),以及 MySQL 业务账号无 PROCESS、加权限留人工决定。
|
2026-09-28 14:11:49 +08:00 |
|
huangzd1997
|
aa7e07cf02
|
fix(外观专利): stale 恢复不再把整批 LLM 包进事务,行锁不再持十几分钟
那 50 秒锁等待的持锁方就是这里:三个调用点把整个 finalizeStaleTask 包进
PROPAGATION_REQUIRES_NEW,而恢复分支里 submitLlmBatches 每批开头的 touchRunning
是 UPDATE biz_task_file_job ... WHERE id=? AND status='RUNNING',锁要活到串行发完
整批 LLM 请求(线上实测单批 costMs=1077959)之后才释放。改为只把封口和 finalizeTask
各自包成短事务,LLM 批次留在事务外;另在发批前查 isActualTransactionActive 做回归哨兵。
同源的 SimilarAsinTaskService 一直是正确形状,这里只是回到一致。
|
2026-09-28 14:11:36 +08:00 |
|
huangzd1997
|
3a416f3935
|
fix(任务): 卡死自愈扫描不再被一行的锁等待作废整轮
线上 12:58–13:13 每 110 秒一次 1205:扫描按 updated_at 升序取到的第一行正被另一台
持着行锁,一抛就把本轮已复位成功的 job 的 dispatch 事件一起带走(它们已是 PENDING
却没人派发),该判终态失败的作业也不 finalize。改成循环体逐行 try/catch、派发也逐个包,
只跳过这一行。刻意不加事务:每行本就带 status+updated_at 的幂等 CAS 条件。
|
2026-09-28 14:11:26 +08:00 |
|
huangzd1997
|
d70c472cab
|
docs(运维): 记下落域修复的实测(26/26 救回、行失败 0)与品牌检测坏上游
品牌检测现在整小时 270 个品牌被判"查询失败",根因在 16890 自己的日志里:
代理 IP 供应商回「套餐不存在」——java 侧调参救不了,砍重试只会把可恢复的品牌写死。
顺带把容器日志的增速/保留期换成可复跑的实测法,并纠正"A 访问自己 EIP 很慢"这条:
小请求握手只差 0.2ms,5–8Mbps 只咬大块传输。
|
2026-09-28 12:47:03 +08:00 |
|
huangzd1997
|
e5b79b71e1
|
fix(货源): 主图重试换备用域名绕开被钉死的坏 CDN 节点
根因不是"瞬时抖动":m.media-amazon.com 的多 CDN 池里 Akamai 系边缘没配这个
虚拟主机名,带该 SNI 一律 RST(同 IP 不带 SNI 或用 images-na.ssl-images-amazon.com
则正常),而 JVM 正向 DNS 缓存会把坏节点钉住一整批 → 秒级重试三次全打在它身上。
实测最近 20 条失败 URL 走备用域名 20/20 成功且 md5 与原域名逐字节相同。
|
2026-09-28 12:29:39 +08:00 |
|
huangzd1997
|
8f3b879d80
|
docs(货源): 记下发版后实测——秒级重试只救回 17%,真实收益是失败原因上行
原判断"瞬时抖动,重试就能救回整行"被自己这次的数推翻(行失败率 14.0% vs
旧代码 14.6%),恢复窗口是分钟级;注释与文档一并改成实测口径,避免下一个人
照错的结论去抬 backoff。
|
2026-09-28 12:05:53 +08:00 |
|
huangzd1997
|
3a39c36bde
|
fix(货源): 主图转存对瞬时 TLS 重置做有界重试,失败行日志带上真实原因
生产取证:主机A 近 3 小时 252 条 `main download fail` 全是 m.media-amazon.com 的
"Remote host terminated the handshake",而这些 URL 事后重取 8 条里 7 条直接 200。
旧实现单发、握手被 RST 就 return null 并丢掉真实异常,导致整行白占一轮重发。
新增 aiimage.similar-asin.llm-image-download-retry-times(默认额外 2 次,置 0 退回旧行为),
只重试连接级异常,非 200 不重试;25 秒总预算防慢源放大尾延迟;重试耗尽抛 IOException
让行失败原因上行到日志。
|
2026-09-28 11:52:11 +08:00 |
|
huangzd1997
|
9efb39b0a5
|
docs(运维): 把 env 三层读值坑补成可复跑配方(含 11:1x 三层实测值)
收尾体检时用 pgrep 拿到 java 子进程 PID 回读,确认 /.env 的两行覆盖真吃到了:
Config.Env 与容器入口进程 environ 都还是公网 121.196.149.225:9876,只有 java 子进程是
192.168.0.170:9876 —— 原因是 /proc/pid/environ 只反映最后一次 execve,shell 之后 source
不回写。顺带记下一条禁令:不要用 docker exec 手工起服务,那条路会绕过 run.sh 退回公网值。
|
2026-09-28 10:48:59 +08:00 |
|
huangzd1997
|
0729e15875
|
docs(运维): 认领那条 26ms 公网依赖=1688 商品图 CDN,归为不可改造项
前一版只写到"认不出属于哪个业务调用"。现在用"在 A 本机解析外部 CDN 域名"补齐了:
47.115.192.140 是 cbu01.alicdn.com 的 8 条 A 记录之一(工作站解析拿不到这批节点,
所以按 IP 反查会漏,也因此解释了它时有时无)。代码侧四处注释互证为货源图片下载链路。
结论是外部 CDN、没有切内网的选项,抬并发只会抢 5-8Mbps 公网出口,归入"不动"。
顺带纠正自己上一版把 0.405ms 当成其中一条连接 rtt 的取数错误。
|
2026-09-28 10:44:27 +08:00 |
|
huangzd1997
|
55d7f2c544
|
docs(运维): 补 MySQL 生效值与 VPC 内 RTT 实测,修正端口暴露面清单
A 的 MySQL 生效值终于读到(bp=8192MB、命中 99.99994%、连接峰值 45/500),
结论是这台不该再动内存/连接数;A 绑 0.0.0.0 的端口实为 18 个而非 5 个,
四个 redis 口实测均要求鉴权。同时记下一个 ss -ti 字段误读:retrans 抓到的是
bytes_retrans(字节)而非重传次数,内网对象通道 37MB 上传仅 0.11% 字节重传。
|
2026-09-28 10:30:03 +08:00 |
|
huangzd1997
|
41af66bb4c
|
docs(运维): 记录 RocketMQ 走私网与 Nacos 关停,纠正 brokerIP1 取证错判
MQ 侧 brokerIP1 与 namesrv 两处都改完并回读到真实跨机投递(10:12 的 jobId=20831
A 投 B 收,约 370ms),Nacos 因鉴权关闭 + 三端口绑 0.0.0.0 且零客户端而停掉。
上一版"broker.conf 里没有 brokerIP1"是查错了文件(读的是发行包默认那份而非
bind mount 实际加载那份),已写明正确路径与备份位置。
|
2026-09-28 10:20:53 +08:00 |
|
huangzd1997
|
fcec51bb71
|
perf(OSS): 服务端对象读写与浏览器预签名拆成两张 client
Java 在自己机器上用 https://oss.aishufu.top 读写对象,等于走公网 EIP 回环
(ip route get 自己的公网 IP 是 via 192.168.0.253 dev eth0),实测只有 0.98 MB/s、
TLS 首字节 39ms;同一台走 VPC 内网是 900 MB/s、0.9ms。结果 Excel 出表与输入件下载都吃这条。
不能直接把 endpoint 改成内网地址:预签名 URL 的 host 必须是浏览器可达的反代入口,
否则用户侧直传当场全断。所以新增 aiimage.oss.internal-endpoint(默认空=沿用 endpoint,
行为与今天完全一致),只给服务端 I/O 的 client 用;presign 那两处改用 public-endpoint 的 client,
并把内网地址纳入 managedEndpoints,避免历史数据里出现内网 host 时不归一化。
启动打一行 [oss] 服务端读写端点=…(预签名端点=…),发版后直接回读生效值。
|
2026-09-28 09:27:19 +08:00 |
|
huangzd1997
|
a79f7f4bc6
|
docs(运维): 补中间件三处线上改动与公网/私网带宽实测
Gitea 七笔已推完(a58dc8a6→ff182acd);cgroup 限额与 nginx body 上限的改法、
回滚值和四个取证坑(docker update 须同给 memory-swap、ss 要看容器 netns 且对端在第 5 列、
1Panel 访问日志真实路径)写进已核区,避免下次重新推一遍。
实测公网 5–8 Mbps 对私网约 1 GB/s 差一千倍,据此把剩下的两处公网依赖(OSS 端点回环、
MQ namesrv/broker)列为待改项,并记下 A 侧 3306/6379/9000/18080/16890 对公网开放且 MySQL
账号为 % 通配——收口需人在阿里云安全组操作,其中复制已确认走 VPC,收公网 3306 不断副本。
|
2026-09-28 08:42:13 +08:00 |
|
huangzd1997
|
ff182acd16
|
docs(运维): 补记今夜两版上线回读,并核掉健康评估报告第 6 条
报告称外观/货源的 allRowCount/loadAllRowsByBaseId 静默返回 0 会造成假完成,
逐个调用点读完确认不成立:它们只喂展示字段与同组回填,完成判定走的是不带
try/catch 的载荷读取 + 覆盖率阈值。顺这条链查出的是整批完成标记不区分是否
真的落库,已在上一笔修掉。
|
2026-09-28 03:23:33 +08:00 |
|
huangzd1997
|
f4f6e414f0
|
fix(外观专利): 完成标记只打在真正落库的行上
网关少回一行、或回来的 rowToken 在分片里匹配不到时,整批结果落库不完整,
但调用方仍把全部发送行标成已检测:没落库的那行带着"已检测"的空壳 24 小时内
不再补检,用户扣了次数却在结果里永久没有结论。合并写入改为回报真正写进去的
行键,只对这些行打完成标记,其余撤销交下一轮重发(受轮次上限约束)。
|
2026-09-28 03:09:49 +08:00 |
|
huangzd1997
|
f8e642588d
|
docs(运维): 守卫绑定一栏改为已实现,补 role 分布与 uid 同源的取证
|
2026-09-28 02:31:36 +08:00 |
|
huangzd1997
|
b3472dbd8a
|
feat(安全): 用户态接口的 user_id 归属改由令牌身份判定
带 JWT 的请求若 user_id 参数与登录身份不符直接 403,管理员/超管豁免(后台代客查任务是本职),
匿名与 X-Internal-Token 调用不参与绑定——按 2026-09-28 取证,桌面端 15 个调用文件只有 4 个带凭据
且全走内部令牌,所以现网客户端零影响;网页端 uid 与令牌主体同源于 AuthService.buildResult。
"要求凭据"仍留在 user-tool-guard-enabled 开关后面,新增 user-tool-guard-prefixes 支持按前缀分批收。
|
2026-09-28 02:31:23 +08:00 |
|
huangzd1997
|
4b914f4bd9
|
docs(运维): 2026-09-28 夜生产待人工决策清单
守卫收紧要分「绑定」与「要求凭据」两步、MySQL buffer pool 与容器限额冲突、
B 机副本读分流前置取证、真删开关与 V138 观察期,均按今晚重新取证的数字写明代价。
|
2026-09-28 02:03:33 +08:00 |
|
huangzd1997
|
d24ef64160
|
fix(存储与巡检): MinIO 建连超时收到 10s,30 秒巡检周期改回 2 分钟
OssStorageService 的 MinioClient 走 8.5.17 默认值,connect/write/read 三项全是
5 分钟(S3Base.DEFAULT_CONNECTION_TIMEOUT):oss.aishufu.top 不可达时,跑在结果文件
作业线程上的每次上传/下载要挂满 5 分钟才失败。改为只收紧建连到 10s,读写留 120s
以覆盖数百 MB 结果文件的分片上传与流式读取。
delete-brand 与 collect-data 的 stale 巡检按 30 秒一轮跑,而判死阈值是 30 分钟心跳
超时——每分钟一轮纯属多余轮询(且两台各跑一份,另一端每轮打一条"另一个实例持有锁")。
delete-brand 代码里的 @Scheduled 默认值本来就是 2 分钟,是 yml 把它改成了 30 秒。
|
2026-09-28 01:26:59 +08:00 |
|
huangzd1997
|
9b0188f5ad
|
fix(外观专利): 行重发加轮次上限,超限就地判失败并写明原因
两态行标让失败行下一轮能重新申领(否则发版/中断就永久丢行),代价是轮次层此前
完全没有闸:上游持续劣化时同一批行会一轮轮重发,每轮都过 SecretUsageContext.call
扣用户的 LLM 次数;而 assemble job 走 deferRunning 不累加 retry_count,
MAX_RETRY_COUNT 那道闸永远到不了,HTTP 层的 llmRetryTimes=3 也只管单轮内部。
新增 aiimage.appearance-patent.llm-row-max-rounds(默认 3,<=0 关闭)。轮次落在独立
Redis 键上(处理中键会被撤销、完成键只在成功时打,只有这张表能回答"这行被重发过几次"),
首轮设 TTL 后续不自增 TTL;Redis 故障时读成 0,宁可不闸也不把在跑的检测判死。
顺带修 countUninspectedRows:Python 心跳超时恢复路径原先用 collectPendingLlmCandidates
数待检行数,那一步会把行申领走,紧接着真正发起检测时就一行也拿不到,整单只能等
处理中标记 TTL 过期。
|
2026-09-28 00:42:22 +08:00 |
|
huangzd1997
|
a58dc8a680
|
fix(断点续传): 外观/结果作业/去重三处中断语义补齐,重启不再静默丢行
- 外观专利行标改两态(in-flight 15min / processed 24h):只有 CAS 写回 payload 成功
才转「已处理」,异常、覆盖率不足、CAS 打满等未落库出口一律撤销标记 —— 修「发 LLM
请求前就盖章,进程被杀的那一批永不再补检」
- 结果文件作业开机自回收:按 owner_instance_id 只收本机名下 RUNNING 且心跳超 90s 的行;
卡死阈值 30 → 5 分钟,重启接回从最长半小时压到 5 分钟
- 外观结果表缺检行显式写「未取得检测结果」并判失败,不再留空靠 0.5 覆盖率阈值蒙过
- 去重进度改 NodeSharedStore 跨节点共享,runId 用已落库的 task_no:轮询打到另一节点或
发版重启后仍能读到真实进度、已完成文件仍可下载;共享态缺失时按 task_no 从库重建;
逐文件心跳防 StaleTaskRepair 把长任务误判死;开机把本机残留 RUNNING 判失败并给提示
|
2026-09-27 22:26:09 +08:00 |
|
huangzd1997
|
ed7dd9381b
|
feat(LLM): 外观专利/货源多行合批 + 读超时抬到 600s,砍请求次数
- 外观专利:商标提取 10 行一批、外观检测 5 行(=5 张图)一批,一个 10 行批次
从 20 次请求降到 3 次。Gemini 支持多图,无需再逐行单独发图。
- 批量协议:用户文本用「序号<TAB>行」,响应 {"items":[{"i":n,…}]} 一律按序号回填,
不信数组位置。三道校验门(序号在批内、关键词逐字属于本行原文、状态枚举且理由非空),
缺行或失真行单发补检一次;传输失败按整批记失败、绝不逐行重发,避免劣化窗口放大成 N 倍。
- 应急开关:llm-title-batch-size / llm-appearance-batch-size 任一设为 1 即退回逐行,无需改代码。
- 货源查询:类目一级/二级合并为一次调用,两级树每批只加载一次(原来每行各问一次、共 2 次)。
- 超时:读 600s、首查 300s(外观专利与货源同步调整)。合批后单请求输出量约为原来 5 倍,
沿用按单图调出的 60s 会误杀正常慢批次、连带整批白等一轮重试。
- 口径影响:后台 LLM 使用按「次」统计,上线后次数约降到 1/6.7,与历史数据不可横向比较。
|
2026-09-27 19:47:51 +08:00 |
|
huangzd1997
|
ace9a784be
|
feat(前端): 10 个工具页删除任务补二次确认;外观专利上传时拦截分组塌陷
删除走服务端物理删除——任务记录连同 MinIO 上的结果文件一并回收,此前除品牌档案外
11 个工具页都是点击即发车,一次误点就没了。统一抽到 shared/task-delete-confirm.ts,
只在各页 deleteTaskRecord 开头插一行守卫(纯新增,未改各页原有删除逻辑)。
外观专利另加一道上传前拦截:本模块按 id 列分组、同组只检测 1 次把结论复制到组内其它行,
生产任务 28805 的源表 id 列 904 行全填 "1",整表塌成 1 组、105 秒就"完成"了。
解析后按 分组数/行数 比例提醒(行数 <20 或分组数正常时不打扰),用户可选返回改表。
|
2026-09-27 11:27:45 +08:00 |
|
huangzd1997
|
67f28c5b4f
|
refactor(队列): coze 残留改名到 task-queue / LLM,直连改造后不再出现第三方平台名
货源查询与外观专利早已改成直连 LLM,但配置键、指标名、类名与注释里的 "coze" 还留着,
排查线上问题时按平台名 grep 到的是已经不参与调用的历史命名。
对外可见的两处改名(运维需同步):
- 配置键 aiimage.coze-task.{max-concurrent,max-waiting} -> aiimage.task-queue.*
- 指标 aiimage.coze-task.submit.rejected.total / .execution.duration / .queue.wait.duration
-> aiimage.task-queue.* (Grafana 面板与告警表达式要一起改,否则曲线断流)
SimilarAsinTaskServiceCozeBufferScopeTest 随之改名(git 识别为 R)。
OSS 签名域名测试改用 example-cdn.com 占位,不再依赖真实 coze.cn 域名形态。
SimilarAsinTaskServiceTest 补上 result.notice 两条口径的测试:缺必填字段的行显示「未检测」
而不是留白(28551:790/1000 行空白仍报成功),404 行优先显示「ASIN未找到」。
|
2026-09-27 11:27:27 +08:00 |
|
huangzd1997
|
e376847d89
|
fix(上架): 下载图片不再带 Referer,修阿里图床稳定 403
两处下载器原本固定发 Referer: https://www.coze.cn(Coze 时代遗留)。阿里图床按 Referer
白名单防盗链,外站域名一律判 403——实测 cbu01.alicdn.com 带该 Referer 稳定 403、去掉直接 200。
表现为拼图单元格合成失败、货源主图留空,而日志里只有一行 http 403。
|
2026-09-27 11:27:11 +08:00 |
|
huangzd1997
|
fd54655f17
|
fix(外观专利): 覆盖率分母改为解析全行并启用阈值,修「904 行只检 1 行仍报成功」
三处叠加导致塌陷不可见:
1. validateCompleteLlmCoverage 收到的 receivedRows 已经按「拿到结果」过滤过分母,
覆盖率恒为 100%,整片结果丢失也测不出来;改为传解析出的全部行。
2. 判定被放在 filterReceivedParsedRows 之后,整个源文件结果全空时会先 continue 掉,
连判都不判;移到循环开头,zip 少一个文件不能还报成功。
3. 阈值本身写死在 `boolean enforceCompleteLlmCoverage = false` 上,是死代码。
改为配置 aiimage.appearance-patent.llm-coverage-min-ratio,默认 0.5 只拦塌陷级
(现网正常任务实测约 0.91)。
完整性判定另拆出 hasDeliverableLlmResult:现网正常返回里 patent 恒为空串,
拿它当必要条件会把每个任务都判成不完整。
isTechnicalLlmFailure 去掉按 "coze" 子串匹配——品牌名 "Cozee Bay" 会被判成调用失败、
真结论被清空;Coze 工作流特征串随直连改造一并移除。
|
2026-09-27 11:26:54 +08:00 |
|
huangzd1997
|
d706c09b0f
|
fix(版本包): 最新版改为显式标记 + 新增升级包保留期清理
读取侧不再靠 created_at 现场算「最新版」(补插一条老记录就会把全体客户端更新目标带偏且
无报错),改读 web_config.is_latest,与数字人版本表口径对齐;上传/补录后标记,删除到最新版
时立刻改标剩余最新一条,全无标记时回退按时间取并补标——否则客户端会以为已是最新版而停更。
标记用一条 SET is_latest = (id = ?) 的整表 UPDATE,避免「先清零再置一」的中间零标记态需要拉事务。
另新增 SoftwareVersionRetentionService:client 桶 nanri-image/versions/ 前缀只增不删,
2026-09-21 已堆到 61 个对象 / 6.2GiB(单个约 106MB)。刻意不走 MinIO ILM 按天过期——
2026-09-08 那次全桶 30 天规则连着删掉 9 个仍被人下载的安装包,web_config 留下断链至今。
口径为「保留最近 N 个 + 最新版永不删」,删除复用 deleteSoftwareVersions 的 file_url 引用计数
(同版本重复上传共享同一 key),双节点 job 锁,默认 dry-run。
|
2026-09-27 11:25:46 +08:00 |
|
huangzd1997
|
c27a1e26c4
|
chore(迁移): 新增 V136 版本表 is_latest、V137 隐藏 20 个冗余索引;登记 V132/V133 退役空号
两个迁移原本按 V132/V133 取号,但生产 flyway_schema_history 已执行到 V135(V134/V135 于
2026-09-25 落库),应用没开 out-of-order,低号新迁移会让 validate-on-migrate 直接报
"Detected resolved migration not applied to database" 并启动失败,因此顺排到 V136/V137。
空号无法回收,MigrationInventoryTest 的「1..N 连续」断言改为显式登记 RETIRED_HOLES,
并要求迁移清单文档记录空号来历——否则后来人会试图回填这两个号。
V136:web_config 只追加、从不记录哪条是最新版,读取侧靠 ORDER BY created_at DESC 现场算;
一旦有人补插 created_at 较早的行,/api/version/latest 会把全体客户端指回旧包且不报错。
回填语句按同一排序取一行、不写死 id,迁移前后接口返回值逐字节一致。
V137:20 个「列是另一索引严格左前缀」的二级索引置 INVISIBLE 而非 DROP——前缀规则只保证
可用性不保证代价相同,且 aiimage 账号读不了 performance_schema(1142),没法先量出哪些查询
真在做覆盖扫描,所以先隐藏观察,一条语句即可还原。
|
2026-09-27 11:25:23 +08:00 |
|
huangzd1997
|
486c3b2766
|
feat(通知): 品牌/采集数据部分失败改为「已交付」提醒,用户不再只看到成功
BRAND 与 COLLECT_DATA 的结果里没有承载「N 行查询失败」的字段,这类任务此前一律显示成功,
用户要到 Excel 里逐行看才发现缺数据。上架模块不需要这条通道——它的历史详情已经通过
SimilarAsinHistoryAssembler 把 result.notice 透出到前端。
新增 NotificationDispatchService.pushPartialResult:复用既有 SCENE_TASK_FAILED/LEVEL_WARNING
场景与 dedupe_key 机制(task_partial:<taskId>),不新增 scene、不加迁移、不动前端枚举。
品牌侧在 finalizeTask 里 deleteTaskData 之前推送,避免统计数据被清库后读不到。
|
2026-09-27 11:24:51 +08:00 |
|
huangzd1997
|
6e5c0df1a4
|
fix(上架): 图片预取并发按 IO 收口 + 缺图就地补图,修线上 14591 个图片单元格静默留空
线上日志证据:4 核机器上 `image pool initialized requested=2 effective=2 cpuBoundLimit=2`,
8 个下载 worker 被 CPU 核数压到 2;一次组装 total=4045 行只完成 1968 行就撞上 1800s 预算,
尾部 URL 全部预取不到,落单元格时直接留空且用户无感知。
三层修复:
1. 下载池与缩放池解耦——下载是 IO 等待,默认 8、上限只挡配置写错(64);缩放仍按 CPU 收口。
OkHttp 连接池随之放大,否则默认 5 条空闲连接会让 3 个 worker 反复重做 TLS 握手。
2. 预取未覆盖到的 URL 在写单元格时就地补下载(单张落盘、不驻堆),共用一个 300s 窗口;
窗口从「预取收工、开始写单元格」起算且首个 workbook 独占——在建 spool 时 arm 会被
1800s 预取整个吃满,等于没有兜底。已预取失败的 URL 记入失败集跳过,避免每个死源站
再烧掉一次 下载超时×重试 的预算。
3. 交付不再静默:缺行/缺图写入 result.notice(状态仍为 SUCCESS,不碰 task.errorMessage,
否则会被 completeLlmFileJob 的失败判据读成整单失败)。
imagePrefetchBudgetSeconds 在生产配置里无人读取,改名 imageEmbedFallbackBudgetSeconds 并
接上实际用途。
|
2026-09-27 11:24:40 +08:00 |
|
huangzd1997
|
4df80b95b8
|
fix(外观专利): 状态列要求商标与外观都成功,修「商标查询失败」仍显示成功
状态列原先按「结论非空即成功」反推,而「商标查询失败」(品牌检测上游查询
失败)是主动写进结论列的合法文案,于是结论写着失败、状态却写成功,自相矛盾;
LLM 技术性失败的行同样被误判为成功。
改为:结论列产出「侵权」/「无侵权」(两个维度都给出有效判定时才会产出)才判
成功;「商标查询失败」「外观识别异常」、LLM 技术性失败、空白一律判失败。
影响:外观专利检测结果 Excel 的「状态」列;不改变任务级完成判定。
|
2026-09-27 11:18:17 +08:00 |
|
huangzd1997
|
b9ed336510
|
fix(解析器): 表头行整行格式污染时列范围按「非空表头」收缩
用户 Excel 表头行被整行格式化(整行实例化成 16384 个空单元格)时,货源/外观专利/集采
三处解析器按最大单元格列号展开列范围,每行数据被填充 1.6 万个占位空值,142KB 的 xlsx
生成 2.3GB 载荷,建任务 500(2026-09-26 生产事故:货源没跑出来.xlsx)。
- SimilarAsinExcelParser / AppearancePatentExcelParser / CollectDataService:列范围改为
只统计非空表头的最大列号,尾部空列不再生成占位列(中间空列占位行为保持不变)
- 新增三处回归测试 + 事故样本(原样 + 集采关键词变体)
|
2026-09-26 20:45:07 +08:00 |
|
huangzd1997
|
17ee7d293d
|
chore(更新日志): 追加 4.0.37 条目 + 精简 8 条超长历史条目
4.0.37:采集图书品牌误抓成作者名的修复。
顺带把 4.0.29~4.0.34 的 8 条超 40 字上限的历史条目精简(更新面板放不下,
且使 client-changelog 测试长期为红)——纯文案精简、信息量保留。
|
2026-09-25 15:04:21 +08:00 |
|
huangzd1997
|
f4b5100f96
|
fix(上架/去重): 结果工作表名净化 + 总数据表用户导入列放宽
1) 上架结果 Excel 的工作表名取自接口参数 publishCountry:用户填长文本/特殊
字符(Excel 工作表名上限 31 字符且禁 []:*?/\)时 createSheet 直接抛异常,
整体表现为「生成上架结果 Excel 失败」。改用项目既有的 uniqueSheetName
(内部即 WorkbookUtil.createSafeSheetName,与 dedupe 同款);单元格里的
国家值仍按原口径写入,不改变数据语义。
2) V135:去重「总数据导入」importFromExcel 是用户上传 Excel 逐行写
biz_dedupe_total_data.data_value(varchar(128)),超长值同样 Data too long
致导入整体失败。data_value 带唯一索引 uk_data_value(去重判重核心),
不能改前缀索引(会把前 N 字符相同的不同值误判为重复),故扩到
varchar(512);country 同口径放宽。线上已于 2026-09-25 手工执行(0.01s,
主从已生效并实测 210 字符写入)。
|
2026-09-25 14:46:09 +08:00 |
|
huangzd1997
|
89cf9d1720
|
fix(上架): 源表可填列放宽为 TEXT,修复品牌超长致建任务失败
用户 Excel「品牌」列粘贴 409 字符(图书作者名单)超出 VARCHAR(255),
插入抛 Data too long 致建任务事务整体回滚,前端只见「服务器内部错误」,
任务列表不留失败记录,用户反复重试 20 次全部失败(2026-09-25 线上)。
口径:不给用户输入设限,source_id/asin/country/brand/price_value 一并放宽
(status_value 已在 V81 扩为 TEXT,同一原因)。
country 在 idx_publish_item_file_country 中,索引改 64 字符前缀;
业务查询只用 task_id/file_id/row_index,从不按 country 过滤,无影响。
线上已于 2026-09-25 手工执行(耗时 0.55s,主从均已生效并实测 409 字符写入)。
|
2026-09-25 14:26:10 +08:00 |
|
huangzd1997
|
2e520a2125
|
chore(更新日志): 追加 4.0.36 条目(产品风险审批弹窗渲染就绪等待)
|
2026-09-25 12:30:23 +08:00 |
|
huangzd1997
|
d32f45f755
|
feat(更新日志): 新增客户端 4.0.35 更新说明(产品风险审批弹窗改版适配+GPSR记录提交)
|
2026-09-24 14:39:31 +08:00 |
|
huangzd1997
|
d447b2fb7d
|
fix(产品风险): 新建任务卡片立刻显示开始时间 + 幽灵任务卡自动清理
新建任务的「当前任务」卡片用本地快照渲染,而快照与建任务返回项都无
createdAt/finishedAt、light 轮询也不携带 → 运行中全程显示"-",直到任务
结束才随历史刷新拿到时间。用户误以为异常反复删除重建(删除历史会级联
删任务行,留下幽灵进度快照,生产已 2600+)。
- 建任务成功后立刻 loadHistory(),卡片当轮切换到带 createdAt 的服务端历史行
- 轮询发现 light 判 missing 且重型端点复核也查无时,清理本地轮询与快照,
已被删除的任务不再永久停留在"执行中"
|
2026-09-23 16:03:21 +08:00 |
|
huangzd1997
|
2c47b27746
|
feat(用户授权): 非超管授权树只下发自己可授予的菜单,保存按操作者范围替换
- 授权树读接口新增 grantableOnly:非超管只返回自己已持有的菜单,可授予项的
祖先分组随行但置灰不可勾;否则勾父会连带授予树上未下发的范围外后代
- 保存的整树替换把删除范围收窄到操作者可授予集,范围外既有授权(超管直接
分配的)原样保留——隐藏项不在提交里,全类型删除会把它们静默清掉
- 前端提交剔除置灰分组的派生勾选;菜单权限配置页仍走全量目录
|
2026-09-23 15:56:50 +08:00 |
|
huangzd1997
|
9b4a25e8ae
|
fix(任务面板): 轻量轮询下任务开始/结束时间恒显 -- 的显示修复
F5 轻量化轮询改造后,light 端点白名单不含 createdAt/finishedAt,
任务快照只含 id/status,三个直接读快照时间的页面(产品风险/店铺匹配/跟价)
任务卡片开始/结束时间恒为 '-'。
后端 /history 的 buildHistoryItemVo 本就由任务实体填充这两个字段,
前端历史项字段兜底即可,无需动 JAR。同时在轮询适配器注释中固化该前提,
防止后续页面再裸读快照时间。
|
2026-09-23 15:02:28 +08:00 |
|
huangzd1997
|
9982f05ce2
|
chore(客户端更新日志): 补 4.0.34 条目(含此前已发布但未提交的 4.0.32/4.0.33 条目)
|
2026-09-23 11:05:15 +08:00 |
|