报告称外观/货源的 allRowCount/loadAllRowsByBaseId 静默返回 0 会造成假完成, 逐个调用点读完确认不成立:它们只喂展示字段与同组回填,完成判定走的是不带 try/catch 的载荷读取 + 覆盖率阈值。顺这条链查出的是整批完成标记不区分是否 真的落库,已在上一笔修掉。
12 KiB
生产待人工决策清单(2026-09-28 夜)
本轮已上线的改动列在第一节,后面每一条都是代码里做不掉、需要人拍一次的动作。 条目按"建议处理顺序"排,不按发现顺序。
一、今夜已完成(无需再决策,列出便于核对)
| 提交 | 改动 | 状态 |
|---|---|---|
8536ddb3 |
外观专利行重发加轮次上限,超限就地判失败并写明原因 | 已上线 |
6a82697a |
MinIO 建连超时 5min→10s;delete-brand / collect-data 巡检 cron 30s→2min | 已上线 |
2d33f478 |
用户态接口的 user_id 归属改由令牌身份判定(只绑定、暂不要求凭据) |
已上线 |
10dec56e |
外观专利:完成标记只打在真正落库的行上(少回的行撤销重发) | 已上线 |
线上产物:162,590,216 B / md5 b834d489c8640fd1f6cc9d51238f4606,两台一致。
(今夜此前两版:e97fd273473db849b705a766b7b505c7 → e0854c23cc99344a6ddadbf2019e08bf。)
发版后回读(重启后 5–15 分钟窗口,A 4780 行 / B 530 行日志):健康 200、Flyway 137 up to date、
instanceId server-110/server-121、ERROR 0 条、绑定 403 0 条、[admin-guard] rejected 0 条、
重发轮次已达上限 0 条(无误杀)、本批结果未全部落库 0 条。
A 上重启时确有一批外观 LLM 在飞(03:15:36 发出 5 品请求),03:20:52 该任务
llm batch done taskId=29447 jobId=20802 rows=10 —— 中断后自行续跑并交付了一批,
本轮未出现开机自回收日志(ready 时没有心跳已停的遗留 RUNNING,属正常分支)。
发版顺序是先 B(当时空闲)后 A(A 上有在飞任务,按"不管有没有任务在跑"的授权执行)。
附:健康评估报告第 6 条(外观/货源"静默降级")已核,不必再追
报告称 allRowCount 读失败 return 0、loadAllRowsByBaseId 读失败返回空,会把期望行数压低造成"假完成"。
逐个调用点读完后的结论是不成立,记录在此免得再查一遍:
allRowCount的返回值只喂两处:FileResultEntity.row_count(列表页显示的"共 N 条")和进度分母。 两处都写了"0 不覆盖已有非零值"(finalizeTask的rowCount > 0 ? rowCount : result.getRowCount()、 货源resolvePythonUploadProgress的totalRows <= 0 && uploadedRows > 0兜底), 而createResultRecordForAssembly的兜底分支自己会重读载荷,读不动时异常照常上抛。 没有任何成功/失败判定吃这个数。- 真正的完成判定是
validateCompleteLlmCoverage,它的分母来自assembleResultWorkbook里 不带 try/catch 的readParsedPayload(task)——载荷坏了会直接抛,不会静按 0 行放行; 覆盖率低于llm-coverage-min-ratio(默认 0.5)时抛"LLM 结果不完整"。 loadAllRowsByBaseId返回空只影响expandRows的同组兄弟回填,不影响发不发检测 (候选行来自分片自身的readChunkRows),落库匹配也不看它。所以后果是"兄弟行各发一次、多扣几次", 而不是丢行。- 顺着这条链查到的是另一个口子,已在
10dec56e修掉:整批完成标记此前不区分"结果有没有真的写进分片"。
二、需人工决策
1. 用户态接口的越权读取:建议做"绑定",暂缓"要求凭据"
现状(今晚重新取证,非引用旧笔记):
- 数据归属由请求参数
user_id决定:controller 层共 19 个文件出现user_id,其中只有 2 个文件里 出现过任何身份调用(requireUser/requireUserOrInternal/currentUser)。这是文件级统计, 端点级未逐个核对,但比例与"归属靠请求参数"的判断一致。 aiimage.security.user-tool-guard-enabled默认 false,生产未覆盖 → query-asin / similar-asin / appearance-patent / collect-data / price-track / patrol-delete / files / tasks 等 14 个前缀匿名可达。- 桌面客户端
app_client对这 14 个前缀共 15 个调用文件,其中只有 4 个文件里出现过任何凭据头 (collect-data 2、price-track 1、shop-match 1)。文件级统计是上界——同一文件里也可能只有一部分 请求带抬头。 AdminApiGuardFilterTest(HEAD 版,20 个用例)对当前代码全绿。
两个可分开的动作:
| 动作 | 效果 | 代价 | 状态 |
|---|---|---|---|
A. 绑定:请求带 JWT 时,校验 user_id 参数必须等于令牌身份;管理员令牌可代客查询;匿名请求不参与绑定 |
已登录用户不能再互相冒读,19 个 controller 文件不用逐个改 | 对匿名与内部令牌调用零影响 | 已实现(见下"绑定的落地依据") |
| B. 要求凭据:把上述前缀纳入兜底鉴权(开关置 true) | 未登录直接 401 | 按上面的取证,约 11/15 个调用文件的现网客户端会整条产品线 401 | 等客户端普遍携带凭据之后再开 |
绑定的落地依据(今晚逐条查证,不是推断):
- 角色词汇表只有三态:
DeviceSessionPolicy.resolveRole只会返回super_admin/admin/null, 没有第三种"员工"角色;生产users表 135 个账号分布为normal子账号 120、admin子账号 13、admin1、super_admin1 → 管理员豁免面闭合。 - 网页端
getCurrentUserId()读localStorage['uid'],而uid由登录响应data.userId写入;AuthService.buildResult里vo.setUserId(user.getId())与jwtService.issue(user.getId(), …)同源 → 诚实客户端的参数恒等于令牌主体,正常用户不会撞 403。 frontend-vue各 tab 一律传getCurrentUserId()/uidForStorage();只有admin-frontend-vue传任意user_id,而它是管理员身份 → 落在豁免里。- 带凭据的 4 个桌面模块(
price_match_new/search_spider/tool/log_uploader)用的都是X-Internal-Token,在shouldNotFilter里由isTrustedInternalToken提前整体放行,不参与绑定。 - 实现范围刻意收窄到
USER_TOOL_PREFIXES:/api/admin、/debug、自助接口仍只做"有没有身份", 不做参数比对,避免误伤后台里合法传他人 id 的流程。 - 代价:每个带
user_id的用户态请求会多走一次requireUserOrInternal。匿名请求在resolveToken处即抛BusinessException(未登录)返回,不查库,但会构造一个带栈异常。按现网这个接口的 轮询频率,量级可忽略,若日后要省掉,可加"仅在带了凭据线索时才解析"的短路。
紧急回退仍是一个:aiimage.security.admin-guard-enabled=false 会把绑定与原有兜底一起关掉。
若要单独关绑定,需要另加开关(当前没有,按规格它就是无条件生效的)。
2. 主机A MySQL:innodb_buffer_pool_size=8G 与容器上限 6 GiB 冲突
2026-09-28 02:0x 重新读取:/opt/1panel/apps/mysql/mysql/conf/my.cnf 写 8G(instances=8),
容器 1Panel-mysql-zbja 的 HostConfig.Memory=6442450944(6 GiB),当前实占 3.14 GiB,
宿主机 30 GiB 里还有 19 GiB available。
冲突点:buffer pool 想长到 8G,cgroup 只给 6G,长期会挤压其它内存并可能触发容器 OOM kill。 两条路,都需要重启 mysql 容器:
- 把
innodb_buffer_pool_size降到5G(留 1G 给连接与运维进程),容器上限不动; - 或把容器上限抬到
10G(宿主机有余量),8G保留。
生效值没能读到:容器内 mysql -N 没有可用凭据,只能确认配置文件写的值。动手前用
SELECT @@innodb_buffer_pool_size/1024/1024/1024 确认实际生效值与是否被截断。
同机顺带一条:innodb_lock_wait_timeout 之前实测为 50 秒,而慢日志里锁等待(581 条)远多于大扫描(44 条),
这个阈值对业务侧的表现需要一并看一眼是否要调。
3. 主机B 的 aiimage-mysql-replica:活着,但没有业务在读
今晚取证:B 上有 aiimage-mysql-replica(mysql:8.4.8,限额 2 GiB,实占 1.67 GiB),
端口只对 docker 网络内可见(无 0.0.0.0:3306 映射),Java 侧数据源仍指向主机A 内网 192.168.0.171:3306。
它是"列表页大查询 / 报表 / 导出"这类读分流的现成落点,外观与货源的 LLM 阶段只读库、不依赖本地文件,
所以分流前提成立。先补两件取证再决定:副本是否仍在追主库(SHOW REPLICA STATUS 的滞后秒数、
是否 super_read_only)、以及 A 的瓶颈是否真的落在读上——上一轮慢日志分析的结论是锁等待为主,
把读挪走对锁等待无解。
4. 软件版本对象的真删开关仍是 dry-run
aiimage.software-version.retention-dry-run 默认 true(只记日志不删对象)。要启用真删,
先把日志里列出的候选清单人工核一遍(客户端安装包对象有历史事故,见 KKBROSWER 那条),核对后再置 false。
5. V137 的 20 个冗余索引还只是 INVISIBLE
V137 只把它们置为不可见,观察 1~2 周慢日志无退化后要追加 V138 执行 DROP,否则索引仍占空间、 仍随写入维护。V132/V133 是退役空号,V134~V137 已占用,下一号是 V138。
6. 后台「LLM 使用」的次数口径变了,要提前打招呼
外观专利合批后,同一批 10 行从约 20 次 HTTP 调用降到 3 次,统计次数约掉到 1/6.7。 这是口径变化不是掉量;要还原真实工作量应看"检测行数"而不是"调用次数"。花钱的降幅比次数小得多 (约 30–45%),且走的是用户自己的 apiKey 额度。
7. 监控指标:端点根本不存在,告警无从挂起
backend-java/pom.xml 只有 spring-boot-starter-actuator,没有 micrometer-registry-prometheus;
线上 GET 127.0.0.1:18080/actuator/prometheus = 404,/actuator 只列 health。
仓库里那 49 个 aiimage.* 指标名从未被任何面板抓到过(TaskObservabilityMetrics 无 @Component、
main 代码零调用者)。
要补的话,动作是"加 registry + 把 metrics 类接成 bean",但 18080 在主机A 是公网直连,
一旦暴露 /actuator/prometheus 就等于公网可读的运行指标,需要同步把它从公网收掉
(只留 127.0.0.1 或加守卫)。近期更省事的做法是直接用日志里已稳定的
taskId= / stage= / jobId= / costMs= / moduleType= 字段做告警。
8. backend/config.py 里的平台自身明文凭据
该文件被 git 跟踪,含生产库口令与 OSS secret。这与"result_json 存用户 apiKey"是两件事。 处置是轮换 + 改走 env + 清历史,三步都需要人执行(轮换会影响所有读这些值的服务,需同窗口发布)。
三、遗留:本地已上线,Gitea 远端还差 7 个提交
git push 今夜没落库(远端 master 仍是 56913563;本地依次为
8536ddb3、6a82697a、15384358、2d33f478、eaafd502、10dec56e,加上这份文档的收尾一笔)。
用 GIT_CURL_VERBOSE 定位到的真实原因不是网络慢,而是认证弹窗在等人:
01:58:27 <= Recv header: Www-Authenticate: Basic realm="Gitea"
01:58:27 run_command: 'git credential-helper-selector get' ← 弹"选哪个 helper"
01:59:57 run_command: 'git credential-manager get' ← 卡了 90 秒后才走到这里
工作站上没有任何可静默使用的凭据(cmdkey /list 无 git 条目、无 ~/.netrc、无 ~/.git-credentials、
各仓库 .git/config 的 remote URL 均无内嵌凭据),所以非交互推送必然挂在那里等一次人工输入。
三种解法,任选其一即可把这七笔推上去:
- 在有界面的终端里手跑一次
git push origin master,凭 GCM 弹窗输入; - 先定住 helper、跳过那 90 秒选择弹窗:
git config --global credential.helperselector.selected manager; - 或在 Gitea 建一个 access token 写进
~/.netrc(machine git.aishufu.top login <user> password <token>), 之后可全程非交互。
推完用这条回读确认:git rev-list --left-right --count origin/master...HEAD 应为 0 0。