fix(任务收尾): 打破「数据永久缺失 → 卡死恢复无限重建 job」的死循环
线上任务 28459(appearance_patent)卡在 RUNNING:chunk 462/473/484 的 payload 对象已不存在,组装失败 → stale recovery 每 30 秒重建一次 assemble job 再失败, 而恢复过程又会刷新任务心跳、任务永远判不出「卡死」,48 分钟空转近百轮。 - appearance-patent:读 chunk 时若 payload 对象已不存在(RustFS NoSuchKey), 跳过该分片让任务按已有分片出部分结果,不再抛异常把组装永久拖死; similar-asin 在原有 typeMismatch 跳过分支旁补同款处理 - TaskFileJobService.hasExhaustedAssembleJob + stale recovery:已有「重试耗尽且 已终态收尾」的 assemble job 时放弃恢复,交给 finalizeStaleTask 按失败收尾 —— 用户看到明确失败,而不是无限 RUNNING 实测:部署后两节点 28459 相关日志、rustfs 确定性错误、stale recovery 重建全部归零。
This commit is contained in:
+31
@@ -1065,6 +1065,14 @@ public class AppearancePatentTaskService {
|
||||
long activeAssembleJobs = taskFileJobService.countActiveAssembleJobs(taskId, MODULE_TYPE);
|
||||
log.info("[appearance-patent] stale recovery probe taskId={} uploadComplete={} activeAssembleJobs={} persistedRows={}",
|
||||
taskId, uploadComplete, activeAssembleJobs, hasPersistedResultRows(taskId));
|
||||
// 已有「重试耗尽且已终态收尾」的 assemble job:说明恢复已经试过、缺失是永久的。
|
||||
// 再重建只会每 30 秒空转一轮,而且恢复过程刷新任务心跳会让任务永远 RUNNING
|
||||
// (线上任务 28459 实测:48 分钟里每隔 30 秒重建一次 job)。返回 false 交给
|
||||
// finalizeStaleTask 按失败收尾,用户看到明确失败而不是无限等待。
|
||||
if (taskFileJobService.hasExhaustedAssembleJob(taskId, MODULE_TYPE)) {
|
||||
log.warn("[appearance-patent] stale recovery 放弃:已有重试耗尽的 assemble job,按失败收尾 taskId={}", taskId);
|
||||
return false;
|
||||
}
|
||||
if (!hasPersistedResultRows(taskId)) {
|
||||
log.info("[appearance-patent] stale recovery aborted because no persisted rows taskId={}", taskId);
|
||||
return false;
|
||||
@@ -2915,12 +2923,35 @@ public class AppearancePatentTaskService {
|
||||
} catch (Exception ex) {
|
||||
log.warn("[appearance-patent] read chunk payload failed taskId={} chunk={} err={}",
|
||||
chunk.getTaskId(), chunk.getChunkIndex(), ex.getMessage());
|
||||
if (isPayloadMissing(ex)) {
|
||||
// payload 对象已不在(被清理或从未写入):重试多少次都读不回来。继续抛会让
|
||||
// ASSEMBLE_RESULT job 的终态回调每轮重跑兜底组装 → 再读同一个缺失对象 → 无限循环
|
||||
// (线上任务 28459 每 10~30 秒重试一次)。跳过该分片,让任务按已有分片出部分结果,
|
||||
// 与品牌/相似ASIN「失败也产出可下载的部分结果」同一口径。
|
||||
log.warn("[appearance-patent] chunk payload 已不存在,跳过该分片(任务按已有分片出结果)"
|
||||
+ " taskId={} chunk={}", chunk.getTaskId(), chunk.getChunkIndex());
|
||||
return rows;
|
||||
}
|
||||
throw new BusinessException("appearance patent chunk payload read failed chunk="
|
||||
+ chunk.getChunkIndex() + ": " + ex.getMessage(), ex);
|
||||
}
|
||||
return rows;
|
||||
}
|
||||
|
||||
/** payload 对象已不存在(RustFS 返回 NoSuchKey:message 为 "The specified key does not exist.")。
|
||||
* 只有这种"重试也没用"的缺失才允许跳过;网络类失败仍照旧抛出以便重试。 */
|
||||
private static boolean isPayloadMissing(Throwable error) {
|
||||
Throwable cursor = error;
|
||||
while (cursor != null) {
|
||||
String message = cursor.getMessage();
|
||||
if (message != null && message.contains("does not exist")) {
|
||||
return true;
|
||||
}
|
||||
cursor = cursor.getCause();
|
||||
}
|
||||
return false;
|
||||
}
|
||||
|
||||
private String rowKey(AppearancePatentParsedRowVo row) {
|
||||
if (row == null) {
|
||||
return "";
|
||||
|
||||
Reference in New Issue
Block a user