feat(collect-channel): 采集执行方按单判定并随 /parse 落库
「这一单交本机还是线上」原先是全局 yml aiimage.collect-routing.local-enabled, 一台服务器一个值,把同机所有账号捆成同一个执行方:本机开着的用户被迫走线上, 跑 Linux 兜底的用户也没法把某一单留在本机。现改为建单时逐单登记 biz_file_task.collect_channel(V183,可空=按模块默认),全局开关只留兜底窗口。 - 列可空且不回填:空值按模块默认解释,APPEARANCE_PATENT/SIMILAR_ASIN 读作 LOCAL、 其余读作 ONLINE,与撤掉的 AIIMAGE_COLLECT_LOCAL_* 出厂值逐字节等价, 历史单与未升级前端行为不变。 - TaskRetryCloneSupport.buildChild 必须继承通道:原单选了线上,重试掉回模块默认 等于悄悄换执行方。 - CollectChannel 用逐值比对而非 valueOf+catch 判「不可识别」:后者会把静默 catch 总数顶过 CatchSilenceRatchetTest 上限 1057。 - 两支建单快照 golden 随 collect_channel 键重建(只多出 collectChannel=null)。
This commit is contained in:
@@ -3,21 +3,17 @@ package com.nanri.aiimage.config;
|
||||
import lombok.Data;
|
||||
import org.springframework.boot.context.properties.ConfigurationProperties;
|
||||
|
||||
import java.util.LinkedHashMap;
|
||||
import java.util.Locale;
|
||||
import java.util.Map;
|
||||
|
||||
/**
|
||||
* 采集执行方路由:哪些模块优先交给本地客户端、多久没人领才由 Linux 兜底。
|
||||
* 采集执行路由的**兜底窗口**配置(2026-10-31 起只剩这一件事)。
|
||||
*
|
||||
* <p>2026-10-29 产品口径:外观专利(APPEARANCE_PATENT)与相似ASIN(SIMILAR_ASIN)默认
|
||||
* 「本地采集」。本地优先不等于只认本地——页面推了没人领时,PENDING 超过
|
||||
* {@code linux-fallback-minutes} 就交 Linux 后台认领,否则本地机器全关时任务会无限排队
|
||||
* (PENDING 已不再按时间判死)。
|
||||
* <p>「这一单交给本机客户端还是交给 Linux/外机 Windows」已经下沉为任务级字段
|
||||
* {@code biz_file_task.collect_channel}(V183,界面单选框,默认本机),不再由本类的全局
|
||||
* 开关决定;原先的 {@code local-enabled} 一台服务器一个值,把同机上所有账号捆成同一个
|
||||
* 执行方,本地机器开着的用户被迫走线上,反之亦然。
|
||||
*
|
||||
* <p><b>未登记在 {@code local-enabled} 里的模块一律按「非本地」处理</b>,保持它们原有的
|
||||
* 内部认领等待窗口({@code internal-min-pending-minutes})。默认值刻意不是 true:
|
||||
* 开关只对点名的模块生效,新模块不会被悄悄卷进本地优先。
|
||||
* <p>本类保留的窗口管的是另一件事:通道选了 LOCAL、但那台机器当天没开,任务会一直停在
|
||||
* PENDING(PENDING 已不再按时间判死)。超过 {@code linux-fallback-minutes} 还没被本地领走,
|
||||
* 就允许 Linux 接管,避免无限排队。
|
||||
*/
|
||||
@Data
|
||||
@ConfigurationProperties(prefix = "aiimage.collect-routing")
|
||||
@@ -29,19 +25,9 @@ public class CollectRoutingProperties {
|
||||
/** 相似ASIN(货源查询)模块名。 */
|
||||
public static final String MODULE_SIMILAR_ASIN = "SIMILAR_ASIN";
|
||||
|
||||
/** 模块 → 是否本地采集;键为大写模块名。 */
|
||||
private Map<String, Boolean> localEnabled = new LinkedHashMap<>();
|
||||
|
||||
/** 本地采集模块在 PENDING 超过多少分钟后允许 Linux 兜底认领。 */
|
||||
/** LOCAL 通道的任务在 PENDING 超过多少分钟后允许 Linux 兜底认领。 */
|
||||
private long linuxFallbackMinutes = 30L;
|
||||
|
||||
public boolean isLocal(String moduleType) {
|
||||
if (moduleType == null || moduleType.isBlank()) {
|
||||
return false;
|
||||
}
|
||||
return Boolean.TRUE.equals(localEnabled.get(moduleType.trim().toUpperCase(Locale.ROOT)));
|
||||
}
|
||||
|
||||
/** 兜底窗口下限 1 分钟:配 0/负数等于关掉本地优先,不允许静默变成「Linux 立刻抢」。 */
|
||||
public long safeLinuxFallbackMinutes() {
|
||||
return Math.max(1L, linuxFallbackMinutes);
|
||||
|
||||
+7
@@ -30,4 +30,11 @@ public class AppearancePatentParseRequest {
|
||||
@JsonAlias({"apiKey"})
|
||||
@Schema(description = "调用 LLM API 的任务级密钥。非必填;为空时后端按用户密钥配置兜底。")
|
||||
private String apiKey;
|
||||
|
||||
@JsonProperty("collect_channel")
|
||||
@JsonAlias({"collectChannel"})
|
||||
@Schema(description = "这一单的采集执行通道:LOCAL=本机客户端采,ONLINE=Linux 或外机 Windows。"
|
||||
+ "非必填;留空或不可识别的值按模块默认执行(外观专利默认 LOCAL),与未升级前端的行为一致。",
|
||||
example = "LOCAL", allowableValues = {"LOCAL", "ONLINE"})
|
||||
private String collectChannel;
|
||||
}
|
||||
|
||||
+6
-4
@@ -212,10 +212,12 @@ public class AppearancePatentTaskService extends AbstractFileTaskPipeline<Appear
|
||||
throw new com.nanri.aiimage.common.exception.BusinessException(com.nanri.aiimage.modules
|
||||
.usersecret.service.UserTaskGuardService.PAUSED_MESSAGE);
|
||||
}
|
||||
// 2026-10-29 本地采集开关:开着就恢复「页面推本地客户端」的启动语义;
|
||||
// 关着走原后台语义(记录支持里对 PENDING 明确报「已切换后台自动执行」)。
|
||||
if (collectRoutingProperties != null
|
||||
&& collectRoutingProperties.isLocal(com.nanri.aiimage.config.CollectRoutingProperties.MODULE_APPEARANCE_PATENT)) {
|
||||
// 执行方由这一单的通道决定(V183 collect_channel,建单时界面单选,默认本机):
|
||||
// LOCAL 恢复「页面推本地客户端」的启动语义;ONLINE 走原后台语义(记录支持里对 PENDING
|
||||
// 明确报「已切换后台自动执行」),任务留在 PENDING 等 Linux/外机认领。
|
||||
FileTaskEntity channelTask = requireSubmissionTask(taskId);
|
||||
if (com.nanri.aiimage.modules.task.model.CollectChannel
|
||||
.resolve(channelTask.getCollectChannel(), channelTask.getModuleType()).isLocal()) {
|
||||
activateForLocalClient(taskId, userId);
|
||||
return;
|
||||
}
|
||||
|
||||
+3
@@ -194,6 +194,9 @@ public final class AppearancePatentParsePipeline {
|
||||
|
||||
FileTaskEntity task = headerFactory.create(TaskStatuses.FileTask.PENDING, "PYTHON_QUEUE", request.getUserId(), deviceId,
|
||||
sourceFiles.size());
|
||||
// 执行方在这一单选(界面 LOCAL/ONLINE 单选框,V183);未登记=按模块默认,历史行为不变。
|
||||
task.setCollectChannel(com.nanri.aiimage.modules.task.model.CollectChannel
|
||||
.persistedValue(request.getCollectChannel()));
|
||||
task.setSuccessFileCount(0);
|
||||
task.setFailedFileCount(0);
|
||||
task.setRequestJson(jsonWriter.write(request, "序列化解析结果失败"));
|
||||
|
||||
+7
@@ -40,4 +40,11 @@ public class SimilarAsinParseRequest {
|
||||
@JsonAlias({"categorySwitch"})
|
||||
@Schema(description = "传递给 LLM 的 category_switch 类目检测开关,true 为开启,false 为关闭。")
|
||||
private Boolean categorySwitch = Boolean.FALSE;
|
||||
|
||||
@JsonProperty("collect_channel")
|
||||
@JsonAlias({"collectChannel"})
|
||||
@Schema(description = "这一单的采集执行通道:LOCAL=本机客户端采,ONLINE=Linux 或外机 Windows。"
|
||||
+ "非必填;留空或不可识别的值按模块默认执行(相似ASIN 默认 LOCAL),与未升级前端的行为一致。",
|
||||
example = "LOCAL", allowableValues = {"LOCAL", "ONLINE"})
|
||||
private String collectChannel;
|
||||
}
|
||||
|
||||
+8
-4
@@ -450,6 +450,9 @@ public class SimilarAsinTaskService implements SimilarAsinPipelineHost {
|
||||
task.setTaskNo(MODULE_TYPE + "-" + IdUtil.getSnowflakeNextIdStr());
|
||||
task.setModuleType(MODULE_TYPE);
|
||||
task.setTaskMode("PYTHON_QUEUE");
|
||||
// 执行方在这一单选(界面 LOCAL/ONLINE 单选框,V183);未登记=按模块默认,历史行为不变。
|
||||
task.setCollectChannel(com.nanri.aiimage.modules.task.model.CollectChannel
|
||||
.persistedValue(request.getCollectChannel()));
|
||||
task.setStatus(STATUS_PENDING);
|
||||
task.setSourceFileCount(sourceFiles.size());
|
||||
task.setSuccessFileCount(0);
|
||||
@@ -547,11 +550,12 @@ public class SimilarAsinTaskService implements SimilarAsinPipelineHost {
|
||||
throw new BusinessException("任务不存在");
|
||||
}
|
||||
ownershipSupport().ensureTaskOwnedByCurrentInstance(task, "activate");
|
||||
// 2026-10-29 本地采集开关:关闭时页面不再推本机客户端,任务留 PENDING 等 Linux 后台认领。
|
||||
// 执行方由这一单的通道决定(V183 collect_channel,建单时界面单选,默认本机):
|
||||
// 选了线上的单子页面不再推本机客户端,任务留 PENDING 等 Linux/外机认领;
|
||||
// 这里把「点启动」明确拒掉,避免旧页面缓存继续推队列造成与后台双跑。
|
||||
if (collectRoutingProperties != null
|
||||
&& !collectRoutingProperties.isLocal(com.nanri.aiimage.config.CollectRoutingProperties.MODULE_SIMILAR_ASIN)) {
|
||||
throw new BusinessException("相似ASIN已切换后台自动执行,无需打开客户端,提交后稍候自动开始");
|
||||
if (!com.nanri.aiimage.modules.task.model.CollectChannel
|
||||
.resolve(task.getCollectChannel(), task.getModuleType()).isLocal()) {
|
||||
throw new BusinessException("本单已选择线上采集,无需打开客户端,提交后稍候自动开始");
|
||||
}
|
||||
// 只允许 PENDING→RUNNING(条件更新):与客户端「兜底拉取」的原子认领互斥,
|
||||
// 谁先翻转谁执行,避免页面与客户端重复执行同一任务
|
||||
|
||||
+11
-8
@@ -2,6 +2,7 @@ package com.nanri.aiimage.modules.task.controller;
|
||||
|
||||
import com.nanri.aiimage.common.api.ApiResponse;
|
||||
import com.nanri.aiimage.config.CollectRoutingProperties;
|
||||
import com.nanri.aiimage.modules.task.model.CollectChannel;
|
||||
import com.nanri.aiimage.modules.task.model.vo.CollectRoutingVo;
|
||||
import io.swagger.v3.oas.annotations.Operation;
|
||||
import io.swagger.v3.oas.annotations.tags.Tag;
|
||||
@@ -11,25 +12,27 @@ import org.springframework.web.bind.annotation.RequestMapping;
|
||||
import org.springframework.web.bind.annotation.RestController;
|
||||
|
||||
/**
|
||||
* 专利/货源的本地采集开关查询。
|
||||
* 采集通道的<b>模块默认值</b>查询(V183 起不再决定执行方)。
|
||||
*
|
||||
* <p>前端据此决定「启动」按钮走哪条链路:本地采集开着就取出队列载荷推本机客户端,
|
||||
* 关着就只建单、等 Linux 后台认领。开关的唯一真源在服务端配置
|
||||
* ({@code aiimage.collect-routing.local-enabled}),前端不自己保存副本。
|
||||
* <p>2026-10-31 起「这一单交给本机还是线上」是建单时界面单选、写进
|
||||
* {@code biz_file_task.collect_channel} 的任务级字段;本端点只回答「这一单没登记通道时
|
||||
* 按哪一侧兜」,前端拿它做单选框的默认选中项,不自己保存副本。历史任务与未升级前端
|
||||
* 因此仍按这里说的默认走。
|
||||
*/
|
||||
@RestController
|
||||
@RequiredArgsConstructor
|
||||
@RequestMapping("/api/collect-routing")
|
||||
@Tag(name = "采集路由", description = "专利/货源的本地采集开关(前端读取后决定推送本地还是提交后台)")
|
||||
@Tag(name = "采集路由", description = "各模块未登记通道时的默认执行方(前端读取后作为单选框默认选中项)")
|
||||
public class CollectRoutingController {
|
||||
|
||||
private final CollectRoutingProperties properties;
|
||||
|
||||
@GetMapping
|
||||
@Operation(summary = "查询本地采集开关", description = "返回外观专利与相似ASIN当前是否走本地采集。只读,无副作用。")
|
||||
@Operation(summary = "查询新建任务的默认采集通道",
|
||||
description = "返回外观专利与相似ASIN在「这一单没登记通道」时按哪一侧执行。只读,无副作用。")
|
||||
public ApiResponse<CollectRoutingVo> routing() {
|
||||
return ApiResponse.success(new CollectRoutingVo(
|
||||
properties.isLocal(CollectRoutingProperties.MODULE_APPEARANCE_PATENT),
|
||||
properties.isLocal(CollectRoutingProperties.MODULE_SIMILAR_ASIN)));
|
||||
CollectChannel.defaultFor(CollectRoutingProperties.MODULE_APPEARANCE_PATENT).isLocal(),
|
||||
CollectChannel.defaultFor(CollectRoutingProperties.MODULE_SIMILAR_ASIN).isLocal()));
|
||||
}
|
||||
}
|
||||
|
||||
@@ -0,0 +1,79 @@
|
||||
package com.nanri.aiimage.modules.task.model;
|
||||
|
||||
import com.nanri.aiimage.config.CollectRoutingProperties;
|
||||
|
||||
import java.util.Locale;
|
||||
|
||||
/**
|
||||
* 任务级采集执行通道:这一单交给用户自己的机器采,还是交给 Linux/外机 Windows 采。
|
||||
*
|
||||
* <p>建单时由界面单选框写入 {@code biz_file_task.collect_channel}(V183),默认本机。
|
||||
* 它取代了原先唯一的全局 {@code aiimage.collect-routing.local-enabled} 一档——那一档现在
|
||||
* 只剩兜底窗口,不再决定执行方。
|
||||
*
|
||||
* <p>列可空,且**不回填**:空值按模块默认解释,外观专利/相似ASIN 读作 {@link #LOCAL}、
|
||||
* 其余模块读作 {@link #ONLINE},与 V183 之前 {@code AIIMAGE_COLLECT_LOCAL_*} 的出厂值
|
||||
* {@code true} 逐字等价。未升级的客户端与全部历史任务因此行为不变。
|
||||
*/
|
||||
public enum CollectChannel {
|
||||
|
||||
/** 本机客户端采集(默认)。 */
|
||||
LOCAL,
|
||||
|
||||
/** 线上采集:Linux 后台 worker 或外机 Windows。 */
|
||||
ONLINE;
|
||||
|
||||
/** 该模块在没有显式登记通道时的默认执行方。 */
|
||||
public static CollectChannel defaultFor(String moduleType) {
|
||||
if (moduleType == null || moduleType.isBlank()) {
|
||||
return ONLINE;
|
||||
}
|
||||
String key = moduleType.trim().toUpperCase(Locale.ROOT);
|
||||
if (CollectRoutingProperties.MODULE_APPEARANCE_PATENT.equals(key)
|
||||
|| CollectRoutingProperties.MODULE_SIMILAR_ASIN.equals(key)) {
|
||||
return LOCAL;
|
||||
}
|
||||
return ONLINE;
|
||||
}
|
||||
|
||||
/** 解析库里存的通道值;空或不可识别时回落到该模块的默认(不让一个脏值把单子永久饿死)。 */
|
||||
public static CollectChannel resolve(String stored, String moduleType) {
|
||||
CollectChannel registered = parseOrNull(stored);
|
||||
return registered == null ? defaultFor(moduleType) : registered;
|
||||
}
|
||||
|
||||
/** 归一化外部(界面/接口)传入的通道值;不可识别返回 null,由调用方按「不登记」处理。 */
|
||||
public static CollectChannel ofNullable(String raw) {
|
||||
return parseOrNull(raw);
|
||||
}
|
||||
|
||||
/** 按名字取通道;空或不可识别返回 {@code null},由调用方决定兜法(不登记/回落默认)。 */
|
||||
private static CollectChannel parseOrNull(String raw) {
|
||||
if (raw == null || raw.isBlank()) {
|
||||
return null;
|
||||
}
|
||||
// 逐值比对而不是 valueOf+catch:拿异常当控制流会往静默 catch 棘轮上叠账,
|
||||
// 而这里要的「不可识别」本来就是一个正常的空结果。
|
||||
String key = raw.trim().toUpperCase(Locale.ROOT);
|
||||
for (CollectChannel channel : values()) {
|
||||
if (channel.name().equals(key)) {
|
||||
return channel;
|
||||
}
|
||||
}
|
||||
return null;
|
||||
}
|
||||
|
||||
/**
|
||||
* 建单时写库用的归一值:可识别返回大写枚举名,空或不可识别返回 {@code null}=「不登记通道」,
|
||||
* 由 {@link #defaultFor(String)} 按模块兜。调用方不需要再判空——一个脏值不该让单子饿死,
|
||||
* 也不该让界面的一次误传把执行方永久定死。
|
||||
*/
|
||||
public static String persistedValue(String raw) {
|
||||
CollectChannel channel = parseOrNull(raw);
|
||||
return channel == null ? null : channel.name();
|
||||
}
|
||||
|
||||
public boolean isLocal() {
|
||||
return this == LOCAL;
|
||||
}
|
||||
}
|
||||
+2
@@ -16,6 +16,8 @@ public class FileTaskEntity {
|
||||
private String taskNo;
|
||||
private String moduleType;
|
||||
private String taskMode;
|
||||
/** 采集执行通道 LOCAL/ONLINE(V183);空=按模块默认,见 {@code CollectChannel}。 */
|
||||
private String collectChannel;
|
||||
private String status;
|
||||
private Integer sourceFileCount;
|
||||
private Integer successFileCount;
|
||||
|
||||
+32
-26
@@ -5,6 +5,7 @@ import com.baomidou.mybatisplus.core.conditions.update.LambdaUpdateWrapper;
|
||||
import com.nanri.aiimage.config.CollectRoutingProperties;
|
||||
import com.nanri.aiimage.config.InstanceMetadata;
|
||||
import com.nanri.aiimage.modules.task.mapper.FileTaskMapper;
|
||||
import com.nanri.aiimage.modules.task.model.CollectChannel;
|
||||
import com.nanri.aiimage.modules.task.model.entity.FileTaskEntity;
|
||||
import com.nanri.aiimage.modules.task.model.vo.TaskClientPullVo;
|
||||
import com.nanri.aiimage.modules.task.spi.ClientTaskPullSpi;
|
||||
@@ -30,9 +31,10 @@ import java.util.Map;
|
||||
* 只挑创建超过 N 分钟仍是 PENDING 的本用户任务,逐条用条件更新认领(PENDING→RUNNING),
|
||||
* 只有把状态翻过来的调用方算领取成功 —— 与页面 activate 天然互斥,不会重复执行。
|
||||
*
|
||||
* <p>2026-10-29 起按 {@link CollectRoutingProperties} 分两档路由:本地采集模块只允许客户端领;
|
||||
* Linux 内部认领对本地模块要等 {@code linux-fallback-minutes} 的兜底窗口,对非本地模块保持
|
||||
* 原有的 {@code internal-min-pending-minutes}。详见 {@link #pullPendingTasksInternal(List)}。
|
||||
* <p>2026-10-31 起执行方由<b>这一单自己</b>决定({@code biz_file_task.collect_channel},V183):
|
||||
* LOCAL 的单只允许在线客户端领,Linux 内部认领要等满 {@code linux-fallback-minutes} 的兜底窗口;
|
||||
* ONLINE 的单(含未登记通道的非本地模块)保持原有的 {@code internal-min-pending-minutes}。
|
||||
* 详见 {@link #pullPendingTasksInternal(List)}。
|
||||
*
|
||||
* <p>开关 {@code aiimage.client-task-pull.enabled} 默认关闭;模块白名单默认只放"执行参数全在服务端"
|
||||
* 的模块,其余模块实现 {@link ClientTaskPullSpi} 后可逐步加入。
|
||||
@@ -118,10 +120,10 @@ public class TaskClientPullService {
|
||||
*/
|
||||
@PostConstruct
|
||||
public void logEffectiveConfig() {
|
||||
log.info("[client-task-pull] 生效配置 enabled={} internalEnabled={} internalMinPendingMinutes={} moduleTypes={} minPendingMinutes={} limit={} handlers={} localEnabled={} linuxFallbackMinutes={}",
|
||||
log.info("[client-task-pull] 生效配置 enabled={} internalEnabled={} internalMinPendingMinutes={} moduleTypes={} minPendingMinutes={} limit={} handlers={} linuxFallbackMinutes={}",
|
||||
enabled, internalEnabled, internalMinPendingMinutes, moduleTypes, minPendingMinutes,
|
||||
Math.max(1, Math.min(limit, MAX_LIMIT)), pullHandlers.keySet(),
|
||||
collectRoutingProperties.getLocalEnabled(), collectRoutingProperties.safeLinuxFallbackMinutes());
|
||||
collectRoutingProperties.safeLinuxFallbackMinutes());
|
||||
}
|
||||
|
||||
/** 拉取并认领该用户"长期未被领取"的任务,按创建时间升序返回,最多 limit 条。 */
|
||||
@@ -137,24 +139,26 @@ public class TaskClientPullService {
|
||||
log.warn("[client-task-pull] 模块白名单为空,本次不拉取 userId={}", userId);
|
||||
return List.of();
|
||||
}
|
||||
// 只拉本地采集模块:关掉本地开关的模块只认 Linux 后台,客户端拿到会算抢跑
|
||||
types = types.stream().filter(collectRoutingProperties::isLocal).toList();
|
||||
if (types.isEmpty()) {
|
||||
log.info("[client-task-pull] 白名单模块均已切换 Linux 后台执行,客户端不拉取 userId={} moduleTypes={}",
|
||||
userId, moduleTypes);
|
||||
return List.of();
|
||||
}
|
||||
// 通道由这一单自己说(V183 collect_channel):选了线上的单子客户端不能领,领了就是抢跑。
|
||||
long startedAt = System.currentTimeMillis();
|
||||
LocalDateTime cutoff = LocalDateTime.now(DB_ZONE).minusMinutes(Math.max(1L, minPendingMinutes));
|
||||
int safeLimit = Math.max(1, Math.min(limit, MAX_LIMIT));
|
||||
List<FileTaskEntity> candidates = fileTaskMapper.selectList(new LambdaQueryWrapper<FileTaskEntity>()
|
||||
.select(FileTaskEntity::getId, FileTaskEntity::getModuleType, FileTaskEntity::getCreatedAt)
|
||||
.eq(FileTaskEntity::getUserId, userId)
|
||||
.eq(FileTaskEntity::getStatus, STATUS_PENDING)
|
||||
.in(FileTaskEntity::getModuleType, types)
|
||||
.lt(FileTaskEntity::getCreatedAt, cutoff)
|
||||
.orderByAsc(FileTaskEntity::getCreatedAt)
|
||||
.last("limit " + safeLimit));
|
||||
.select(FileTaskEntity::getId, FileTaskEntity::getModuleType,
|
||||
FileTaskEntity::getCollectChannel, FileTaskEntity::getCreatedAt)
|
||||
.eq(FileTaskEntity::getUserId, userId)
|
||||
.eq(FileTaskEntity::getStatus, STATUS_PENDING)
|
||||
.in(FileTaskEntity::getModuleType, types)
|
||||
.lt(FileTaskEntity::getCreatedAt, cutoff)
|
||||
.orderByAsc(FileTaskEntity::getCreatedAt)
|
||||
.last("limit " + safeLimit))
|
||||
.stream()
|
||||
.filter(task -> CollectChannel.resolve(task.getCollectChannel(), task.getModuleType()).isLocal())
|
||||
.toList();
|
||||
if (candidates.isEmpty() && !types.isEmpty()) {
|
||||
log.info("[client-task-pull] 白名单内没有本机通道的排队任务,本次不拉取 userId={} moduleTypes={}",
|
||||
userId, moduleTypes);
|
||||
}
|
||||
List<TaskClientPullVo> claimed = claimCandidates(candidates, "userId=" + userId);
|
||||
log.info("[client-task-pull] 拉取完成 userId={} 候选={} 认领={} 耗时={}ms",
|
||||
userId, candidates.size(), claimed.size(), System.currentTimeMillis() - startedAt);
|
||||
@@ -168,10 +172,10 @@ public class TaskClientPullService {
|
||||
* 独立开关 {@code aiimage.client-task-pull.internal-enabled},与客户端开关解耦:
|
||||
* 客户端侧未升级/未开启时也能单独让服务端 worker 上线。
|
||||
*
|
||||
* <p><b>2026-10-29 本地优先</b>:本地采集模块({@code aiimage.collect-routing.local-enabled})
|
||||
* 的任务要让位给本地客户端——PENDING 超过 {@code linux-fallback-minutes} 还没被本地领取,
|
||||
* 才允许这里接管;非本地模块保持 {@code internal-min-pending-minutes} 的原窗口。
|
||||
* 没有这层过滤,页面刚把任务推给客户端,Linux 就会在 2 分钟后抢走并双跑。
|
||||
* <p><b>2026-10-31 按单通道</b>:这一单自己登记了 {@code collect_channel}(V183)就按它判;
|
||||
* LOCAL 通道的任务要让位给本地客户端——PENDING 超过 {@code linux-fallback-minutes} 还没被本地
|
||||
* 领取,才允许这里接管;ONLINE 与未登记通道的非本地模块保持 {@code internal-min-pending-minutes}
|
||||
* 的原窗口。没有这层过滤,页面刚把任务推给客户端,Linux 就会在 2 分钟后抢走并双跑。
|
||||
*/
|
||||
public List<TaskClientPullVo> pullPendingTasksInternal(List<String> moduleTypes) {
|
||||
if (!internalEnabled) {
|
||||
@@ -192,7 +196,8 @@ public class TaskClientPullService {
|
||||
LocalDateTime localCutoff = now.minusMinutes(localFallbackMinutes);
|
||||
int safeLimit = Math.max(1, Math.min(limit, MAX_LIMIT));
|
||||
List<FileTaskEntity> candidates = fileTaskMapper.selectList(new LambdaQueryWrapper<FileTaskEntity>()
|
||||
.select(FileTaskEntity::getId, FileTaskEntity::getModuleType, FileTaskEntity::getCreatedAt)
|
||||
.select(FileTaskEntity::getId, FileTaskEntity::getModuleType,
|
||||
FileTaskEntity::getCollectChannel, FileTaskEntity::getCreatedAt)
|
||||
.eq(FileTaskEntity::getStatus, STATUS_PENDING)
|
||||
.in(FileTaskEntity::getModuleType, types)
|
||||
.lt(FileTaskEntity::getCreatedAt, cutoff)
|
||||
@@ -200,13 +205,14 @@ public class TaskClientPullService {
|
||||
.last("limit " + safeLimit));
|
||||
if (!candidates.isEmpty()) {
|
||||
int before = candidates.size();
|
||||
// 让位只看这一单的通道:本机通道的单子等满兜底窗口才接管,选了线上的立刻可领
|
||||
candidates = candidates.stream()
|
||||
.filter(task -> !collectRoutingProperties.isLocal(task.getModuleType())
|
||||
.filter(task -> !CollectChannel.resolve(task.getCollectChannel(), task.getModuleType()).isLocal()
|
||||
|| task.getCreatedAt() == null
|
||||
|| !task.getCreatedAt().isAfter(localCutoff))
|
||||
.toList();
|
||||
if (candidates.size() < before) {
|
||||
log.info("[client-task-pull] 内部认领让位本地:本轮跳过 {} 条本地采集模块的排队任务(兜底窗口 {} 分钟)",
|
||||
log.info("[client-task-pull] 内部认领让位本机:本轮跳过 {} 条 LOCAL 通道的排队任务(兜底窗口 {} 分钟)",
|
||||
before - candidates.size(), localFallbackMinutes);
|
||||
}
|
||||
}
|
||||
|
||||
+2
@@ -49,6 +49,8 @@ public class TaskRetryCloneSupport {
|
||||
child.setTaskNo(original.getModuleType() + "-" + IdUtil.getSnowflakeNextIdStr());
|
||||
child.setModuleType(original.getModuleType());
|
||||
child.setTaskMode(original.getTaskMode());
|
||||
// 通道必须继承:用户在原单上选了线上,重试却掉回模块默认(本机),等于悄悄换执行方。
|
||||
child.setCollectChannel(original.getCollectChannel());
|
||||
child.setStatus(STATUS_PENDING);
|
||||
child.setSourceFileCount(original.getSourceFileCount());
|
||||
child.setSuccessFileCount(0);
|
||||
|
||||
@@ -17,10 +17,8 @@ AIIMAGE_COST_GUARD_LLM_WINDOW_TOKENS_THRESHOLD=600000
|
||||
AIIMAGE_COST_GUARD_PLATFORM_PROXY_DAILY_THRESHOLD=2000
|
||||
AIIMAGE_COST_GUARD_SHARED_ACCOUNTS_THRESHOLD=3
|
||||
|
||||
# 采集执行方路由:专利/货源默认本地采集;关掉则只由 Linux 后台执行。
|
||||
# 本地采集的任务 PENDING 超过该分钟数还没被客户端领走,才允许 Linux 兜底。
|
||||
AIIMAGE_COLLECT_LOCAL_APPEARANCE_PATENT=true
|
||||
AIIMAGE_COLLECT_LOCAL_SIMILAR_ASIN=true
|
||||
# 采集执行通道:由建单时界面单选(biz_file_task.collect_channel,V183),不再有全局开关。
|
||||
# 本机通道的任务 PENDING 超过该分钟数还没被客户端领走,才允许 Linux 兜底。
|
||||
AIIMAGE_COLLECT_LINUX_FALLBACK_MINUTES=30
|
||||
|
||||
AIIMAGE_DB_URL=jdbc:mysql://127.0.0.1:3306/aiimage?useUnicode=true&characterEncoding=UTF-8&serverTimezone=Asia/Shanghai&useSSL=false
|
||||
|
||||
@@ -390,9 +390,6 @@ aiimage:
|
||||
# 关掉某模块=该模块只由 Linux 后台执行,页面不再推送。未登记的模块按「非本地」处理,
|
||||
# 保持内部认领原有的 internal-min-pending-minutes,不被卷进本地优先。
|
||||
collect-routing:
|
||||
local-enabled:
|
||||
APPEARANCE_PATENT: ${AIIMAGE_COLLECT_LOCAL_APPEARANCE_PATENT:true}
|
||||
SIMILAR_ASIN: ${AIIMAGE_COLLECT_LOCAL_SIMILAR_ASIN:true}
|
||||
linux-fallback-minutes: ${AIIMAGE_COLLECT_LINUX_FALLBACK_MINUTES:30}
|
||||
# 客户端兜底拉取:页面没推送成功(只解析没点启动 / 推送前关页面 / 纯浏览器打开)、
|
||||
# 长期停在 PENDING 的任务由在线客户端领走执行。2026-10-29 起 PENDING 不再按 2 小时判死
|
||||
|
||||
@@ -0,0 +1,24 @@
|
||||
-- V183: 任务级采集执行通道(本地采集 / 线上采集)
|
||||
--
|
||||
-- 背景(2026-10-31 用户拍板):
|
||||
-- 「这一单在用户自己机器上采,还是交给 Linux/外机 Windows 采」原先只有**全局** yml
|
||||
-- `aiimage.collect-routing.local-enabled` 一档,一台服务器一个值,所有账号被捆在一起:
|
||||
-- 本地机器开着的用户被迫走线上,Linux 兜底在跑的用户也没法把某一单留在本机。
|
||||
-- 现在改成建单时由界面单选框决定,默认本机。
|
||||
--
|
||||
-- 设计口径:
|
||||
-- * 可空:NULL=「这一单没登记通道」,由 `CollectChannel.defaultFor(moduleType)` 兜,
|
||||
-- 外观专利/相似ASIN 读作 LOCAL、其余模块读作非本地——与 V183 之前出厂值
|
||||
-- (`AIIMAGE_COLLECT_LOCAL_APPEARANCE_PATENT/SIMILAR_ASIN:true`)逐字等价,
|
||||
-- 所以历史行与未升级客户端的行为不变,不需要回填;
|
||||
-- * 不加索引:两条认领查询本来就按 (user_id|status, module_type, created_at) 收口,
|
||||
-- 通道是在已筛出的候选上判定的(量级 = 单轮 limit),加列只为语义显式,不为加速;
|
||||
-- * 不动 `linux-fallback-minutes`:它管的是「本地机没开时别让单子饿死」的兜底窗口,
|
||||
-- 与「这一单选谁」是两件事,不能一起删。
|
||||
--
|
||||
-- 回滚(手工):
|
||||
-- ALTER TABLE `biz_file_task` DROP COLUMN `collect_channel`;
|
||||
|
||||
ALTER TABLE `biz_file_task`
|
||||
ADD COLUMN `collect_channel` VARCHAR(16) NULL
|
||||
COMMENT '采集执行通道:LOCAL=本机客户端采/ONLINE=Linux 或外机 Windows;空=按模块默认' AFTER `task_mode`;
|
||||
Reference in New Issue
Block a user