perf(全链路): 连接池/事务边界/轮询与 IO 效率收口
Java: - LLM 180s 读超时不再被全局 call-timeout 静默截断成 90s(长思考请求被掐断→重试→付费网关二次计费) - 代理 HttpClient 缓存改有界 LRU(jikip 每次提取新 IP,无界缓存持续泄漏 selector 线程与连接池) - 12 个 service 的 Redis 任务锁移出 @Transactional(自旋最坏 10s 白占 DB 连接,池仅 30),远端对象删/传改 afterCommit - 结果文件 Job 闸门拒绝时不再回退内联执行(改重新入队,避免把背压转嫁给 MQ 消费线程) - imagevideo 每秒扫描加列投影、过期清理加 LIMIT;权限页整表查询改列投影(不再拉回密码哈希) - 哈希改 HexFormat;补 5 处"不能改"的技术依据注释(批量插入会丢回填主键、流式丢模板与图片等) 前端:4 个工具页轮询改轻量端点(带 fallback);PriceTrack 快照节流写盘;候选店铺表分页;页面隐藏时停表 客户端:HTTP 连接池按出口复用(Session 仍每请求新建,保持无跨请求状态);品牌检测 WIPO 逐请求握手; 代理配置按 mtime 缓存;串行任务改专属池;异常降级为标签页重连;紫鸟启动改端口轮询;模板编译缓存; 日志上报连接与落盘收口;Flask 版本 API 改按请求复用连接
This commit is contained in:
@@ -0,0 +1,70 @@
|
||||
package com.nanri.aiimage.common.util;
|
||||
|
||||
import java.util.Collections;
|
||||
import java.util.LinkedHashMap;
|
||||
import java.util.Map;
|
||||
import java.util.function.Function;
|
||||
|
||||
/**
|
||||
* 有界 LRU 缓存:容量超限时自动淘汰最久未使用的条目。
|
||||
*
|
||||
* <p>用于按「外部端点」缓存长生命周期资源(HttpClient / RestClient)。这类资源各自持有
|
||||
* 连接池与 selector 线程,无界累积会持续泄漏线程与内存:代理端点每次提取往往是新的
|
||||
* IP:port(jikip 提取),无上限的缓存只增不减。
|
||||
*
|
||||
* <p>淘汰时只从缓存移除引用,不做显式关闭:JDK 的 HttpClientImpl 注册了 Cleaner,
|
||||
* 对象不可达后由 GC 回收并关闭其 selector 线程;显式关闭反而可能打断仍在途的请求。
|
||||
*/
|
||||
public final class BoundedLruCache<K, V> {
|
||||
|
||||
/** 默认容量:代理端点数量级远小于此,足够覆盖热点端点又不至于累积。 */
|
||||
public static final int DEFAULT_MAX_SIZE = 64;
|
||||
|
||||
private final int maxSize;
|
||||
private final Map<K, V> store;
|
||||
|
||||
public BoundedLruCache() {
|
||||
this(DEFAULT_MAX_SIZE);
|
||||
}
|
||||
|
||||
public BoundedLruCache(int maxSize) {
|
||||
this.maxSize = Math.max(1, maxSize);
|
||||
// accessOrder=true 使 get 也刷新顺序(真正的 LRU);synchronizedMap 保证其线程安全
|
||||
this.store = Collections.synchronizedMap(new LinkedHashMap<>(16, 0.75f, true) {
|
||||
@Override
|
||||
protected boolean removeEldestEntry(Map.Entry<K, V> eldest) {
|
||||
return size() > BoundedLruCache.this.maxSize;
|
||||
}
|
||||
});
|
||||
}
|
||||
|
||||
/**
|
||||
* 取缓存值,缺失时用 loader 计算并放入。
|
||||
*
|
||||
* <p>与 {@code ConcurrentHashMap.computeIfAbsent} 不同,此处不保证 loader 的原子性:
|
||||
* 并发首次访问同一 key 时可能各自构造一次,随后其中一个覆盖另一个。对
|
||||
* HttpClient/RestClient 这类构造廉价且幂等的资源可接受,换来的是锁粒度更小。
|
||||
*/
|
||||
public V computeIfAbsent(K key, Function<K, V> loader) {
|
||||
V existing = store.get(key);
|
||||
if (existing != null) {
|
||||
return existing;
|
||||
}
|
||||
V created = loader.apply(key);
|
||||
store.put(key, created);
|
||||
return created;
|
||||
}
|
||||
|
||||
public int size() {
|
||||
return store.size();
|
||||
}
|
||||
|
||||
/** 当前容量上限,供日志与测试断言使用。 */
|
||||
public int maxSize() {
|
||||
return maxSize;
|
||||
}
|
||||
|
||||
public void clear() {
|
||||
store.clear();
|
||||
}
|
||||
}
|
||||
Reference in New Issue
Block a user