OwnerSunshine530 928de22a9b perf: RepEncoder 融合 28-slot 查表+池化为单次(减per-batch kernel启动,无新增同步) ...

延续 dense MoE 的胜因(消 per-batch 开销在评测端被放大见效)。28次embedding
+28次segment_reduce 融合为1次；用 numel 读shape避免同步；base累加无同步。
保留 _rep_forward_perslot 作等价对照。CONFIG.fuse_embedding 默认 True。

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

2026-06-15 11:50:11 +08:00

..

tests

perf: RepEncoder 融合 28-slot 查表+池化为单次(减per-batch kernel启动,无新增同步)

2026-06-15 11:50:11 +08:00

bench.py

feat: 嵌套张量变长 flash 注意力(--attn varlen)，统一 CONFIG.attn 分发

2026-06-15 09:06:11 +08:00

build_env.sh

fix: build_env.sh 简化为纯净版本（避免 CUDA 预热导致异常）

2026-06-12 21:55:09 +08:00

EXPERIMENTS.md

feat: infer.py 接入 CONFIG 实验开关 + 新增 bench.py 测量闭环

2026-06-14 16:48:38 +08:00

infer.py

perf: RepEncoder 融合 28-slot 查表+池化为单次(减per-batch kernel启动,无新增同步)

2026-06-15 11:50:11 +08:00

requirements.txt

revert: requirements.txt 还原为原始完整依赖列表

2026-06-12 21:24:22 +08:00