Serendipity bc6e8307c5 revert: 移除 torch.compile（动态 batch 形状导致反复重编译，反而慢于不编译） ...

Sequence Packing 使每个 batch 序列长度不同，CUDA Graph 需反复重编译。
Flash Attention + FP16 是目前最优组合（94.5s, 56.98 分）。

2026-06-12 22:02:40 +08:00

..

build_env.sh

fix: build_env.sh 简化为纯净版本（避免 CUDA 预热导致异常）

2026-06-12 21:55:09 +08:00

infer.py

revert: 移除 torch.compile（动态 batch 形状导致反复重编译，反而慢于不编译）

2026-06-12 22:02:40 +08:00

requirements.txt

revert: requirements.txt 还原为原始完整依赖列表

2026-06-12 21:24:22 +08:00