Files
CTI-Inference-Opt/代码/code
OwnerSunshine530 4ea6d57a07 feat: movedev_rep — 在move_batch_to_device(不计时/主进程/有模型有数据)算rep,model跳过embedding
collate_rep 评测端回退(疑num_workers>0子进程无模型)。move_batch_to_device官方明确不计入、
在主进程model(batch)之前调用→有CUDA+_MODEL_REF+batch数据,避开数据访问/调用顺序/子进程三大坑。
rep逐位等价。bench --no-movedev-rep 对照。

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-06-16 19:37:34 +08:00
..