OwnerSunshine530 7791674a32 feat: 嵌套张量变长 flash 注意力(--attn varlen)，统一 CONFIG.attn 分发 ...

每用户当独立序列、is_causal 块对角因果，一个 flash 内核处理一 batch 内所有
用户，无稠密mask/无padding浪费/开销远低于FlexAttention。CONFIG.attn∈
{sdpa(默认),flex,varlen}；bench --attn varlen；test_equiv 加 varlen 等价测试。

Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>

2026-06-15 09:06:11 +08:00

..

code

feat: 嵌套张量变长 flash 注意力(--attn varlen)，统一 CONFIG.attn 分发

2026-06-15 09:06:11 +08:00

main.ipynb

chore: 更新 notebook 环境和文档

2026-06-12 20:51:14 +08:00

任务提交接口说明.md

chore: 初始化 CTI 推理优化项目

2026-06-03 13:49:30 +08:00