KV Cache

破解LLM性能瓶颈，你掌握这两项注意力优化技术了吗？🔍

⚡️先说点儿“惊喜”——LLM卡在注意力上？你是不是也经常在堪模型训练日志的时候，眼睛盯到那行“OOM”就想直接砸键盘？别慌， 这里有两位“隐形英雄”，一个叫FlashAttention另一个叫PagedAttention它们像是暗巷里突然