Context Cache

如何解析Context Cache在prompt系列54中的代码示例及工作原理？

喂喂！最近搞大模型推理是不是总被首Token卡脖子？前一秒刚发完请求后一秒就开始刷手机等后来啊——别慌！今天咱就唠唠能治这个病的 Context Cache！ 我跟你交个底... 不是那种复制粘贴论文公式哦——我尽量用咱俩唠嗑的方式扒开它到