Dynamic Early Exit in Reasoning Models
Chenxu Yang · Qingyi Si · Yongjie Duan · Zheliang Zhu · Chenyu Zhu · Qiaowei Li · Minghui Chen · Zheng Lin · Weipinng Wang
首次获取该候选人的完整档案及 StartLux 评估共 20 积分;每位用户单独解锁,之后查看免费。主动刷新 20 积分。
实时查找电子邮箱,费用不超过20积分;未找到邮箱不扣费。
Chenxu Yang · Qingyi Si · Yongjie Duan · Zheliang Zhu · Chenyu Zhu · Qiaowei Li · Minghui Chen · Zheng Lin · Weipinng Wang
Dingyu Yao · Chenxu Yang · Zhengyang Tong · Zheng Lin · WEI LIU · Jian Luan · Weiping Wang
The Key-Value (KV) cache introduces substantial memory overhead during large language model (LLM) inference. Although existing vector quantization (VQ) methods reduce KV cache usage and provide flexible representational capacity across bit-widths, they suffer severe performance degradation at ult...
Chenxu Yang · Qingyi Si · Mz Dai · Dingyu Yao · Mingyu Zheng · Minghui Chen · Zheng Lin · Weiping Wang
Chenxu Yang · Qingyi Si · Lanrui Wang · Zheng Lin