MetaAttention: A Unified and Performant Attention Framework across Hardware Backends
Feiyang Chen · Yu Cheng · Lei Wang · Yuqing Xia · Ziming Miao · Lingxiao Ma · Fan Yang · Jilong Xue · Tmall Group of Alibaba) · Mao Yang · Xingda Wei · Haibo Chen
首次获取该候选人的完整档案及 StartLux 评估共 20 积分;每位用户单独解锁,之后查看免费。主动刷新 20 积分。
实时查找电子邮箱,费用不超过20积分;未找到邮箱不扣费。
Feiyang Chen · Yu Cheng · Lei Wang · Yuqing Xia · Ziming Miao · Lingxiao Ma · Fan Yang · Jilong Xue · Tmall Group of Alibaba) · Mao Yang · Xingda Wei · Haibo Chen
Lei Wang · Yu Cheng · Yining Shi · Zhiwen Mo · Tmall Group of Alibaba) · Wenhao Xie · Tong Wu · Lingxiao Ma · Yuqing Xia · Jilong Xue · Fan Yang · Tmall Group of Alibaba)
Yizhao Gao · Shuming Guo · Shijie Cao · Yuqing Xia · Yu Cheng · Lei Wang · Lingxiao Ma · Yutao Sun · Tianzhu Ye · Li Dong · Hayden So · Yu Hua · Ting Cao · Fan Yang · Mao Yang
Yutao Sun · Tianzhu Ye · Li Dong · Yuqing Xia · Jian Chen · Yizhao Gao · Shijie Cao · Jianyong Wang · Furu Wei
Efficient long-sequence generation is a critical challenge for Large Language Models. While recent sparse decoding methods improve efficiency, they suffer from KV cache misalignment, where approximation errors accumulate and degrade generation quality. In this work, we propose Rectified Sparse At...