喜报丨集成电路学院王中风教授再次荣获IEEE VLSI会刊年度最佳论文奖

 

 

 

 

 

       近日,我院王中风教授合著的论文《An Algorithm-Hardware Co-Optimized Framework for Accelerating N:M Sparse Transformers》,荣获2025年IEEE超大规模集成电路系统会刊 (IEEE Transactions on Very Large Scale Integration Systems,以下简称VLSI会刊) 年度最佳论文奖。

 

 

 

 

       获奖论文提出了一种算法-硬件协同优化的Transformer稀疏加速框架。Transformer模型是当今主流深度神经网络模型的基础架构,由它衍生出DeepSeek、Qwen、GPT、Llama等商用大模型。因此对Transformer的加速技术具有迫切实际需求和广泛应用前景。这项研究工作通过继承式动态剪枝机制,将英伟达现有GPU架构支持的固定2:4稀疏模式成功拓展到任意整数比例N:M的稀疏模式上;通过算法和架构的联合优化,在满足用户给定精度需求的同时实现了高效硬件加速,大幅提升了模型部署的灵活性和计算效率,为AI的推广应用提供了有力的技术支持。

 

可重构Transformer矩阵计算硬件架构

 

       由方超(王教授的博士生,2025年3月毕业)作为第一作者、王中风教授为通讯作者的这篇VLSI会刊论文,自2022年11月见刊以来,长达22个月位列该期刊月度热点论文榜单,累计下载量突破3500次(IEEE Xplore)。论文中提出的稀疏加速框架已获得麻省理工学院、耶鲁大学、清华大学及中国科学院大学等高校以及英伟达、Meta等国际著名企业的广泛关注,有效促进了学术创新与产业需求的深度融合。

       VLSI会刊是国际集成电路设计领域的旗舰期刊之一。该期刊年度最佳论文奖旨在表彰过去三年内在该刊发表的最具创新性和影响力的研究成果,评选标准严格,入选论文须在集成电路前沿领域实现原创性理论突破并具备实际应用价值。自1995年设立以来,该奖项每年至多授予一篇论文,有多年空缺的经历。

 

 

 

       此次王中风教授团队论文获奖具有重要里程碑意义。首先,这是该奖项设立30年来首次由中国大陆高校作为第一完成单位摘此桂冠。其次,这是该奖项历史上第三次由全华人学者团队获此殊荣。而首次全华班获奖发生于十八年前,也是由王中风教授团队完成。他时任美国俄勒冈州立大学电子工程与计算机科学学院助理教授。本次再度获奖,也让王中风教授成为该奖项史上极少数两次(或以上)获奖的学者之一。

       王中风教授现任中山大学集成电路学院院长,系国家特聘专家,IEEE Fellow和AAIA Fellow。在集成电路相关领域共发表400余篇国际论文,累计八次荣获IEEE 主流会议和会刊的年度最佳论文奖。此外,他先后参与十余款商用芯片的设计,总产值超百亿元。

 

 

 

       论文链接:https://ieeexplore.ieee.org/document/9857911

       论文引用:C. Fang, A. Zhou and Z. Wang, "An Algorithm–Hardware Co-Optimized Framework for Accelerating N:M Sparse Transformers," in IEEE Transactions on Very Large Scale Integration (VLSI) Systems, vol. 30, no. 11, pp. 1573-1586, Nov. 2022, doi: 10.1109/TVLSI.2022.3197282.