北京时间2022年7月10日至15日，第59届电路设计自动化年会（DAC，Design Automation Conference，CCF-A类）在美国旧金山举行。清华大学电子工程系电路与系统研究所汪玉教授、杨华中教授团队与加州大学圣芭芭拉分校谢源教授团队合作的论文“Heuristic Adaptability to Input Dynamics for SpMM on GPUs”荣获大会最佳论文提名。今年的DAC会议以23%的录用率接收了223篇论文，其中仅有6篇文章被提名。该论文的第一作者为我系助理研究员戴国浩博士，主要合作者包括黄古玥、杨上、于仲明、张恒瑞等人。
启发式方法解决稀疏计算性能受数据集影响问题，相比商用软件加速26%~37%
稀疏矩阵乘（SpMM，Sparse Matrix-Matrix Multiplication）计算一个稀疏矩阵与另一个稠密矩阵的乘积，是人工智能、科学计算等领域的基础与核心算法之一。随着SpMM算法在不同领域的广泛应用，汪玉教授、杨华中教授团队指出单一算法性能受到不同领域数据集影响，无法在不同数据集上均取得最优性能（图1a）。
图1 (a) SpMM算法受输入数据集特征影响，单一算法无法在不同数据集上均取得最优性能。
图1 (b) 提出启发式模型对输入数据集特征与算法模型进行分析，自适应优化并选取最优算法。
针对这一关键挑战，汪玉教授、杨华中教授将启发式方法引入SpMM算法。相比较于传统方案直接在不同数据集上使用单一SpMM算法，该方案通过启发式模型对输入数据集特征与算法模型进行分析，自适应地优化算法并针对输入数据集选取性能最优的SpMM算法（图1b）。上述方法解决了SpMM算法性能受输入数据集影响的问题，并相对于商用软件NVIDIA cuSPARSE在每个数据集上的最好算法，进一步加速26%~37%。
图2 启发式方法（红色柱）相对商用软件在每个数据集上最好算法（灰色线），加速26%~37%。商用软件为NVIDIA cuSPARSE，版本11.2。
dgSPARSE：面向广泛人工智能场景的稀疏计算加速
清华大学电子工程系汪玉教授团队长期致力于高能效稀疏计算方面的研究，为解决广泛人工智能场景下稀疏计算能力不足的问题，汪玉教授团队的助理研究员戴国浩博士等人于2021年提出了dgSPARSE（Deep Graph SPARSE）项目，旨在面向稀疏计算场景提供“算法-架构-芯片”融合的一体化解决方案，而该论文则是dgSPARSE项目的又一代表性工作。
图3 dgSPARSE项目：面向更广泛人工智能场景的稀疏计算加速
感兴趣的读者可联系：
戴国浩 助理研究员
电子邮箱：
daiguohao@mail.tsinghua.edu.cn
供稿 | 电路与系统研究所
编辑｜徐璇、陶旋姿
审核｜汪玉、李冬梅
