IT之家2月23日消息,2月11日,中国科大苏州高等研究院医学影像智能与机器人研究中心DDL实验室宣布,团队在大规模图神经网络(GNN)训练系统方面的研究论文被国际知名学术会议ACMInternationalConferenceonManagementofData(SIGMOD)2025录用。
图神经网络(GNN)的主流训练框架,如DGL和PyG,利用GPU的并行处理能力从图数据中提取结构信息,在推荐系统、自然语言处理、计算化学和生物信息学等领域展现出卓越性能。
尽管GPU在GNN训练中提供了强大的计算优势,但其有限的显存容量难以容纳庞大的图数据,因而现有GNN系统在大规模图数据上的扩展性方面仍面临挑战。
对此,DDL实验室团队提出了一种新的核外(Out-of-Core)GNN训练框架——Capsule,为大规模图神经网络训练提供了高效的解决方案。
与现有的核外GNN框架不同,该系统通过图划分和图裁剪策略将训练子图结构及其特征完全放入GPU显存之中从而消除了反向传播过程中CPU与GPU之间的I/O开销,进而显著提升了系统性能。
此外,Capsule通过设计基于最短哈密顿回路的子图加载方式和流水线并行策略,进一步优化了性能。同时,Capsule具备即插即用的特性,能够无缝集成至主流开源GNN训练框架中。在大规模真实图数据集上,Capsule与现有最好的系统相比能够在仅使用22.24%的内存下带来最高12.02倍的性能提升,并提供了关于训练所得嵌入方差的理论上界。
这一成果标志着我国在图计算系统领域取得重要突破,为社交网络分析、生物医学图谱构建等需处理超大规模图数据的场景提供了全新解决方案。