GALA-高性能图神经网络加速语言与编译器

标题：GALA：一种高性能图神经网络加速语言与编译器

代码地址：https://github.com/ADAPT-uiuc/GALA-GNN-Acceleration-LAnguage

发表日期：2025-10-09

摘要：多年来，为加速图神经网络（GNN）工作负载，人们提出了多种框架和优化方法，取得了显著的运行时性能提升。然而，我们注意到，现有系统通常仅在算子内（intra-operator）或算子间（inter-operator）层面进行优化，未能充分利用其组合所带来的协同效应。此外，大多数现有工作主要聚焦于优化GNN的前向计算，往往忽视了针对训练的特定优化机会。为了利用这些错失的优化机会，我们推出了GALA，这是一种领域特定语言（DSL）和编译器，允许在不同层面组合优化。GALA DSL将算子内变换作为调度命令公开，同时我们将新颖的算子间变换作为编译器的一部分引入。通过在GALA编译器中引入两种新颖的中间表示（IR），这些变换的组合成为可能，该编译器可跟踪并组合算子内和算子间层面的变换。此外，IR保持了GNN程序的全局视图，包括其训练过程。这使我们能够引入针对训练的特定变换，以大幅优化GNN训练。我们的评估结果显示，在多个系统、图和GNN模型上，GALA的几何平均加速比在推理时为2.55倍，在训练时为2.52倍。我们还表明，GALA 在不同图规模和 GNN（图神经网络）模型配置下都表现良好，并且能够允许用户探索执行类似优化的不同方法，从而带来不同的权衡空间。

论文地址：https://dl.acm.org/doi/abs/10.1145/3763113