英特尔等多家公司联合推出 Tensor LLVM 扩展提案

来源: 投稿
作者: 御坂弟弟
2021-11-15 07:12:54

英特尔、亚马逊 AWS、IBM、高通和 UIUC 的研究人员联合发出了一封 "Tensor LLVM Extensions" (TXL)提案,详细介绍了他们关于 Tensor LLVM 扩展的建议。

提议中指出,Tensor LLVM 扩展可以使 LLVM 编译器堆栈能够更好地处理张量核心和类似硬件,以应对当今日益增长的 AI/ML 以及相关领域的工作负载。在支持 CPU 和 GPU 方面,LLVM 已经占据主导地位,而 Tensor LLVM 扩展将帮助其处理英特尔高级矩阵扩展 (AMX)、NVIDIA 张量核心、AMD 矩阵核心、 Qualcomm HVX、Amazon Infferentia/Trainium 和其他加速器。

目前,此类加速器的大多数编译器堆栈都是闭源的,没有任何通用解决方案来共享 LLVM 可以提供的优化和其他编译器功能。并且,该提议将使供应商更容易为此类硬件创建优化的编译器后端,利用现有的 LLVM 前端用于各种编程语言以更轻松地利用此类张量硬件。简而言之,他们希望使用一组通用张量操作来扩展 LLVM IR,这些操作可以跨硬件后端工作,并更好地优化 LLVM 张量代码生成。

据悉,相关人员已经在为他们自己的平台提出一个原型实现,并有望将所有这些工作合并到 LLVM 的主线。关于该组扩展的详细内容,可以查看该提案

展开阅读全文
2 收藏
分享
2 评论
2 收藏
分享
返回顶部
顶部