拜拜虚拟机,全面深度解密华为方舟编译器

编辑部的故事 发布于 09/01 10:22
阅读 18K+
收藏 178

本文由菊厂搞机MO编辑部出品,文字超1万,查阅的资料多达上百万文字,并且与华为方舟编译器的专家做过深度访谈。文章高度概括了波澜壮阔的软件产业发展史,解析了华为在编译器和手机系统方面做的多年准备。

2017年5月的一个凌晨,华为某实验室里,方舟编译器上第一个Java程序“Hello, World”跑通了。

当时项目组的一位工程师就哽咽了:“I never thought printing ‘Hello, World’ would be this hard .”(我从来没想到打出“Hello, World”会如此艰难。)

十年前华为启动编译组到这一刻,初见曙光。

2019年4月,华为方舟编译器正式面世!

今天我们聚焦华为新贵——方舟编译器,这个一发布就引起巨大响动的底层核心技术。

它为什么能拥有和世界对话的荣光?

它承载着怎样的使命?

它能否做到传说中的“出于安卓,胜于iOS”?

1. 机器的“原力觉醒

这个故事,先从计算机的语言说起。

事实上,人类文明中最早出现的文字就是数字,比完整表意的文字早500-1000年。

随着人类社会的发展,社会结构开始变得复杂,征税必须先收集国民收入、财产、付款、欠款、债务、罚款等数据,远远超过人脑的记忆系统。于是,数字诞生了。

5000年前,苏美尔人文明(今科威特及邻近地区)以6和10作为基数,用符号表达1、10、60、600、以及3600。今天,我们仍然常见以6为基数的数字,例如圆有360度,一天有24小时。

而另外一种叫安第斯文化(主要在今天的南美地区),则用“结绳语”记录数字,管理税收等财务数据长达数百年甚至数千年。就算西班牙人占领南美之后,还在相当一段时间内用结绳语来管理他们建立的新帝国。

这就是人类最早的语言,虽然不能完整传递口语,也无法写诗,但是记账收税效率一流。

公元8世纪,印度人发明了数字0-9,这种十进制的数学符号让数据存储和处理的效率一日千里,成为人类文明重要的里程碑,奠定了现代数学基础。后因阿拉伯人将其发扬光大并传入中东和欧洲,所以大家称之为“阿拉伯数字”。

还有一种文字系统——“0”和“1”的二进制,是人类文明另外一个重要的里程碑,被广泛应用在现代计算机领域中。此外,我们喜欢的音乐、我们热爱的电影、我们拍摄的照片,今天都是通过这种二进制的数字来进行“重现”,包括记录、存储、传播和分享。

人类通过0和1开启了机器“文明”,从此科学革命的进程就像安装上了“火箭”。

那为什么计算机使用的是二进制呢?

这个故事得回溯到大英帝国的航海时代。

早在17世纪,英国借助强大的经济实力和海军力量拥有了众多的殖民地,建立了全球霸主地位。舰队使用的航海表计算复杂,人工计算的数据经常有误,百年间导致大量的船只触礁沉没。

直到第一次工业革命爆发,英国政府找到了数学家巴贝奇(Charles Babbage)来修正航海表。巴贝奇通过十年的努力,研制成功了“差分机”。用蒸汽机时代的机械齿轮来存储计算过程中的数据,大大提升了航海表数据的计算速度和准确率。

同期,他开始了另外一种新机器——分析机的设计。在开发分析机的过程中,巴贝奇冥思苦想,发现乘法是加法的重复,除法是减法的重复,减法可以用加法来代替,这样就只要设计一个加法运算器即可。基于这种假设,计算机器只需要具备两个功能即可运作:

1)判断两个数的大小;

2)不断重复执行加法计算。

所有的运算转化为最简单的判断和计算,1表示Yes(开),0表示No(关),计算机用0和1不断重复计算。这就是计算机使用“0”和“1”二进制语言的理论基础。

值得一提的是,巴贝奇发明分析机不久之后,英国数学家乔治·布尔于1854年发表了“布尔代数学”,提出了逻辑学的二元运算,为现代电子计算机提供了另外一个重要的理论基础。

回到分析机,巴贝奇借鉴了法国纺织机上使用的穿孔卡片。卡片上的孔眼排列,控制纺织机的梭子,能够不断重复的织出各种各样美丽图案的布匹。巴贝奇在著名诗人拜伦之女Ada Lovelace的帮助下,发现穿孔卡片不仅可以用来记录数据,还能用来控制机器工作的指令。在卡片上打上不同排列的孔,机器便有不同的工作程序,这就是现代计算机的软件设计思想。

基础研究与基础教育是产业诞生和振兴的根本。这也是为什么今天的英国,仍然在数学和通信领域拥有非常广泛的影响力。

1884年,美国统计专家赫尔曼·何乐礼(Herman Hollerith)借鉴穿孔卡原理发明了电动制表机,用于美国人口统计,与巴贝奇的分析机具有异曲同工之妙。他把所有需要调查的项目依次固定在一张硬纸卡上,然后将统计的居民个人信息在相应位置打孔,用来表示“Yes”。当统计机器的探针撞到卡片上的“孔”,就会接通电流,计数装置往前进一个刻度。何乐礼博士正是采用了二进制的原理,来高效统计美国人口信息。

我们今天使用的答题卡,就采用了这种原理。

何乐礼博士随后创建了制表机公司,也就是赫赫有名的IBM公司的前身。

1935年,著名的现代计算机科学之父和人工智能之父,艾伦·图灵提出了著名的图灵机模型,为现代计算机的逻辑工作方式奠定了理论基础。

1937年,美国哈佛大学著名计算机专家霍德·艾肯在IBM公司的资助下,借鉴上面提到的英国数学家巴贝奇的分析机理论,于1944年研制成功世界第一台机电计算机——Mark-I型。IBM把这台计算机送给了哈佛大学,并一直使用到1959年,为培养早期的计算机科学家做出了巨大贡献。

另外一位学者就没有这样幸运了。美国爱荷华州立大学理论量子物理学的约翰·阿塔那索夫(John Atanasoff)副教授,苦于没有机器能够计算出量子物理中许多变量的求解。同样是在1937年,他寻求IBM公司的资助,但被断然拒绝,于是他横下决心一定要研制一台更好的计算机器。他利用当时正在发展的真空晶体管,用电子脉冲来表示“0”和“1”,并在电气工程专家克利福特·贝瑞(Clifford Berry)的帮助下,两人于1940年底研制成功了世界第一台电子计算机,并用两个人的名字将其命名为ABC(Atanasoff-Berry Computer)。

阿塔那索夫开辟了一种计算机的全新路径,为现代电子计算机的架构奠定了不可磨灭的基础。今天的华为在内部强调研发上要多路径突破,或许也曾受此启发。

1940年底,他结识了美国物理学家莫克利(JohnW.Mauchly)。莫克利在了解和参观了ABC计算机后,联合宾夕法尼亚大学莫尔学院的电气专家艾克特(J.PresperEckert),在国防部的资助下和冯·诺依曼博士的指导下,于1945年研制成功了世界第一台通用电子计算机ENIAC。虽然这台计算机采用的是十进制,但当时毫不影响它的计算能力,它大大缩短了美国“曼哈顿计划”的原子弹研发时间,加速了二战的结束。

1945年6月,冯·诺依曼将ENIAC电子计算机的十进制改回成二进制,并提出计算机内部存储器存储程序的概念,从而奠定了现代电子计算机理论的架构。

0和1这种极简的语言设计,像给计算机注入了永远在生长的“原力”,带来了无限的可能。与通信领域IP路由理念具有异曲同工,就像“看不见的蒸汽机”,用最简单的理论架构开启了一个全新的伟大产业。

2. 软件王国的“四大明珠

实际上,在电子计算机诞生之前,计算机这个角色是由女人来扮演的。这些女人被称为Computers,大多数计算都是她们手工完成的。

世界第一段程序,是上面提到的巴贝奇的师妹著名诗人拜伦之女Ada Lovelace在打孔卡上写出来的。程序设计人员都要把程序编排成010101这样的形式,在纸上打孔,再送到机器里去读。这减少了相当多的工作,写一个卡片能使用相当久,也避免了重复造轮子。

因此,当程序员开始在卡片上写这些程序时,人们开始构建程序库(libraries)。随着时间的推移,大部分的程序渐渐的有了一些规则手册来指导编写。但还是很繁琐,毕竟编写和记忆0和1的各种组合,对于很多人来说相当于是“天书”。

一个传奇的人物出现了。

美国海军的传奇天才格雷斯·霍珀(Grace Hopper),在海军服役时,曾被派到哈佛大学,与艾肯博士一起工作,负责为美国国防部资助的Mark-II型机电计算机编制程序。在二战结束后,她加入了发明ENAIC电子计算机的莫克利和艾克特创办的“电子控制公司”,开始了她改变世界的光辉旅程——打开编译器和编程语言的新世界。

Grace在加入莫克利和艾克特的公司,便产生了一种想法。她想设计一种程序,让人可以用类似英文的语法,把想做的事写下来,然后用这个程序把英文翻译成机器能执行的语言,交给机器去执行。

她把这个革命性的想法付诸实践,发明了世界上第一个编译器A-0。这是编译器的始祖,也是现代编程语言的始祖。

1952年,Grace和莫克利研究出了一种较为接近自然语言的计算机语言——汇编语言Flow-Matic。汇编语言本质上是使用助记符来代替机器语言01010101,进了一大步,但这种语言对计算机硬件依赖很大。不同的计算机,汇编语言不相通。

IBM公司在1946年后从制表机全面转型电子计算机市场,并投入巨资招揽了世界众多顶尖的计算机人才。其中一位叫约翰·贝克斯(John W. Backus),这位出身证券经纪人家庭的富二代,酷爱数学,加入IBM公司三年后,发明了一种快速编程的FORTRAN语言。同时,他深入研究了Grace发明的Flow-Matic的编译器,应用到FORTRAN的编译器中。

FORTRAN的问世,在计算机史上具有划时代的意义。它是世界第一个高级编程语言,使计算机语言从原始的低级汇编语言走到人人易懂的境界,计算机不再是科学家的专利**。**FORTRAN的诞生,孕育了软件产业。此后,计算机高级编程语言进入蓬勃发展的时代。

随后,IBM公司开发出了的ALGOL高级语言,人工智能之父约翰·麦卡锡(John McCarthy)发布了人工智能设计语言LISP,Grace奶奶也在Flow-Matic汇编语言的基础上开发了COBOL语言

FORTRAN适合科学计算,ALOGOL适合事务处理,LISP适合人工智能计算,COBOL适合商业处理。这四种高级语言虽然比汇编语言更简单,但对于非计算机专业人员,编程仍难度较大。于是,Dartmouth学院的两位教授联手开发一种更简单的编程语言BASIC(初学者的全方位符式指令代码)。这是一种不需要编译的语言,只需要经过解释器执行即可,初期的Android智能手机软件借鉴了这种机制。BASIC语言也是目前被广泛使用的Visual Basic语言的鼻祖,目前在微软Excel的“宏”中可以直接使用。

美国编程语言的开发热潮你追我赶,其他国家也不甘示弱。

1963年,英国剑桥大学推出了CPL语言,后又推出了简化的BCPL语言

1970年,美国贝尔实验室的肯·汤普逊(Ken Thompson)和丹尼斯·利奇(Dennis Ritchie)在BCPL语言的基础上,推出了更加简单的B语言(取BCPL第一个字母),后又简化出了C语言(取BCPL第二个字母)。这是目前世界上最常用的编程语言之一,甚至可以说是第一大编程语言。

C语言之后,诞生了很多著名的语言,包括:

C++:1983年正式发布。由贝尔实验室基于C语言改良,所以C++是完全兼容C语言的。

Objective-C:1980年代发明。1988年,斯蒂夫·乔布斯(Steve Jobs)在NeXT公司时买下了 Objective-C 语言的授权,后来成为苹果公司MAC电脑和iPhone手机的程序设计语言。

Java:1995年5月发布。SUN公司为了在电视机顶盒等电子产品智能化过程中抢占先机,解决跨平台的问题,所以开发了Java语言。但Java需要借助虚拟机机制来解释源代码并调度硬件资源。安卓系统使用的基础语言就是Java。

C#:2000年6月,由微软发布。C#与Java有着惊人的相似,也需要借助类似于虚拟机的Framework来运行;不同的是,Java支持所有平台,而C#只支持Windows和Linux系统。

GO:谷歌在2009年发布。GO语言主要用作服务器端和云计算开发。

Swift:2014年由苹果公司发布,可以和Objective-C语言混合使用。

其中,C/C++是编译语言,即在程序员写完程序后,通过编译器直接编译成机器码,安装到相应的硬件设备上即可直接运行。

Java/C#是预编译语言,就是需要先在开发者环境中将源代码(Source Code)转换成字节码(Byte Code),然后在设备上运行时再将字节码编译或解释成硬件能听得懂的机器码。将源代码转换成字节码的过程,就叫预编译。

软件王国还有两个很重要的成员,就是操作系统数据库

上个世纪60年代,计算机高级语言的发展为操作系统和数据库的诞生培育了沃土。

1970年,贝尔实验室B语言和C语言的开发者肯·汤普逊(Ken Thompson)和丹尼斯·利奇(Dennis Ritchie),开发出了世界第一个通用计算机系统——UNIX。现在大家熟悉的Linux和Mac OS就是类UNIX操作系统。

其中Linux可以运行在服务器和其他大型平台之上,如大型计算机和超级计算机,世界上最快的前10名超级计算机运行的都是基于Linux内核的操作系统。在移动设备上广泛使用的Android操作系统也是创建在Linux内核之上。

随着磁盘的发明,从磁盘随机存取数据成为可能。1961年,美国通用电气公司成功地开发出世界上第一个数据库管理系统(DBMS)——IDS(Integrated DataStore 集成数据存储)。1968年,IBM公司开发了IBM第一个数据库系统IMS(Information Management System)。IBM科学家的论文理论,成就了著名的Oracle数据库。IBM公司出品的DB2和微软公司的MS SQLServer数据库也成为当今数据库领域重要的角色,目前在全世界已经广泛应用。

高级编程语言、编译器、操作系统和数据库,被称为软件王国的“四大明珠”

从上图可以看出,为软件底层贡献核心技术的公司主要来自于欧美。华为通过多年持续的研发投入,让我们终于看到了美国巨头的背影。

3. 编译器的前世今生

如果说计算机是汽车,那么软件就像汽车的操控系统一样,是计算机的血液。

编译器则是汽车发动机里最核心的汽油燃烧技术,将软件变成计算机的动力,其编译性能和效率,直接决定了用户的使用体验。

如上文所述,最早的编译器是Grace奶奶发明的A-0编译器。

第二个被大规模应用的编译器,则是和FORTRAN编程语言配套的FORTRAN编译器。

目前主流使用的编译器主要有下面几种:

Windows系统

使用CL编译器。它直接集成在Visual Studio或Visual C++的开发者环境中,一般不单独使用。

Linux系统

使用开源的GCC编译器。GCC,由自由软件运动的精神领袖理查德·马修·斯托曼(Richard Matthew Stallman, RMS)在上个世纪80年代创立。它原本只处理C语言,后续扩展可以处理C++、Objective-C、Java等其他语言。GCC被认为是跨平台软件的编译器首选。

苹果Mac和iOS系统

最初使用GCC编译器,现已替代为Clang + LLVM。

为什么苹果公司要换编译器呢?

因为苹果发现开源的GCC开发者根本使唤不动,他们不愿意专门为了苹果公司的要求优化和改进GCC代码,所以苹果将编译器后端直接替换为LLVM(Low Level Virtual Machine,底层虚拟机),并且将读研时(2003年)发明LLVM的天才少年克里斯·拉特纳(Chris Lattner)招入麾下。克里斯进入了苹果之后,大幅度优化和改进LLVM以适应Objective-C的语法变革和性能要求,同时发起了CLang项目来完全替代GCC。

今天,GCC + LLVM 已经被替换成了 Clang +LLVM。LLVM负责编译器后端,用来处理代码优化和跨平台,而Clang负责前端,只需将程序源代码转换成LLVM可以看得懂的IR(Intermediate Representation,中间语言)即可。

另外,上文提到的Swift语言,则是这位天才少年克里斯为苹果公司贡献的第三个重要作品。

安卓系统

安卓主要使用预编译的Java语言开发,最初版本通过虚拟机运行,不需要编译器,后续版本加入了JIT和AOT编译机制(下一部分将详细展开)。

除了上述编译器之外,还有两个著名的编译器值得一提。

Intel的ICC编译器

ICC编译器,全称Intel C++ Compiler,是Intel开发的C/C++/Fortran编译器套装,适用于Linux、Microsoft和Mac OS X操作系统,广泛应用于高性能计算、分布式计算等商业计算领域。

SGI等公司推出的Open64编译器

SGI(S代表超级计算机,G代表图形工作站,I代表具有突破性的洞察力)生产的超级计算机,主要应用于巨大的实验室,采用Open64编译器。

4. 安卓的四大命门

交待完计算机和软件的发展历程,终于说到正题。

安卓系统从2008年1.0到今天的9.0,十来年间安卓系统大小版本超过15个,从2016年开始也在不断融入了华为等手机公司发起的文件系统、人工智能学习、智能硬件调度和内存管理等底层创新技术,安卓手机的体验已经今非昔比。

为什么仍然还有很多人诟病安卓手机没有iPhone流畅?安卓系统的程序是怎样运行的?下面展开阐述一下安卓的四大命门。

解决安卓这四大命门,也是华为方舟编译器的使命!

第一个命门

Java的“虚拟机”

前面提到,Java为了能够实现跨平台操作,便借助虚拟机来调度硬件平台资源。在虚拟机里,还需要集成翻译器或者编译器,来将Java的字节码(即中间代码)解释成机器听得懂的机器语言,或者直接编译成机器直接执行的010101的机器码。

2008年,Android 1.0刚发布的时候,使用的是一个叫Dalvik的虚拟机,里面集成了一个解释器,每次用户在安卓手机上运行APP时,就会叫醒这个解释器,来给安卓的硬件解释APP想要干嘛。这就相当于新闻发布会,发言人讲一句自己的母语,然后再由专业翻译将其翻译成外国记者听得懂的语言,效率非常低下,一个小时可能也问不了几个问题。

谷歌意识到这个问题严重拖了安卓手机的后腿,所以通过一年多的努力,在2010年中发布了2.2版本,引入了JIT(Just in Time,即时编译)机制。JIT比较聪明,当用户在安卓手机运行APP时,会同时将用户经常使用的功能编译为机器能直接执行的010101机器码,不用每一句每一句的去翻译。当出现不常用的功能时,再把解释器叫起来翻译。

JIT虽然变聪明了一点,但是每次启动APP都要先编译一次,不能一劳永逸。加上Dalvik虚拟机性能比较落后,所以谷歌在2014年10月推出了Android 5.0版本,将虚拟机从Dalvik替代成ART(Android Run Time),同时把JIT的编译器替代成AOT (Ahead of Time)。意思就是说,APP在下载后安装到手机上时同时把能编译的代码先编译成机器听得懂的101010。剩下不太好翻译的代码,就在用户使用时再叫醒解释器来翻译。AOT相比JIT的好处,就是不用每次打开APP都需要先编译一遍。但是,坏处就是用户安装APP的时间有点长。

越来越多的用户吐槽为什么安装一个APP也慢吞吞。于是,谷歌在2017年Android 7.0又做了一点改进,安装时先不编译中间代码,而是在用户空闲时将能够编译成机器码的那部分代码,通过AOT编译器先静态编译了。如果AOT还没来得及编译或者不能编译,再叫醒JIT+解释器两个难兄难弟来顶住。这种机制,相当于用时间换空间,既缩短了用户安装APP的等待时间,又将虚拟机里编译器和解释器能做的优化提升到最大效率了。

很多人以为华为方舟编译器就是Android 7.0的ART虚拟机,其实不然。

无论是编译器还是解释器,只是在虚拟机上打补丁。手机上的虚拟机+编译器+解释器本身不仅占用硬件资源,还无法最大发挥软件运行性能。正因如此,所以绝大部分手机厂商只能无奈的通过简单粗暴提升安卓手机的内存和存储空间,来弥补虚拟机的弊端。

这就是安卓的第一个命门,虚拟机先天不足。

第二个命门

Java的“原罪”——额外的JNI开销

JNI,全称Java Native Interface(Java原生接口),用来和C/C++等代码进行交互。

目前95%的TOP应用都是使用Java和C/C++等多种语言混合开发而成。Java和C/C++属于两种不同架构的语言,各有自己的使用规范。为了APP正常运行,它俩之间需要互通有无,这个互通有无的接口就是JNI。在数据访问、函数调用、生命周期维护、异常处理等方面都需要这两种代码互相调用。这就意味着手机硬件资源要分配一部分给JNI去做调度。不仅占用了硬件资源,而且这种机制本身就效率较低。

这便是额外的JNI开销。

第三个命门

代码优化空间有限

安卓虚拟机的编译器受限于手机硬件和代码优化模板单一,代码优化空间有限。

编译器包含三个部分。前端Front End,主要负责将源代码翻译成IR(Intermediate Representation,中间表示);中端的Optimizer主要负责代码优化,将前端翻译过来的IR代码优化得更高效;后端Back End则将优化后的IR编译成101010的机器码。

为了防止生态过于碎片化,安卓只为第三方开放了简单的编译代码优化模板,代码优化空间有限。

第四个命门

Java现有内存回收机制易造成间歇性卡顿

当手机内存资源不够用的时候,安卓虚拟机就会召唤GC(Garbage Collection)封锁公路,让所有手机运行的Java线程“Stop World”,全部暂停,等待它回收内存空间,避免“交通流量超载”。这个GC机制,无法精确控制和干预,用户也无法把它去掉,所以性能比较差的手机还存在“间歇性”卡顿。

十余年间,通过安卓系统的持续优化,以及内存的不断加持,安卓手机构筑了足够流畅的用户体验。

但是安卓的四大命门,如同达摩克利斯之剑,悬在安卓厂商的头上。华为科学家和工程师们,对此持续攻关了十年,只为再造安卓。

5. 十年方舟,再造安卓

没错,华为为此准备了十年。

2009年,华为启动5G基础技术研究的同时,开始创建编译组,第一批海内外研究人员加入。

2013年,华为推出面向基站领域的自研编译器HCC,并正式提出编译器框架构想。

2014年,众多海内外专家加入华为,方舟项目正式启动。

2016年,成立编译器与编程语言实验室。

2019年,华为方舟编译器正式面世!

这十年,每一次攻关都蕴含着华为软件工程师们的倾力投入,每一个进展都值得铭记。

2017年5月,方舟编译器上第一个Java程序“Hello World”跑通。

2017年8月的一个凌晨,在华为的一个实验室里,项目组已经连续数日24小时不间断攻关,却始终看不到success的返回信息。绝望之下,工程师把所有通信数据打印出来,逐个字节排查,最终发现有一处字节的顺序不一致。纠正后,华为方舟跑通了第一个安卓后台服务DiskStatus,这标志着对安卓的换心手术进入了实操阶段。

2018年春节前一周,方舟编译器跑通安卓系统所有后台服务,并成功移植到手机。当晚,所有人聚集在实验室的机房中,等待首个开机画面加载成功的神圣时刻。秒针滴答,如同过了一个世纪那么久,屏幕终于点亮。

欢呼,拥抱,一蹦三尺高,项目组成员们到底没忍住,留下了激动的泪水。

接下来,项目组在除夕前夜启动了方舟编译手机的Beta测试。大年初一清晨,总架构师发来了第一条经编译器编译的运行程序发出来的拜年消息:

春节快乐,方舟大吉!

当P30发布会上“方舟”甫一出现,就在中国软件行业“炸”了锅。无数软件从业者从一开始的质疑,到弄清方舟真相后的惊叹……这些都是对华为软件工程师们十年如一日、一点一滴“啃硬骨头”的致敬!

实际上,方舟已经不是传统意义上从高级语言到机器码的“万能翻译”,更是一个编译运行系统。

一方面,方舟编译器首次在Java领域将虚拟机干掉了,也是软件史上首次将Java/C/C++等混合代码一次编译成机器码直接在手机上运行,彻底告别Java的JNI额外开销,也彻底告别了虚拟机GC内存回收带来的应用进程掉线,使操作流畅度大幅提升。如果说目前最新的安卓系统是和谐号动车,那么经方舟编译的安卓系统便是高铁,是“复兴号”。

华为手机直接通过方舟编译器替换了Android system-server的所有后台服务,这一项就已经足够让华为EMUI比其他安卓系统更快一步。根据华为官方测试,方舟编译器提升手机系统操作流畅度高达24%,系统响应性能提升44%。入手P30系列的用户,应该已经体验到了。

另一方面,方舟编译器用空间换性能,直接将编译器的代码优化搬到了开发者环境,不再被手机端的硬件资源所限制,为代码优化提供了无限可能。

此外,经测试,新浪微博极速版APP经方舟编译后,操作流畅度提升高达60%。

解决安卓的四大命门,出于安卓,胜于安卓,超越iOS,并且全面兼容安卓,这就是华为方舟编译器的使命!

6. 生来就是要干掉虚拟机

方舟编译器从立项开始,就是要彻底干掉虚拟机。这在历史上,是从来没有人做过的。

SUN公司当初发明Java语言,就是借助虚拟机的这个“万能中转站”,屏蔽掉各种硬件的差异,方便同一个代码在多个平台运行,所以Java是目前最流行的高级编程语言之一。这么多年,从来没有人能够干掉虚拟机,说明难度非常之大。

那么方舟编译器,是如何完全干掉虚拟机的呢?

最关键的就是要能够将Java代码直接编译成010101的机器码。

这种设想在理论是可行的,但是从现实来讲太难了。历史上有过一些尝试,比如现在大行其道的安卓ART虚拟机。这些尝试能够提前翻译Java语言里很多的静态语义,但是多数的动态语义,仍然搞不定,还得交给虚拟机。

所谓静态语义,我们可以理解为确定的语言和意思,比如“我是张三”。而动态语义,则需要结合上下文去理解,比如“能穿多少就穿多少”,到底穿多还是穿少,要看是冬天还是夏天了。例如大家熟悉的微博、京东等APP的开屏广告就需要用到动态语义。像编译静态语义一样去编译动态语义,很多知乎大神认为根本就不可能。

为了这个目标,华为软件工程师们对自己苛求再苛求,这里涉及到大量的细节,从对象模型的设计,到每一个bit的用途、每一个对象的元数据metadata(描述数据的数据)每一个编译优化的设计,都经过了无数次的激烈讨论和推倒重来。

最终,方舟编译器通过编译阶段和运行阶段的双向加持,将静态编译动态语义最大的两大难点一一解决:一是设计数据模型,二是如何在运行时高效获得动态信息。方舟编译器团队基本遍历了Java的动态语义,进行了大规模的数据建模。同时,大大提高了编译时动态语义分析的精度,特别是涉及跨语言调用时;另外,华为设计了一套具有核心专利的动态语义匹配机制,有效降低了运行时动态语义的开销。

正是因为这两大难点的突破,让方舟编译器能够将Java代码编译成机器能直接执行的语言。经过华为方舟编译器的APP,再也不需要在手机上编译了,彻底告别了虚拟机,从而带来了媲美甚至超越iOS的安卓体验。

7. 代码“万国通”

95%的Top应用都是Java/C/C++等混合语言编写而成。方舟编译器的第二个使命,就是干掉混合语言互相调用带来的JNI开销。

华为方舟编译器团队基于多个编程语言的深刻理解和大量研发积累,将混合语言破天荒实现了统一的中间表示IR,这就相当于同一个人能够理解全世界的语言,所以我们把这个革命性突破叫做,代码“万国通”。

那么方舟编译器是如何使用统一的IR来表示各种语言呢?

IR是用来表示代码的数据结构,它是编译器的各模块以及相关工具之间用来传递信息的“协议和通用语言”,也是程序变换和编译优化各种算法的承载体。它是编译器的“大脑”,直接决定了编译器的最终效果。它的难度是最高的。

华为方舟编译器团队对IR进行了长达五年的精雕细琢,逐渐摸索出“大脑”里每一条神经、每一个神经元的信号规律,并在此基础上发明了一套核心专利,使得不同语言代码在开发者环境中能够统一编译成同一套可直接执行的机器码,从而彻底消除混合语言互相调用的开销。

8. 给代码装上飞机发动机

除了IR,编译器还有一个非常重要的价值,就是代码优化。

华为方舟编译器,直接将代码优化从手机环节搬到了开发者环境,未来还可能搬到云端。利用开发者环境更强大的算力,可以实现更先进和精细的优化算法,来达到更强大的优化效果,在很多特定场景代码优化的提升甚至是颠覆性的。

这相当于给APP在方舟里装上飞机发动机,让你的APP运行如飞!

值得一提的是,开发者使用方舟编译器,并不需要改变原来的编码习惯。开发者可以自行开发代码优化算法,也可以仅通过方舟编译器预置的算法进行代码优化。未来,华为还将提供代码调优工具,开发者可以选择根据工具的优化建议来调整代码,和方舟编译器配合获得更优的执行效果。

可以想象,未来广大APP开发者使用方舟编译器后,消费者们的体验将达到一个前所未有的高度。这对于整个安卓生态,都是一件前所未有的幸事!

9. Stop World,安卓卡顿再见

方舟的第四个使命,就是解决安卓虚拟机GC内存回收带来的“Stop World”。

目前安卓手机内存资源不够用的时候,GC直接叫停所有应用,所以偶尔会遭遇莫名卡顿。

方舟编译器采用了引用计数法(RC,Reference Counting)来进行内存的实时回收,并且配合使用了专门的消除环算法(消除对象互相引用带来的无法回收问题),来避免GC集中式回收带来的系统卡顿。相比GC,方舟的内存回收是实时的而非集中式的,且不需要暂停应用进程,这样便大大消除了卡顿。

如果把内存回收比作成打扫房间,那么GC的策略是专门有一个卫生员,看房间里垃圾太多了,就把所有人请出去,打扫完了再让大家回来。而方舟的RC则是每个人收拾自己的垃圾,用完就清理,保持清洁的同时不影响人的正常活动。

软件有一个大家很熟悉的死循环,就是电脑被一个无限循环的运行程序把计算机资源占光。

这种“死循环”在软件中叫“环引用”。为了从机制避免手机内存被环引用“吃掉”,方舟编译器引入annotation的“告警”标示,对基础类的环进行标注。当然,Java程序员也可以对业务代码中的环进行标注。经过丰富的实践验证,方舟这种机制可减少大部分程序中环的出现。

另外一方面,方舟编译器在运行状态下引入了高效的环回收机制,允许有选择的智能回收某个APP的内存占用,这对传统的环回收算法是一个非常棒的改进。

Stop World,安卓卡顿,再见!

正是因为方舟做到混合语言的统一中间表示和完全静态编译,它干掉了虚拟机,消除了JNI开销,告别了GC内存回收的“间歇性”卡顿,以及其他很多开销。同时,为开发者进行代码优化提供了一个更广阔的舞台。

华为很快将全面开源方舟编译器,届时开发者们可以使用方舟编译器作为开发工具,为移动应用生态和体验打开一扇全新的大门。

科技的进步,离不开全球无数科学家和工程师的奉献。产业的繁荣,开放是唯一出路!

最后,以Linux 的创始人Linus Torvalds的名言结尾!

Talk is cheap. Show me the code!

空谈误国,实干兴邦!

> 文章转载自首次全面深度解密华为方舟编译器

加载中
3
写给三月
写给三月
不出能用的东西,就认为你就是demo,android ios在卡在难用,人家已经走向世面,已经赚了很多钱。这个方舟编译器刚出生就叫爸爸,能不吓人嘛。
3
粉色调佩奇
粉色调佩奇

昨天研究过了,相当于将虚拟机及ART技术提到了编译阶段,好处就是不需要到机器上翻译耗时,坏处很明显,失去了java跨平台的意义,不同指令集要发布不同的app版本,开发人员工作量变多了,应用商店分发app流程也复杂了。基本是得不偿失,不是大厂商根本没这精力维护和优化。

粉色调佩奇
粉色调佩奇
回复 @liverxing : 胡说八道我只服你 你怎么不去参加大跃进的呢
liverxing
liverxing
那好,我直白点讲,就是解决了卡顿的问题,原生开发调用C/C++也无法解决这个问题。
粉色调佩奇
粉色调佩奇
回复 @liverxing : 无理无据 只能说你更片面 论速度华为这个玩意理论上就没有NDK快 不知道你的痛点不在开发是怎么来的 Google通过java来解决开发痛点并且提供了NDK保证需要性能的场景 终端的表现在于开发水平不在于用什么复杂的指令优化 这玩意说白了就是华为自家用用的玩意 华为有这钱养这群人 其他厂商可比不了
liverxing
liverxing
哈哈,你这个得不偿失有点片面,我衡量了一下,用户体验更重要,安卓的很多痛点不在开发流程与适配,而是在终端表现,我认可华为团队的努力。
谁来与我大战三百回合
硬件不统一,纯静态编译就是死路一条。除非像苹果一样,只在自家硬件上运行。不管你们用不用,反正我是不用
下一页
2
吴题
吴题
看看谷歌出的app再看看华为出的app,大家对比下就知道,卡不卡心里没数吗。明明是app开发者的问题吧
无发可说
无发可说
卡也是特色问题,原生能有那么卡吗
2
乌龟壳
乌龟壳

所谓的 IR,推测是基于 LLVM 实现的。

引用计数+优化的环引用消除,这个确实可以完全代替 jvm 的 gc,但是引用计数在一般场景下属于极度倾斜于短暂停时间的 GC 方案,由此会带来一定的计算吞吐量的下降,不是适合所有场景,但手机 APP 这种对流畅性要求高的场景是非常合适的。

我觉得方舟编译器并非是华为首创的思路(很多语言也有做编译成带上gc的机器码),但确实是经过认真打磨的产品,并且含有很高的技术含量,对安卓生态会产生很大的促进。

乌龟壳
乌龟壳
回复 @燃烧的时光 : 把 java 静态编译也是需要花时间打磨的东西,一是目前没现成,二是针对代码中动态内容的编译优化就有一定技术含量。
燃烧的时光
燃烧的时光
终于看到一个关于,gc的评论了,我觉得核心问题就是gc,其他编译都有现成的东西直接拿来用。
1
七月_
七月_

静静的看你们吹牛。。。

1
tongzx2019
tongzx2019

华而不实, 不知所云, 标题党.

动弹
动弹
吓得我以为你要说,华而不实,不知所为
1
第二草

通过这件事,足以看到中国软件行业在基础性的研究及工业能力还很薄弱,编译器自来美国,各种五花八门的编程语言、DSL就更不用说了。到现在,才出一个比较像样的编译器,填补了一定的空白,而且华为是在外国科学家的合作下经过多年的实践才取得的突破性进展。也可以想像,像编译器、编程语言、数据库、操作系统这类非常底层、非常庞大的系统是多么复杂,技术难度多高。也就只有中国航天、中国军工在国家和党的领导下可以几十年磨一剑。

windows在一开始就不想跟linux、unix保持有兼容性,当然相当部分*nux的C程序可以在windows上编译成可执行程序,但最终还不是官方性的支持。这不仅导致了业界花了大量的时间与精力在为windows发明或开发各种兼容层,浪费了大量的资源。

而安卓,怎么看都觉得刚开始就是一个实验品,谷歌根本没想到如果会被广泛运用、一个设备需要运行几十、上百个APP,不然以那些头脑削得尖尖的科学家,没理由不会想到在小设备上拿java 来运行一堆程序是一种灾难。所以,有时太有影响力的公司和产品,还得注意做出来的产品被用太多而不够好时所造成的影响,这种社会责任还是要背负的。

话说回来,华为在优化安卓程序的思路上,还是具有相当的前瞻性,只有绕过虚拟机的限制,才能让优化空间和手段存在更多的可能,不然始终绕不开使用的虚拟机所带来的限制。其实,就是相当为现有语言,重新发明一个编译后端,仅仅没有再创造一种语法罢了。恭喜华为,迈出这重要的成功一步,希望能将这个编译器延伸到桌面端、服务端,为开发者和用户带来更多的福利,也期待国内其它厂商跟进。是不是国内要掀起一股重新学习编程语言和编译原理的热潮呢!!

1
火种
火种
一群喷子,这么牛逼,工资有人家编译器开发者工资高吗?跪下吧,给你自由
0
W
WindSpeed

居然没人,我想说的是,摆脱虚拟机,那么java代码可以编译成windows EXE程序吗?只能用于安卓,局限性还是有点大

dwingo
dwingo
方舟主要目的还是移动平台,虽然平台可以广泛支持,但要等华为支持编译EXE至少要5年甚至10年,不如期待GraalVM对Win平台的完善了(1年内有望).
kakai
kakai
华为开源方舟,后续可能有组织开发出支持所有平台的方舟编译器
r
rund11
应该是可以的
返回顶部
顶部