将 Python 程序移植到 Mojo，性能提升 250 倍、速度比 C 还快

来源: OSCHINA

编辑: 局

2023-09-12 11:56:00

数据技术都能四世同堂，凭什么开发 30 岁就要被干掉？

Aydyn Tairov 是一名开源作者，也是 Meta 前工程师，他此前将 GitHub 上火热的纯 C 语言实现的llama2.c项目移植到了 Python ——llama2.py。

上周 Mojo 编程语言正式开放下载，并且声称比 Python 快 68000 倍。

于是 Aydyn Tairov 马不停蹄地就开始将llama2.py移植到 Mojo——llama2.mojo，结果非常出乎意料。

他表示，Mojo SIMD 原语帮助将 Python 的糟糕性能提升了近 250 倍。此外，由于他使用了 matmul 的矢量化助手，经测试llama2.py速度比 C 版本快 20%。

详情

https://github.com/tairov/llama2.mojo
https://twitter.com/tairov/status/1701194900228764023

展开阅读全文

本站新闻禁止未经授权转载，违者依法追究相关法律责任。授权请联系：oscbianji#oschina.cn

本文标题：将 Python 程序移植到 Mojo，性能提升 250 倍、速度比 C 还快

本文地址：https://www.oschina.net/news/257797/llama2-mojo-faster-than-c

本篇精彩评论

来自山卡拉的你

昨天不是说快68000倍吗？，怎么今天就降速了，道路限速了是吗？😂

2023-09-13 09:45

3 赞

degeryang

怎么不说比二进制机器码还快呢！

2023-09-12 21:15

2 赞

server126

250 倍 ? 那原来得多慢啊....

2023-09-14 08:06

1 赞

AaronJiang

别太离谱

2023-09-13 09:05

1 赞

gochannel

SIMD的原因.c语言也可以用SIMD

2023-09-12 15:02

1 赞

其他人还在看

更多精彩内容

Go 1.22 将修复 for 循环变量错误

Bee 2.1.8 支持多表增删改，自动生成带 Swagger 的 Javabean（更新 Maven）

百灵快传（B0Pass）大文件传输工具 v2.0.2 - 百灵快传专用安卓 App 发布

Linux 内核 LTS 期限将从 6 年恢复至 2 年

ModStartCMS v7.3.0，富文本 MP3支持，后台组件优化

英伟达的 AI 霸主地位会持久吗？

deepin 官宣正式接入大模型

Java 21 新特性：Record Patterns

海盗湾成立 20 周年

红杉资本：生成式 AI 进入第二阶段

Next.js 13.5 发布，性能显著提升

Flutter for OpenHarmony 来了

腾讯阿里参投，智谱 AI 完成 B-4 轮融资

智能制造一体化 v3.10.11 大版本发布

Solon for JDK 21，虚拟线程逆天！！！

Go 团队发布组织/构建 Go module 的官方指南

mini-program —— 基于 Web 运行微信小程序的框架

WinSCP 6.1.2 发布，Windows 图形化 SFTP 客户端

Redisson 3.23.5 发布，官方推荐的 Redis 客户端

V语言 (Vlang) 支持 lambdas

2023 腾讯全球数字生态大会来袭，两大重磅专场邀您关注！

详解驱动开发中内核PE结构VA与FOA转换

一文帮你全面认识方天视窗引擎

Leon2处理器源代码/文档/综合脚本/验证代码等资料教程

图书搜索领域重大突破！用Apache SeaTunnel、Milvus和OpenAI提高书名相似度搜索精准度和效率

降本增效，StarRocks 在同程旅行的实践

Quick, cost-effective development of brushed/brushless DC motor controllers; NXP Mini Arm^...

干货分享！使用 Cocos 在可视化领域蓝海掘金！

探索人工智能的未来

openEuler+Linaro合作成果展示｜2023开放原子全球开源峰会

海睿思分享 | 低代码开发直面行业变革：革新，创新？

2023RT-Thread全球技术大会回看来了！

MRF6S9130HR3, MRF6S9130HSR3 880 MHz, 27 W Avg., 28 V Single N-CDMA Lateral N-Channel RF Power MOS...

ARCHIVED - MRF1550NT1, MRF1550FNT1, 175 MHz, 50 W, 12.5 V Lateral N-Channel Broadband RF Power MO...

MRF5S19060NR1, MRF5S19060NBR1 1930-1990 MHz, 12 W Avg., 28 V, 2 x N-CDMA Lateral N-Channel RF Pow...

盘点多起疑难磁盘故障的实战经验

干货分享 | CloudQuery 数据保护能力之动态数据脱敏！

太平洋保险多云环境下Zabbix的运用实践

无需学习Python，一个公式搞定领导想看的大屏

华为云5大开源项目发布与更新，助力开发者实现应用创新

为什么我们需要云原生架构？

MRF6P18190HR6 1805-1880 MHz, 44 W Avg., 28 V, 2 x W-CDMA Lateral N-Channel RF Power MOSFET

如何为物联网设备注入“华为云+鸿蒙DNA”?

DNS隧道流量分析

爱可生|作为赞助商加盟Zabbix大会·深圳站

【我和openGauss的故事】一文帮你理解openGauss的高可用方案

12张图一次性搞懂高性能并发容器ConcurrentLinkedQueue

CTyunOS 高效迁移，助力天翼云混合部署集群建设

BeanDefinition解密：构建和管理Spring Beans的基石

i.MX21 VirtuaLab Fact Sheet

生成式AI：五大优势引领未来科技发展

Hybrid Embedding：蚂蚁集团万亿参数稀疏 CTR 模型解决方案

海睿思分享 | 企业数据怎样管理才能蜕变为可变现的资产？

openEuler用户案例征集，欢迎投稿！

超燃现场，openGauss Developer Day2023全程亮点回看！

细数应用软件的缺陷分类

FXAS21002C: Freescale 3-Axis Digital Angular Rate Gyroscope - Data Sheet

Html+JavaScript实现手写签名

揭秘内存暴涨：解决大模型分布式训练OOM纪实

MRF5S21090HR3, MRF5S21090HSR3, 2110-2170 MHz, 19 W Avg., 28 V, 2 x W-CDMA Lateral N-Channel RF Po...

MRF6S9060NR1, MRF6S9060NBR1 880 MHz, 14 W Avg., 28 V Single N-CDMA Lateral N-Channel Broadband RF...

加入 " openEuler Call for X 计划"，释放无限潜力！

从GaussDB(DWS)的技术演进，看数据仓库的积淀与新生

用户案例 | 蜀海供应链基于 Apache DolphinScheduler 的数据表血缘探索与跨大版本升级经验

smartbi token回调获取登录凭证漏洞

ARCHIVED - MRF8S7170NR3 618-803 MHz, 50 W Avg., 28 V Single W-CDMA Lateral N-Channel RF Power MOS...

MMRF1305HR5, MMRF1305HSR5 1.8-2000 MHz, 100 W, 50 V Broadband RF Power LDMOS Transistors - Data S...

就在本周六！RT-Thread线下入门培训深圳站！

7月8日活动|大语言模型时代，AI infra 长什么样？

快速玩转 Llama2！阿里云机器学习 PAI 推出最佳实践（一）——低代码 Lora 微调及部署

OceanMind海睿思签约江苏省粮食集团，携手推进风控数字化进程

海量数据运维要给力，GaussDB(for Cassandra)来助力

JeecgBoot低代码平台 3.5.2，仪表盘版本发布！重磅新功能—支持在线拖拽设计大屏和门户

【RT-Thread 8月有奖原创征文】带上原创征文，赢取论坛好礼吧！

GaussDB(for Redis)多租户：读写权限控制和数据库隔离的完美融合

ARCHIVED - A2T18S162W31S, A2T18S162W31GS 1805-1880 MHz, 32 W Avg., 28 V Airfast^® RF Po...

JeecgBoot轻松解决ERP项目复杂布局需求，JVXETable高性能表格效果和项目案例

MRF7S19210HR3, MRF7S19210HSR3 1930-1990 MHz, 63 W Avg., 28 V Single W-CDMA Lateral N-Channel RF P...

【AI简报20230707】中国团队推出「全球首颗」AI 全自动设计 CPU！重磅，GPT-4 API 全面开放使用！

meetup第二站·北理工回顾来啦！新知识get√

从理解到生成，语言处理的革命性进步

建设数字工厂：华为云数字工厂平台接入第三方网关设备数据

开源爱好者月刊《HelloGitHub》第87期

MRF6S21100HR3, MRF6S21100HSR3 2110-2170 MHz, 23 W Avg., 28 V, 2 x W-CDMA Lateral N-Channel RF Pow...

实时边缘Yocto Project用户指南

MF1S5009 Mainstream contactless smart card IC

Spring Cloud Gateway下的GC停顿排查之旅

开放同飞，华为云发布盘古大模型全域协同生态

ShardingSphere 5.4.0 重磅发布！

手把手实践丨基于STM32+NBIOT+华为云IOT设计智能井盖

ARCHIVED - MRF7P20040HR3, MRF7P20040HSR3 2010-2025 MHz, 10 W Avg., 32 V Single W-CDMA Lateral N-C...

新知同享｜Cloud 开发加速创新，更加安全

龙蜥社区第 20 次运营委员会议圆满结束！

OceanMind海睿思签约聊城审计局，实现审计档案全生命周期管理！

ARCHIVED - A2T23H300-24S 2300-2400 MHz, 66 W Avg., 28 V Airfast^® RF Power LDMOS Transi...

MRF7S18125AHR3, MRF7S18125AHSR3 1805-1880 MHz, 125 W CW, 28 V GSM, GSM EDGE Lateral N-Channel RF ...

Using Asymmetric DSP Application Projects with CodeWarrior v10.1.8 or Later

HarmonyOS课程体验官招募（第四期），寻找乐于分享，精益求精的伙伴

基础知识回顾：借助 SSL/TLS 和 NGINX 进行 Web 流量加密

热门评论

时光TM 2023-09-20 07:21

这个版本必将成为又一个里程碑

Starry_Source 2023-09-07 21:56

另外现居四川，中国西部。不是北上广，没有程序员爸妈。4年级左右对编程产生兴趣，开始搞信息学奥林匹克竞赛。曾获csp-j普及组一等奖，蓝桥杯省赛一等奖，等等奖项。从初一开始自学html, css 和 js。说这些为了告诉你们，我的家庭条件，天赋，教育条件，视野，平台，没有什么任何的可羡慕的。

wzhsh90 2023-09-21 22:38

不成熟

小杨阿哥哥 2023-09-13 11:12

初期成长阶段还行吧，但是对于用户量巨大的免费游戏的话，光下载量就能亏一波。

Lenxvp 2023-09-08 08:42

好好加油即可，别理会那些天天嘴上抱怨环境不好，实际自己也不过是环境劣化的推手

h4cd 2023-09-06 11:22

昨天第一次用上文心一言，感觉是：技术能力上肯定输麻了，但产品能力上秒杀 ChatGPT。

易仙洞主 2023-09-21 19:07

1.21开始不支持win7，鬼火绿！

troika 2023-09-21 19:35

我觉得bt要淘汰了，协议在中国某些宽带商被封杀不说，后期添删文件都做不到，建议用ipfs或syncthing作为替代。

小xu中年 2023-09-21 20:56

内存泄露？

梅子酒好吃 2023-09-21 18:19

纯属巧合。正好 jdk21 发了，正好 solon 也支持 jdk21，正好 solon 最近要发更新。。。无巧不成书啊。

AK_诚 2023-09-15 08:16

这里面好几处问题，比如bug不严重，主管负责兜底，意思严重的话就不管了，要主管干嘛，要团队有何用，二者见事情不对，就放假，并多次致电，这怕是已经觉得问题很严重了，怕在公司出问题，就直接放假躲避责任吧，这里面多次致电已经说明了问题

infoworld 2023-09-21 23:19

到时候创建几百万个虚拟线程，你的线程本地变量内存不会溢出？

littlebin 2023-09-14 10:47

确实比plus好用，咋还不能比较了？

bastetwang 2023-09-22 03:43

Thread-local variables Virtual threads support thread-local variables (ThreadLocal) and inheritable thread-local variables (InheritableThreadLocal), just like platform threads, so they can run existing code that uses thread locals. However, because virtual threads can be very numerous, use thread locals only after careful consideration. In particular, do not use thread locals to pool costly resources among multiple tasks sharing the same thread in a thread pool. Virtual threads should never be pooled since each is intended to run only a single task over its lifetime. We have removed many uses of thread locals from the JDK's java.base module in preparation for virtual threads in order to reduce memory footprint when running with millions of threads. The system property jdk.traceVirtualThreadLocals can be used to trigger a stack trace when a virtual thread sets the value of any thread-local variable. This diagnostic output may assist with removing thread locals when migrating code to us

itfanr 2023-09-21 20:21

超级好用

b0cloud 2023-09-21 18:12

听你的，😏用小写v更好看

低

低调的前行 2023-09-21 21:49

ce不受影响？

-SORA- 2023-09-07 16:47

简单地说，vue3依赖的Proxy API功能，而Firefox近期优化了Proxy API性能。

zhuzhu0330 2023-09-21 19:27

Really?

梅子酒好吃 2023-09-21 18:20

我倒很想发张测试的截图。。。可惜聊天界面，不能发。（群里已经发了一圈）

哈哈512 2023-09-19 11:05

当一个项目没什么突出优势时，就开始大搞“爱国情怀”恰爱国饭了。

天堂比不过家乡啦 2023-09-20 11:00

大概率事件，每个windos和苹果系统都有底层后门，移动端也是一样。安卓和linux 稍微好点不排除

wuyounyoun 2023-09-19 21:40

35全都给我走

JianfeiMa 2023-09-20 10:42

我昨晚连夜下载Java21测试虚拟线程，java其它11版本，17版本我都跳过更新了，直接从java1.8更新到21版本

钛元素 2023-09-14 09:06

用C++讨厌指针，用c没什么库，用basic感觉有点跟不上时代，用delphi不喜欢:=，用java太杂太乱，用c#被IL高的欲仙欲死，用python总觉得对齐很傻，用php讨厌$，用go被报错调试搞死，用rust感觉好难，用JavaScript框架太多...总结下来，我就是个不适合编程的人啊

简单代码 2023-09-06 08:35

国内的喷子太厉害了，自研=重复造轮子，基于idea开发=魔改没核心技术，界面相似=抄袭。。。。

Mindolph 2023-09-21 22:30

没有评论？

加百列Gabriel 2023-09-22 02:48

应该在宣布lts版本的时候为这个版本进行募捐，筹到多少钱就雇人维护多久

monkey_cici 2023-09-07 15:55

LLaMA套壳，国外框架套壳，反正就是不开源，技术水平个个都号称超越ＸＸＸ，国产自主研发，遥遥领先....

zb79463626 2023-09-15 15:01

此后 9 月 4 日至 6 日在员工休假期间，业务主管、HR、团队同事等曾多次致电、聊天让他安心养病。员工生病后这样密集联系和对话，非常不正常，除非是乘机想逼迫对方离职而使用恐吓和轰炸，这是hr常用手段。

degeryang 2023-09-21 20:31

80后程序员的回忆！当年国内还没有一部关于计算机的法律，各种浸透后数据，各种泄漏源码。

一码Yma 2023-09-06 15:31

卷大模型没意义,卷莆田广告机会更大

Francesca 2023-09-08 20:32

这个语言从头到脚都透露着商业炒作的气息，从使用emoji作为语言的扩展名，到宣传比python快几万倍，然后还说几乎不用修改python代码，我看了一下，这改的连你亲爹都不认识了

君子澜 2023-09-11 16:55

你能不能拿出 10 万悬赏一下 bug

梅子酒好吃 2023-09-21 18:17

难道它不能是：即是国产的，又是世界的，还是优势项目？。。。有容乃大。别想这些小事：）

iman123 2023-09-20 12:34

已更新，从这一版本开始，gu已经删除，native-image已经内置了，see https://github.com/oracle/graal/issues/6855

司徒无涯 2023-09-19 13:28

专门登录写个评论，为了信创而信创没有任何意义。如果开源的spring被认为是非自主可控不安全的，那请问Linux和Java属于自主可控吗？那些大数据和人工智能的组件属于自助可控吗？Docker和K8s属于自主可控吗？真要完全安全自主的话，国内的计算机行业应该从汇编开始发展。师夷长技以制夷，我支持自主研发、自主可控的信创策略，但应该是更底层的芯片、操作系统、虚拟机、容器化这些基础组件的研发。像中间件、应用框架这些东西，就算一夜之间所有github的代码全部消失了，集合几家大厂的能力，开发出来又能花多少时间呢？况且现在大厂本身就有很多自研的中间件和框架。本身东西就不复杂，现在spring、redis这些东西流行只是因为它们诞生的早生态好罢了，而不是难度。为此单独再搞一套轮子我觉得大可不必。

哈哈512 2023-09-06 13:20

凡是标榜“中中===国人的”为卖点的项目，都可以忽略掉

fch1993 2023-09-21 23:03

2年在PC上难道不依旧太短了吗？Windows 11连短期支持版的内核都是2+1年(企业版/教育版额外一年)，而到了LTSC版的内核更是5+5年（后者面向物联网的IoT版本），有些人更是坚持只做LTS 到 LTS的方式更新。

梅子酒好吃 2023-09-21 19:32

讲法上：jfinal 是快速开发框架；solon 是“生态级”应用开发框架。

爱吃生梨 2023-09-21 20:01

作为一个初中生的家长，很难相信在每天作业这么卷，作业做到11点的情况下，还有时间开发维护这样一个项目，又不是scratch项目。莫非真有不睡觉的天才

infoworld 2023-09-22 04:21

不错😀

梅子酒好吃 2023-09-21 18:15

北方想不通：都有饺子了，为什么南方人还要吃汤圆。。。要能看到更大的世界。

exaggerated-dream 2023-09-18 23:47

想当初我一个人，php搞全套im用了2周，到今天还跑客户服务器上，现在用的人不算多，但起码不用我操心，稳定的想哭。。半年后另一个项目领导要求换java重构，spring，6个人搞了2个月，看到ctrl、entity、xml、dao、service这几个文件夹就想吐。。。抛开性能不谈，到现在唯一能让我觉得可以跟php比一下的是nodejs。。go那异常处理接受不了，rust不适合搞国内这种业务项目。

大熊小鸽鸽 2023-09-21 18:10

能用，不影响。

bastetwang 2023-09-22 03:45

现在好像是推荐用新的Scoped Values 了。

fuwu360 2023-09-20 06:39

这个版本相当于java8，因为增加了虚拟线程！有了虚拟线程，有了GraalVM，go语言大势已去！

梅子酒好吃 2023-09-21 18:30

而且北方人怎么想，都觉得饺子就是最好的。

_snake_ 2023-09-21 21:51

lambda 真™的丑，好在期待的虚拟线程可算是千呼万唤的出来了。

水中那片云 2023-09-14 18:53

9 月 4 日至 6 日在员工休假期间，业务主管、HR、团队同事等曾多次致电、聊天让他安心养病，并表示项目中发生任何问题主管都会兜底负责。这个致电及聊天的内容是什么呢？

b0cloud 2023-09-21 18:31

后面可以试试开发TV版。目前建议你安装在电脑上，用电视浏览器打开url，也是可以用的。

小粉丝逆袭大偶像 2023-09-21 19:24

感觉要大火。。。。

Starry_Source 2023-09-07 21:45

本人原创作者，在此解释声明一二： 1. 我的父母还没有无耻到做这种无耻的事情，我也对我的能力有信心，目前也不需要这些偷鸡摸狗的见不得光的东西来造假，请各位不要以小人之心度君子之腹。 2. 我今年初三，项目是从初一开始做的，各位不相信的欢迎上github看提交记录，可以看一下初版和现在的区别，UI和js都有不小更改。 3. 团队组成：今年一位初三，一位初一，一位5+4制的初一。更新记录中明确记录了哪些功能是哪位所开发的。 4. 我在github上，bilibili上没有受到过任何一个人的质疑，我对中国的网络环境表示蔑视。 5. 本项目的初中只是为了兴趣，没有想到火了起来。我不理解你们是如何通过代码读出作者年龄的？难道是语文考试要加入代码阅读赏析的题目了吗？真心觉得很厉害。 6. 不愿与某些人同流，也无众位深厚阅历经验，只望能得清白之名。感谢大家让我懂得了何乃人情世故，孰谓世态炎凉，世俗红尘。你们给我的人生上了重要的一课。人间哪有什么真善美啊，呵。社会的病胎罢了。

这波天秀 2023-09-13 09:25

php内置服务器，直接启动不需要什么Apache，nginx，php有万能调试函数var_dump，就这个函数java一辈子也做不出来，变量命名很乱那是开发者自己命名的，跟语言有什么关系？第三方包的话就是代码，ide就可以追踪，第三方扩展是函数，你直接使用不用你去调试，定时任务，邮件发送这个跟线程有什么关系？这是常驻内存，用webman，常驻内存cli框架实现那些比java简单100倍，纯php的cli框架webman性能吊打springboot几条街，通篇看下来就是一个菜鸡javaer 不懂PHP然后闹出的笑话

这波天秀 2023-09-11 14:45

jsp写出来的网站那是屎山之王，不忍直视，如果进公司去维护一套jsp代码，估计待不了3天就跑路了

betgar 2023-09-21 18:42

google打钱

一介农夫 2023-09-14 12:20

国内就业更倾向于 Java，个人在语法层面上倾向于 C#

贤心 2023-09-08 17:49

看了 wangEditor 的公告，如鲠在喉。去年七月，我在一篇《关于剔除 layedit 组件》的公告中，还推荐了几款 editor 组件用于替代，其中就包括了 wangEditor, 转眼之间，仿若时空交错，不免有些感慨。在国内由个人发起的开源项目，似乎都很难跳出相同的宿命，不断有人走进这个赛道，但能抵达终点并完成突破的却屈指可数。Layui 曾经同样倒在了赛道，2021 年宣布关站之前，Layui 的百度指数还一度领先 Bootstrap, 如此一个拥有广泛用户群体的 UI 库，本该迎来新的突破，却在疾跑中戛然止步，至今令人迷惑。人们看到的，是一篇充满悲情色彩的公告，而公告的背后，是创作者在面对内外交织的困境中不得已做出的举措，当我们没有足够的力量冲破眼前的障碍，除了停下来避开它，还有别的更优选择么。你很难想象除此之外还有多少历史包袱… 譬如，也是由于种种原因，当初 Layui 在 Github 和 Gitee 待处理的 Issue 数量，不下于 2000，各种议题参次不齐，我差不多花了半年时间去逐一审阅，多少个日夜消耗，多少次自我情绪的对抗… 就不多提了。尽管这两年来，Layui 的受众者已呈断崖式流失，但正因为小众，反而如释重负，甚至让我重新找回了一些开源的纯粹。共勉 🙂