移动深度学习优化库 QNNPACK

BSD
C/C++
跨平台
Facebook
2018-11-05
王练

QNNPACK (Quantized Neural Networks PACKage) 是一款针对移动 AI 进行优化的高性能内核库。这个库加速了多项操作,包括高级神经网络架构所使用的深度卷积。

QNNPACK 的目标并非是由机器学习研究人员直接使用,相反,它旨在为高级深度学习框架提供低级性能原语(low-level performance primitives)。QNNPACK 已经被集成到 Facebook 的一系列应用程序中,并被部署在全球的 10 亿台移动设备上。

QNNPACK 也已集成在 PyTorch 1.0 中,并已支持 Caffe2 模型表示。

的码云指数为
超过 的项目
加载中
请先登录后再评论。

暂无资讯

暂无问答

Pytorch-Quantization(1)

Introduction Pytorch应该是当下最流行、最好用、最易上手的深度学习框架。反正tf的那些借口我是记不住的,也不想去记,更不想去用的。Pytorch一直以来被诟病的两点:移动端移植、模型量化。...

05/07 20:59
26
0
矩阵乘法的优化及其在卷积中的应用

点击上方“迈微电子研发社”,选择“星标★”公众号 重磅干货,第一时间送达 来自 | 知乎 作者 | 黎明灰烬 链接 | https://zhuanlan.zhihu.com/p/66958390 编辑 | 深度学习这件小事公众号 本...

06/01 19:30
0
0
【杂谈】当前模型量化有哪些可用的开源工具?

模型量化属于模型优化中的重要技术之一,是非常有效地提升模型推理速度的技术方案,那么当前有哪些可用的模型量化工具呢? 作者&编辑 | 言有三 1 Tensorflow Lite TensorFlow Lite是谷歌推出...

2019/12/18 17:36
10
0
卷积神经网络性能优化

点击上方“机器学习与生成对抗网络”,关注"星标" 获取有趣、好玩的前沿干货! 作者: 黎明灰烬 整理: 极市平台 来源: https://zhuanlan.zhihu.com/p/80361782 文仅交流,侵删 引言 看到这...

06/14 22:33
16
0
PyTorch 1.3 重磅发布

2019.10.10日,PyTorch 开发者大会在美国旧金山开幕,会上发布了PyTorch 1.3。这次更新最大的亮点在于对移动设备的支持(Mobile Supported)、命名张量(Named Tensors),量化(Quantizatio...

2019/10/15 00:50
10
0
一文了解AOE到底是什么!

一、背景 1.1 AoE是什么 AoE (AI on Edge) 是一个滴滴开源的终端侧AI集成运行时环境(IRE)。以 “稳定性、易用性、安全性” 为设计原则,帮助开发者将不同框架的深度学习算法轻松部署到终端高...

2019/12/13 15:34
108
0
PyTorch 1.5发布,C++前端重大更新、引入新存储格式提高性能

PyTorch 1.5 发布了,此版本包括新增加了几个主要的 API 和一些改进、对 C++ 前端有重大更新、用于计算机视觉模型的“通道维持(channels last)”存储格式,以及用于模型并行训练的分布式 ...

04/23 00:00
0
0
PyTorch 1.5 发布,C++前端重大更新、引入新存储格式提高性能

PyTorch 1.5 发布了,此版本包括新增加了几个主要的 API 和一些改进、对 C++ 前端有重大更新、用于计算机视觉模型的“通道维持(channels last)”存储格式,以及用于模型并行训练的分布式 ...

04/26 10:00
0
0
2018年终总结之AI领域开源框架汇总

2018年终总结之AI领域开源框架汇总 【稍显活跃的第一季度】 2018.3.04——OpenAI公布 “后见之明经验复现(Hindsight Experience Reply, HER)”的开源算法,这个新的算法保证人工智能可以像...

2018/12/27 09:19
27
0

没有更多内容

加载失败,请刷新页面

返回顶部
顶部