高性能神经网络前向计算框架 ncnn

BSD
C/C++
跨平台
腾讯
2017-07-24
王练

ncnn

ncnn 是腾讯优图实验室首个开源项目,是一个为手机端极致优化的高性能神经网络前向计算框架。

ncnn 从设计之初深刻考虑手机端的部属和使用。无第三方依赖,跨平台,手机端 cpu 的速度快于目前所有已知的开源框架。

基于 ncnn,开发者能够将深度学习算法轻松移植到手机端高效执行,开发出人工智能 APP,将 AI 带到你的指尖。

ncnn 目前已在腾讯多款应用中使用,如 QQ,Qzone,微信,天天P图等。

功能概述

  • 支持卷积神经网络,支持多输入和多分支结构,可计算部分分支

  • 无任何第三方库依赖,不依赖 BLAS/NNPACK 等计算框架

  • 纯 C++ 实现,跨平台,支持 android ios 等

  • ARM NEON 汇编级良心优化,计算速度极快

  • 精细的内存管理和数据结构设计,内存占用极低

  • 支持多核并行计算加速,ARM big.LITTLE cpu 调度优化

  • 整体库体积小于 500K,并可轻松精简到小于 300K

  • 可扩展的模型设计,支持 8bit 量化和半精度浮点存储,可导入 caffe 模型

  • 支持直接内存零拷贝引用加载网络模型

  • 可注册自定义层实现并扩展

  • 恩,很强就是了,不怕被塞卷 QvQ

加载中

评论(0)

暂无评论

腾讯优图 ncnn AI 框架宣布加入 ONNX 开放生态系统

近日,腾讯优图首个 AI 开源项目 ncnn 宣布正式加入 ONNX ,现已支持将 ONNX 文件转换为 ncnn 模型。此后,AI 开发者能更快实现从研究到模型的落地部署,也能更方便地在不同框架间切换,为每...

08/28 08:26

腾讯优图开源神经网络框架 ncnn ,主打移动端

ncnn 是腾讯优图实验室首个开源项目,是一个为手机端极致优化的高性能神经网络前向计算框架,于今日正式开源。 ncnn 从设计之初深刻考虑手机端的部署和使用。无第三方依赖,跨平台,手机端 ...

2017/07/24 14:35

没有更多内容

加载失败,请刷新页面

没有更多内容

暂无问答

暂无博客

返回顶部
顶部