49.现有移动端开源框架及其特点—MACE( Mobile AI Compute Engine)

news/2024/7/10 22:14:51 标签: 人工智能, 开源, 深度学习
  • Mobile AI Compute Engine (MACE) 是一个专为移动端异构计算设备优化的深度学习前向预测框架
    • MACE覆盖了常见的移动端计算设备(CPU,GPU和DSP),并且提供了完整的工具链和文档,用户借助MACE能够很方便地在移动端部署深度学习模型
  • MACE已经在小米内部广泛使用并且被充分验证具有业界领先的性能和稳定性。

49.1 MACE的基本框架:


MACE Model
MACE定义了自有的模型格式(类似于Caffe2),通过MACE提供的工具可以将Caffe和TensorFlow的模型 转为MACE模型。
MACE Interpreter
MACE Interpreter主要负责解析运行神经网络图(DAG)并管理网络中的Tensors。
Runtime
CPU/GPU/DSP Runtime对应于各个计算设备的算子实现。

49.2 MACE使用的基本流程


配置模型部署文件(.yml)
模型部署文件详细描述了需要部署的模型以及生成库的信息,MACE根据该文件最终生成对应的库文件。
编译MACE


http://www.niftyadmin.cn/n/233028.html

相关文章

Excel表格怎么换行?4个方法任你选!

案例:excel表格怎么换行 【作为一名excel新手,我真的要被各种功能整懵了!今天又遇到了一个难题!excel表格怎么换行呀?各位大神帮帮我!】 在excel表格中进行换行操作是一种常见的需求,可以使单…

JVM 工作原理和即时编译(JIT)

目录 1、什么是虚拟机? 2、JVM 虚拟机简介 3、JVM 的工作原理 4、什么是即时编译(JIT)? 5、解释型语言和编译型语言的区别 6、为什么说 Java 是一种半编译半解释的语言? 1、什么是虚拟机? 虚拟机是一…

图像分割——交叉熵损失

一、前言 写这篇博客的目的主要有两点,首先一点就是,以为对于交叉熵学过就会了,当初笔记也没有详细写过,但今天看论文发现里面的公式没有看懂才发现自己了解的还不够,平时用也是直接用的框架,原来一直认为会…

19动态内存分配

存储器分配 存储器分配是指 操作系统管理计算机内存的过程。在操作系统中,内存被分为若干个固定大小的区域,称为页面(Page)。这些页面可以被分配给进程,来存储他们的代码、数据和堆栈等消息。 分配原理: 1…

k8s集群上安装Velero,用Velero备份K8S的数据

前提条件: 需要有一个K8S集群! 一、概述 Velero是一个开源工具,可以安全地备份和还原,执行灾难恢复以及迁移Kubernetes集群资源和持久卷。 二、docker安装minio mkdir -p /home/minio docker run -p 9000:9000 -p 9090:9090 …

从兴趣或问题出发

当我们还沉寂在移动互联网给生活带来众多便利中,以 ChartGPT 为代表的 AI 时代已彻底到来。科技的发展,时刻在改变着我们的生活,我们需要不断地学习新知识和掌握新技能才能享受变化带来的便利,以及自身不被社会淘汰。 因此&#…

《低代码PaaS驱动集团企业数字化创新白皮书》-低代码PaaS应对行业集团企业数字化应用的需求(汽车)

低代码PaaS 应对行业集团企业数字化应用的需求 低代码PaaS并不为解决某个特定行业或场景的问题而设计,而是一款独特的用于敏捷开发和交付的即服务应用程序平台。不同行业和企业的数字化转型进程不同,应用场景不同,资产规模不同,造…

Linux基础命令-scp远程复制文件

Linux基础命令-seq打印数字序列 前言 有时候不可避免的需要将文件复制到另外一台服务器上,那么这时就可以使用scp命令远程拷贝文件,scp命令是基于SSH协议,在复制的过程中数据都是加密过的,会比明文传输更为安全。 一.命令介绍 …