TensorFlow Lite指南
TensorFlow Lite是TensorFlow针对移动和嵌入式设备的轻量级解决方案。它支持设备内机器学习推理,具有低延迟和小二进制大小。TensorFlow Lite还支持Android神经网络API的硬件加速 。
TensorFlow Lite使用许多技术来实现低延迟,例如优化移动应用程序的内核,预融合激活以及允许更小和更快(定点数学)模型的量化内核。
1.TensorFlow Lite包含什么?
- TensorFlow Lite支持一组核心运算符,包括量化和浮点运算,它们已经针对移动平台进行了调整
- TensorFlow Lite基于FlatBuffers定义了一种新的模型文件格式
- TensorFlow Lite拥有一个新的移动优化解释器,其主要目标是保持应用程序的精简和快速
- TensorFlow Lite提供了一个利用硬件加速的接口(如果在设备上可用)
2.为什么我们需要一个新的移动专用库?
- 硅层的创新为硬件加速提供了新的可能性,而Android神经网络API等框架可以轻松利用这些功能。
- 最近在实时计算机视觉和口语理解方面取得的进展使得移动优化的基准模型成为开源的(例如MobileNets,SqueezeNet)。
- 广泛可用的智能设备为设备智能创造了新的可能性。
- 对用户数据不需要离开移动设备的更强大的用户数据隐私范例感兴趣。
- 能够提供“离线”用例,其中设备不需要连接到网络。
3.TensorFlow Lite亮点
- 一组核心运营商,包括量化和浮动,其中许多已经针对移动平台进行了调整 一种新的
- 基于FlatBuffers的模型文件格式
- 具有内核优化的设备上解释器,可在移动设备上更快地执行
- TensorFlow转换器将TensorFlow训练的模型转换为TensorFlow Lite格式
- 尺寸较小:当所有支持的运算符链接时,TensorFlow Lite小于300KB,当仅使用支持InceptionV3和Mobilenet所需的运算符时,小于200KB
4.TensorFlow Lite架构
以上这些内容呢,在TensorFlow官网都可以看到的,我这里纯粹是进行了“搬运”,那么接下来,我会就自己的学习进度来进行记录TensorFlow Lite的内容
TensorFlow Lite学习之前的准备工作
1.安装最新版本的 Android Studio
下载和安装Android Studio搭建Android集成开发环境
使用Android Studio开发Android APP
很多时候,Android studio里边的虚拟机不可用,那干脆,我们将做好的App放在我们自己的手机上来看,那就需要阅读下边这篇文章了
Android Studio连接手机设备教程(完全步骤)