【Tensorflow】Tensorflow移植Android上的过程和坑

//整个流程核心的三个接口
TensorFlowInferenceInterface.fillNodeFloat(); //输入数据
TensorFlowInferenceInterface.runInference();  //模型运行
TensorFlowInferenceInterface.readNodeFloat(); //得到输出数据

而这个是jdk8版本的

//jdk8版本的
TensorFlowInferenceInterface.feed()//输入
TensorFlowInferenceInterface.run()//运行
TensorFlowInferenceInterface.fetch()//输出

可以根据需要按照自己的方式选择

5，tensorflow训练pb文件

自己随便写了一个模型，这里必须要保存为pb文件，使用到的模块

from tensorflow.python.framework import graph_util

# -*- coding: utf-8 -*-
"""
Created on Sat Sep 22 20:18:18 2018
保存模型
@author: hhuaf
"""
import tensorflow as tf
from tensorflow.python.framework import graph_util
import os

pb_file_path = os.getcwd()


with tf.Session(graph=tf.Graph()) as sess:
    x = tf.placeholder(tf.float32, name='input')
    w = tf.Variable(tf.random_normal([1]), name='weight')
    b = tf.Variable(1.0, name='b')
    xy = tf.multiply(x, w)
    # 这里的输出需要加上name属性
    op = tf.add(x, x, name='output')
 
    sess.run(tf.global_variables_initializer())
 
    # convert_variables_to_constants 需要指定output_node_names，list()，可以多个
    constant_graph = graph_util.convert_variables_to_constants(sess, sess.graph_def, ['output'])
 
    # 测试 OP
    feed_dict = {x: 5.0}
    print(sess.run(op, feed_dict))
    print('w',w.eval(),'b',b.eval())
    
 
    # 写入序列化的 PB 文件
    with tf.gfile.FastGFile(pb_file_path+'model.pb', mode='wb') as f:
        f.write(constant_graph.SerializeToString())
 
    # 输出
    # INFO:tensorflow:Froze 1 variables.
    # Converted 1 variables to const ops.
    # 31

注意保存的时候输出的名字一定要记住[output]

得到pb文件后就可以在Android上面开始移植了

6、在Android的移植

我是下载了18年编译的java8的so文件和jar文件，加上上面训练的简单模型

环境配置方面很大程度上借鉴了这篇博客：将TensorFlow训练好的模型迁移到Android APP上

具体来说就是在app/src/main/下创建assets文件夹，里面放置我们训练好的pb文件

在app目录下创建libs文件夹（若有了就不用创建）放置jar文件

再libs目录下再创建armeabi-v7a文件夹，里面放置so文件

在app下的gradle里添加配置如下。后面的dependencies会自动添加（AS的好处）

apply plugin: 'com.android.application'

android {
    compileSdkVersion 28
    defaultConfig {
        applicationId "com.example.hhuaf.tf_new1"
        minSdkVersion 15
        targetSdkVersion 28
        versionCode 1
        versionName "1.0"
        testInstrumentationRunner "android.support.test.runner.AndroidJUnitRunner"
        multiDexEnabled true//新加
        ndk {//新加
            abiFilters "armeabi-v7a"//新加
        }//新加
    }
    buildTypes {
        release {
            minifyEnabled false
            proguardFiles getDefaultProguardFile('proguard-android.txt'), 'proguard-rules.pro'
        }
    }
    //新加
    sourceSets {//新加
        main {//新加
            jni.srcDirs = []//新加
            jniLibs.srcDirs = ['libs']//新加
        }//新加
    }//新加
}

dependencies {
    implementation fileTree(include: ['*.jar'], dir: 'libs')
    implementation 'com.android.support:appcompat-v7:28.0.0'
    implementation 'com.android.support.constraint:constraint-layout:1.1.3'
    testImplementation 'junit:junit:4.12'
    androidTestImplementation 'com.android.support.test:runner:1.0.2'
    androidTestImplementation 'com.android.support.test.espresso:espresso-core:3.0.2'
    implementation files('libs/libandroid_tensorflow_inference_java.jar')
}

跑了通第一个demo

整体来说流程是这样

二、从Ubuntu到windows

除开bazel编译so和jar文件外，其实Linux和windows的移植并无差别，在有so,jar文件情况下，可以无视环境不同，直接移植

在win环境的AS配置方法与ubuntu完全一样，能成功移植

后话

虽然移植成功了，但是并没有通过编译过程，其实有点取巧，希望有大佬来提供一个成功编译的方案，有修改的地方以后会修改，如果参考的几篇博客有侵权的地方，我会马上删除！