一文教你如何在JAVA上部署深度学习模型

Keras库为深度学习提供了一个相对简单的接口,使神经网络可以被大众使用。然而,我们面临的挑战之一是将Keras的探索模型转化为产品模型。Keras是用Python编写的,直到最近,这个语言之外的支持还很有限。虽然Flask,PySpark和Cloud ML等工具可以直接在Python中产品化模型,但我通常更喜欢使用Java来部署模型。

像ONNX这样的项目正朝着深度学习的标准化方向发展,但支持这些格式的运行时仍然有限。常用的方法是将Keras模型转换为TensorFlow图,然后在其他支持TensorFlow的运行时中使用这些图。我最近发现了Deeplearning4J(DL4J)项目,该项目本身支持Keras模型,使得在Java中进行深度学习很容易上手并运行。

我一直在探索深度学习的一个用例是使用Python训练Keras模型,然后使用Java产生模型。这对于需要直接在客户端进行深度学习的情况很有用,例如应用模型的Android设备,或者你希望利用使用Java编写的现有生产系统。

本文概述了在Python中训练Keras模型,并使用Java进行部署。我使用Jetty提供实时预测,使用Google的DataFlow构建批预测系统。运行这些示例所需的完整代码和数据可在GitHub上获得。

完整代码和详情请点击原文链接:使用Java部署训练好的Keras深度学习模型

猜你喜欢

转载自blog.csdn.net/whale52hertz/article/details/81737458