基于函数计算 + TensorFlow 的 Serverless AI 推理

前言概述

本文介绍了使用函数计算部署深度学习 AI 推理的最佳实践, 其中包括使用 FUN 工具一键部署安装第三方依赖、一键部署、本地调试以及压测评估， 全方位展现函数计算的开发敏捷特性、自动弹性伸缩能力、免运维和完善的监控设施。

1.1 DEMO 概述

通过上传一个猫或者狗的照片， 识别出这个照片里面的动物是猫还是狗

• DEMO 示例效果入口： http://sz.mofangdegisn.cn
• DEMO 示例工程地址： https://github.com/awesome-fc/cat-dog-classify

1.2 解决方案

如上图所示， 当多个用户通过对外提供的 url 访问推理服务时候，每秒的请求几百上千都没有关系， 函数计算平台会自动伸缩， 提供足够的执行实例来响应用户的请求， 同时函数计算提供了完善的监控设施来监控您的函数运行情