Flask 推理模型,显存一直增长。

问题
使用Flask调用DNN模型推理API时,每调用一次API,显存持续增长,直至最终显存爆炸强制退出程序。
解决方法

flask2.0的app.run()中默认打开了threaded=True来支持多线程并发请求,从而导致显存泄漏。每次调用,显存就持续增长。
解决方法为:把多线程改为单线程,设置app.run()中threaded和debug为False。示例如下:

在这里插入图片描述
然后,就可以正常推理了。
在这里插入图片描述

下面的没有用啊!

下面的没有用啊!

下面的没有用啊!

下面的没有用啊!
写够500字,否则
文章质量提示
文章质量提示
此文章质量较低,不会获得较多流量扶持! 可能的原因为:篇幅太短,广告涉嫌违规,外链过多,缺少代码,图片涉嫌违规
文章质量提示
此文章质量较低,不会获得较多流量扶持! 可能的原因为:篇幅太短,广告涉嫌违规,外链过多,缺少代码,图片涉嫌违规
此文章质量较低,不会获得较多流量扶持! 可能的原因为:篇幅太短,广告涉嫌违规,外链过多,缺少代码,图片涉嫌违规

猜你喜欢

转载自blog.csdn.net/hhhhhhhhhhwwwwwwwwww/article/details/124686536