1.Torch Profiler ツールの紹介
https://zhuanlan.zhihu.com/p/360479566
PyTorch Profiler は、大規模な深層学習モデルを正確かつ効率的に分析するためのオープンソース ツールです性能分析。次の機能が含まれます。
- モデルの GPU と CPU の使用率を分析する
- さまざまなオペレーターの所要時間
- パイプライン内のトレース ネットワークの CPU および GPU の使用率
ProfilerTensorboard視覚化を使用して模型的性能モデルの検出を支援瓶颈します。たとえば、CPU 使用率が 80% に達すると、ネットワークのパフォーマンスがモデルの GPU 推論やさまざまなカーネル操作の消費ではなく、主に CPU によって影響されることを示します。現時点では、モデルの軽量化と枝刈りはモデルの実行速度には影響しません。重要なのは、無駄な作業を避け、プロジェクトのパフォーマンスを最適化するために、CPU 消費量を削減し、コードを最適化することです。 。
