問題の紹介
機械学習スクリプトを実行する際のトレーニング プロセスを高速化するために、新しい RTX 4080GPU をインストールしました。
GPU 使用率が 10% を超えていないのは、おそらくコードが実行されていないことを意味します。タスク マネージャー ビューに慣れていない人にとって、その理由はそれほど明白ではありません。私が立てている仮定は、Windows タスク マネージャーには全体的な GPU 使用量のみが表示されるということです。
少し考えた後、GPU のメモリ使用量が比較的高いため、GPU は実際に多くの作業を行っているに違いないことに気づきました。そして、私が求めていた指標は「CUDA」のパフォーマンスであり、これはまったく表示されないことに気づきました。デフォルトではなく、タスク マネージャーのメイン プロセス テーブルに含まれるメトリックでもありません。
タスクマネージャーのデフォルトビューはどのように見えるか
「パフォーマンス」タブのデフォルトのビューには多くの操作が表示されませんが、特に CUDA で GPU を最大限に活用しています。注目すべきはGPUメモリが8.7GB/31.9GBと全体的に高いことがわかること。
タスクマネージャーでGPU使用率を表示
メイン プロセス ビューに戻ると、「GPU」を示す列には 6.5% しか表示されていません。少なくとも、この列にはグラフィックス カード内で発生するすべての作業のメトリクスを含めたいと考えています。それでも CUDA が動作していることはわかりません。
タスクマネージャープロセスのGPU使用率
CUDA監視を追加する
したがって、[パフォーマンス] タブに戻ってグラフの 1 つを選択し、ドロップダウンを右クリックすると、他のパフォーマンス メトリックのリストが表示されます。「Copy」グラフを「CUDA」に置き換えてみましょう
タスクマネージャー固有の CUDA の使用法
さて、これで、GPU 操作が正確に何を消費するのかが確認できました。現在、GPU - Cuda が 30% ～ 50% 程度で動作していることがわかります。
RTX4080 GPU占有率（実動作速度）
最後に、GPU ビデオ メモリの実際の使用量を確認するソフトウェア GPU-Z をお勧めします。ダウンロード リンクも添付されています。
GPU-Z ダウンロード | TechPowerUp www.techpowerup.com/download/gpu-z/
動作中の GPU の表示は非常に見やすく、注目に値します。
ハードウェアの全体的な状況を表示する GPU-Z ソフトウェア
GPU-Z ソフトウェアはグラフィックス メモリの使用量を表示します