Jetson AGX-PythonAPIに基づくDeployPaddle InfenceGPU予測ライブラリ

システム環境

  • JetPack4.3

この画像が必要な場合は、Jetsonダウンロードセンターからダウンロードできます

PaddlePaddleをインストールします

nanoは公式にpython3.6のwhlをコンパイルしているため、2つの方法があります。したがって、コンパイルせずに直接ダウンロードするだけです。

公式にコンパイルされたJetsonすべての予測ライブラリを直接ダウンロードします

ダウンロードリンク
ダウンロード

python3.6バージョンのダウンロードを選択します。
ここに画像の説明を挿入

2.依存関係をインストールします

pip3をインストールしてアップグレードします。

sudo apt-get install python3-pip
pip3 install --upgrade pip

ソースを変更し、変更し~/.pip/pip.configます:

mkdir ~/.pip
vim ~/.pip/pip.conf

次のようにコンテンツを追加します。

[global]
index-url = https://pypi.tuna.tsinghua.edu.cn/simple
[install]
trusted-host = https://pypi.tuna.tsinghua.edu.cn

numpyの1.18.3バージョンをここにインストールする必要があります。インストールしないと、後でエラーが報告されます。

pip3 install numpy==1.18.3

3.whlをインストールします

ダウンロードしたwhlファイルをボードに転送してから、whlをインストールします。

pip3 install paddlepaddle_gpu-2.0.0-cp36-cp36m-linux_aarch64.whl

成功したインストールのスクリーンショット:
ここに画像の説明を挿入

4.テスト

python3を開きます。

import paddle
paddle.fluid.install_check.run_check()

警告を報告して無視するだけで、使用に影響はありません。
ここに画像の説明を挿入

パドル推論のテスト

環境への備え

拉取パドル-推論-デモ:

git clone https://github.com/PaddlePaddle/Paddle-Inference-Demo.git

ゆっくり引っ張ると、giteeにダウンロードするためのウェアハウスを構築できますhttps://gitee.com/irvingao/Paddle-Inference-Demo.gitウェアハウスを構築しました:

GPU予測モデルを介したテスト実行

実行可能権限を付与します。

cd Paddle-Inference-Demo/python
chmod +x run_demo.sh

次に、それを開き、デモをRun_demo.sh削除x86、次のようELMO変更します。ELMo
ここに画像の説明を挿入

あなたがする必要があることに留意すべき変更の最後をすべてのサブフォルダrun.shpythonpython3
ここに画像の説明を挿入

./run_demo.sh

単一のモデルを実行することもできますrun.sh
ここに画像の説明を挿入
それらすべてが問題なく実行できれば、展開は成功です。自分のモデルをAGXで直接実行するだけです〜

エラー解決

コアダンプ

その理由は、JetPack4.3に付属のnumpyバージョンが間違っており、numpyバージョンは1.18.3である必要があるためです。

ここに画像の説明を挿入
解決:

pip3 uninstall numpy
python3 -m pip install numpy==1.18.3 -i https://mirror.baidu.com/pypi/simple

おすすめ

転載: blog.csdn.net/qq_45779334/article/details/115215340