最初の参考資料: langchain のウィンドウ ゼロベースのデプロイメント - ChatGLM_Flying Shit Beetle のブログ - CSDN ブログ
の一部をインストールする
1. GCC のインストール
gcc64 ビットのダウンロード
私のコンピューターは w10 64 ビットなので、必ず 64 ビットの gcc をインストールしてください。32 ビットをインストールして langchain を実行してエラーを報告し、環境変数を設定すると、ファイルを直接使用できます
。圧縮パッケージ内: x86_64-8.1.0- release-posix-seh-rt_v6-rev0.7z
ソフトウェア ダウンロード アドレス: https://sourceforge.net/projects/mingw-w64/files/
インストール後、解凍し、bin ディレクトリを path ディレクトリに設定します。
gcc64 インストールの検証
gcc -v
2.Visual Studio 2019 のインストール
圧縮パッケージ ファイルを直接使用できます: vs_community__studio2019.exe
公式ダウンロード アドレス: https://visualstudio.microsoft.com/zh-hans/vs/older-downloads/
2019 バージョンダウンロード リンク、コミュニティ バージョンで十分です: https://my.visualstudio.com/Downloads?q=visual%20studio%202019&wt.mc_id=omsftvscom~older-downloads
C++ 開発モジュール を選択する必要があることに注意してください。残りはデフォルトでインストールされます。その他は必要に応じてインストールできます。インストール パスはデフォルトにすることも、独自の状況に応じて変更することもできます。 「インストール」をクリックします。必要なため、後ですべてが自動的にインストールされます。オンラインでダウンロードするプロセスは少し時間がかかります。気長に待ってください~~
3. Anaconda のインストールでは、
圧縮パッケージ内のファイルを直接使用できます: Anaconda3-2023.03-0-Windows-x86_64.exe
ダウンロードとインストール
ダウンロード アドレス: https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/
インストールするときは、すべてのユーザーを選択して次のステップに進みます。
4. CUDA のインストール
CUDA11.7 をインストールするには
、https://blog.csdn.net/chen565884393/article/details/127905428 を参照してください。
インストール パッケージをダウンロードします。
圧縮パッケージ ファイルを直接使用できます: cuda_11.7.1_516.94_windows.exe
CUDA をダウンロードし、独自の構成、win10 または win11 インストール パッケージに従って選択します。
ダウンロード アドレス: https://developer.nvidia.com/cuda-11-7-1-download-archive?target_os=Windows&target_arch=x86_64&target_version=10&target_type=exe_local
チェックコマンド: nvcc -V
6. CUDNN をインストールし
、CUDNN をダウンロードします。
圧縮パッケージ ファイル: cudnn-windows-x86_64-8.5.0.96_cuda11-archive.zip を直接使用して
、インストール パッケージをダウンロードできます。NVIDIA 公式 Web サイトからダウンロードできます: https: //developer.nvidia .com/rdp/cudnn-archive
CUDNN の 3 つのフォルダー内のファイルを、CUDA インストール ディレクトリに対応する (bin、include、lib) フォルダーにコピーするだけです。CUDA の lib ディレクトリには x64、Win32、cmake の 3 つのフォルダがあるので、これらを x64 フォルダにコピーします。
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.7\bin\x64 torch_stable の
ダウンロード アドレス: https://download.pytorch.org/whl/torch_stable.html
torch==2.0.1+cu117 をダウンロードすると、cu117/torch-2.0.1 の多くのバージョンが存在することがわかります。cp38 は python3 に対応します。 .8、win_amd64 は Windows の 64 ビット オペレーティング システムに対応しており、実際の状況に応じてダウンロードできます。(+cu117はCUDA10.1、+cpuはCPUバージョンを示します)
chatglm_langchain_demo
#環境のセットアップ
conda create -n langchain python=3.10 -channel http://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge/
condaはlangchainをアクティブ化します
#倉庫を引っ張る
git clone https://github.com/imClumsyPanda/langchain-ChatGLM.git
# 依存関係をインストールする
cd langchain-ChatGLM
python3 -m pip install -rrequirements.txt
python3 -m pip install gradio==3.28.3
python3 -m pip install tabulate
#モデルをダウンロードする
git lfs install #この文は私が書いたものではありません
git clone https://huggingface.co/THUDM/chatglm-6b-int4
git clone https://huggingface.co/GanymedeNil/text2vec-large-chinese
python3 webui.py
成功
[langchain_chatglm が中級者タイトルの評価について質問] https://www.bilibili.com/video/BV1GW4y1Z7wu/?share_source=copy_web&vd_source=159f872f790f3f11c2991f350622f681