コストゼロ、Docker がローカル ChatGPT を構築

写真

こんにちは、友達、シャオユウです。

前回の記事ではChatGPTアカウントの作成についてシェアしましたが、私も0からスタートし、必要なネットワークまで全員に用意されています。

もちろん、私は ti の使用法に関する詳細なドキュメントを書いていませんし、それでも皆さんが使用法を勉強するか、著者に相談する必要があるため、利便性を追求する一部の人々を説得しました。

ChatGPT はメディアによっては人気がやや下火になっているかもしれませんが、ChatGPT の存在は知っていてもその魅力は十分には理解できていませんが、使いこなすにはそれなりのエネルギーが必要ですし、応用範囲を広げるには専門的な技術レベルも必要です。

また、GPT 3.5 グラフィック モデルでは実際のニーズを満たすことができず、より多くのアプリケーションを満たすために GPT 4.0 モデルをアップグレードするなど、ある程度のコストを投資する必要もあります。

しかし、実際の使用プロセスでは、公式環境の使用はあまりスムーズではなく、出力の半分が途切れてしまいがちです。

進化したChatGPTシリーズとしてこの問題を解決しましょう。

次に、ChatGPT 環境をローカルにデプロイします。これは、公式 Web サイトの使用環境に近い、非常にスムーズに制限なくプレイできます。

イメージを使用して Docker 経由でサービスをローカルにデプロイする方法と、アカウントまたはトークンの権限が必要な API を使用する方法が原則です。

最初のステップとして、オープンソースのコンテナエンジンである次の Docker が必要です。Linux サーバー上で Docker を操作するのがより簡単かつ便利になります。

ただし、この記事の構築には Windows 環境の Docker を使用します。これは、より多くのパートナーが操作するのに便利であり、Linux に精通している場合は、追加の操作が必要なく、より便利です。

Docker の公式アドレスに移動し、Windows のインストール環境を選択する必要があります。

Docker 官网地址: https://www.docker.com

写真

ダウンロード後、デフォルトの方法に従って直接インストールしますが、インストール後に起動するには、ローカル マシン上で仮想環境を開く必要があります。

図に示すように、コントロール パネルに入り、プログラムに入り、クリックして Windows の機能を有効または無効にします。

次に、Hyper-V、Windows Subsystem for Linux の 2 つのオプションをオンにします。

写真

設定が正常に完了すると、タスクマネージャーで仮想化ステータスが確認され、有効になっていれば設定成功です。

写真

無効になっている場合は、仮想化ステータスを確認する必要があります。通常、cmd コマンド ウィンドウで [systeminfo] コマンドを入力すると、Hyper-V の要件が表示されます。ボックス内の 4 つの項目がすべて「はい」であれば、成功を意味します。

2番目の項目[ファームウェアで仮想化が有効になっている]が「いいえ」の場合は、Biosを入力して開く必要がありますが、ここでは展開されず、データ処理を自分で検索できます。

写真

ここで次のステップに進み、Docker を正常にインストールすると、Docker Desktop ツールでイメージを表示できるようになります。

写真

もちろん、Windows での Docker ツールの構成はある程度複雑で、プロセス中に一連の問題 (メモリ割り当ての不足、サブシステムのアップグレードの必要性など) が発生する可能性があります。これらに関連する解決策も見つけることができます。ここでは共有しません。必要に応じて、作成者とプライベートにチャットできます。

インストールが成功したら、cmd に [docker --version] と入力して、インストールが成功したかどうかを確認できます。

写真

次に、Docker イメージのアクセラレータを構成します。ネットワーク間の送信は非常に遅いため、通常はいくつかのアクセラレータを構成します。

写真

この時点で、Windows 環境での Docker のインストールと構成は完了しました。Windows 環境に Docker をインストールするにはさらにいくつかの手順が必要ですが、Linux に Docker をインストールする方が簡単で便利です。

次に、オープンソース プロジェクト Pandora を使用する必要があります。

镜像安装:docker pull pengzhile/pandora

ここでミラーイメージをダウンロードする際は、海外のサービスなのでtizi経由で入手しましたが、ツールも前回の記事で用意しましたのでご安心ください。

写真

ご覧のとおり、ミラー イメージをインストールし、ポート マッピングに次のコマンドを入力してコンテナを起動します。

docker run  -e PANDORA_CLOUD=cloud -e PANDORA_SERVER=0.0.0.0:8899 -p 8899:8899 -d pengzhile/pandora

実行後:

写真

この時点でコンテナは正常に作成されました。https://127.0.0.1:8899と入力します。

以下のようなサイトが表示されますが、公式サイトと似たような感じでしょうか?

图片

もちろん、自分の ChatGPT アカウントまたはトークンを使用してここにログインすることもでき、入力後、所有する ChatGPT モデルはアカウントの権限に従います。

ChatGPT 公式 Web サイトに最近ログインした場合は、次のリンクからアクセスできます。

chat.openai.com/api/auth/se…

图片

この時点で、ChatGPT を非常に流暢に使用できるようになり、傍受や単語数の制限がなく、時々ブロックされるリスクもありません。

おすすめ

転載: juejin.im/post/7257410745636634679