独自の ChatGPT をローカルにデプロイします。壁を乗り越えようとする必要はありません

        ChatGPTの登場以来、ChatGTPはセキュリティの問題から中国ではサービスを提供していませんが、ChatGTPにアクセスできる条件があれば、専用回線を使って海外に行っても聞くことができます。

        gitHub でオープン ソース プロジェクト gpt4all を偶然見つけました。これにより、ユーザーは ChatGPT をローカルにデプロイし、ワンクリックで生成チャット ツールを直接デプロイできるようになります。この記事の時点でスター数は33.8kに達しており、注目度は非常に高い。

        この製品の公式紹介をご覧ください。

                        GPT4All チャットへようこそ!

        GPT4All Chat は、GPT4All-J Apache 2 ライセンスを取得したチャットボットを利用した、ローカルで実行される AI チャット アプリケーションです。このモデルはコンピューターの CPU で実行され、インターネット接続なしで動作し、外部サーバーにチャット データを送信しません (将来の GPT4All モデルを改善するためにチャット データを使用することをオプトインしない限り)。これにより、大規模言語モデル (LLM) と通信して、役立つ回答、洞察、提案を得ることができます。GPT4All Chat は、Windows、Linux、macOS で利用できます。ローカル コンピューター上で実行されるこのモデルは、大規模で強力なサーバーにデータを送信してインターネット経由でチャットできる GPT モデルほど強力ではなく、それらのサーバーと提携していません。注: Windows と Linux には少なくとも AVX2 チップセットが必要です。intel と arm の両方の macOS マシンが動作するはずです。将来のアップデートでは、古いマシンでも AVX2 以外のチップセットが使用できるようになる予定です。

        簡単に言うと、この製品はローカルに展開され、ネットワークを必要とせずに使用でき、チャット情報を収集して外部サーバーに送信することはありません(将来の GPT4all モデルを改善するためにチャット情報を許可しない限り)。大規模言語モデル (LLM) を使用して通信し、有用な回答、洞察、推奨事項を得ることができます。この製品は、Windows、Linux、MacOS に展開できます。同時に、上で述べたように、ローカルに展開された ChatGPT は、ネットワーク経由でアクセスされる公式の ChatGPT ほど優れたものではありません。後者は、このツールを実行するためにコンピュータに必要な構成であり、通常は新しいコンピュータで問題ありません。

        興味のある方は、GPT4All が公開した論文も参照してください。データの収集と編成、モデルのトレーニングとトレーニングに使用されるデータの量が詳細に紹介されています。専門家は興味を持って見ています

リンク: https://static.nomic.ai/gpt4all/2023_GPT4All-J_Technical_Report_2.pdf

         直接本題に行きましょう

1: GPT4All のインストール

ダウンロードリンク: GPT4All Chat

        

 上で述べたように、GptAll は 3 つのプラットフォームに展開できます。私の場合は Windows なので、Windows インストール パッケージをダウンロードしました。ダウンロード ページにアクセスできない学生の便宜のために、3 つのプラットフォームのインストール パッケージをダウンロードして選択できるようにしました。自分たちで立ち上がる。リンク: https://download.csdn.net/download/qq_27071221/87713268

インストールインターフェイスに入る

 設定ボタンがあるので、どんなデザインになっているのか気になるのでクリックして見てみましょう

 キャッシュの場所があり、デフォルトでは C ドライブに配置されていますが、C ドライブの容量が狭いため、別のドライブに変更しました。

次に、最後までクリックすると、下のインストール インターフェイスに到達し、ここで死ぬことになります。方法はありません。2.93 GB の bin ファイルをダウンロードする必要があります。これはトレーニング済みモデル パッケージであるはずです。ここでダウンロードします。一晩中。

 ようやくインストールが完了しました

 2: GPT4All トライアル版

 1. 簡単な挨拶言葉でチャットし、応答は英語のみです

 2. コードが書けるか試してみる 初めて中国語や英語を入力するのは簡単ではありません。

 諦めきれずにもう一度試してみたところ、見事に答えが分かりました。また、いくつかの方法を試しましたが、紙面の都合上、掲載しません

 3. デリケートな話題を尋ねると、答えは非常にアメリカ的です

 4. 歴史的知識、重大なナンセンスについて質問する 

 3: まとめ

        以上が GPT4All のインストールと試用ですが、インストールの最後にダウンロードされるファイルは比較的大きく、速度も非常に遅いので、一晩中ダウンロードさせました。試用プロセス中に、回答は現在英語のみをサポートしており、回答の品質は理想的ではないことがわかりました。しかし、現時点ではあまり多くを求めることはできません。結局のところ、GPT4ALL によって訓練されたデータと機器の量は ChatGPT とは比較できません。時間が経てばどんどん良くなると信じています。名前が示すように、gpt for all誰もが AI を使用できるようにします。

        最後に注意が必要な点について触れておきます

予防

GPT4All を使用する場合は、作成者の使用上の注意事項に留意してください。

GPT4すべてのモデルの重量とデータは研究目的のみにライセンスされており、商用利用は禁止されています。GPT4All は、非商用ライセンスを持つ LLaMA に基づいています。補助データは OpenAI の GPT-3.5-Turbo から収集されましたが、その利用規約では OpenAI と商業的に競合するモデルの開発が禁止されています。

おすすめ

転載: blog.csdn.net/qq_27071221/article/details/130295657
おすすめ