実際の Llama 2 機能の活用: FastAPI、Celery、Redis、Docker を使用したスケーラブルなチャットボットの構築

導入

数日前、Meta は予期せず大規模言語モデル (LLM) Llama 2 をオープンソース化しました。これは、AI 開発の現在の状況を再構築する可能性のある決定です。これは、自社の AI モデルを厳格に管理し、アクセシビリティを制限し、イノベーションをより広範に制限することを決定した OpenAI や Google などのこの分野の主要企業に代わるものを提供します。うまくいけば、Meta の決定がオープンソース コミュニティからの集団的な反応を引き起こし、この分野の進歩へのアクセスを制限する傾向に抵抗することを願っています。Llama 2 の新しいライセンスはさらに進んで商用利用を許可し、開発者や企業に既存および新製品でモデルを活用する機会を提供します。

Llama2 ファミリは、事前トレーニングされ微調整された Llama2 と Llama2-Chat で構成され、70B パラメーターまで拡張可能です。これらのモデルは、さまざまなベンチマークでオープンソース モデルよりも優れたパフォーマンスを示すことが示されています [1]。彼らはまた、一部のクローズドソース モデルに反対し、オープンソース AI の開発に切望されていた後押しを提供しました [2]。

HuggingFace [1] の Open LLM リーダーボードをフォローすると、Meta の Llama 2 がしっかりと 3 位に入っていることがわかります。LLama 2 がリリースされた後、Stability AI は FreeWilly1 と FreeWilly2 をリリースしました [3]。FreeWilly1 は Llama の微調整されたバージョンで、FreeWilly2 は Llama 2 の微調整されたバージョンです。Stability AI は、両方のモデルを Orca スタイルのデータセットで微調整したと述べています。Orca データセットは、LLM の微調整を目的とした拡張データセットの大規模で構造化されたコレクションであり、各エントリは質問と、GPT-4 または GPT-3.5 からの対応する応答で構成されます。FreeWilly2 モデルを使用してみませんか? 残念ながら、Llama 2 は商用利用が許可されていますが、FreeWilly2 は研究目的でのみ使用でき、非商用のクリエイティブ コモンズ ライセンス (CC BY-NC-4.0) によって管理されています。

この記事では、FastAPI、Celery、Redis、Docker、Meta を使用した Lla についても紹介します。

おすすめ

転載: blog.csdn.net/iCloudEnd/article/details/131995865