自己構築された OpenAI API サービスに適応するように diify プロジェクトを変換する

0.背景

プロジェクトの OpenAI 構成プロジェクトhttps://github.com/langgenius/dify.gitで、api_base プロジェクトの入力もサポートされるようになったので、自作の OpenAI API サービスに適応するようにコードを修正しました。

1. デフォルトの api_base アドレスを変更します

プロジェクト全体を取得しhttp://api.openai.com、それを自己構築された OpenAI API サービスのアドレスに置き換えます (例: ) http://127.0.0.1:8000/v1。

プロジェクト全体を取得しOpenAIEmbeddings、自己構築された OpenAI API サービスのアドレスを追加します。例:

import os
(略)
        embeddings = CacheEmbedding(OpenAIEmbeddings(
            openai_api_base=os.environ.get("OPENAI_API_BASE", "http://127.0.0.1:8000/v1"),
            **model_credentials
        ))

2.openai_provider.pyを変更する

3. Docker イメージを再構築する

cd api
docker buildx build -t <your_dockerhub_username>/dify-api:0.3.12 .

4. docker-compose.yaml を変更する

2 つの場所image: langgenius/dify-api:0.3.12を に変更します<your_dockerhub_username>/dify-api:0.3.12。
worker と api に環境変数を追加しますOPENAI_API_BASE: "http://127.0.0.1:8000/v1"。

5. プロジェクトを開始する

cd docker
docker compose up -d

終わり！