Transforme el proyecto dify para adaptarlo al servicio API de OpenAI creado por usted mismo

0. Antecedentes

En el proyecto de configuración de OpenAI del proyecto https://github.com/langgenius/dify.git, ahora (20230802) también admite la entrada del proyecto api_base, por lo que modifiqué el código para adaptarlo al servicio API de OpenAI creado por mí mismo.

1. Modificar la dirección api_base predeterminada

Recupere todo el proyecto http://api.openai.comy reemplácelo con la dirección del servicio API de OpenAI creado por usted mismo, por ejemplo http://127.0.0.1:8000/v1.

Recupere todo el proyecto OpenAIEmbeddings, agregue la dirección del servicio API de OpenAI creado por usted mismo, por ejemplo,

import os
(略)
        embeddings = CacheEmbedding(OpenAIEmbeddings(
            openai_api_base=os.environ.get("OPENAI_API_BASE", "http://127.0.0.1:8000/v1"),
            **model_credentials
        ))

2. Modificar openai_provider.py

inserte la descripción de la imagen aquí

3. Reconstruya la imagen de la ventana acoplable

cd api
docker buildx build -t <your_dockerhub_username>/dify-api:0.3.12 .

4. Modifica docker-compose.yaml

Cambie los dos lugares image: langgenius/dify-api:0.3.12a <your_dockerhub_username>/dify-api:0.3.12.
Agregue variables de entorno en worker y api OPENAI_API_BASE: "http://127.0.0.1:8000/v1".

5. Iniciar el proyecto

cd docker
docker compose up -d

¡fin!

Supongo que te gusta

Origin blog.csdn.net/engchina/article/details/132074156
Recomendado
Clasificación