Implementación privada de IA (tutorial a nivel de niñera)

Tabla de contenido

Prefacio

Preparación de materiales

Preparación ambiental

Instalar herramientas git

 Clonar aplicación gpt

Preparar el entorno de implementación

Configurar el script de inicio y configurar las variables de entorno


Prefacio

        Actualicé nuevamente después de cuatro meses. El último artículo se publicó de manera más informal y muchos pasos no se describieron en detalle. Esta vez implementaremos nuestra plataforma chatgpt privatizada basada en el proyecto de terceros de código abierto chatgpt en github. Los pasos deben ser lo más detallados posible.

Preparación de materiales

        El servidor se puede construir en un servidor de red pública y, si hay un servidor de intranet, también se puede implementar en la intranet para proporcionar acceso a los usuarios de la intranet.

sistema linux Detalles de configuración
Centos7 2h4h
apikey de la cuenta Chatgpt adquisición de claves

Cada cuenta chatgpt tiene un límite de $5 gratis, si es para uso privado se puede usar por unos meses, si es plus también puedes usar la clave de la cuenta plus.


Preparación ambiental

Instalar herramientas git

[root@yyt ~]# yum install -y git

[root@yyt ~]# versión de git
versión de git 1.8.3.1

 Clonar aplicación gpt

Ya hay muchos Chatgpts en github o gitee. Yo usoChatGPT-Next-Webaquí , O puedes ir a github para buscar otras aplicaciones de gpt.

[root@yyt ~]# git clone https://github.com/Yidadaa/ChatGPT-Next-Web.git
Clonación en 'ChatGPT-Next-Web'...
remoto: enumerando objetos: 7145, listo.
remoto: Contando objetos: 100% (5/5), listo.
remoto: Comprimir objetos: 100% (5/5), listo.
remoto: Total 7145 (delta 0), reutilizado 3 (delta 0), reutilizado en paquete 7140
Objetos receptores: 100% (7145/7145), 7,25 MiB | 5,58 MiB/s, listo.
Resolución de deltas: 100% (4650/4650), listo.

 Si no puede acceder a 'https://github.com/Yidadaa/ChatGPT-Next-Web.git/': final del archivo encontrado, puede descargar el paquete a su computadora y luego usar lrzsz para transferir el comando

Preparar el entorno de implementación

        Aquí usaré la implementación local y agregaré dependencias de Yarn y Nodejs para implementar la aplicación. Si solo desea implementar gpt, puede usar la implementación de Docker y extraer la imagen para implementarla con un solo clic. Nota sobre la implementación de Docker  : la versión de Docker debe ser mayor que 20

        Si desea realizar un desarrollo secundario, puede implementar la aplicación localmente

Instale nodejs. Nodejs requiere 18 o superior. Puede usar snap para instalar nodejs18.

[root@yyt ~]# yum install snapd -y

[root@yyt ~]# systemctl enable --ahora snapd.socket  

[root@yyt ~]# ln -s /var/lib/snapd/snap /snap 

[root@yyt ~]# nodo de instalación instantánea --classic --channel=18

#Esto significa que la instalación está completa. Vuelva a conectarse a la terminal e ingrese el nodo -v para ver
el nodo (18/estable) 18.17.1 de OpenJS Foundation (iojs ✓) instalado

[root@yyt ~]# npm -v
9.6.7

instalar hilo

[root@yyt ~]# npm install hilo

añadido 1 paquete en 5s

[root@yyt ~]# hilo -v
1.22.19

 En este punto, el entorno operativo está listo.

Configurar el script de inicio y configurar las variables de entorno

        Hay un archivo .env.template en el proyecto, en el que se puede modificar el entorno.

[root@yyt ChatGPT-Next-Web]# cat .env.template |grep -v "#"

OPENAI_API_KEY=sk-xxxx

CÓDIGO=tu-contraseña

PROXY_URL=http://localhost:7890

BASE_URL=api.openai-proxy.com

OPENAI_ORG_ID=

HIDE_USER_API_KEY=

DISABLE_GPT4=

HIDE_BALANCE_QUERY=

Después de la modificación, nombre el archivo .env.local

OPENAI_API_KEY (必填项)
OpanAI 密钥,你在 openai 账户页面申请的 api key。

CODE (可选)
访问密码,可选,可以使用逗号隔开多个密码。

警告:如果不填写此项,则任何人都可以直接使用你部署后的网站,可能会导致你的 token 被急速消耗完毕,建议填写此选项。

BASE_URL (可选)
Default: https://api.openai.com

Examples: http://your-openai-proxy.com

OpenAI 接口代理 URL,如果你手动配置了 openai 接口代理,请填写此选项。

如果遇到 ssl 证书问题,请将 BASE_URL 的协议设置为 http。

OPENAI_ORG_ID (可选)
指定 OpenAI 中的组织 ID。

HIDE_USER_API_KEY (可选)
如果你不想让用户自行填入 API Key,将此环境变量设置为 1 即可。

DISABLE_GPT4 (可选)
如果你不想让用户使用 GPT-4,将此环境变量设置为 1 即可。

HIDE_BALANCE_QUERY (可选)
如果你不想让用户查询余额,将此环境变量设置为 1 即可。

Después de iniciar el puerto correspondiente, si es un servidor de nube pública, recuerde abrir el puerto correspondiente. 

 Ejecutar servicio

[root@yyt ChatGPT-Next-Web]# instalación de hilo y compilación de hilo 

[root@TttRark ChatGPT-Next-Web-main]# cat start.sh 
#!/bin/bash
PORT=Ingrese el puerto que se iniciará
PORT=$PORT Yarn start > /var/log/chatgpt.log 2>&1 & 

#Los registros de ejecución se pueden ver en /var/log/chatgpt.log

El puerto se inicia exitosamente y se realiza la prueba de acceso a la página. 

 Acceso exitoso

Supongo que te gusta

Origin blog.csdn.net/TttRark/article/details/132734328
Recomendado
Clasificación