A criação não é fácil, então, por favor, encoraje-me e apoie-me.
Na vida real, muitas pessoas não estão dispostas a publicar as suas informações na Internet, mas e se precisarmos de utilizar capacidades de inteligência artificial para nos ajudar a processar ficheiros, tomar decisões e executar ordens? Portanto, torna-se muito importante para nós construirmos o nosso próprio GPT ou o GPT privado da empresa.
Veja o efeito primeiro
1.
Etapas rápidas de instalação local para implantação local de GPT privado:
1. Clone o repositório:
git clone
git clone https://github.com/imartinez/privateGPT
Diretório de arquivos
2. Instale o Python:
pyenv install 3.11
pyenv local 3.11(Se um erro for relatado, você pode instalar python3.11 diretamente.)
A versão antiga 3.10 já foi instalada no sistema antes. Para evitar interferências, ela precisa ser excluída do caminho da variável do sistema: C:\Programa Arquivos\Python310\Scripts\; C:\Arquivos de Programas\Python310\
3. Instale dependências:
poetry install --with ui,local
4. Baixe o modelo de incorporação e LLM:
poetry run python scripts/setup
5. (Opcional, execute no PowerShell) Habilite GPU:
$env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'; poetry run pip install --force-reinstall --no-cache-dir llama-cpp-python6. Execute o servidor local:
set PGPT_PROFILES=local
poetry run python -m private_gpt
7. Navegue até a IU: Abra http://localhost:8001/ em seu navegador.
mais informações: