창작이 쉽지 않으니 많은 격려와 응원 부탁드립니다.
실생활에서 많은 사람들은 자신의 정보를 인터넷에 게시하는 것을 꺼려합니다. 하지만 파일을 처리하고, 결정을 내리고, 명령을 실행하는 데 인공 지능 기능을 사용해야 한다면 어떻게 될까요? 따라서 우리 자신이나 회사의 비공개 GPT를 구축하는 것이 매우 중요해졌습니다.
효과를 먼저 보세요
1.
비공개 GPT의 로컬 배포를 위한 빠른 로컬 설치 단계:
1. 저장소 복제:
git clone
git clone https://github.com/imartinez/privateGPT
파일 디렉토리
2. Python을 설치합니다.
pyenv install 3.11
pyenv local 3.11(오류가 발생하면 python3.11을 직접 설치하시면 됩니다.)
이전에 시스템에 3.10 이전 버전이 설치되어 있던 적이 있으므로 간섭을 피하기 위해 시스템 변수 경로: C:\Program에서 삭제해야 합니다. Files\Python310\Scripts\, C:\Program Files\Python310\
3. 종속성을 설치합니다.
poetry install --with ui,local
4. 임베딩 및 LLM 모델을 다운로드합니다.
poetry run python scripts/setup
5. (선택 사항, powershell에서 실행) GPU 활성화:
$env:CMAKE_ARGS='-DLLAMA_CUBLAS=on'; poetry run pip install --force-reinstall --no-cache-dir llama-cpp-python6. 로컬 서버를 실행합니다.
set PGPT_PROFILES=local
poetry run python -m private_gpt
7. UI로 이동합니다. 브라우저에서 http://localhost:8001/을 엽니다.
더 많은 정보: