Code Llama 튜토리얼 시리즈: Apple 노트북 macOS에서 로컬로 Code Llama 실행(자신만의 코드 AI 생성)

코드 라마란 무엇인가요?

Code Llama는 Llama 2를 기반으로 구축된 AI 모델로, 코드 생성 및 논의를 위해 미세 조정되었습니다.
연구 및 상업적 용도로 무료입니다.
Code Llama는 Python, C++, Java, PHP, Typescript(Javascript), C# 및 Bash와 같은 널리 사용되는 언어에 원활하게 적응하여 코드 완성 및 디버깅을 용이하게 합니다.

이번 장에서는 각 단계를 코드를 통해 자세히 설명하겠습니다.

MacBook에서 Code Llama 실행하기

시작하기

Code Llama의 모델 체중은 Huggingface에서 확인할 수 있습니다.

기본 모델 코드 Llama 및 확장 모델 코드 Llama — Python은 지침을 따르도록 미세 조정되지 않았습니다. 예상되는 답변이 프롬프트의 자연스러운 연속이 되도록 프롬프트를 표시해야 합니다. 이는 이 두 모델이 코드 채우기 및 코드 완성에 초점을 맞추고 있음을 의미합니다.
확장 모델인 Code Llama는 "자연어 지침" 입력 및 예상 출력을 사용하여 훈련됩니다. 이러한 전략적 접근 방식은 단서에서 인간의 기대를 포착하는 모델의 능력을 향상시킵니다. 이는 명령 모델이 챗봇과 유사한 애플리케이션에서 사용될 수 있음을 의미합니다.

설치하다

llama2-wrapper는 여러 llama2 백엔드(transformers, gptq, llama.cpp)를 래핑하고 챗봇과 Code Llama의 코드 플레이그라운드를 실행하기 위한 llama2-webui를 제공하는 패키지입니다.

pip를 사용하면 쉽게 설치할 수 있습니다.

pip install llama2-wrapper

복제 저장소