이 블로그에서는 llama.cpp 프로젝트를 사용하여 MacBook Air/Pro M1 또는 M2 CPU에서 기본적으로 LLM을 실행하는 방법을 보여드리겠습니다. 나는 완전히 새로운 MacBook Air 13 M2를 사용하고 있지만 이것은 다른 모델에서도 작동할 것입니다.
1. 전제 조건
1.1. Safari를 열어 Chrome을 다운로드하세요.
1.2. 크롬 설치
1.3. 터미널 열기
$ git
1.4. 양조장 설치:
웹사이트에서 https://brew.sh/를 다운로드하거나
:
$ /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"
그런 다음 PATH에 추출을 추가하십시오.
$ echo 'eval "$(/opt/homebrew/bin/brew shellenv)"' >> /Users/<your-user-name>/.zprofile
$ eval "$(/opt/homebrew/bin/brew shelling)"
이제 양조로 필요한 패키지를 설치해 보겠습니다.
$ brew install wget [email protected] cmake git
1.5. TG Pro 설치(선택 사항)
각 CPU 코어, GPU 코어, 배터리와 같은 다양한 구성 요소의 온도를 추적하는 14일 무료 평가판이 포함된 MacOS용 유료 도구입니다.