MacBook Air M2 上的本地 13b ChatGPT(教程含详细代码)

在此博客中，我将展示如何使用 llama.cpp 项目在任何 MacBook Air/Pro M1 或 M2 CPU 中本地运行 LLM。我使用的是全新的 MacBook Air 13 M2，但这应该适用于任何其他型号。

1.先决条件

1.1. Open Safari to download Google Chrome

1.2. Install chrome

1.3. Open the terminal

$ git

1.4. Install brew:

从他们的网站下载https://brew.sh/
或者：

$ /bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

然后将brew添加到PATH：

$ echo 'eval "$(/opt/homebrew/bin/brew shellenv)"' >> /Users/<your-user-name>/.zprofile

$ eval "$(/opt/homebrew/bin/brew shelling)"

现在让我们用brew安装所需的包：

$ brew install wget [email protected] cmake git

1.5. Install TG Pro (optional)

它是一款适用于 MacOS 的付费工具，可免费试用 14 天，可以跟踪不同组件的温度，例如每个 CPU 核心、GPU 核心、电