什么是Code Llama?
Code Llama 是一个基于Llama 2构建的 AI 模型,针对生成和讨论代码进行了微调。
它可免费用于研究和商业用途。
Code Llama 有助于代码完成和调试工作,无缝适应 Python、C++、Java、PHP、Typescript (Javascript)、C# 和 Bash 等流行语言。
在本节中,我将通过代码来详细解释每个步骤。
在 MacBook 上运行 Code Llama
入门
Code Llama 的模型权重可在 Huggingface 上找到。
基本模型Code Llama和扩展模型Code Llama — Python未进行微调以遵循指令。应该提示他们,以便预期的答案成为提示的自然延续。这意味着这两个模型专注于代码填充和代码完成
扩展模型Code Llama —使用“自然语言指令”输入和预期输出进行训练。这种战略方法增强了模型在提示中把握人类期望的能力。这意味着指令模型可以在类似聊天机器人的应用程序中使用。
安装
llama2-wrapper是包装多个 llama2 后端(变压器、gptq、llama.cpp)的软件包,并提供llama2-webui来运行聊天机器人和 Code Llama 的代码游乐场。
安装可以很容易pip:
pip install llama2-wrapper
克隆存储库