自 ChatGPT 于 2022 年底公开发布并随后流行以来，大型语言模型 (LLM) 已成为人工智能领域的一项重大进步。顺应这一趋势，还引入了其他各种法学硕士，如巴德或普罗米修斯。
2023 年 7 月，MetaAI 宣布开源其 LLM 的最新版本，名为 Llama2。通过无缝集成到 Hugging Face 变压器生态系统，利用甚至微调 LLM 已变得非常适合广大用户。
在本文中，我将指导您完成使用 Llama2 的过程，涵盖从下载模型并在笔记本电脑上运行它到启动即时工程的所有内容。
如需更多资源，请访问 Huggingface 官方网站：https://huggingface.co/blog/llama2
访问 Llama2
几种型号
Llama2 有 3 种不同的型号可供选择：
Llama-2–7b 拥有 70 亿个参数。型号大小：13.5GB
Llama-2–13b 拥有 130 亿个参数。型号大小：25GB。
Llama-2–70b 拥有 700 亿个参数。
虽然第一个可以在具有一个 GPU 的笔记本电脑上顺利运行，但其他两个需要更强大的硬件，其中 70b 版本最好由两个 GPU 支持。
此外，每个版本都包含一个聊天变体（例如 Llama-2–70b-chat-hf），该变体经过人工注释进一步训练。这有助于提高其解决人类查询并提供有用响应的能力。
接受 MetaAI 的条款和条件
假设您想通过我推