【大语言模型】10分钟快速了解并部署ChatGLM-6B

ChatGLM-6B介绍

ChatGLM-6B是清华大学知识工程和数据挖掘小组(Knowledge Engineering Group (KEG) & Data Mining at Tsinghua University)发布的一个开源的对话机器人。根据官方介绍,这是一个千亿参数规模的中英文语言模型。并且对中文做了优化。本次开源的版本是其60亿参数的小规模版本,约60亿参数,本地部署仅需要6GB显存(INT4量化级别)。

ChatGLM-6B:https://github.com/THUDM/ChatGLM-6B

ChatGLM-6B具备的能力

  • 自我认知:“你是谁”,“介绍一下你的优点”
  • 提纲写作:“帮我写一个介绍ChatGLM的博客提纲”
  • 文案写作:“写10条热评文案”
  • 信息抽取:“从上述信息中抽取人、时间、事件”

猜你喜欢

转载自blog.csdn.net/ARPOSPF/article/details/131371090