Visualglm-6b

【官方教程】VisualGLM技术讲解_哔哩哔哩_bilibili报告文件下载: https://pan.baidu.com/s/1gfdpyfT6EVnygMPDO_iwvQ?pwd=8wpc 提取码: 8wpcVisualGLM-6B 是一个开源的，支持图像、中文和英文的多模态对话语言模型，语言模型基于ChatGLM-6B，具有 62 亿参数；图像部分通过训练BLIP2-Qformer 构建起视觉模型与语言模型的桥梁，整体模型共78亿参数。, 视频播放量 6647、弹幕量 3、点赞数 267、投硬币枚数 139、收藏人数 615、转发人数 109, 视频作者 ChatGLM, 作者简介 让机器像人一样思考，相关视频：【清华NLP】刘知远团队大模型公开课全网首发｜带你从入门到实战，【官方教程】ChatGLM-6B 微调：P-Tuning，LoRA，Full parameter，超强动画，一步一步深入浅出解释Transformer原理！，MiniGPT4横空出世，本地电脑直接部署运行，一出手就霸榜Github！！，【官方教程】XrayGLM微调实践，（加强后的GPT-3.5）能力媲美4.0，无次数限制。仅供技术交流。，惊出！ChatGPT4.0被开源？不仅GitHub星标38.4k！还上了Trending周榜~~，吹爆！这可能是2023最新的GPT4公开讲座了，1小时讲明白GPT4是如何工作的，以及使用GPT4打造智能程序，看完就对GPT4全面了解！人工智能|机器学习，LangChain + GLM =本地知识库，pytorch入门19 - 本地知识库LLM对话系统（langchain-ChatGLM项目）- 源码分析（1/2）https://www.bilibili.com/video/BV14L411q7fk/?spm_id_from=333.999.0.0&vd_source=4aed82e35f26bb600bc5b46e65e25c22

通过VQVAE将图像变成token

vit对量化比较敏感，text侧还可以，4bit也是针对chatglm