【ChatGLM】Versão local do ChatGPT? A memória de vídeo 6G pode ser usada facilmente! Tutorial de implantação local do modelo de código aberto ChatGLM-6B Tsinghua

Índice

Obrigado Akiba aaaki na Estação B

prefácio

implantar recursos

processo de implantação 

demonstração de máquina real

Ajuste fino do ChatGML (refinamento da personalidade) (o sentimento pessoal é bastante interessante)

 Compartilhe uma personalidade de ajuste fino interessante

 Demonstração de máquina real (personalidade de Pan Jinlian)


Obrigado Akiba aaaki na Estação B

Espaço pessoal de Akiba aaaki_哔哩哔哩_bilibili https://space.bilibili.com/12566101

prefácio

Devido ao pequeno tamanho do ChatGLM-6B, atualmente é conhecido por ter limitações consideráveis, como erros de lógica factual/matemática, possível geração de conteúdo prejudicial/tendencioso, capacidade contextual fraca, confusão de autoconsciência e compreensão deficiente das instruções em inglês gerar conteúdo que contradiz completamente as instruções chinesas. Por favor, entenda essas questões antes de usar para evitar mal-entendidos.

Obviamente, este modelo, por ser treinado em chinês, é muito adequado para perguntas e respostas chinesas sobre muitos dados.Em
segundo lugar, este modelo tem a existência de selos ideológicos e alguns slides não podem ser ditos.

 Mas também tem as vantagens de implantação local e comunidade de código aberto.

implantar recursos

modelos podem ser baixados de huggingface

THUDM/chatglm-6b · Cara de abraço https://huggingface.co/THUDM/chatglm-6b endereço do projeto webui, atualmente apenas a versão simples ainda está atualizando o ChatGLM-webui:

Akegarasu/ChatGLM-webui: Uma WebUI para ChatGLM-6B (github.com) https://github.com/Akegarasu/ChatGLM-webui

Link: 

Disco de rede Baidu, insira o código de extração (baidu.com) https://pan.baidu.com/share/init?surl=xuCvJDbQYlHECY5-2b3-Eg Código de extração: y2ab

processo de implantação 

Descompacte os três arquivos na mesma pasta

Após a descompressão, como mostrado na figura abaixo 

 

 Coloque o pacote compactado atualizado na pasta para substituição

demonstração de máquina real

 Clique no programa correspondente à memória de vídeo do seu modelo

 Configurar a IU da web local

 Desta forma, a configuração local pode ser bem sucedida

Ajuste fino do ChatGML (refinamento da personalidade) (o sentimento pessoal é bastante interessante)

 Compartilhe uma personalidade de ajuste fino interessante

 Download Link Personality Setting Sharing_Free High Speed ​​​​Download | Baidu Netdisk - Compartilhamento Ilimitado (baidu.com) https://pan.baidu.com/s/14z3X5BL5n9cJnW7b9GtZ4A?pwd=Glut#list/path=%2F

 Demonstração de máquina real (personalidade de Pan Jinlian)

Acho que você gosta

Origin blog.csdn.net/timberman666/article/details/130467770
Recomendado
Clasificación