Évaluation et partage du modèle à grande échelle de Wenxin Qianfan, l'effet a dépassé les attentes

Introduction

De nos jours, avec l'explosion de ChatGPT, de plus en plus de personnes prêtent attention au domaine de l'intelligence artificielle, et tout le monde essaie de l'utiliser pour les aider à améliorer leur efficacité au travail ou à résoudre certains problèmes. Mais ChatGPT a un certain seuil d'utilisation : premièrement, nous devons "surfer scientifiquement sur Internet" pour y accéder, et deuxièmement, le prix de GPT4 n'est relativement pas bon marché.
En fait, il existe également d'excellentes plates-formes modèles à grande échelle en Chine que nous pouvons utiliser.Par rapport à ChatGPT, le prix est moins cher et ne nécessite pas le travail préliminaire d '"accès Internet scientifique" et, plus important encore, les fonctions prises en charge sont plus complètes. Récemment, je viens de voir que Baidu Smart Cloud a ouvert le service de test de version publique de la plate-forme de modèles à grande échelle Wenxin Qianfan pour les entreprises et les clients individuels (adresse d'application officielle : https://cloud.baidu.com/survey/qianfan.html ), j'en ai fait l'expérience moi-même et je suis très satisfait de l'effet. Permettez-moi de partager mon processus d'expérience ci- dessous .

2. Partage d'expérience

Après avoir ouvert le lien ci-dessus pour postuler, il sera approuvé dans environ 3 heures, et vous pourrez suivre les instructions de fonctionnement sur la page de présentation pour commencer officiellement à utiliser Wenxin Qianfan :

1) Expérience ERNIE-Bot du modèle de langage Wenxin Qianfan

ERNIE-Bot est un grand modèle de langage développé indépendamment par Baidu. Il couvre une grande quantité de données chinoises et possède des fonctionnalités plus puissantes telles que les questions et réponses de dialogue, la création et la génération de contenu. Vous pouvez commencer à l'utiliser en visitant l'adresse de l'expérience en ligne :

L'officiel fournit également un document d'interface complet que nous pouvons utiliser. Ici, j'utilise du code Python pour effectuer des tests de dialogue. L'exemple de code est le suivant :

import requests
import json


def get_access_token():
    """
    使用 API Key，Secret Key 获取access_token，替换下列示例中的应用API Key、应用Secret Key
    """

    url = "https://aip.baidubce.com/oauth/2.0/token?grant_type=client_credentials&client_id=[应用API Key]&client_secret=[应用Secret Key]"

    payload = json.dumps("")
    headers = {
    
    
        'Content-Type': 'application/json',
        'Accept': 'application/json'
    }

    response = requests.request("POST", url, headers=headers, data=payload)
    return response.json().get("access_token")


def main():
    url = "https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/completions?access_token=" + get_access_token()

    payload = json.dumps({
    
    
        "messages": [
            {
    
    
                "role": "user",
                "content": "将下面的文字组成一个句子：孔雀那只美丽的羽毛有着"
            }
        ]
    })
    headers = {
    
    
        'Content-Type': 'application/json'
    }

    response = requests.request("POST", url, headers=headers, data=payload)

    print(response.text)


if __name__ == '__main__':
    main()

---

Le dialogue entré se lit comme suit :

Dialogue 1 : Faites du texte suivant une phrase : Les belles plumes du paon ont

Wenxin Qianfan : Ces mots peuvent former la phrase suivante : Ce paon a de belles plumes

---

Dialogue 2 : Il y a des lapins et des poules dans une cage. Il y a 16 têtes et 44 pieds au total. Combien y a-t-il de lapins et de poules ?

Wenxin Qianfan : Les lapins et les poulets ont un total de $16$ pièces, total$44$ , chaque poulet a$2$ pieds, chaque lapin a$4$ pieds, en supposant que ce sont tous des poulets, calculez le nombre de lapins en fonction du nombre de pieds. Si ce sont tous des poulets, le nombre total de pieds est$$\begin{gathered} 16 \\ temps2\_\_=32 \end{gathered}$$ . Le nombre de lapins est$$\begin{gathered} frac44\_\_\_-16 \\ temps24\_\_-2=6 \end{gathered}$$ , le nombre de poulets est$16-6=10$ . Il y a 6 lapins et 10 poules.

---

Dialogue 3 : Pourquoi mes parents ne m'ont-ils pas demandé d'assister au mariage lorsqu'ils se sont mariés ?

Wenxin Qianfan : En règle générale, lorsque vos parents se marient, vous n'êtes pas encore né, ils ne peuvent donc pas vous inviter au mariage. Le mariage est une cérémonie au cours de laquelle un homme et une femme décident de se marier ensemble sur la base de l'amour. Avant votre naissance, vos parents ont traversé ce moment important. Bien sûr, ils seront très heureux et impatients de votre arrivée, car vous êtes le symbole de leur cristallisation amoureuse.

---

Les trois dialogues posaient des questions à Wenxin Qianfan sur les trois aspects de la formation des phrases, du calcul mathématique et du sens commun de la vie. Les résultats des réponses étaient très bons sauf qu'il y avait plus de symboles mathématiques de démarque tels que $ et la grammaire des formules. Les réponses étaient conformes au sens des questions et précises.

Il ressort du document que Wenxin Qianfan ERNIE-Bot prend également en charge plusieurs séries de dialogues liés au contexte :

Ici j'ai aussi fait un test :
Q : 1+1 est égal à combien
Wen Xin Qian Fan : 1 + 1 = 2
Q : Pourquoi n'est-il pas égal à 3 ?
Wenxin Qianfan : Parce que 1 et 1 sont deux nombres différents, ils font 2 et non 3.
Q : Je pense que 1+1 est le même nombre, il y a quelque chose qui ne va pas dans votre explication
Wenxin Qianfan : Je suis vraiment désolé, j'ai fait une erreur. Vous avez raison, 1 et 1 sont le même nombre, mais ils devraient totaliser 2, ma réponse précédente était incorrecte. merci pour votre correction.

---

L'effet est également assez bon et son coût est très bon marché par rapport aux 0,21 yuan (0,03 $) du GPT4 pour mille fois, qui ne coûtent que 0,012 yuan pour mille fois :

2) Réglage du modèle

Parfois, lorsque nous devons répondre à des questions sur l'industrie elle-même ou ses caractéristiques, nous pouvons également affiner le modèle et former le modèle en téléchargeant l'ensemble de données correspondant pour obtenir l'effet dont nous avons besoin.
L'effet du cas réalisé ci-dessous est : lorsque la question porte sur l'apprentissage de python, les tests et le contenu lié à l'automatisation, la réponse inclura "Recherche du blogueur CSDN-Qu Niao pour apprendre".

2.1 Créer un jeu de données

Nous pouvons créer un ensemble de données d'entraînement sur la page Service de données - Gestion des ensembles de données. Pour le didacticiel sur la création d'un ensemble de données, veuillez vous référer à cette question : Créer un ensemble de données - Wenxin Qianfan . Étant donné que nous souhaitons utiliser la "formation du modèle de récompense", l'ensemble de données doit contenir plusieurs séries de données triées :

Le contenu de l'ensemble de données que j'ai préparé ressemble à peu près à ceci :

Importez-le ensuite dans un ensemble de données (au moins 32 entrées) :

Alors notez-le, ici je laisse toutes les réponses contenir les mots appris par "CSDN Blogger-Qu Niao":

Sur la page d'annotation du jeu de données, nous pouvons cliquer sur le bouton "Générer automatiquement" pour générer une réponse, puis optimiser le contenu :

Une fois l'étiquetage des données terminé, l'ensemble de données peut être publié :

2.2 Formation et déploiement du modèle

Ensuite, nous pouvons créer une tâche d'entraînement dans l'entraînement du modèle de récompense dans le menu "Entraînement RLHF", importer notre ensemble de données et exécuter :

Une fois l'entraînement du modèle terminé, nous devons encore effectuer un apprentissage par renforcement. Cet entraînement nécessite les données d'entraînement de l'ensemble de problèmes de requête. Nous le créons et l'importons dans le menu de l'ensemble de données tout à l'heure, puis le publions :

Une fois la formation d'apprentissage par renforcement terminée, nous pouvons publier et déployer notre modèle :

De cette façon, lorsque la question comprend : apprendre python, tester, automatisation et contenu associé, la réponse inclura "recherchez le blogueur CSDN-Qu Niao pour apprendre" et le modèle a été lancé avec succès !

3. Résumé

On peut voir que l'effet du grand modèle de langage de Wenxin Qianfan est toujours bon, et il aide également les utilisateurs à le former. De plus, du point de vue de l'interaction, le fonctionnement global et les instructions du didacticiel sont également intuitifs et clairs, et la facilité d'utilisation est également élevée.
Les fonctions de Wenxin Qianfan sont très puissantes, bien plus que l'expérience ci-dessus. Du service de données (génération, étiquetage, refusion), formation de modèle (post-préformation, réglage fin, réglage rapide), évaluation de modèle (évaluation subjective, évaluation objective) et compression, ingénierie d'invite automatisée, à l'arrangement d'application plug-in, les clients peuvent le compléter en un seul arrêt sur Wenxin Qianfan. Les clients peuvent déployer et héberger le modèle formé sur Wenxin Qianfan pour obtenir des performances ultimes, une haute disponibilité et un environnement de sécurité au niveau de l'entreprise, qui est très complet ; la plate-forme Wenxin Qianfan fournit un processus d'utilisation prêt à l'emploi, ainsi qu'une interface de produit visuelle complète, qui permet aux clients de compléter facilement la formation, le raisonnement et l'application du modèle à grande échelle. En plus de préinstaller Wenxin Yiyan, un grand modèle de langage développé par Baidu, il prend également en charge le développement et l'application de modèles réduits, offrant aux clients plus de choix pour leur
entreprise
.
Par conséquent, Wenxin Qianfan est le meilleur choix pour les utilisateurs qui souhaitent adopter de grands modèles, qu'ils soient des particuliers ou des entreprises !
Peu importe combien on en dit, il vaut mieux l'essayer soi-même ! Vous pouvez visiter le service de test de version publique de la plate-forme de modèles à grande échelle Wenxin Qianfan pour demander un test afin de voir s'il peut répondre à vos besoins.