Microsoft AIGC en une journée - Salon de pratique sur l'exploration de l'intelligence artificielle et des applications industrielles - Après la participation

Jetons d’abord un coup d’œil à l’affiche promotionnelle

Résumé de l'introduction de l'activité

• Thème de l'événement : Salon de pratique sur l'exploration de l'intelligence artificielle et des applications industrielles

Microsoft Power Platform s'associe à GPT pour se plonger dans le développement de l'IA et du low-code au niveau des applications. Un festin technologique explorant l'intelligence artificielle et les pratiques d'application industrielles est à venir !

Le 16 septembre, « Exploring Artificial Intelligence and Industry Application Practice Salon » , plusieurs experts techniques des domaines de l'IA et du low-code exploreront conjointement le potentiel illimité du développement low-code à travers ** 技术分享, ** 案例实操et d'autres formes !带来 AI + 低代码开发的最新技术动态与实践技巧学习如何利用GPT技术提升应用开发效率与用户体验

L'événement est divisé en 2 lieux :

• De 10h à 17h30 à la Venue A , de nombreux grands noms parleront de technologie sous forme de partage ;
• Le lieu B est un atelier pratique Microsoft et NVIDIA de 13h30 à 17h30, où deux experts mèneront une expérience pratique de l'AIGC ;

Après la participation

Comme c'était la première fois que j'allais à Shanghai-Microsoft, j'ai accidentellement suivi la navigation jusqu'à la porte arrière de Microsoft. Je me demandais encore comment entrer. Après avoir attendu quelques minutes, une femme de ménage est venue et j'ai suivi elle en.

En fait, il y a une porte d’entrée, et il y a des inscriptions, etc., à la porte d’entrée.

La porte d'entrée est très amusante, vous pouvez l'ouvrir pour prendre des photos, vous connecter et offrir des objets.

Suivez les directions de la flèche et marchez jusqu’au lieu A.

Je suis arrivé plus d'une demi-heure plus tôt, mais le personnel était toujours en train de déboguer.

Un record de lieu

Parce qu’il y a trop de contenu à partager et qu’il y a de nombreux points clés, je n’écrirai que certaines parties que je considère personnellement comme essentielles.

Ère post-GPT : l'invite est le code :

• GPT-1 : GPT-1 est la première fois à utiliser des méthodes de pré-formation pour obtenir une formation efficace à la compréhension des langues ;
• GPT-2 : GPT-2 utilise la technologie d'apprentissage par transfert pour appliquer les informations préalables à la formation dans une variété de tâches afin d'améliorer les capacités de compréhension de la langue ;
• DALL.E : DALL.E passe à un autre mode ;
• GPT-3 : GPT-3 se concentre principalement sur la capacité de généralisation et la généralisation en quelques plans (petit échantillon) ;
• GPT-3.5 : le suivi et le réglage des instructions GPT-3.5 sont les plus grandes avancées ;
• GPT-4 : l'ingénierie a commencé
• Plugin : Le Plugin de mars 2023 est écologique (primaire) ;;
• Fonction : L'appel de fonction en juin 2023 est écologique (avancé) et l'invite est du code ;

Trois paradigmes de collaboration homme-machine :

• Mode d'intégration : travail d'écriture humain et IA
• Mode copilote : les humains font l’essentiel du travail
• Mode agent autonome AI Agents : l'IA effectue l'essentiel du travail

Le plus gros problème avec le LLM :

question:当前,LLM的最大问题就是缺乏最新的知识和特定领域的知识.

Solution : Pour ce problème, l'industrie dispose de deux solutions principales : le réglage fin et la génération d'améliorations de récupération.

Parcours technique de mise au point grand modèle :

• Réglage fin complet FFT (Réglage fin complet)
• Réglage fin des paramètres efficaces PEFT (Parameter-Efficient Fine Tuning) [Cette méthode est couramment utilisée]

Réglage précis des paramètres efficaces PEFT (Parameter-Efficient Fine Tuning) :
1.Réglage rapide

Les paramètres du modèle de base restent inchangés. Pour chaque tâche spécifique, un petit modèle avec un petit nombre de paramètres est formé et appelé selon les besoins lorsque des tâches spécifiques sont effectuées ;

2.Réglage du préfixe

Sans modifier le grand modèle, l'ajout de conditions appropriées dans le contexte d'invite peut aider le grand modèle à mieux fonctionner.

3.LoRA

Hypothèse : Les grands modèles de langage que nous voyons actuellement sont tous surparamétrés. Derrière le surparamétrage, il y a un modèle essentiel de faible dimension. Pour s'adapter à des tâches spécifiques en aval, un modèle spécifique doit être formé. .

4.QloRA

QLoRA est une version quantifiée de LoRA. Elle est ensuite quantifiée sur la base de LoRA, réduisant les paramètres initialement exprimés en 16 bits à 4 bits, ce qui peut garantir l'effet du modèle. C'est une bonne et grande réduction des coûts.

Ce qui est plus intéressant est la comparaison entre RAG et FT :

• RAG : Cette approche intègre des capacités de récupération (ou de recherche) dans la génération de texte LLM. Il combine un système de récupération (obtention de fragments de documents pertinents à partir d'un grand corpus) et LLM (utilisation des informations contenues dans ces fragments pour générer des réponses). Essentiellement, RAG aide le modèle à « trouver » des informations externes pour améliorer sa réponse.

• Affinement : il s'agit du processus consistant à prendre un LLM pré-entraîné et à le former davantage sur un ensemble de données spécifiques plus petit pour l'adapter à une tâche spécifique ou améliorer ses performances. Grâce au réglage, nous ajustons les pondérations du modèle en fonction des données, le rendant ainsi plus adapté aux besoins uniques de l'application.

Nous avons également partagé une astuce de développement, vous pouvez définir la clé d'OPENAI comme variable d'environnement, puis l'appeler dans le code :

Cela améliorera également l’efficacité du développement

Classement technique AIGC

Classement technique AIGC :

• Texte : résumé, questions-réponses, complétion du contenu ;
• Image : édition d'images, génération d'images, notamment dessin Al ;
• Audio : conversion de la parole en texte, ainsi que imitation et génération automatique ;
• Vidéo : génération, imitation, montage, post-traitement ;
• Programmation : générer du code, déboguer des bogues et répondre à des invites ;
• Chatbot : service client intelligent et automatisé ;
• Plateforme d'apprentissage : une plate-forme ou un écosystème qui fournit une puissance de calcul, un environnement et un cadre de modèle ;
• Recherche : affiner davantage et élargir automatiquement le réseau ;
• Jeux : la conception d'illustrations et la génération de prototypes de personnages abaissent la barrière d'entrée ;
• Données : conception structurelle, collection originale, résumé et affinement, et découverte de modèles ;
• Industries verticales : médecine, ingénierie, droit, éducation, entrepreneuriat individuel, etc. ;

AIGC devient un assistant privilégié dans le travail de rédaction financière :

• Préface du nouveau livre
• Plan de coopération
• Notification commerciale
• Aperçu de la recherche
• Promotion d'événements
• questions d'examen

Quel type de personnes peut mieux l’utiliser ?

génération de contenu

• travail de rédaction bancaire
• Appelez le service client et les questions des autres clients du centre, génèrez automatiquement des réponses
• Générer une interface utilisateur personnalisée pour le site Web

Capacité récapitulative

• Service client : résumé des journaux de conversations clients
• Rapports financiers, articles d'analystes, etc.
• Surveillance de l'opinion publique, médias sociaux, résumé des tendances

génération de code

• Langage naturel et échange SQL
• Commentaires du code
• document
• question de logique simple
• BOGUE de syntaxe

Récupération sémantique

• Rechercher des avis sur un produit ou un service spécifique
• Développement de l’information et exploration des connaissances