Simple à utiliser et haute performance! Un article pour comprendre le framework d'apprentissage de transfert open source EasyTransfer

Introduction: Récemment, Alibaba Cloud a officiellement ouvert le cadre d'apprentissage par transfert profond EasyTransfer, qui est le premier cadre d'apprentissage par transfert profond du secteur pour les scénarios de PNL. Le cadre est développé par l'équipe PAI d'Alibaba Cloud Machine Learning, ce qui rend le développement et le déploiement de modèles de pré-formation et d'apprentissage de la migration pour les scénarios de traitement du langage naturel plus faciles et plus efficaces. Cet article donnera une interprétation approfondie d'EasyTransfer. Adresse open source: https://github.com/alibaba/EasyTransfer

L'apprentissage par transfert profond pour les scénarios de traitement du langage naturel est très demandé dans les scénarios réels. Étant donné qu'un grand nombre de nouveaux domaines émergent constamment, l'apprentissage automatique traditionnel doit accumuler une grande quantité de données de formation pour chaque domaine, ce qui consommera beaucoup de main-d'œuvre et d'annotations. Ressources matérielles. La technologie d'apprentissage par transfert profond peut transférer les connaissances acquises dans le domaine source vers la tâche du nouveau domaine, réduisant ainsi considérablement les ressources d'annotation.

Bien qu'il existe de nombreuses exigences pour l'apprentissage par transfert en profondeur pour les scénarios de langage naturel, la communauté open source ne dispose pas encore d'un cadre complet et il est difficile de créer un cadre simple, facile à utiliser et hautes performances.

Tout d'abord, le modèle de pré-formation et le transfert des connaissances sont désormais le mode d'application traditionnel de la PNL. En règle générale, plus la taille du modèle de pré-formation est grande, plus la représentation des connaissances acquises est efficace. Cependant, le très grand modèle pose de grands défis à l'architecture distribuée du cadre. Comment fournir une architecture distribuée hautes performances pour prendre en charge efficacement la formation de modèles à très grande échelle.
Deuxièmement, la diversité des scénarios d'application utilisateur est élevée et un seul algorithme d'apprentissage de la migration ne peut pas être appliqué. Comment fournir un outil d'apprentissage complet de la migration pour améliorer l'effet des scénarios en aval.
Troisièmement, il faut généralement un long lien entre le développement d'algorithmes et l'atterrissage commercial. Comment fournir un service unique et simple d'utilisation, de la formation du modèle au déploiement.

Face à ces trois défis, l'équipe PAI a lancé EasyTransfer, un framework d'apprentissage par transfert simple, facile à utiliser et performant. Le cadre prend en charge les algorithmes d'apprentissage de migration traditionnels, prend en charge la précision mixte automatique, l'optimisation de la compilation et les stratégies de parallélisme de données / modèles distribués efficaces, et convient aux scénarios d'application distribués au niveau industriel.

Il est à noter qu'avec une précision mixte, une optimisation de la compilation et une stratégie distribuée, le modèle ALBERT supporté par EasyTransfer est plus de 4 fois plus rapide que la version communautaire d'ALBERT dans la vitesse de calcul de la formation distribuée.

Dans le même temps, après plus de 10 BU et plus de 20 scénarios commerciaux au sein d'Ali, il offre aux utilisateurs d'apprentissage de la PNL et de la migration une variété de commodités, y compris la chaîne d'outils de pré-formation hautes performances de pointe et ModelZoo de pré-formation, et le riche et facile à utiliser AppZoo , Des algorithmes d'apprentissage de migration efficaces et une compatibilité totale avec les produits écologiques PAI d'Alibaba, offrant aux utilisateurs un service unique, de la formation du modèle au déploiement.

Lin Wei, responsable de l'équipe PAI d'apprentissage automatique d'Alibaba Cloud, a déclaré: Ce code open source EasyTransfer espère donner à plus d'utilisateurs les capacités d'Alibaba, abaisser le seuil de pré-formation et de transfert de connaissances PNL, et également coopérer en profondeur avec plus de partenaires. Créez un outil d'apprentissage de la PNL et de la migration simple, facile à utiliser et hautes performances.

1. Six points forts d'EasyTransfer

Cadre simple et performant

En protégeant l'implémentation sous-jacente complexe, les utilisateurs doivent uniquement prêter attention à la structure logique du modèle, ce qui réduit la barrière d'entrée pour l'apprentissage de la PNL et de la migration; en même temps, le cadre prend en charge des scénarios d'application distribués de qualité industrielle, améliore l'optimiseur distribué et coopère avec une précision de mélange automatique et une compilation. L'optimisation et la stratégie parallèle efficace de données / modèles distribués permettent d'atteindre une vitesse de calcul plus de 4 fois plus rapide que la version communautaire de la formation distribuée multi-machines multi-cartes.

Chaîne d'outils de pré-formation du modèle de langage

Prend en charge une chaîne d'outils de pré-formation complète, ce qui est pratique pour les utilisateurs pour pré-former des modèles de langage tels que T5 et BERT. Les modèles pré-formés basés sur cette chaîne d'outils ont obtenu de bons résultats dans la liste chinoise CLUE et la liste anglaise SuperGLUE.

Modèle pré-formé riche et de haute qualité ModelZoo

Prend en charge PAI-ModelZoo, Continue Pretrain et Finetune des modèles grand public tels que Bert, Albert, Roberta, XLNet, T5. Dans le même temps, il prend en charge le modèle multimodal auto-développé Fashionbert dans l'industrie du vêtement.

Applications riches et faciles à utiliser AppZoo
prend en charge les applications PNL grand public et les applications de modèle auto-développées, telles que les modèles à une seule tour tels que DAM ++ et HCNN sous correspondance de texte, et les modèles BERT double tour + rappel vectoriel; supporte BERT-HAE sous compréhension de lecture, etc. modèle.

Outil de distillation automatique des connaissances

Soutenir la distillation des connaissances, qui peut être distillée d'un grand modèle d'enseignant à un petit modèle d'élève. Intègre la compression AdaBERT du modèle BERT tenant compte des tâches, utilise la recherche d'architecture de réseau neuronal pour rechercher l'architecture liée aux tâches afin de compresser le modèle BERT d'origine, qui peut être compressé jusqu'à 1/17 de l'original, et l'inférence est augmentée jusqu'à 29 fois, et le modèle La perte d'effet est à moins de 3%.

Compatible avec les produits écologiques PAI

Le framework est développé sur la base de PAI-TF. Les utilisateurs peuvent utiliser la formation distribuée PAI auto-développée et efficace, l'optimisation de la compilation et d'autres fonctionnalités via une simple modification de code ou de fichier de configuration. Dans le même temps, le framework est parfaitement compatible avec les produits écologiques PAI, y compris les composants Web PAI (PAI Studio ), plate-forme de développement (PAI DSW) et plate-forme de service PAI (PAI EAS).

Présentation de l'architecture à deux plates-formes

Le cadre général d'EasyTransfer est illustré dans la figure ci-dessous, ce qui simplifie autant que possible la difficulté de développement de l'algorithme de l'apprentissage par transfert profond. Le framework résume les IO, les couches, les pertes, les optimiseurs, les modèles couramment utilisés. Les utilisateurs peuvent développer des modèles basés sur ces interfaces, ou ils peuvent accéder directement à la bibliothèque de modèles de pré-formation ModelZoo pour une modélisation rapide. Le cadre prend en charge cinq paradigmes d'apprentissage par transfert (TL), l'ajustement fin du modèle, le TL basé sur les fonctionnalités, le TL basé sur l'instance, le TL basé sur un modèle et le méta-apprentissage. Dans le même temps, le framework intègre AppZoo, prend en charge les applications NLP grand public et aide les utilisateurs à créer des applications d'algorithme NLP communes. Enfin, le cadre est parfaitement compatible avec les produits écologiques PAI, offrant aux utilisateurs une expérience unique de la formation au déploiement.

Explication détaillée de trois fonctions de la plateforme

Les fonctions de base du framework EasyTransfer sont décrites en détail ci-dessous.

Conception d'interface API simple et facile à utiliser

Cadre distribué haute performance

Le framework EasyTransfer prend en charge les scénarios d'application distribuée de qualité industrielle et améliore l'optimiseur distribué. Avec une précision de mélange automatique, une optimisation de la compilation et des stratégies de parallélisme données / modèles distribués efficaces, PAI-ALBERT peut réaliser plus que la version communautaire d'ALBERT sur plusieurs machines La vitesse de calcul de la formation distribuée Doka est plus de 4 fois plus rapide.

Rich ModelZoo

Le cadre fournit un ensemble d'outils de modèle de langage de pré-formation permettant aux utilisateurs de personnaliser leur propre modèle de pré-formation, et en même temps fournit une bibliothèque de modèles de langage de pré-formation ModelZoo que les utilisateurs peuvent appeler directement. Actuellement, plus de 20 modèles de pré-formation sont pris en charge. Parmi eux, PAI-ALBERT-zh pré-formé sur la plate-forme PAI a remporté la première place dans la liste chinoise CLUE et PAI-ALBERT-en-large a remporté la deuxième place dans la SuperGLUE anglaise. Voici une liste détaillée des modèles pré-entraînés:

L'effet du modèle pré-entraîné sur la liste CLUE:

L'effet de SuperGLUE:

Rich AppZoo

EasyTransfer encapsule AppZoo, qui est très simple à utiliser, flexible et peu coûteux. Il aide les utilisateurs à exécuter des algorithmes open source et auto-développés «de pointe» à «grande échelle» avec seulement quelques lignes de commandes pour accéder rapidement à différents scénarios et entreprises Les applications PNL sous données incluent la vectorisation de texte, la correspondance, la classification, la compréhension de lecture et l'étiquetage de séquence.

Algorithme d'apprentissage par transfert efficace

Le framework EasyTransfer prend en charge tous les paradigmes d'apprentissage de transfert traditionnels, y compris le réglage fin du modèle, le TL basé sur les fonctionnalités, le TL basé sur l'instance, le TL basé sur le modèle et le Meta Learning. Sur la base de ces paradigmes d'apprentissage de la migration, plus de 10 algorithmes ont été développés et de bons résultats ont été obtenus dans les pratiques commerciales d'Ali. Tous les algorithmes suivants seront ouverts à la base de code EasyTransfer. Dans des applications spécifiques, les utilisateurs peuvent choisir un paradigme d'apprentissage par transfert pour tester l'effet selon la figure suivante.

Modèle de langage pré-formé

L'un des sujets d'actualité du traitement du langage naturel concerne les modèles de langage de pré-formation tels que BERT, ALBERT, etc. Ces modèles ont obtenu de très bons résultats dans divers scénarios de traitement du langage naturel. Afin de mieux aider les utilisateurs à utiliser des modèles de langage pré-formés, nous avons implanté un ensemble de paradigmes standard de modèles de langage pré-formés et la bibliothèque de modèles de langage pré-formés ModelZoo dans la nouvelle version du cadre d'apprentissage par transfert EasyTransfer. Afin de réduire le nombre total de paramètres, l'Albert traditionnel a annulé le mode d'empilement des codeurs de Bert, et a plutôt utilisé la méthode de la boucle des codeurs, comme le montre la figure suivante. La méthode de la boucle complète ne fonctionne pas très bien sur les tâches en aval, nous avons donc changé la boucle complète en une boucle complète sur un encodeur empilé à 2 couches. Ensuite, nous avons reformé l'Albert xxlarge sur la base de données C4 anglaises. Dans le processus de pré-formation, nous n'utilisons que la perte MLM, combinée au masquage de mots entiers, et sur la base de la fonction Train à la volée d'EasyTransfer, nous avons implémenté un masquage dynamique en ligne, c'est-à-dire que nous pouvons générer dynamiquement un masquage à chaque fois que la phrase originale est lue. jetons. Notre dernier modèle de pré-formation, PAI-ALBERT-en-large, s'est classé deuxième au monde et premier en Chine sur la liste SuperGLUE. Les paramètres du modèle ne représentent que 1/10 du premier Google T5 et l'écart d'effet est de 3,5%. À l'avenir, nous continuerons d'optimiser le cadre du modèle et nous nous efforcerons d'obtenir de meilleurs résultats que T5 avec 1/5 des paramètres du modèle.

Modèle multimodal FashionBERT

Avec le développement de la technologie Web, Internet contient une grande quantité d'informations multimodales, notamment du texte, des images, de la voix, de la vidéo, etc. La recherche d'informations importantes à partir d'informations multimodales massives a toujours été au centre de la recherche universitaire. Le cœur de la correspondance multimodale est la correspondance de texte et d'image. Il s'agit également d'une recherche fondamentale. Elle a de nombreuses applications dans de nombreux domaines, tels que l'IR inter-modalité et la génération de légendes d'images. ), système de réponse aux questions d'image (Vision Question Answering), raisonnement de la connaissance de l'image (raisonnement visuel commun). Cependant, la recherche universitaire actuelle se concentre sur la recherche multimodale dans des domaines généraux et il existe relativement peu d'études multimodales dans le domaine du commerce électronique. Sur cette base, nous avons coopéré avec l'équipe d'Ali ICBU pour proposer le modèle de pré-formation multimodal FashionBERT, qui mène des recherches de pré-formation sur les informations graphiques dans le domaine du commerce électronique, et a réussi dans de nombreux scénarios commerciaux tels que la récupération multimodale et la correspondance graphique. Applications. Le diagramme d'architecture du modèle est illustré ci-dessous. Ce travail propose Adaptive Loss, qui est utilisé pour équilibrer la perte en trois parties de la correspondance graphique, de l'image pure et du texte pur.

Distillation des connaissances adaptative aux tâches

Le modèle de pré-formation extrait les connaissances générales de données massives non supervisées et améliore l'effet des tâches en aval grâce à la méthode de transfert de connaissances, obtenant d'excellents résultats dans la scène. En général, plus la taille du modèle de pré-formation est grande, plus la représentation des connaissances acquises est efficace pour les tâches en aval et plus l’amélioration de l’indice est évidente. Cependant, les grands modèles ne peuvent évidemment pas répondre aux exigences de rapidité des applications industrielles, de sorte que la compression des modèles doit être envisagée. Nous avons travaillé avec l'équipe d'Alibaba Intelligent Computing pour proposer une nouvelle méthode de compression, AdaBERT, qui utilise la recherche d'architecture neuronale différenciable pour compresser automatiquement BERT dans un petit modèle adaptatif aux tâches.

Dans ce processus, nous utilisons BERT comme modèle d'enseignant pour affiner ses connaissances utiles sur la tâche cible; sous la direction de ces connaissances, nous recherchons de manière adaptative une structure de réseau adaptée à la tâche cible, et compressons pour obtenir un modèle d'élève à petite échelle. Nous avons mené des évaluations expérimentales sur plusieurs tâches publiques PNL. Les résultats montrent que le petit modèle compressé par AdaBERT peut garantir que la lecture intensive est équivalente, tandis que la vitesse d'inférence est de 12,7 à 29,3 fois plus rapide que le BERT d'origine et que l'échelle des paramètres est de 11,5 à 17,0 fois plus petite que le BERT d'origine. .

Apprentissage des relations sur le terrain avec scénario d'assurance qualité

Dès 2017, nous avons essayé l'apprentissage de la migration dans la scène des questions-réponses Alibaba Xiaomi, et nous nous sommes principalement concentrés sur le TL supervisé basé sur DNN. Il existe deux cadres principaux pour ce type d'algorithme, l'un est entièrement partagé (FS) et l'autre est partagé spécifique (SS). La plus grande différence entre les deux est que le premier ne considère que la représentation partagée, tandis que le second considère la représentation spécifique. D'une manière générale, l'effet de modèle de SS est meilleur que celui de FS, car FS peut être considéré comme un cas particulier de SS. Pour SS, dans le cas idéal, la partie partagée représente la communauté des deux champs, et la partie spécifique représente les caractéristiques. Cependant, nous avons souvent du mal à obtenir un tel effet, nous envisageons donc d'utiliser une perte contradictoire et une corrélation de domaine pour aider le modèle à apprendre ces deux caractéristiques. Sur cette base, nous proposons un nouvel algorithme, hCNN-DRSS, dont l'architecture est la suivante:

Nous avons appliqué cet algorithme aux scénarios commerciaux réels de Xiaomi et obtenu de bons résultats dans plusieurs scénarios commerciaux (AliExpress, Vientiane, Lazada).

Apprentissage par transfert renforcé

L'efficacité de l'apprentissage de la migration dépend en grande partie de l'écart entre le domaine source et le domaine cible. Si l'écart est relativement important, la migration risque d'être invalide. Dans le scénario Xiaomi QA, si vous migrez directement les données de correspondance de texte de Quora, beaucoup d'entre elles ne conviennent pas. Dans le scénario d'assurance qualité de Xiaomi, basé sur l'algorithme Actor-Critic, nous avons construit un cadre général d'apprentissage de la migration renforcée et utilisé RL pour la sélection d'échantillons afin d'aider le modèle TL à obtenir de meilleurs résultats. L'ensemble du modèle est divisé en trois parties, le modèle de base d'AQ, le modèle d'apprentissage par transfert (TL) et le modèle d'apprentissage par renforcement (RL). Parmi eux, la fonction politique de RL est responsable de la sélection d'échantillons (actions) de haute qualité, le modèle TL entraîne le modèle QA sur les échantillons sélectionnés et fournit un retour d'information à RL, et RL met à jour les actions en fonction du retour (récompense). Le modèle formé par ce cadre a obtenu une très bonne amélioration de la précision de correspondance des modèles de correspondance russe et espagnol d'AliExpress sur Double 11 AliExpress.

Ancienne faveur Meta Fine-tuning

La large application des modèles de langage de pré-formation fait du modèle de formation en deux étapes de pré-formation + affinage un courant dominant. Nous avons remarqué que lors de la phase de mise au point, les paramètres du modèle ne sont affinés que sur des champs spécifiques et des ensembles de données spécifiques, sans tenir compte de l'effet de la migration et du réglage des données entre domaines. L'algorithme Meta Fine-tuning s'appuie sur l'idée de méta-apprentissage et vise à apprendre le méta-apprenant inter-domaines du modèle de langage pré-formé, de sorte que le méta-apprenant appris puisse être rapidement transféré vers des tâches dans un domaine spécifique. Cet algorithme apprend la typicité interdomaine (c'est-à-dire la transférabilité) des échantillons de données d'entraînement et ajoute un classificateur de corruption de domaine au modèle de langage de pré-apprentissage, de sorte que le modèle apprenne davantage de représentations invariantes de domaine.

Nous avons appliqué l'algorithme de réglage fin à BERT et mené des expériences sur plusieurs tâches telles que l'inférence en langage naturel et l'analyse des sentiments. Les résultats expérimentaux montrent que l'algorithme de méta-réglage est supérieur à l'algorithme de réglage fin original de BERT et à l'algorithme de réglage fin basé sur l'apprentissage par transfert dans ces tâches.

Distillation de méta-connaissances

Les modèles de langage pré-formés tels que BERT ayant obtenu des effets SOTA sur diverses tâches, des modèles tels que BERT sont devenus une partie importante du pipeline d'apprentissage de la migration profonde PNL. Mais BERT n'est pas parfait. Ce type de modèle a encore les deux problèmes suivants: trop de paramètres de modèle et vitesse d'apprentissage / d'inférence lente. Par conséquent, une direction est de distiller les connaissances BERT dans un petit modèle. Cependant, la plupart des travaux de distillation des connaissances se concentrent sur le même domaine, ignorant le problème de l'amélioration des tâches de distillation dans tous les domaines. Nous proposons d'utiliser Meta Learning pour apprendre des connaissances transférables entre domaines, et en outre distiller les connaissances transférables dans l'étape de distillation. Cette approche a considérablement amélioré l'effet du modèle Student appris dans le domaine correspondant.Nous avons distillé un meilleur modèle étudiant sur plusieurs tâches interdomaines, ce qui se rapproche de l'effet du modèle enseignant. Nous allons régler ce travail dans un proche avenir et publier du code et des articles.

Quatre articles innovants

Le cadre EasyTransfer a été mis en œuvre dans des dizaines de scénarios de PNL dans le groupe Alibaba, y compris un service client intelligent, des recommandations de recherche, un contrôle des risques de sécurité et des divertissements, ce qui a eu des effets commerciaux importants. À l'heure actuelle, EasyTransfer compte des centaines de millions d'appels vers ses services quotidiens, et le volume mensuel moyen d'appels de formation dépasse 50 000. L'équipe EasyTransfer a accumulé de nombreuses solutions d'algorithmes innovantes lors de l'atterrissage de l'entreprise, y compris le méta-apprentissage, la pré-formation multimodale, l'apprentissage par transfert amélioré, l'apprentissage par transfert de fonctionnalités, etc., et a coopéré et publié des dizaines d'articles de conférence. , Voici quelques œuvres représentatives. Ces algorithmes seront open source dans le framework EasyTransfer pour la majorité des utilisateurs à utiliser.

[EMNLP 2020]. Meta Fine-Tuning Modèles de langage neuronal pour l'exploration de texte multi-domaines. EMNLP 2020. Document complet.
[SIGIR 2020] FashionBERT: Correspondance texte et image pour le domaine de la mode avec perte adaptative.
[ACM MM 2020] Apprentissage unique pour l'étiquetage des champs de texte dans l'extraction d'informations de structure. À paraître, article oral complet.
[IJCAI 2020] AdaBERT: Compression BERT adaptative aux tâches avec recherche d'architecture neuronale différentielle, IJCAI 2020.
[KDD 2019] Un jeu Minimax pour l'apprentissage par transfert sélectif basé sur une instance. Orale, KDD 2019.
[CIKM 2019] Réseau d'attention inter-domaines avec régularisateurs Wasserstein pour la recherche de commerce électronique, CIKM 2019.
[WWW 2019] CNN Multi-Domain Gated pour la prévision de l'utilité des révisions, WWW.
[SIGIR 2019]. BERT avec modélisation d'historique pour la réponse aux questions conversationnelles. SIGIR 2019.
[WSDM 2019]. Apprendre à transférer sélectivement: Apprentissage par transfert renforcé pour la correspondance de texte profond. WSDM 2019, article complet.
[ACL 2018]. Apprentissage par transfert pour la correspondance de questions contextuelles dans les systèmes de conversation à la recherche d'informations dans le commerce électronique. ACL. 2018.
[SIGIR 2018]. Classement des réponses avec des réseaux de correspondance approfondie et des connaissances externes dans les systèmes de conversation à la recherche d'informations. Papier long.
[WSDM 2018]. Modélisation des relations de domaine pour l'apprentissage par transfert sur les systèmes de réponse aux questions basés sur la récupération dans le commerce électronique, 2018. Long Paper.
[CIKM 2017]. AliMe Assist: un assistant intelligent pour créer une expérience de commerce électronique innovante, CIKM 2017, document de démonstration, prix de la meilleure démonstration.
[ICDM 2017]. Un modèle de prévision des précipitations à court terme utilisant des réseaux de neurones convolutionnels multi-tâches. Article long, ICDM 2017.
[ACL 2017]. Chat AliMe: une séquence à séquencer et à réorganiser Chatbot Engine basé sur ACL 2017.
[arXiv]. KEML: Un cadre de méta-apprentissage enrichi en connaissances pour la classification des relations lexicales ， arXiv.

Enfin, l'outil EasyTransfer est une boîte à outils officiellement recommandée par la communauté chinoise CLUE. En même temps, la plate-forme Aliyun Tianchi travaillera avec la communauté CLUE pour créer un concours de compréhension sémantique multi-tâches. EasyTransfer est l'outil de développement par défaut. Les utilisateurs peuvent facilement créer une base de référence multi-tâches basée sur EasyTransfer et effectuer la modélisation et l'optimisation. Veuillez l'attendre.

Lien d'origine: https://developer.aliyun.com/article/776240?

Déclaration de droit d'auteur: Le contenu de cet article est volontairement fourni par les utilisateurs enregistrés au nom réel d'Alibaba Cloud. Les droits d'auteur appartiennent à l'auteur original. La communauté des développeurs Alibaba Cloud ne possède pas ses droits d'auteur et n'assume pas les responsabilités légales correspondantes. Veuillez vous reporter au «Contrat de service utilisateur de la communauté des développeurs Alibaba Cloud» et aux «Directives de protection de la propriété intellectuelle de la communauté des développeurs Cloud Alibaba» pour connaître les règles spécifiques. Si vous constatez qu'un plagiat est suspecté dans cette communauté, remplissez le formulaire de plainte pour infraction pour le signaler. Une fois vérifié, la communauté supprimera immédiatement le contenu suspecté d'infraction.