这是张老师的二作文章，可得好好读。

Résumé

Les algorithmes d'apprentissage fédéré traditionnels ont des exigences strictes sur le taux de participation des appareils, ce qui limite la couverture potentielle de l'apprentissage fédéré. Cet article étend le paradigme d'apprentissage actuel pour inclure les appareils qui peuvent devenir inactifs, calculer des mises à jour incomplètes et partir ou arriver pendant la formation. Nous tirons des résultats analytiques pour illustrer que permettre une participation plus flexible des appareils affecte la convergence de l'apprentissage lorsque les données ne sont pas IID.
Nous proposons ensuite un nouveau schéma d'agrégation fédérée qui converge même si les appareils peuvent être inactifs ou renvoyer des mises à jour incomplètes. Nous étudions également comment le processus d'apprentissage s'accommode d'un départ précoce ou d'une arrivée tardive et analysons leur impact sur la convergence.

1. Introduction

Considérant que l'apprentissage fédéré nécessite généralement des milliers de cycles de communication pour converger, il est difficile en pratique de s'assurer que tous les appareils sont disponibles tout au long du processus de formation. De plus, plusieurs applications s'exécutent simultanément sur les appareils des utilisateurs, se disputant des ressources matérielles déjà très limitées . Par conséquent, il n'y a aucune garantie que l'appareil puisse effectuer les tâches de formation spécifiées comme prévu à chaque cycle de formation.
Bien que de nombreuses méthodes aient été proposées pour décharger la charge de travail des appareils individuels, telles que la compression de poids et l'abandon fédéré, elles ne peuvent pas éliminer complètement la possibilité qu'un appareil soit incapable d'effectuer ses tâches de formation. Par conséquent, dans l'apprentissage fédéré à grande échelle, de nombreux appareils à ressources limitées doivent d'abord être exclus de l'apprentissage fédéré, ce qui limite la disponibilité potentielle des ensembles de données de formation et affaiblit l'applicabilité de l'apprentissage fédéré. De plus, les travaux existants ne précisent pas comment réagir face à des comportements inattendus de l'appareil, ni n'analysent l'impact (négatif) de ces comportements sur la progression de la formation.
Dans cet article, nous assouplissons ces restrictions et permettons aux appareils de suivre un modèle de participation plus flexible :

Incomplétude : Un appareil ne peut soumettre que des travaux partiellement terminés dans un tour.
Inactif : De plus, l'appareil peut ne pas terminer les mises à jour ou ne pas répondre du tout au coordinateur.
Sortie anticipée : dans des cas extrêmes, l'équipement existant peut quitter la formation avant d'avoir terminé toutes les époques de formation.
Arrivées tardives : En plus de l'équipement existant, de nouveaux équipements peuvent être ajoutés après le début de la formation.

Notre approche pour accroître la flexibilité de la participation des appareils comprend les composants suivants, qui complètent l'algorithme FedAvg existant et répondent aux défis posés par la participation flexible des appareils :

Débiaisation des mises à jour partielles du modèle
Redémarrage rapide à l'arrivée de l'appareil
Redéfinir l'adéquation du modèle à la déviation de l'appareil

2 travaux connexes

(Certains travaux sur la formation asynchrone) L'agrégation asynchrone dans l'algorithme peut être naturellement appliquée à des appareils inactifs aléatoires, mais les auteurs n'analysent pas comment la convergence de leur algorithme est affectée par des appareils inactifs ou incomplets et l'hétérogénéité des données.
(certains travaux qui assouplissent les exigences des appareils pour la participation) Ces travaux ne montrent pas comment les changements dans les appareils affectent la convergence de la formation, ni n'intègrent l'hétérogénéité des données des utilisateurs dans la conception de l'algorithme.
Attendez la recherche de travail connexe.

3 Analyse de convergence

3.1 Description de l'algorithme

Supposons qu'il y ait $N$ pour chaque appareil $k$ définit une fonction objectif locale $F_k(w)$ . dans ce $w$ est évidemment le paramètre de poids de l'apprentissage automatique, $F_k(w)$ peut être un périphériquePerte d'expérience moyenne sur tous les points sur $k .$ Notre objectif global est de minimiser la fonction suivante :

$F(w)=\sum_{k=1}^Np_kF_k(w)$

où $nknp^k=\frac{n_k}{n}$ ， $n_k$ est l'appareil Le nombre de données détenues par $k$ $nkn=\sum_{k=1}^Nn_k$ . Ordre $w^*$ est la fonction $F (w)$ prend le paramètre de poids de la valeur minimale. On utilise $F_k^*$ représente $F_k$ valeur minimum.

Pour décrire l'appareil À quel point la distribution des données de $k$ $\Gamma_k=F_k(w^*)-F_k^*$ , en même temps $\Gamma=\sum_{k=1}^Np_k\Gamma_k$ .

Considérons les pas de temps discrets $t=0,1,\cdots$ .quand $c'est$ _ $Lorsque le multiple de E$ , les poids du modèle sont synchronisés. Supposons qu'il y ait au plus $Pour T$ tours, pour chaque tour (par exemple à $\tau$ rond), nous effectuons les trois étapes suivantes :

Synchronisation : Le serveur diffuse le dernier poids $w_{\tau E}^\mathcal{G}$ à tous les clients. Chaque client met à jour son propre paramètre de pondération : $w_{\tau E}^k=w_{\tau E}^\mathcal{G}$
Entraînement local : quand $i=0,\cdots,s_\tau^k-1$ , chaque appareil a sa propre fonction de perte $F_k$ Calcul SGD de transport : $w_{\tau E+i+1}^k=w_{\tau E+i}^k- \eta_\tau g_{\tau E+i}^k$ Ici $\eta_\tau$ est avec $\tau$ taux d'apprentissagepar décroissance $0\le s_\tau^k\le E$ représente le nombre de pas de temps des mises à jour locales effectuées dans ce tour. $g_t^k=\nabla F_k(w_t^k,\xi_t^k)$ est le périphérique $Le gradient stochastique de k$ , où $\xi_t^k$ Représente les données du mini-lot local. On définit aussi $\bar g_t^k=\nabla F_k(w_t^k)$ désigne l'appareilLe gradient de lot complet de $k$ $\bar g_t^k=\mathbb E_{\xi_t^k}[g_t^k]$
码线: ：电视器砖线梯度可生活在于安全权重安全权重 Paramètres: $w_{(\tau+1) E}^\mathcal{G}=w_ { \tau E}^\mathcal{G}+\sum_{k=1}^Np_\tau^k(w_{\tau E+s_{\tau}^k}-w_{\tau E}^\mathcal { G})\\w_{(\tau+1) E}^\mathcal{G}=w_{\tau E}^\mathcal{G}-\sum_{k=1}^Np_\tau^k\ somme_ {i=0}^{s_\tau^k}\eta_\tau g_{\tau E+i}^k$ Si $s_\tau^k=0$ (c'est-à-dire l'appareil $k$ aux $\tau$ rond sans aucune mise à jour), alors nous disons appareil $k$ aux $\tau$ estinactive. Si $0<s_\tau^k<E$ , alors on dit le dispositif $k$ estincomplet. Nous allons chacun $s_\tau^k$ En tant que variable aléatoire suivant une distribution arbitraire, si $s_\tau^k de différents appareils$ ont des distributions différentes, alors elles sont hétérogènes, sinon elles sont homogènes. En même temps, nous autorisons le coefficient de poids agrégé $p_\tau^k$ Avec des pas de temps $\tau$ change. (Généralement $p_\tau^k$ est $s_\tau^k$ La fonction)

Comme cas particulier, FedAvg traditionnel suppose que tous les appareils complètent tous $E$ apprentissage du pas de temps, donc $s_\tau^k\equiv E$ _ $p_\tau^k\equiv p^k$ utilisé par FedAvg participé par tous les appareils $p_{t} \equiv p^{k}$ , donc le côté droit de la formule précédente peut s'écrire : $w_{(\tau+1) E}^\mathcal{G} =\sum_ {k=1}^Np_\tau^kw_{\tau E}^k$ En effet, l'agrégation de gradient équivaut à l'agrégation directe des paramètres du modèle .

3.2 Borne de convergence générale

Cette partie prouve les bornes de convergence suivantes à travers diverses hypothèses (dont le gradient de Lipschitz, etc.) :
insérez la description de l'image ici

3.3 Transfert d'objectif global

Ce chapitre décrit le phénomène selon lequel la fonction de perte globale est décalée vers l'appareil en raison de l'acceptation des poids de l'appareil spécifique. L'article a le théorème suivant :
insérez la description de l'image ici
L'article dérive alors une nouvelle borne de convergence dans le cas de décalages d'objectifs globaux.

[Lecture de littérature] Participation flexible des appareils à l'apprentissage fédéré