这是张老师的二作文章，可得好好读。

まとめ

従来のフェデレーテッドラーニングアルゴリズムには、デバイスの参加率に関する厳しい要件があり、フェデレーテッドラーニングの潜在的な範囲が制限されます。このペーパーでは、現在の学習パラダイムを拡張して、トレーニング中に非アクティブになり、不完全な更新を計算し、出発または到着する可能性のあるデバイスを含めます。データが非 IID である場合、より柔軟なデバイスの参加を許可することが学習の収束に影響を与えることを示す分析結果を示します。
次に、デバイスが非アクティブであっても、不完全な更新を返しても、収束する新しいフェデレーション集約スキームを提案します。また、学習プロセスが早退や遅刻にどのように対応するかを調査し、それらが収束に及ぼす影響を分析します。

1 はじめに

通常、フェデレーテッドラーニングでは収束するまでに数千回の通信ラウンドが必要であることを考慮すると、トレーニングプロセス全体を通じてすべてのデバイスを確実に利用できるようにすることは実際には困難です。さらに、多くの場合、ユーザーデバイス上で複数のアプリケーションが同時に実行され、すでに高度に制約されたハードウェアリソースをめぐって競合します。したがって、デバイスがトレーニングの各ラウンドで指定されたトレーニングタスクを期待どおりに完了できるという保証はありません。
ウェイト圧縮やフェデレーションドロップアウトなど、個々のデバイスの作業負荷を軽減するための多くの方法が提案されていますが、デバイスがトレーニング義務を実行できなくなる可能性を完全に排除することはできません。したがって、大規模なフェデレーテッドラーニングでは、まずリソースに制約のある多くのデバイスをフェデレーテッドラーニングへの参加から除外する必要があり、これによりトレーニングデータセットの潜在的な可用性が制限され、フェデレーテッドラーニングの適用性が弱まります。さらに、既存の研究では、予期しないデバイスの動作に遭遇したときにどのように反応するかについては規定されておらず、これらの動作がトレーニングの進行に及ぼす（マイナスの）影響も分析されていません。
このペーパーでは、これらの制限を緩和し、デバイスがより柔軟な参加モデルに従うことができるようにします。

不完全性: デバイスはラウンド内で部分的に完了した作業のみを送信できます。
非アクティブ: さらに、デバイスは更新を完了しないか、コーディネーターにまったく応答しない可能性があります。
早期終了: 極端な場合、既存の機器はすべてのトレーニングエポックを完了する前にトレーニングを終了する可能性があります。
遅れて到着: 既存の装備に加えて、訓練開始後に新しい装備が参加する場合があります。

デバイス参加の柔軟性を高めるための当社のアプローチには、既存の FedAvg アルゴリズムを補完し、柔軟なデバイス参加によってもたらされる課題に対処する次のコンポーネントが含まれています。

部分的なモデル更新のバイアス除去
デバイス到着時の高速再起動
デバイスの逸脱に対するモデルの適合性の再定義

2 関連作品

(非同期トレーニングに関する一部の研究) アルゴリズムの非同期集計は、ランダムな非アクティブなデバイスに自然に適用できますが、著者らは、アルゴリズムの収束が非アクティブまたは不完全なデバイスとデータの異種性によってどのような影響を受けるかを分析していません。
(参加デバイスの要件を緩和するいくつかの研究) これらの研究は、デバイスの変更がトレーニングの収束にどのような影響を与えるかを示しておらず、ユーザーデータの異質性をアルゴリズム設計に組み込んでいるわけでもありません。
関連作品の調査を待ちます。

3 収束解析

3.1 アルゴリズムの説明

があるとします。 $N 個の$ デバイス、各デバイスについて $k は$ 局所目的関数 $F_k(w)$ 。其中 $w$ は明らかに機械学習の重みパラメータ $F_k(w)$ はデバイス $k$ を超えるすべてのポイントにおける平均経験損失私たちの世界的な目標は、次の機能を最小限に抑えることです。

$F(w)=\sum_{k=1}^Np_kF_k(w)$

ここで、 $nknp^k=\frac{n_k}{n}$ ， $n_k$ デバイスは $k$ が所有するデータの数 $nkn=\sum_{k=1}^Nn_k$ 。令 $w^*$ は関数 $F (w)$ は最小値の重みパラメータをとります。 $F_k^*$ を使用します $F_{k}$ $F_k$ を表します $F$ 最小値。

デバイス $k$ のデータ分布が他のデバイスのデータ分布とどの程度異なるかを $\Gamma_k=F_k(w^*)-F_k^*$ 、同時に $\Gamma=\sum_{k=1}^Np_k\Gamma_k$ 。

離散時間ステップ $t=0,1,\cdotsを考慮します。$ .とき $です$ _ $E$ の倍数の場合、モデルの重みは同期されます。あると仮定します。 $T$ ラウンドの場合、各ラウンドごとに (たとえば、 $\tau$ ラウンド)、次の 3 つのステップを実行します。

同期: サーバーは最新の重み $w_{\tau E}^\mathcal{G} をブロードキャストします。$ すべてのクライアントへ。各クライアントは独自の重みパラメータを更新します: $w_{\tau E}^k=w_{\tau E}^\mathcal{G}$
ローカルトレーニング: $i=0,\cdots,s_\tau^k-1$ の場合、各デバイスは独自の損失関数 $F_k$ 运行SGD算法： $w_{\tau E+i+1}^k=w_{\tau E+i}^k-\eta_\tau g_{\tau E+i}^k$ ここで $\eta_\tau$ $\tau$ と一緒です $τ$ 減衰学習率、 $0\le s_\tau^k\le E$ このラウンドで行われたローカル更新のタイムステップ数を表します。 $g_t^k=\nabla F_k(w_t^k,\xi_t^k)$ はデバイス $k$ の確率的勾配、ここで $\xi_t^k$ ローカルミニバッチのデータを表します。 $\bar g_t^k=\nabla F_k(w_t^k) も$ 定義します。 $g_{t} = \nablaF_(w_{t}) は$ デバイス $k$ の完全なバッチ勾配 $\bar g_t^k=\mathbb E_{\xi_t^k}[g_t^k]$
暗号回線：テレビの回線勾配は安全な環境で生存可能です重パラメータ： $w_{(\tau+1) E}^\mathcal{G}=w_ { \tau E}^\mathcal{G}+\sum_{k=1}^Np_\tau^k(w_{\tau E+s_{\tau}^k}-w_{\tau E}^\mathcal { G})\\w_{(\tau+1) E}^\mathcal{G}=w_{\tau E}^\mathcal{G}-\sum_{k=1}^Np_\tau^k\ sum_ {i=0}^{s_\tau^k}\eta_\tau g_{\tau E+i}^k$ s τ k = 0の場合 $s_\tau^k=0$ (つまり、デバイス $\tau$ の $k$ $τ は$ と言います $\tau$ の $k$ $タウ$ ラウンドは非アクティブ。の場合 $0 < s_{t} < E$ の場合、デバイス $k は$ 不完全です。私たちはそれぞれ $s_\tau^k$ 任意の分布に従う確率変数として、異なるデバイスの $s_\tau^kの場合$ 分布が異なる場合は不均一であり、そうでない場合は均一です。同時に、集約された重み係数 $p_\tau^kを許可します。$ $\tau$ 付き $τが$ 変化します。(一般に $p_\tau^k$ は $s_\tau^k$ 関数）

特殊なケースとして、従来の FedAvg は、すべてのデバイスがラウンドごとにすべての $E$ タイムステップトレーニング、つまり $s_\tau^k\equiv E$ _ そして、すべてのデバイスが参加する FedAvg によって使用される $p_\tau^k\equiv p^k$ であるため、前の式の右辺は次のように書くことができます: $w_{(\tau+1) E}^\mathcal{G} =\sum_ {k=1}^Np_\tau^kw_{\tau E}^k$ これは、勾配集計がモデルパラメーターを直接集計することと同等であるためです。

3.2 一般的な収束限界

この部分では、さまざまな仮定 (リプシッツ勾配などを含む) を通じて次の収束限界を証明します。
ここに画像の説明を挿入

3.3 グローバル目標の転送

この章では、特定のデバイスの重みを受け入れることにより、全体的な損失関数がデバイスに向かってシフトする現象について説明します。この記事には次の定理があります。
ここに画像の説明を挿入
次に、この記事では、グローバルなターゲットが変更された場合の新しい収束限界を導き出します。

[文献読書] Federated Learning へのデバイスの柔軟な参加

まとめ