グラフ ニューラル ネットワークにおけるフーリエ変換の応用

       フーリエ変換はグラフ ニューラル ネットワークで一般的に使用され、ノード特徴を時間領域 (または空間領域) から周波数領域に変換し、周波数領域でノード特徴に対して畳み込み演算を実行します。具体的には、グラフ信号を時系列信号とみなすことができ、時系列信号にフーリエ変換を適用してノード特徴量を周波数領域の信号に変換する。このように、周波数領域では、畳み込み演算は単純なドット積演算として表現できます。

       GCN などのラプラシアン行列のスペクトル分解に基づく GNN の場合、フーリエ変換を使用してラプラシアン行列の固有ベクトルを周波数領域信号として表すことができ、ノードの特徴は周波数領域の畳み込み演算によって畳み込まれます。具体的には○○としましょうXn × fn\times fn×f 、 AAのノード特徴行列A =n × nn\times nn×nの隣接行列DDDn × nn\times nn×nの次数行列、その後のラプラシアン行列L = D − AL=DAL=DA._ _ LLL は固有値分解を実行して固有値を取得しますλ 0 ≤ λ 1 ≤ . . ≤ λ n − 1 \lambda_0\leq \lambda_1 \leq ... \leq \lambda_{n-1}01...n 1和特征向量 u 0 , u 1 , . . . , u n − 1 u_0,u_1,...,u_{n-1} あなた0あなた1... あなたn 1フーリエ変換を使用すると、固有ベクトルはフーリエ基底関数ek ( x ) = 2 ncos ( π kxn ) e_k(x)=\sqrt{\frac{2}{n}}cos(\frac{\pi kx}{n}) として表すことができます。e( × )=n2 cos (nπkx _)、ここでk = 0 , 1 , 2 , . . . , n − 1 k=0,1,2,...,n-1k=0 1 2 ... n1 . 特徴ベクトルを周波数領域の信号として表すと、周波数領域の畳み込み演算を実行することができ、それによってノード特徴に対する畳み込み演算が実現される。

        実際のアプリケーションでは、計算効率などの制限のため、通常、完全フーリエ変換や逆フーリエ変換は使用されませんが、チェビシェフ多項式やクリロフ部分空間に基づく高速フーリエ変換などの手法を使用して周波数領域の畳み込み演算を実行し、計算効率を向上させます。

        周波数領域の畳み込み演算は、グラフ ニューラル ネットワークで一般的に使用される畳み込み演算であり、その基本的な考え方は、フーリエ変換後に周波数領域のノード特徴に対して畳み込み演算を実行することです。具体的には○○としましょうXn × fn\times fn×f 、 AAのノード特徴行列A =n × nn\times nn×nの隣接行列DDDn × nn\times nn×nの次数行列、その後のラプラシアン行列L = D − AL=DAL=DA._ _ LLL は固有値分解を実行して固有値を取得しますλ 0 ≤ λ 1 ≤ . . ≤ λ n − 1 \lambda_0\leq \lambda_1 \leq ... \leq \lambda_{n-1}01...n 1和特征向量 u 0 , u 1 , . . . , u n − 1 u_0,u_1,...,u_{n-1} あなた0あなた1... あなたn 1の場合、フーリエ変換はノード特徴行列を次のように表すことができます。

X ~ = UTX \チルダ{X} = U^TXバツ=UTX _

       任意のU = ( u 0 , u 1 , ... , un − 1 ) U=(u_0,u_1,...,u_{n-1})U=(あなた0あなた1... あなたn 1)は、ラプラシアン行列X ~ \tilde{X}の固有ベクトルで構成される行列です。バツ~は、フーリエ変換後のノード特徴行列の周波数領域表現です。周波数領域では、畳み込み演算は単純な点乗算演算として表現できるため、ノード特徴を周波数領域で畳み込み、新しい周波数領域特徴表現 Y ~ \tilde{Y}Y

Y ~ = Θ X ~ \チルダ{Y} = \シータ \チルダ{X}Y=Thバツ

       其中 Θ \Theta Θは周波数領域のコンボリューション カーネルであり、通常は学習可能なパラメータのセットです。実際のアプリケーションでは、計算効率を向上させるために、通常、チェビシェフ多項式に基づく方法やクリロフ部分空間に基づく方法など、いくつかの高速フーリエ変換方法が周波数領域の畳み込み演算の実行に使用されます。

       最後に、逆フーリエ変換を通じて、周波数領域の特徴はY ~ \tilde{Y}として表すことができます。Y~空間ドメインYYのノード フィーチャ表現に変換し直しますY

Y = UY ~ Y = U \チルダ{Y}Y=UY

       ノード フィーチャの新しい表現YY を取得しますY._ _ このフーリエ変換ベースの周波数領域畳み込み演算は、ラプラシアン行列ベースのスペクトル畳み込みネットワーク (GCN など)、GraphSAGE などのグラフ ニューラル ネットワークで広く使用されています。

おすすめ

転載: blog.csdn.net/weixin_44904205/article/details/129053144