近年、物理学に基づいた深層学習手法が、特に逆問題を解く際の独自の利点により非常に人気が高まっています。この分野では、多くの研究者が、さまざまなデータセットに対して非常に優れたパフォーマンスを発揮する解決アルゴリズムを提案してきました。ただし、それらはすべて、それぞれのデータセットと問題点についてテストと比較を行っており、CIFAR10 やその他の同様の画像ベンチマークなどの公開データセットの開発が急務となっています。
現在、 AI微分方程式の分野ではPDEBenchが作成されており、その論文もNeurIPS 2022に掲載されました。
- PDEBench は、大規模な偏微分方程式データセットとして使用できるだけでなく、偏微分方程式を解くための新しい AI のベンチマークの 1 つとしても使用できます。
- 近年では、FNO (フーリエ変換を使用すると非常に速く、AI は数秒で偏微分方程式を解くことができます) など、関連するコードの比較も PDEBench に組み込まれています。
AI による偏微分方程式解法が人気の理由
-
逆問題は計算において比較的大きな利点があります。従来の数値手法は主に、既知の境界条件や既知の制御方程式の下での順計算など、複雑な問題の順計算を目的としており、非常に強力な利点があります。対照的に、深層学習手法は、順方向計算問題に対してはあまり効果的ではありません。ただし、一部の測定データや一部の物理学 (方程式内の一部のパラメーターや境界条件が不明) などの一部の逆問題については、ディープラーニング手法はデータと物理学に基づいてモデルを形成でき、これはデータ同化よりも優れています。従来の数値手法に基づく（データ同化）方が効率的です。
-
高速な推論が必要な場合、利点はより明白になります。一方で、数値的な問題に直面したとき、数値的手法の背景に精通している必要はなく (解を導き出すために数値形式を使用する必要もありません)、次の加算法を直接使用できます。基準解を得るために物理的な損失が発生する; 一方、問題の境界を継続的に解決する必要がある場合 地盤変化の場合、またはネットワークのトレーニングに多くの時間を費やす場合、多くのソースが継続的に変化する必要がある場合ルル氏が提案したdeeponet法[1]（物理駆動型ニューラルネットワーク法）を利用することで、推論段階で利用することができ、高速な予測が可能になります。
-
高次元の問題に対する潜在的な利点。ニューラル ネットワークは確かに多くの高次元問題を処理できますが、一部のベンチマーク問題に関してはニューラル ネットワーク手法が従来の問題を完全に超えているとは言い難く、さらなる議論が必要です。
AI 偏微分方程式の非常に包括的なベンチマーク
研究者らは PDEBench と呼ばれるベンチマークを考案しました。PDEBench は、いくつかの現在の既存のベンチマーク手法と将来の機械学習手法に加え、2 次元および 3 次元の波の伝播や乱流などの科学的に困難な複数のデータセットを提供します。
さらに、PDEBench に含まれるすべてのデータセットは次のとおりです。
同時に、PDEBench はモデルをより包括的に評価するために次の指標も提案します。
最後に、PDEBench にはいくつかの古典的なモデル コードも含まれており、より一般的な FNO、U-Net、PINN などの他のモデルを評価するためのベンチマークの 1 つとして使用されます。
チームは、その成果に基づいて、PDEBench のスケーラビリティを最適化し、より多くのデータセットやベンチマーク モデルを追加しました。
注目に値するのは、チームが PyTorch と JAX の両方のフレームワークでいくつかの事前トレーニング済みモデルを実行したところ、JAX が PyTorch よりも約 6 倍高速であることが判明したことです。JAX を使用して偏微分方程式を解く AI を実現することは、計算において大きな利点があることがわかります。
参考リンク
https://mp.weixin.qq.com/s/3WgMyJwMYKAxqb2M4mWGIw
https://mp.weixin.qq.com/s/X4-OiRVxWJGFMN6h7M_upQ