AI「腐敗防止」、マックス・プランクはNLPとDNNを組み合わせて耐腐食合金を開発

内容の概要: ステンレス鋼に囲まれた世界では、腐食の存在をほとんど忘れているかもしれません。しかし、腐食は生活のあらゆる側面に存在します。錆びたスチール釘、老朽化し​​て漏電した電気配線、または変色した車など、すべては腐食に関係します。統計によると、世界中で金属腐食によって引き起こされる年間経済損失は
2兆5000億米ドルを超え、他の自然災害をはるかに上回っています。そのうち、中国における腐食による経済損失は約3,949億ドルで、中国のGDPの4.2％を占めています。このため、研究者はより優れた耐食性を備えた合金または金属保護膜を研究してきました。現在、材料の耐食性を最適化するプロセスにAIが活用されています。

キーワード：自然言語処理、ディープニューラルネットワーク腐食

著者 | Xuecai
編集者 | 三陽

この記事は、HyperAI Super Neural WeChat パブリック プラットフォームで初めて公開されました~

全米腐食技術者協会（NACE、全国腐食技術者協会）の統計によると、2013 年に世界で腐食によって生じた経済損失は 2 兆 5,000 億元を超えました。同時に、中国も腐食に悩まされており、同年の経済損失は約3,949億ドルとなり、GDPの4.2％を占め、他の先進国よりも若干高い割合となっている。

比較のために、2008 年の汶川地震では約 1,100 億ドルの経済損失が発生しました。言い換えれば、2013 年の時点で、我が国における腐食による経済損失だけでも、汶川地震 3 回を超えていました。
表 1: 2013 年の世界中の腐食による経済的損失 (数十億ドル)

腐食の問題を解決するために、研究者は材料の強度を向上させると同時に、材料の耐食性を向上させる方法を常に模索しています。AIの活用により、高温における合金の腐食メカニズムを予測したり、鉄鋼の大気腐食速度や鉄筋コンクリートの環境腐食を解析したり、畳み込みニューラルネットワーク（CNN）を利用できるようになったりするなど、一定の進歩を遂げた。画像内の材料の腐食形態を決定します。

しかし、機械学習モデルの入力データは数値データがほとんどです。しかし、金属材料の加工や分析では、pH値や試験温度などの数値データに加え、材料の種類などの機密データや、熱処理工程や試験方法などのテキストデータも存在します。従来の機械学習モデルでは、すべてのデータを完全に読み取って分析することができず、予測精度が低くなります。

この目的を達成するために、ドイツのマックス プランク アイゼンフォルシュング研究所 (MPIE、マックス プランク アイゼンフォルシュング研究所) は、ディープニューラル ネットワーク (DNN) と自然言語処理 (NLP) を組み合わせて、プロセス認識 DNN を開発しました。このモデルは数値データとテキストデータを組み合わせることができ、他のモデルに比べて正解率が15％高くなります。

同時に、金属の物理的および化学的特性を記述子に変換し、トレーニング セットに存在しない元素の耐食性への影響を予測するために使用できる特徴変換 DNN を構築しました。この研究は、「自然言語処理と深層学習による耐食合金設計の強化」というタイトルで、2023 年 8 月に Science Advances に掲載されました。

関連する研究は「Science Advances」に掲載されています

論文リンク:
https://www.science.org/doi/10.1126/sciadv.adg7992

プロセスアウェア DNN

モデルデザイン

本研究のデータセットは、769 合金の 5 カテゴリーの孔食電位であり、数値データ、分類データ、テキストデータが含まれています。このうち、数値データはモデルに直接入力され、カテゴリデータは連番付けによって数値入力モデルに変換され、テキストデータは NLP アーキテクチャによって処理された後にモデルに入力されます。

NLP アーキテクチャは主に、語彙のタグ付け、ベクトル化、ベクトル シーケンスの処理を含む 3 つの部分に分かれています。

トークン化中に、各単語は特定の整数トークンに置き換えられます。語彙トークンを通じて、語句または文が整数ベクトルに変換されます。

字句タグ付け後、テキストデータは数値に変換されますが、数値間に相関関係はなく、元のテキストの意味論を継承することはできません。したがって、整数ベクトルは n 次元の浮動小数点ベクトルにベクトル化されます。トレーニング プロセス中、各語彙の重みは継続的に最適化されます。トレーニング後、ベクトル間の近接性は、それらの意味論的な類似性に対応します。

最後に、n 次元の浮動小数点ベクトルは長期短期記憶リカレント ニューラル ネットワーク (LSTM) によって単一のベクトルに変換され、入力層に入ります。LSTM は、ゲート機能を通じて単語間の長期的な依存関係を識別できます。したがって、LSTM は特定の文から重要な関連単語を見つけ出し、文の最も重要な部分を DNN の入力層に渡すことができます。

図 1: プロセス認識 DNN モデルの構造

A: NLP データ処理ワークフロー
B: プロセス認識 DNN モデルの概略図

トレーニングと検証

トレーニング後、研究者らはモデルの絶対平均誤差を集計しました。プロセス認識 DNN の平均絶対誤差は約 150 mV で、これは単純な DNN の絶対誤差より 20 mV 低くなります。予測された孔食電位と実際の孔食電位の間の^{R2 は}0.78 ± 0.06 で、これは単純な DNN の 0.61 ± 0.04 よりも高かった。上記の結果は、テキスト データを分析した後、プロセス認識 DNN が単純な DNN モデルよりも優れたパフォーマンスを発揮することを示しています。

図 2: プロセス認識 DNN トレーニングの結果

A: トレーニングおよび検証中の平均絶対誤差 (赤い線は単純な DNN モデルの平均絶対誤差)、
B: プロセス認識 DNN と単純な DNN モデルの結果の比較。

合金組成の最適化

合金組成の最適化プロセスにおけるプロセス認識型 DNN と単純な DNN の違いを比較するために、研究者らは同様の合金組成から開始し、同じ学習率を使用して 2 つのモデルを個別に合金組成を最適化しました。

図 3: コンポーネントの最適化の結果

A&B: 鉄基合金の最適化結果;
C&D: Ni-Cr-Mo 合金の最適化結果;
E&F: Al-Cr 合金の最適化結果;
G&H: 高水分合金の最適化結果。

この図から、鉄基合金と FeCrNiCo 高水分合金の 2 つのモデルの最適化結果は部分的に似ていますが、他の 2 つの合金の最適化結果は大きく異なることがわかります。まず、プロセスを意識した DNN は、Mo 元素含有量の増加により、Fe ベースの合金および Ni-Cr-Mo 合金の孔食の可能性が大幅に増加すると予測しています。第二に、プロセスを意識した DNN は、Ni-Cr-Mo 合金では、格子間窒素と格子間炭素が合金の孔食の可能性を高める可能性があると考えています。最後に、Al-Cr 合金では、Cu 元素も孔食電位の改善に有益です。これらは単純な DNN では無視されます。

特徴変換 DNN

モデルデザイン

合金組成特性評価機能「WenAlloys」を通じて、合金の組成情報を一連の原子、物理的、化学的特性に分解し、DNN モデルの入力値としてさまざまな記述子に変換することもできます。

表 2: いくつかの機能の変換結果

このうち、 c _i、r _i、Xi _、 E _{c,i は、}それぞれ原子分率、原子半径、パウリ電気陰性度、元素結合エネルギーを表します。

トレーニングと検証

図 4: 特徴変換 DNN の学習結果

A: モデルのトレーニングおよび検証中の誤差曲線;
B: 予測された孔食電位とトレーニング後の実際の孔食電位の回帰曲線;
C: 特徴変換 DNN と単純な DNN の結果の比較。

トレーニング後、特徴変換 DNN の平均絶対誤差は約 168 mV、R ²は 0.66 で、単純な DNN モデルと比較してパフォーマンスがわずかに向上しました。

特徴変換DNNによる抵抗メカニズムの解析

5 種類の合金のうち 1 つがフィーチャー変換用に選択され、最適化のためにモデルに入力されます。最適化曲線に基づいて、入力特徴は 2 つのカテゴリに分類できます。あるクラスの特徴曲線は、最適化中にトレーニング セットで予想されるよりも大幅に変化しますが、別のクラスの特徴は、最適化中にわずかしか変化しません。

図 5: さまざまな入力特徴の最適化曲線

図には、最適化プロセス中に大幅に変更された 4 つの特徴があります。これは、これらの特徴が合金の孔食の可能性を改善するための重要なパラメーターである可能性があることを意味します。

特徴変換 DNN による Al-Cu-Sc-Zr 合金の予測

コンポーネントの原子的、物理的、化学的特性のみが特徴変換 DNN に入力されるため、トレーニング セットに存在しない要素の予測を行うことができます。

さまざまな合金では、Sc と Zr の両方の元素が耐食性を高めます。そこで研究チームは、特徴変換DNNを使用して、Al-Cu合金に対するこれら2つの元素の影響を分析しました。

図6：特徴変換DNNによるAl-Cu-Sc-Zr合金の孔食電位予測結果

図に示すように、ZrおよびSc元素の含有量が増加するにつれて、合金の孔食電位は連続的に増加し、合金の耐食性が向上することを示しています。この結果は、新しい要素に対する特徴変換 DNN の予測能力を検証します。

上記の結果は、NLP と DNN を組み合わせた後、モデルが合金の加工方法と試験方法に関するテキスト データを読み取ることができるため、従来の DNN モデルよりも優れたパフォーマンスを備え、単純な DNN で無視された要素が耐食性に対して与える影響を発見できることを示しています。合金の影響。特徴変換 DNN は、合金の原子、物理、化学的特性から開始して、トレーニング セットに存在しない元素の特性を予測できます。

腐食: サイレントメタルキラー

2009 年、世界腐食機関 (WCO) は、腐食に対する国民の意識を高めるために、毎年 4 月 24 日を世界腐食デーに制定しました。一般的な化学現象として、腐食は私たちの生活の隅々に存在します。キッチンにあるさまざまな器具、さまざまな家電製品、海陸空を越える乗り物、さらにはユニークなデザインのさまざまな建物も、すべて腐食に悩まされています。金属があるところには腐食があると言えます。

金属腐食には化学腐食と電気化学腐食が含まれますが、電気化学腐食の方が一般的であり、より有害です。電食とは、一次電池を形成するために電解液中で2つの金属が回路を形成し、活性金属が腐食する現象を指します。一般的な電気化学腐食には、均一腐食、孔食、応力腐食、隙間腐食などが含まれます。中でも不均一腐食、特に発見が困難な孔食は金属にとって有害で​​あり、事故を引き起こしやすいものです。

図 7: 一般的なタイプの電解腐食

2013年11月22日、長期にわたる高塩素と乾燥と湿潤が交互に繰り返される環境により、山東省青島市の石油パイプラインが腐食、減肉し、最終的には破断し、原油が漏洩した。その後の清掃と応急修理中に、現場での不適切な作業により原油が爆発し、62名が死亡、163名が負傷した。

腐食は検出が難しいことが多いため、腐食事故を回避するには定期的な手作業による検査と修理が必要となり、多くの人的資源と物的資源を消費します。AI の助けを借りて、合金の組成を最適化し、より優れた耐食性を備えた材料を見つけることができるようになりました。同時に、腐食の可能性を迅速に特定し、「サイレントキラー」をもはや沈黙させないようにするために、デジタル腐食監視システムも使用されています。

参考リンク：

[1] http://impact.nace.org/documents/Nace-International-Report.pdf

[2] https://whatispiping.com/corrosion/?expand_article=1

[3] https://www.gov.cn/govweb/jrzg/2014-01/11/content_2564654.htm#:

この記事は、HyperAI Super Neural WeChat パブリック プラットフォームで初めて公開されました~