13回をスピードアップ!フレームワークを学習PaddlePaddleリリース図PGL

最近、「WAVEサミット+」深い学習開発秋2019頂上に、Baiduはフレームワークパドルグラフラーニング(PGL)を学習チャートベースのフライパドルをリリースしました。

ここに画像を挿入説明近年では、人工知能の開発を促進するためのニューラルネットワークの深さの成功は、しかし、実際の場面では、ニューラルネットワークの深さの適用を制限非ユークリッド空間内のデータがたくさんあります。非構造化データ上の地図ニューラルネットワークは、優れた処理能力を持っているので、学界と業界で最も最近のマップニューラルネットワーク輝きいます。

ここに画像を挿入説明
Baiduは非常にパフォーマンスのDGL図学習の枠組みを越えて前に13回のように、平行図のニューラルネットワークのメッセージ転送メカニズムを達成するために、PGLは、特性を飛んでユニークなパドルロドテンソルをフルに活用して公表傾向に準拠しています。ゆう飛パドルコアフレームワークと分散レンダリングエンジンの自己啓発、PGLノードがサポートする1​​0億百億巨大マップ端のトレーニングを頼ります。また、PGL異種マップメタパスのネイティブサポートをサンプリングし、メッセージデュアルモードを渡すには、学習アルゴリズムの業界の主流ビューの13種類のプリセット、開発者は使い慣れたニューラルネットワークのドメインモデルをマッピング使いやすいです。私たちPGLの1つのシークレット技術特性ずつをしてみましょう。

ここに画像を挿入説明

1.効率的な:業界の主流メッセージ枠を超えた総合重合性能DGL 13回

ニューラルネットワークモデルの図ユニークな利点は、完全に構造情報データをキャプチャすることです。メッセージパッシングパラダイム(メッセージ・パッシング)の構築図ニューラルネットワークを用いてPGLインターフェースは、ユーザーが単に送信およびRECVライト機能簡単なネットワークGCN達成することができる:、ノード間のエッジに定義されている送信機能をそれがターゲット・ノードにソースからのメッセージを送信する責任があり、recv関数は、一緒にこれらのメッセージの重合の原因です。

現在、二つのPGL凝集を提供分散収集の重合方法として合計を解決するための一般的であり、他方が平行重合プロセスは、一般的なメッセージ特性ロドテンソルピッチベースの実装を飛ぶです。

そのようなDGLが低速直列重合効率で行われる他のメインフレームメッセージとして、ユーザの共通集合関数を適合させるために、以下のように左と右のメッセージキューは、グループとして長くなるの下PGLが表示されます配列ロドテンソルは、次いで、高速パラレル重合用パドルロドテンソルレイヤーメッセージを使用して飛びます。

ここに画像を挿入説明
下表为使用LSTM作为聚合函数下GraphSAGE性能对比,得益于并行的消息聚合能力,PGL的速度能够达到DGL的13倍。

ここに画像を挿入説明
2. 规模:支持十亿节点百亿边的超大规模图训练
依托于分布式图引擎以及大规模参数服务器Paddle Fleet,PGL可以轻松在MPI集群上搭建分布式超大规模图学习算法。

ここに画像を挿入説明
如上图所示,超大规模图会以切分形式在分布式图引擎中存储,此外还提供诸如图信息访问、子图采样、游走等操作算子。在此之上则是PGL构建的分布式图训练模块,该模块会与参数服务器Paddle Fleet进行联动训练,满足用户数十亿节点Embedding学习需求。

3. 易用:轻松搭建异构图学习算法

在工业应用中,许多的图网络是异构。PGL针对异构图包含多种节点类型和多种边类型的特点进行建模,旨在为用户提供方便易用的异构图框架,让用户可以快速构建自定义的异构图模型。目前,PGL支持异构图的Meta Path采样以及异构图的Message Passing机制。

ここに画像を挿入説明上图展示了“用户与商品”的异构图——节点和边存在不同的类型。PGL为用户提供了简单易用的元路径采样接口来处理这样的异构图,如指定路径为UPU(user-product-user),PGL即可采样出类似图中右边的采样序列。

Message Passing消息传递

异构图存在不同类型的节点和边,为了融入Message Passing机制,PGL可以在异构图中分别对不同类型的边进行消息传递。最后将同一个节点在不同边类型的表示融合在一起。下图展示了PGL异构图Message Passing的过程。

ここに画像を挿入説明

4. 丰富:预置13种业界主流图学习模型

为了便于用户熟悉和使用图神经网络领域的模型,PGL预置了13种主流的图学习模型。这些模型涵盖了同构与异构、图表示学习与图神经网络、分布式训练等样例,可以赋能推荐系统、知识图谱、用户画像、金融风控、智能地图等多个场景。用户可以方便地根据自己的需要选择不同的样例进行复现、修改、上线等。

ここに画像を挿入説明
ゆう飛パドルを頼る学習フレームワークPGL描画、一緒になって、効率、大きさ、使いやすさ、豊富などでユニークな利点があります。これに基づき、PGLは、企業のBaiduの内と外の複数のプロジェクトを上陸させた、すべてを有効にすると、貢献する人工知能の産業大規模生産のために、人生の散歩します。

796 771 754:、より深く学習開発者との接続フライパドル公式QQグループに参加したいです。

あなたはより多くのパドルPaddlePaddleより飛ん内容について知りたい場合は、次のドキュメントを参照してください。

公式ウェブサイトのアドレス:
https://www.paddlepaddle.org.cn/

プロジェクト住所:
https://github.com/PaddlePaddle/PGL

公開された116元の記事 ウォンの賞賛1 ビュー4579

おすすめ

転載: blog.csdn.net/PaddleLover/article/details/103783575