4ヶ月から7日まで、NetflixのオープンソースのPythonのフレームワークは、魔法Metaflow何のパフォーマンスを向上させるには？

著者|ルパート・トーマス

翻訳|ケイ隠し

編集|ジェーン

制作| AI技術のベースキャンプ（ID：rgznai100）

[リード] Metaflowは、2019年12月に正式オープンで、Netflixの、科学的データのフィールドでPythonのフレームワークによって開発されました。報告によると、Metaflowデータ科学者はそこに描画することにより一連のステップで構築するパイプラインを処理し、拡張性とバージョン管理に直面している課題のいくつかを解決します。Metaflowは、より簡単に実行するために、クラウドラインローカルリソースに移動します（ただし現在はAWSクラウドをサポートする）ことができます。EDノードのフローチャートの各ステップは、独立して動作し、ユニークな依存性を有し、Metaflowは、ノード間の内部通信を処理します。今日、我々はMetaflowを紹介し、我々は手助けをしたいです。

Metaflowプロフィール

Netflixの内部Metaflowは、このような広告配信、ビデオ符号化を最適化するように機械学習タスクのすべての面で使用されてきました。Metaflowために、それによって、展開のスピードを高め、モデルの展開の効率化、モデル全体の開発、展開、更新プロセスより体系を改善することが表示されます。

データ科学者のために、彼らはより直接的にモデル設計のパフォーマンスに関連する作業を懸念しているモデルは、そのような環境として、本番環境でアップグレードすることができることを確認するために、迅速な展開モデルのためのモデルエンジニアリング、と希望を特徴と頼りにしたくありません、バージョン管理、データウェアハウス管理、およびプロセス内の他の基本作業のエネルギーの浪費は、Metaflowは、この問題を解決することで表示されます。

Metaflowは簡素化や、データの科学者は、より迅速かつ容易に、実際のエンジニアリング環境でモデルの性能とパフォーマンスを向上させるために集中するモデルを展開できるようにも、基本的なタスクを自動化し、生産性を向上させることができます。だから、これは人間中心のフレームワークです。最近、ネットフリックスはまた、以下のことを明らかにしたMetaflowは、プロジェクトの中央値は、展開時間を学習Netflixのマシンはわずか7日間に4ヶ月から減少しています。次の作品Metaflowと機能に焦点を当てます。

基本的な動作原理

如上图，可以用一个有向非循环图来表示工作流程，图中的每个节点都表示一个流程中的一个阶段，这些阶段可以是任意的 Python 代码，在上图的例子中，Metaflow 并行的训练两个不同版本的模型，并选择性能最好的那个。这是一种单机并行处理的方式，类似于 Python 中的 multiprocessing 包。如果要部署到云资源，只需要额外指定一个命令行参数 --with batch，即可告知 Metaflow 在云上运行代码。目前只支持亚马逊的 Web 服务器，不过应该很快就会支持更多云服务器。

每个阶段的末尾都有一个检查点，可以在以后的阶段中从任意检查点恢复执行，以帮助调试。但是你不能逐行检查您的代码。

版本控制

机器学习的版本控制颇具挑战性，因此 Metaflow 也特别照顾了这个问题。每个步骤的运行代码和数据都是散列（hash）的，图中每个节点的执行都被记录下来，并且超参数设置和运行结果都被存储：

from metaflow import FlowSpec, Parameter, step


class FitModelFlow(FlowSpec):
    alpha = Parameter('alpha',
                      help='Learning rate',
                      default=0.01)


    @step
    def start(self):
        print('alpha is %f' % self.alpha)
        self.data = load_data()
        self.next(self.fit)


    @step
    def fit(self):
        self.model = fit(self.data)
        self.next(self.end)


    @step
    def end(self):
        print(f'Results for LR={self.alpha}: {eval(self.model)}')


if __name__ == '__main__':
    FitModelFlow()

超参数的设置可以很容易地通过命令行参数来完成：

python metaflow_parameter.py run --alpha 0.001

元数据以 JSON 格式存储在文件系统中，可以访问存储在任何阶段的变量数据，也可以很容易地获取最后一次成功运行的结果。

run = Flow(flow_name).latest_successful_run

依赖管理

Metaflow 还提供了依赖管理机制，可以在图阶段或节点阶段通过装饰器来指定，并且可以指定特定的Python版本或特定的包:

from metaflow import FlowSpec, step, conda, conda_base


@conda_base(python='3.6.5')
class FitModelFlow(FlowSpec):


    @step
    def start(self):
        self.data = load_data()


    @conda(libraries={"scikit-learn": "0.19.2"})
    @step
    def fit(self):
        from sklearn import svm
        self.model = svm.LinearSVC( ... )


# ...

例如可以从命令行运行时指定 conda 环境标志：

python metaflow_conda.py --environment=conda run

开始使用Metaflow

可以通过pip命令来安装metaflow：

pip install metaflow

更多教程和详细介绍可以参考官方文档：

https://docs.metaflow.org/getting-started/tutorials

原文链接：

https://towardsdatascience.com/what-exactly-is-metaflow-c007e5b75b5

（*本文为AI科技大本营翻译文章，转载请微信联系 1092722531）

◆

精彩推荐

◆

2020年，由 CSDN 主办的「Python开发者日」活动（Python Day）正式启动。我们将与 PyCon 官方授权的 PyCon中国社区合作，联手顶尖企业、行业与技术专家，通过精彩的技术干货内容、有趣多元化的活动等诸多体验，共同为中国 IT 技术开发者搭建专业、开放的技术交流与成长的家园。未来，我们和中国万千开发者一起分享技术、践行技术，铸就中国原创技术力量。