内容概要：「2023 Meet TVM・北京駅」は6月17日、中関村ガレージコーヒーにて無事開催され、企業や大学から150名以上の参加者が集まり、活発な議論が交わされました。
キーワード: 機械学習コンピレーション 2023 TVM の紹介
この記事は、HyperAI スーパー ニューラル WeChat パブリック プラットフォームで初めて公開されました~
6 月 17 日、MLC.AI と HyperAI が主催し、OpenBayes が共催した 2023 Meet TVM の第 2 回オフライン集会は成功裡に終了しました。
上海交通大学、ARM China、Horizon、Weilai Automobile から 7 名の技術専門家を招待できることを光栄に思い、彼らは独自のビジネス シナリオにおける AI コンパイラーの適用事例と組み合わせて、現場の友人たちに素晴らしい共有をもたらしました。
北京の地元の友人に加え、天津、南京、杭州、上海などから多くの友人が参加し、それぞれのビジネス上の疑問や課題を抱えながら、技術共有を聞きながら積極的にコミュニケーションを図りながらセミナーを行いました。
参加者数が会場の制限を超えたため、多くの参加者は立ってシェアを聞くことしかできませんでした
スピーチPPTとライブビデオを入手
以下はイベントの簡単な紹介とライブビデオレビューです。
WeChat パブリック アカウント「HyperAI Super Nervous」をフォローし、バックグラウンドでキーワード TVM 北京に返信すると、ゲストの完全な PPT を取得できます。
共有トピック: MLC-LLM を使用して言語モデルを任意のデバイスに展開する
はじめに:生成人工知能と大規模言語モデル (LLM) の分野では大きな進歩があり、その驚くべき機能と多くの分野を根本的に変革する可能性があります。現時点では、これらのモデルのほとんどは強力なコンピューティング能力とメモリ要件を必要とするため、個人の PC、携帯電話、および小型のエンドサイド デバイスには展開できません。MLC-LLM は、コンパイル テクノロジを通じて実行速度とメモリ要件を最適化し、デバイス側での LLM の展開を可能にし、その後の言語モデルの開発のための新しいインフラストラクチャを提供します。
ライブビデオ:
https://www.bilibili.com/video/BV1rm4y1Y7Si/?spm_id_from=333.999.0.0
トピックを共有する: ARM China での TVM
はじめに: AI アプリケーションの開発が活発になるにつれ、AI アプリケーションを高速化するためにエッジデバイス上でさまざまな NPU チップが使用されており、さまざまな機械学習フレームワークやオペレーティング システムにいかに迅速に適応するかが問題となっています。ARM China は、独自のツール チェーンと TVM の統合を通じて、グラフ分割や自動ヘテロジニアス実行などの複数の実用的な機能を実現し、顧客が ARM China Zhouyi NPU チップ上に AI アプリケーションを迅速に展開できるように支援しています。
ライブビデオ:
https://www.bilibili.com/video/BV1GW4y1X7tL/?spm_id_from=333.337.search-card.all.click
共有トピック: AI 異機種混合プログラミングとコンパイルの実践
はじめに: AI チップは、密結合された異種混合に向けて常に進化しており、チップのプログラマビリティとパフォーマンスの最適化は、業界が解決しようとしている重要な問題です。この共有では主に、AI コンパイルの最適化、プログラマビリティなどの観点から Horizon のいくつかのプラクティスを紹介し、いくつかの重要な問題について詳細な議論を行います。
ライブビデオ:
https://www.bilibili.com/video/BV1js4y117NT/?spm_id_from=333.337.search-card.all.click
トピックを共有する: NIO での TVM
内容紹介:自動運転の分野は、課題と機会が共存する分野です。製品の反復とユーザーの運転体験に対する要求がますます高まっているため、一般的な AI エンジンでは複雑な製品の生産ラインを効率的かつ安全にサポートできません。TVM に基づいて、NIO が自社開発した AI コンパイラーを開発しました。これにより、自動運転の分野でよくあるいくつかの問題が解決され、体系的なソリューションと技術アーキテクチャが形成されました。
Weilai Automobile の 3 人のエンジニアである Meng Tong、Chen Xi (aaronxic として知られる)、Wang Lulu が、それに含まれるテクノロジーとアーキテクチャについて詳しく説明しました。
ライブビデオ:
https://www.bilibili.com/video/BV1fV4y117g7/?spm_id_from=333.337.search-card.all.click
共有トピック:動的ニューラル ネットワーク コンパイルの最適化
概要:動的ニューラル ネットワークは、精度、計算効率、適応性の点で静的ニューラル ネットワークに比べて重要な利点を示しています。しかし、既存の深層学習フレームワークとコンパイラは主に決定論的な実行による静的ネットワークの最適化に焦点を当てており、動的ネットワークでの最適化の機会を逃しています。動的ネットワークを最適化する鍵は、ネットワーク内のデータ フローを追跡することです。この共有では、動的ニューラル ネットワークのコンパイルに関する私たちの取り組みについて詳しく説明します。
ライブビデオ:
https://www.bilibili.com/video/BV1Mz4y1v7se/?spm_id_from=333.337.search-card.all.click
TVM 中国語コミュニティに参加して、より多くの都市のロックを解除してください
3月の上海ステーション、6月の北京ステーションに続き、各都市でAIコンパイラに関心のあるエンジニアが集まり、ピア交流やニーズ交換のプラットフォームを提供できることを大変嬉しく思います。 9月に深センで開催されますが、その際には、すべての企業とコミュニティパートナーが共創に参加することを歓迎し、TVM中国語コミュニティの影響力を拡大し続けることができます。
さらに、TVM 中国語コミュニティの寄稿者も積極的に募集しています。メンバーになりたい場合は、お気軽に WeChat antonia0912 を追加してください。参加への熱意をお待ちしています。
現在募集しているのは以下の通りです。
-
TVM の中国語ドキュメント翻訳ボランティアは、中国語ドキュメントと英語ドキュメントの同期を確保し、TVM を学び理解したいより多くのエンジニアにインフラストラクチャを提供します (公式 Web サイト: tvm.hyper.ai を参照)。
-
活動ボランティアは、各地での活動の組織・企画・実行を担当し、全国のインターネットセンターに拠点を設けています。
-
Q&A ボランティアは、TVM に精通しており、コミュニティで問題に遭遇した友人に洞察やアイデアを積極的に提供し、全員が技術的な問題を解決できるよう支援します。
2023 年にはさらに多くの都市が引き続きアンロックされる予定です。中国で最も活発な AI コンパイラー コミュニティを作成するために参加してください。
最後にライブ集合写真です❤️
スポンサーとパートナーのプロフィール
このイベントの主催者として、MLC.AI コミュニティ (https://mlc.ai/) が 2022 年 6 月に設立され、Apache TVM の主な発明者であり、この分野で著名な若手研究者である Chen Tianqi が主導しました。 MLC オンライン コースでは、機械学習コンパイルの主要な要素と中心となる概念を体系的に紹介します。
2022 年 11 月、MLC.AI コミュニティ ボランティアの共同の努力により、最初の完全な TVM 中国語ドキュメントが公開され、HyperAI の公式 Web サイトで正常にホストされ、機械学習のコンパイルに関心のある国内開発者にさらに提供されました。 - ドキュメンテーション。
2023 年に、コミュニティは全国の多くの都市で「2023 Meet TVM」シリーズの活動を開始する予定で、企業とコミュニティ パートナーは共創への参加を歓迎します。
MLCオンラインコース： https: //mlc.ai/
TVM 中国語ドキュメント: https://tvm.hyper.ai/
中国を代表する人工知能およびハイパフォーマンス コンピューティング コミュニティである HyperAI は、国内開発者向けにデータ サイエンスの分野で高品質のパブリック リソースを提供することに尽力しており、これまでに1,200 以上のパブリック データ セットの国内ダウンロード ノードを提供してきました。 、300 を超える人工知能とハイパフォーマンス コンピューティング関連のクエリ用語をサポートし、完全な TVM 中国語ドキュメントをホストし、多くの基本的な人気のあるチュートリアルを間もなく開始します。
公式ウェブサイトにアクセスしてください: https://hyper.ai/
OpenBayes は、中国のハイパフォーマンス コンピューティング サービスの大手プロバイダーです。古典的なソフトウェア エコロジーと機械学習モデルを新世代の異種チップに移植することで、産業界や科学大学向けに、より高速で使いやすいデータ サイエンス コンピューティング製品を提供しています。その製品は、数十の大規模産業現場や主要な科学研究機関で採用されています。
公式ウェブサイトにアクセスしてください: https://openbayes.com/
Garage Coffeeは起業家が集うプラットフォームであり、コーヒーショップに頼らず、スタートアップ向けの総合的な投融資ソリューションをワンストップで提供し、プロジェクト当事者の迅速な資金調達と迅速な発展を支援するとともに、起業カウンセリングも提供します。レポートやその他の高品質な付加価値サービスを提供し、投資家が優れたプロジェクトを迅速に見つけられるように支援し、先行投資、フォローアップ投資、リソースの産出、経験の産出などの証拠を提供し、マルチレベルの投資家グループの共同開発。
この記事は、HyperAI スーパー ニューラル WeChat パブリック プラットフォームで初めて公開されました~