7 月 7 日の朝、2023 年世界人工知能会議の「AI 生成と垂直大言語モデルの無限の魅力」テーマ フォーラムで、UCloud の AIGC コンピューティング パワー ベースが発表され、UCloud の会長兼 CEO である Ji Xinhua 氏は次のように発表しました。 「ニュートラル セキュア クラウド コンピューティングは大規模モデル開発に役立つ」基調講演で、AIGC 分野における Youkede の技術製品の開発、エンジニアリング能力、エコロジー構築を紹介しました。
10 年にわたるクラウド コンピューティング技術の蓄積と総合的なエンジニアリング能力を備えた企業として、同社は AIGC によって引き起こされた技術の隆盛を全面的に受け入れてきました。講演の冒頭で、Ji Xinhua 氏は Ucoder の社内システムの「AI 化」をデモンストレーションし、社内利用シナリオに基づいてわずか数か月で、「Shiwen」インテリジェント アシスタント プラットフォーム、UCoder コード アシスタント プラットフォーム、AI を迅速に立ち上げました。塗装アシスタントプラットフォーム、大型モデルセキュリティ管理プラットフォームなど AIGC アプリケーション側の迅速な対応と研究開発を通じて、UKD はこの分野における技術力とエンジニアリング能力、そしてユーザー シナリオに対する繊細な洞察力を実証してきました。
AIGC によって引き起こされた隆起の中で、国産の大規模モデルは開花し、超自然的な力を競い合いましたが、計算能力、データ、モデルの安定性、エンジニアリング能力、安全性の面で課題にも直面しています。
AIGC開発の課題に向けて、UKDはAIGCソリューションのパノラマを今回のWAICで堂々と提示し、深い技術蓄積と総合的なシステムエンジニアリング能力により、データセンター、コンピューティングプラットフォーム、管理プラットフォーム、ネットワークサービス、Aシリーズをカバーする包括的なソリューションを立ち上げました。アプリケーションサービスとエコロジカルインターフェースのための製品とソリューションの紹介。オープン、セキュア、カスタマイズされた AIGC ソリューションにより、お客様は既存のサーバー リソースを活用するだけでなく、パブリック クラウドの柔軟な拡張を便利に享受でき、IT レベルでのコスト削減と効率の向上を実現できます。また、データセンターのホスティングエリアを通じて、物理的に完全に隔離された専用のキャビネット、サーバー、ネットワーク、ストレージリソースをユーザーに提供し、完全なセキュリティソリューションと専門家サービスと組み合わせることで、ユーザーの大規模モデルのスムーズな運用を保証します。
Ukedeは、同国のコンピューティングパワーハブノード「East Data West Computing」に低コストで高付加価値のデータセンターを構築し、北京の同品質のデータセンターと比較してコストを40％削減した。データセンターでは、さまざまな GPU コンピューティング リソース オプションが提供され、AI トレーニング、推論、大規模モデルのデータ処理などの複数のシナリオ向けに柔軟でスケーラブルなコンピューティング サービスを作成し、高電力要件を完全に満たすことができます。パワーコンピューティングクラスター。同時に、IB と RoCE の高性能ネットワークを通じて、相互接続された高性能コンピューティング クラスターを構築し、複数ノード間のロスレス通信を実現し、マルチノード並列コンピューティング シナリオにおけるユーザーのニーズを満たします。
[UKED AIGC ソリューションのパノラマ]
YoukedeのAIGCゴールドウィング特別エリアは「訓練エリア、保管エリア、推論エリア、管理エリア」に分かれており、訓練エリアでは主にA800/H800がクラスタ構築に使用され、クラスタサイズは最大に達することができます2048 枚のカード。また、高帯域幅と低遅延の設計により、全体的なトレーニング効率が向上します。ストレージ領域では、高い読み取りおよび書き込み帯域幅のシーン特性に応じて、コールドとホットを分離したストレージシステム設計が採用され、POSIXおよびK8S CSI実装方法がサポートされており、トレーニング要件を満たすだけでなく、コストが制御可能であることを確認します。推論ゾーンでは、同じ可用性ゾーン内のパブリック クラウド GPU リソース プールがイントラネット経由で開かれ、複数の種類の推論 GPU リソースが使用され、マルチシナリオ推論のニーズを満たすために弾力的に拡張できます。管理領域では、ログ、スケジュール、IPMI 制御、自動インストール、パブリック ネットワーク アクセスなどの機能を提供し、ユーザーがより便利なリモート管理を支援します。
AIGCアプリケーションサービスでは、大型モデルに対する顧客のニーズに応えるため、ユーカーはMaaSモデルで「アルゴリズムモデルミラーマーケット」を立ち上げ、Alpaca-LoRA7B、ChatGLM-6B、T5-Base、T5-を提供開始しました。 3B、MiniGPT-4、Stable Diffusion および Milvus ベクトル データベースを含む 7 つのオープン ソース モデルとツール。知識推論、質問応答、グラフィックとテキストの生成、絵画デザインなどの AI アプリケーション分野をカバーします。「大きなモデル + 大きなコンピューティング能力」方式により、ワンクリックの導入とすぐに使える機能を提供し、ユーザー向けに大規模な言語モデルの微調整または推論環境を迅速に構築します。
民営化は垂直型大規模モデルの開発方向であり、政府、金融、教育、製造、ファンドなどの顧客の大規模モデル シナリオについては、Youkede AIGC の民営化コンピューティング パワー センターとフルスタック プライベート クラウド プラットフォームをトレーニングして推論することができます。大規模モデルからの多様なシナリオを顧客に提供することから始め、いくつかのツールのミラー イメージがプリインストールされた推奨モデルを顧客に提供し、推論 GPU コンピューティング パワー/ネットワーク リソースを提供し、同時に Youkerde のワンクラウド マルチコアと自己制御可能なプライベート クラウド プラットフォームで、仮想化、ストレージ、ネットワークを提供します。MaaS モデル向けの民営化された配信ソリューションは、Alpaca-LoRA、ChatGLM、T5、MiniGPT-4、Stable Diffusion などの大規模モデルをサポートし、AI アプリケーション分野をカバーできます。知識推論、質問応答、グラフィック生成、および絵画デザイン特定のシナリオ向けの大規模なモデル サービスをローカルまたは独自のデータ センターに展開し、内部で AI トレーニング/推論サービスを提供したり、オプションで AI 推論サービスを外部に提供したりできます。
【UKED AIGC民営化スキームの構造図】
中立的なクラウド コンピューティング企業として、UCDE の AIGC ソリューションには独自の利点があります: まず、中立的です. 中立的な第三者として、UCDE は大規模企業と競合せず、ユーザーの個人データには触れません。2 つ目は安全性と信頼性であり、UKED は国内での実績があり、大規模モデルのトレーニングの安定した信頼性の高い運用を保証する一連のセキュリティ保護製品とデータ保護メカニズムを備えています。そして民営化展開を支持します。3つ目は技術の蓄積であり、UKEDには10年以上のクラウドコンピューティング技術の蓄積があり、5万人を超えるエンタープライズレベルのコンシューマユーザーによって検証されており、大規模モデル向けに安定した高性能コンピューティングパワーサービスを提供します。4つ目はエンジニアリング能力で、UKDEはデータセンターや基盤となるアーキテクチャからコンピューティングパワープラットフォームやモデルライブラリなどを構築でき、ワンストップのシステムエンジニアリングサービス能力を備えています。
AIGCの継続的な発展と業界の深化に伴い、UCloudは技術層とアプリケーション層のパートナーとともに、中立的で安全なコンピューティングパワーベースを通じてAIGCのより大きな発展の見通しとより広い開発スペースを模索していきます。インテリジェント コンピューティングは無限であり、未来を生み出します。