オリジナルテクノロジークラウドレポート。
2023 年に、生成 AI テクノロジーがその繭から出現し、世界的なデジタル革命を引き起こすでしょう。
初期のチャットやチェスから、医療、金融、製造、教育、科学研究などに至るまで、生成 AI は強い創造性と無限の可能性を示してきました。不完全な統計によると、今年 8 月末の時点で、全国で 100 を超える大規模な産業用 AI モデルがリリースされています。
しかし、それに伴うデータ保護、コンプライアンス リスク、プライバシー漏洩への懸念により、業界は大規模な AI モデルの展開中にもたらされるセキュリティ リスクに特別な注意を払うようになりました。
同時に、生成 AI は諸刃の剣でもあり、企業の現実的な問題解決に役立ちますが、データ漏洩などの大きなリスクにも直面します。
今年の初め、世界的な大企業が大規模モデルのトレーニング中にデータベース内の機密情報を漏洩し、企業に多大な悪影響を及ぼしました。そして、このような事件は今でも後を絶たずに起きています。
生成 AI によってもたらされるセキュリティ上の課題について、一部の AI 企業は、生成 AI は前例のないレベルの知能を実証しており、企業 IT において重要な位置を占めることになると考えています。この重要性によってもたらされる攻撃の頻度もまた、大規模モデルを新たなものにします。クラウド コンピューティング、ビッグ データ、モノのインターネット、モバイル インターネットの後のセキュリティの戦場です。
同時に、生成 AI テクノロジーは、ネットワーク セキュリティの運用と保守の効率をさまざまな面で向上させ、より深いレベルでネットワーク セキュリティ環境の基盤を変えることにも役立ちます。
生成 AI の主流のエンタープライズ ユースケースが出現しつつある
生成 AI は、深層学習テクノロジーを使用して高品質のコンテンツを生成する人工知能の一種で、深層学習テクノロジーの生成アルゴリズム、生成関数、テンプレートフリーの呼び出しに基づいています。
コンピュータビジョン、自然言語処理、機械翻訳などの分野で幅広く応用されています。深層学習技術の継続的な開発と応用シナリオの拡大により、生成 AI は将来的にさらに広く使用されるでしょう。現在、業界で主流になりつつあるエンタープライズ ユース ケースは 3 つあります。
まず、カスタマー サポートでは、GPT やその他の大規模な学習モデルを含む生成 AI が、会話型チャットボットの機能を、自然でより正確に感じられ、口調や感情をより適切に認識して反応できるものに変えています。
したがって、製品サポート チャットボットにおける会話型 AI は、業界で初めて見られるエンタープライズ ユース ケースの 1 つです。これらのチャットボットは、既存の内部情報を検索およびクエリし、人間のような方法で通信して顧客の質問に答え、一般的な問題を解決できます。
すでに何らかの形式の会話型 AI を使用している企業にとって、GPT は応答品質と顧客満足度を向上させます。手動のコールセンターをより応答性が高く、常時稼働し、より効率的なものに転換したいと考えている企業にとって、GPT は魅力的なオプションになります。
次に、ビジネス インサイトに関して、データ サイエンスにおける最大の課題の 1 つは、ビジネス ユーザーとデータ サイエンティストを分離することです。
前者はビジネスの微妙なニュアンスや答える必要がある質問を最もよく理解していますが、実際にコンピュータ言語でプログラムを作成して質問に対する答えを得ることができるのは後者だけです。生成 AI により、ビジネス ユーザーは自然言語で質問できるようになりました。
AI はこれらの質問を SQL クエリに変換し、内部データベースに対して実行し、構造化されたナラティブで回答を数分以内に返すことができます。ここでの利点は効率性だけではなく、意思決定の速度と、ビジネス ユーザーがデータをより直接的かつ対話的に調べることができることです。
第三に、プログラミングの自動化という点では、大規模な言語モデルは、コンピューター言語を含む多くの言語で高い精度を備えています。
ソフトウェア開発者がコードや関連ドキュメントの作成に費やす時間がほぼ 50% 削減されます。たとえば、ロボット プロセス自動化ツールである Microsoft の Power Automate プログラムは、自然言語プログラミングを使用して、より直感的でユーザー フレンドリーな方法でタスクとワークフローを自動化できるようになりました。
これは、プログラマーやテスターからなる大規模なチームが関与するよりも効率的であるだけでなく、自動化を立ち上げて実行するのにかかる時間と反復回数も削減されます。
生成的な AI リスクの防止は企業の必須コースとなっています
生成 AI テクノロジーは「諸刃の剣」であり、社会の進歩を促進する一方で、テクノロジー、設計、アルゴリズム、データにセキュリティ リスクをもたらす可能性があることを認識する必要があります。したがって、人工知能の健全な発展を確保するためには、将来を見据えた研究を行い、法律、規制、制度、倫理を確立・改善する必要があり、リスクの予防に留意しつつ、エラートレランスとエラー訂正のメカニズムを同時に確立する必要があります。そして規制と開発の間の動的なバランスを達成するよう努めます。
セキュリティ リスクの原因を理解するには、まずそのリスクの特徴と動作原理を理解する必要があります。生成 AI には、「ビッグデータ、ビッグモデル、ビッグコンピューティングパワー」という 3 つの主要な技術的特徴のほか、自然言語理解、知識エンジニアリング手法、脳のようなインタラクティブな意思決定などの主要テクノロジーがあります。
このため、生成型人工知能は、社会的価値、ユーザー利用、データコンプライアンス、データセキュリティ、データ品質という5大リスクを抱えており、これらのリスクは金融、医療、教育、電子機器などのさまざまな分野や応用シーンで確認されています。商業とメディアを反映します。
今年の初め以来、我が国の関連部門は多くの関連規制法案の施行を推進してきました。その中で、中国サイバースペース局は4月11日、「生成型人工知能サービスの管理に関する措置（意見募集草案）」（以下、「措置」という）を起草し、国民からの意見を公募した。
「措置」は、プライバシーのセキュリティ、技術の濫用、知的財産権および他者の権利と利益の3つの主要な問題に焦点を当てており、AIGCの発展のための保護メカニズムを確立しています。
他の新興テクノロジーと同様、生成 AI の最大の課題の 1 つは、その相対的な未熟さです。生成 AI は個人使用でチャットボットを実験するのには最適ですが、主流の企業での導入にはまだ初期の段階です。
これを導入する組織は、最適なユースケースを見つけるための実験や、増え続ける混乱を招く利用可能なオプションのリスト (OpenAI の ChatGPT サービスと Microsoft Azure の選択など) の選別など、多くの重労働を自ら行う必要があります。それをビジネス プロセスに統合します (多くのアプリケーション ワークフローに完全に統合します)。
その結果、テクノロジーが成熟するにつれて、その多くは消滅し、ベンダーはより多くのテクノロジーを自社の中核製品に統合的な方法で組み込むようになるでしょう。
第 2 に、生成 AI の主な落とし穴の 1 つは、間違っていても一見説得力のある答えを生成する可能性があることです。GPT は自然言語処理において大幅な進歩を遂げているため、正しいように見えても実際には間違っている応答が提供される危険性がかなりあります。
医療や金融サービスなど、正確さが重要な業界では、このようなことは許されません。組織は適切なアプリケーション分野を慎重に選択し、このリスクを軽減するためにガバナンスと監視を確立する必要があります。
第三に、企業は企業ガイドラインの設定と管理に注意を払う必要があり、データ プライバシーと保護された企業データの機密性の維持は、ビジネスの成功にとって不可欠です。したがって、最初のステップとして、適切な企業ガイドラインを定義して設定することが重要です。
機密データ、個人を特定できるデータ、またはその他の保護されたデータが失われるリスクに加えて、独自のデータを使用して公的に利用可能な言語モデルをトレーニングする場合の追加のリスクは、特にトレーニングは他の競技者に提供されます。
健全なポリシーやフレームワークを実現するのは困難です。なぜなら、一方ではイノベーションの必要性と、他方では生成型 AI に関連するリスクのバランスをとる必要があるからです。
最後に、誇大宣伝されたテクノロジーに耽溺することと、最も利益の高い取り組みに注力することの間の適切なバランスを見つけるのは難しい場合があります。組織は、最も緊急な取り組みに適切な資本とリソースを確実に割り当てる必要があります。
一方で、テクノロジーの成熟を待ちすぎる組織は、業界で AI を主流にする機会を失い、ビジネスに大きな影響を与える可能性のある最新テクノロジーに遅れをとり、永続的な競争上の優位性が低下する可能性があります。
ガバナンスの考え方は AI の原点に戻ります
生成型 AI セキュリティ リスクに対処するためのアイデアと戦略の観点から、AI 技術自体の特性が業界の注目を集めています。従来の ICT ネットワーク セキュリティ モデルは、現在の生成型 AI によってもたらされるセキュリティに適応できなくなり、AI の逆推定機能、特に一部のマルウェアに対するアンチリバース エンジニアリング機能が非常に有効です。
現時点では、AI のサービス能力は 4 ～ 5 年で技術者レベルに達するというのが業界の一般的な認識であり、AI の計算能力と補助的な自動運用により、防衛デジタル化レベルが向上し、防衛デジタル化レベルが向上します。生成的な AI リスクに対処するには、固有の利点があります。
このような背景により、生成 AI のリスクを管理するために大規模なセキュリティ モデルを使用することが業界のコンセンサスとなっています。
これには、「シナリオ牽引、技術推進、エコロジー連携」の3つの側面から構築する必要があり、AIを活用して警備業界の仕事パラダイムを再構築し、実際の戦闘状況の指揮と派遣、赤と青の対立補助判断の3つの問題を解決する必要がある。大型モデルによるセキュリティ運用効率の向上が大きな課題。
一方で、生成AIの最も基本的な要素であるデータとアルゴリズムを把握し、これをブレークスルーポイントとして利用し、ビッグデータのソース管理を制御し、体系的なビッグデータファイアウォールを事前に配置および構築し、データを制御および阻止する必要があります。漏れます。
同時に、国家レベルの独立した研究開発データベースシステムとバックアップシステムを適時に立ち上げて最適化する必要があり、AIビッグデータ制御システム、階層的および階層的な享受システム、ネットワークリスク防止システム、およびその結果として得られるAIインテリジェント制御および監視アーキテクチャシステムは、直ちに立ち上げられ、開発されるべきです。
一方で、生成型AIの技術開発やガバナンスを促進するためにさまざまな施策が講じられている。さまざまな業界や分野で生成 AI テクノロジーの革新的なアプリケーションを奨励し、アプリケーション シナリオを探索して最適化し、アプリケーション エコシステムを構築します。
業界団体、企業、教育科学研究機関、公立文化機関、関連専門機関が生成 AI 技術革新、データ リソースの構築、変換と応用、リスク防止に協力できるよう支援します。生成型 AI インフラストラクチャと公共トレーニング データ リソース プラットフォームの構築を促進します。
コンピューティング リソースの共同共有を促進し、コンピューティング リソースの利用効率を向上します。公共データの分類と分類の秩序ある公開を促進し、高品質の公共トレーニングデータリソースを拡大します。
現在、「データ主権」をめぐる戦いは世界的なデータセキュリティの発展における新たな潮流となっており、各国が相次ぎデータ戦略を導入する中で、国家のデータ主権を守るための法整備も進められています。
これに関連して、生成 AI のセキュリティを向上させることは、世界各国の将来の産業課題の 1 つとなり、我が国のセキュリティ企業はすでに重要な一歩を踏み出しています。
【テクノロジークラウドレポートについて】
オリジナルのエンタープライズ レベルのコンテンツ エキスパート、つまりテクノロジー クラウド レポートに焦点を当てます。2015 年に設立され、最先端のエンタープライズ IT 分野ではトップ 10 メディアの 1 つです。工業情報化省によって正式に認められており、トラステッド クラウドおよびグローバル クラウド コンピューティング カンファレンスの公式コミュニケーション メディアの 1 つです。クラウド コンピューティング、ビッグデータ、人工知能、ブロックチェーンなどの分野に関する詳細な独自レポート。