AIGC は、悪意のある攻撃者が違法コンテンツをより効率的にでっち上げるのに役立ちます。
2022 年、ChatGPT の開始により、AIGC という用語が世間の注目を集めるようになりました。Stable DiffusionやMidJourneyなどの絵を生成できるAIGCは、AI絵画の分野に直接爆発をもたらしました。Gartner は、生成 AI を 2022 年の影響力のあるテクノロジーのトップ 5 の 1 つとして挙げています。
AIGC の多くは立ち上げの初期段階で閉鎖のリスクに直面しており、主な理由は AIGC が出力するコンテンツが不確実であるため、これらのプラットフォームはコンテンツの流布の疑いで棚から削除するよう命じられました。違法なコンテンツ。したがって、AIGC の開発では、コンテンツのセキュリティと規制に対処する必要があります。
中国サイバースペース局は4月11日、「生成型人工知能サービスに関する行政措置（意見募集草案）」を草案し、同国がAIGCの発展に細心の注意を払っており、中国におけるAIGCの商用利用を支援していることを意味する。法令順守と健全な発展を前提としています。
コンテンツエントリーのレビュー
ユーザーは AIGC アプリケーションを通じて元のテキストと画像プロンプトを入力します。
ユーザーの元の入力情報は直接レビューされます。
レビュー結果に従って、機密情報は直接傍受され、通常の情報は AIGC ラージ モデルに入力されます。
コンテンツ制作レビュー
通常のプロンプトは大規模モデルに入り、AI データ (テキスト、画像、オーディオ、ビデオ) を生成します。
生成された画像とテキスト データはレビューされます。
監査結果によると、機密データは直接傍受され、通常のテキスト コンテンツはアプリケーションを通じてユーザーに直接返され、通常の画像はオブジェクト ストレージ COS に入力されます。
コンテンツストレージの監査
生成されたオーディオおよびビデオ データは、最初にオブジェクト ストレージ COS に入り、次に非同期レビューを受けます。COS
に保存されているレビュー済みの写真、オーディオおよびビデオ データについては、COS リンクの形式でアクセスおよび表示するためにユーザーに返すことができます。アプリケーション層で。
異なるデータ シナリオでは異なる戦略が使用されます。
- ユーザーが入力したプロンプト ワード シナリオでは、レビュー要件を適切に軽減できるため、ユーザーは入力エクスペリエンスを可能な限り維持し、機密性の高いコンテンツの傍受に集中できます。
- AIGC モデルによって生成されるコンテンツ シナリオ: 保存および配布されるコンテンツが合法かつ準拠していることを保証するために、レビュー要件を厳密に管理および改善する 非常に機密性の高いコンテンツに加えて、限界的で低俗なコンテンツも管理と傍受の範囲内に含める必要があります。