〇. はじめに
7月7日午後、2023年世界人工知能会議（WAIC）「ラージモデル時代のAIGCの新たな波―信頼できるAI」フォーラムが上海万博センター紅ホールで開催された。人工知能やその他のテクノロジーのフロンティア分野の著名な専門家、学者、投資家、一流の起業家が集まり、中国の技術革新の原動力を探りました。
この世界人工知能会議で、中国情報通信技術院は「マルチモーダルな基本的な大規模モデルを備えた信頼できる AI」をテーマにした特別フォーラムを開催しました。AIGC セキュリティは、現在の人工知能の研究開発において重要なトピックとなっています。
1. 信頼できる人工知能
Trusted AI とは、人工知能の適用における信頼性と信頼性を重視する概念を指します。
中国科学院の学者、賀継峰氏は、「人工知能はもはや単純な技術的作業としてではなく、組織全体の変化の原動力と見なすことができる。信頼できる人工知能は、データのセキュリティと信頼性の確保に尽力しなければならない」と信じている。システムの動作に責任を負わせることができ、アルゴリズム モデルを信頼することができます。「解釈、ネットワーク環境の信頼性、法的倫理の信頼性、その他の問題。」
人工知能技術の継続的な発展に伴い、人工知能システムの透明性、公平性、制御性の要件を提起する人が増えています。信頼できる人工知能は次の要件を満たす必要があります。
-
透明性: 人工知能システムの意思決定プロセスとアルゴリズムは説明可能かつ理解可能である必要があり、ユーザーはシステムがどのように判断と決定を行うかを理解できる必要があります。
-
公平性: AI システムは、異なるグループや個人に対する差別的な扱いを避けるべきであり、人種、性別、年齢などの個人の属性に基づいて不公平な決定を下すべきではありません。
-
プライバシー保護: 個人データを処理する場合、AI システムはユーザーのプライバシーを保護し、個人情報が悪用されたり漏洩されたりしないようにする必要があります。
-
セキュリティ: 人工知能システムは、システムのセキュリティと信頼性を確保するために、悪意のある攻撃や悪用を防止する機能を備えている必要があります。
-
制御性: AI システムは一定の制御性を備えている必要があり、ユーザーはシステムの動作がユーザーの期待を満たし、法的および倫理的要件を満たしていることを確認するためにシステムを監視および管理できなければなりません。
2. AI画像セキュリティ
中国科学技術大学電子工学情報科学部の謝紅濤教授はかつてこう述べた、「AIGC発生の時代には、一般人はAIアルゴリズムを使って高品質のテキスト、画像、中でも、Midjourney、Stable Diffusionなどの画像生成手法による画像のリアルさは驚くべきものであり、人間の目では本物と偽物の区別がつきにくく、人々の隠れた不安を掻き立てずにはいられません。 「大量の偽写真がインターネット上に拡散するだろう。偽写真の蔓延はさまざまな社会保障上の問題を引き起こすだろう」
AI を使用して画像を改ざんする行為は、AI の信頼性を高める上で対処する必要がある重要な問題です。
現在、人工知能のディープラーニングやアルゴリズムが高度化し、深層合成の応用が飛躍的に拡大しており、それを悪用する行為により倫理的問題が目に見えて顕在化しています。AIを使って顔を変える詐欺のほか、他人のわいせつな動画を作成したり、芸能人になりすまして商品を持ち込んだりする行為などにも利用する人もいる。現在、決済シーンがますます充実する中、人の顔、声、指紋、虹彩などの生体情報の利用が広がり、プライバシー漏洩などのリスクも高まっています。
インターネットの流行語のように、インターネットの反対者が人なのか犬なのかはわかりません。このような技術が制限されない場合、AI 技術は個人と財産の安全を容易に脅かし、個人の尊厳とプライバシーを損なうだけでなく、より大きな社会的危害をもたらす可能性があります。
画像は情報を伝達する重要な媒体であり、情報セキュリティの重要な焦点でもあります。画像編集ソフトの開発・普及により、偽画像作成の敷居が徐々に低くなり、偽画像に基づく詐欺事件やサイバー暴力事件が多数発生し、世界規模で深刻な影響を及ぼしています。
生成的偽造技術の台頭により、人々は画像コンテンツの安全性と信頼性に対してますます注目を集めています。しかし、映像コンテンツの分野では「信頼されるAI」はまだ始まったばかりです。
このフォーラムでは、Hehe Information の AI 画像コンテンツ セキュリティ技術ソリューションが業界から広く注目を集めました。このソリューションは、スクリーンショット内の改ざんの痕跡を正確に特定し、生成画像をインテリジェントに区別し、犯罪者が技術的手段を使用して画像上の情報を違法にクロールすることを防止します。
Hehe Information は、「AI+OCR」技術の応用に特に注意を払い、ドキュメントインテリジェンスの分野における最先端技術の探求に注力してきました。目視差分偽造画像の識別技術を研究し、証明書書類の画像情報を暗号化するソリューションの提供に注力している。さらに、生成画像の差別化や文書画像の完全性保護など、業界を中心とした問題にも注意を払っています。技術成果や製品サービスを通じて、個人や企業が画像コンテンツのセキュリティを強化できるように支援します。
世界人工知能会議の信頼できる AI フォーラムで、Hehe Information は「3 つの主要なテクノロジー、1 つの標準」をデモンストレーションし、画像コンテンツのセキュリティ分野における信頼できる AI 開発の複数の可能性を探りました。
Hehe Information の AI画像セキュリティ技術ソリューションには、主に 3 つの主要な技術が含まれています。AI图像篡改检测悪意のあるP ピクチャ、生成詐欺、および個人情報の違法な抽出というますます頻繁に発生する現象に対処します。生成式图像鉴别OCR对抗攻击技术
1️⃣AI画像改ざん検知技術
Hehe Informationのインテリジェントイノベーション部門のゼネラルマネージャーであるTang Qi氏は、Hehe Informationが昨年の世界人工知能会議で、さまざまな重要な商用資料のPS痕跡を識別できる「PS改ざん検出」技術を初めて実証したと紹介した。書類や請求書などを「火の目」で。
ディープラーニングをベースとした画像改ざん検知技術と関連システムを提供します。このテクノロジーは、画像が改ざんされた後の統計的特徴の変化を学習することにより、改ざんプロセス中に画像に残された小さな痕跡をインテリジェントに捕捉します。画像内の改ざん箇所をヒートマップ形式で表示する技術で、銀行や保険などの分野で実績を上げています。
今年は画像改ざん検知技術の最適化・高度化を継続し、「スクリーンショット改ざん検知」の分野まで拡大した。これまで画像改ざん検知技術は主に自然風景画像に適用されてきましたが、実際には資格証明書や書類、スクリーンショットなど改ざんされた画像の方が人命に危険をもたらす可能性が高くなります。Hehe Informationの人工知能画像改ざん検知技術は、送金記録、取引記録、チャット記録など、さまざまなスクリーンショットを検知できます。画像改ざん検出技術は、元の画像から重要な要素を「取り出し」て別の場所に移動する「コピー＆ムーブ」画像改ざん手段を使用する場合でも、「ワイピング」や「再印刷」などを使用する場合でも、正確に検出できます。 偽画像を特定する。
この技術の主な困難は、明らかな視覚的な違いのない写真から改ざんされたスクリーンショットを見つけることができるかどうか、また、見つかった写真の誤検出率を制御できるかどうかです。証明書の改ざん検出と比較すると、スクリーンショットの検出は困難です。そこで、Hehe Information は HRNet のエンコーダ/デコーダ構造に基づいたモデルを提案します。このモデルは、ノイズやスペクトルなどを含むがこれらに限定されない画像自体の情報を組み合わせて、きめ細かい視覚的な違いを捕捉し、HRNet の利点を最大限に活用して高精度の画像真贋識別を実現します。
2️⃣ 生成画像の識別
近年、言語生成やビジュアル生成に代表される人工知能生成コンテンツは、グラフィックコンテンツの信頼性について社会的な議論を引き起こしています。犯罪者は生成された画像を使用して著作権、身元確認、その他の手段を回避し、不法に利益を得て人々に財産的損失をもたらします。
これに関連して、Hehe Informationは、個人や組織が生成された画像がAIによって生成されたものであるかどうかを識別および判断し、偽の仮想人物詐欺を防止し、生成AIが直面する問題を解決することを目的とした、AI生成画像識別技術を開発しました。生成AIの健全な発展を促進します。
このプロジェクトには主に 2 つの問題があります: 1 つは、生成された画像シーンが非常に多様であり、網羅的な方法では解決できず、特定のフィールド セグメンテーションによって 1 つずつトレーニングすることもできないことです。2 つ目は、生成された画像の一部が類似していることです。実際の写真は高すぎて区別するのが困難です。空間領域と周波数領域の間の関係モデルを確立することにより、Hehe Information は多次元特徴を使用して、網羅的な画像を使用せずに実際の画像と生成された画像の間の小さな違いを区別できます。
モデルの構造を以下の図に示します。
モデルは、複数の空間アテンション ヘッドを使用して入力画像の空間特徴に焦点を当て、テクスチャ強化モジュールを使用して浅い特徴の微妙なアーティファクトを強調表示し、それによって本物と偽物の精度を向上させます。顔の認識と判断の正確さ。
生成画像検出技術は、不正行為防止、著作権保護などの分野で幅広い応用が可能です。たとえば、金融業界では、法律違反者が人工知能合成テクノロジーを使用してオンライン資金を盗み、国民の財産の安全を脅かす可能性があります。このテクノロジーは、支払いプロセスに介入することで資金盗難のリスクを軽減できます。メディア業界では、一部の画像供給業者がソフトウェアを使用してポスターなどの画像を自動生成し、意図的に出典を隠して第三者に販売し、第三者が知らずにこれらの画像を商業利用し、著作権侵害を引き起こしていることがあります。関連する検出技術により、これらの問題をある程度解決できます。
3️⃣OCR攻撃対策技術
人々は生活や仕事の必要上、自分の関連する証明書や書類を写真に撮って第三者に送信しますが、これらの写真に含まれる個人情報は、犯罪者によって OCR 技術を使用して特定され、抽出され、漏洩される可能性があります。
文書の機密性に対する個人や企業のニーズを満たすために、Hehe Information は革新的な技術を研究し、文書画像を「暗号化」するための OCR 攻撃対策技術を開発しました。上記のような事態の発生を防ぐために、OCR 攻撃対策技術を使用してシーンのテキストや文書内のテキストに干渉し、個人や企業の重要なファイルを「ロック」して、第三者が読み取ったり保存したりできないようにします。 OCRシステムにより画像内の文字を全て文字化することで情報漏洩のリスクを軽減し、個人情報の保護を実現します。
この技術は、肉眼の閲覧や判断に影響を与えることなく、シーンのテキストや文書内のテキストを妨害し、中国語、英語、数字などの重要な情報を含むコンテンツを「攻撃」することができます。そうすることで、第三者が OCR システムを通じて画像内のすべてのテキスト コンテンツを読み取ったり保存したりするのを防ぐことができ、データ漏洩のリスクが軽減され、情報セキュリティが保護されます。同時に、この技術は人間の視覚や判断に影響を与えないため、文書の読みやすさには影響しません。
3. まとめ
人工知能の発展にはプラスとマイナスの両方の可能性があり、犯罪者と保護者の間で目に見えない戦いが日々繰り広げられています。鍵はどちらの技術力が強いかで、道一尺か悪魔一尺かが決まる。
AI画像セキュリティの新技術の実現には、Hehe Informationが文書画像分野で10年以上蓄積してきた基盤が活かされています。人工知能企業としてのその強力な科学技術力は、Hehe Information が業界の問題を突破し、革新的な技術を育成する自信となっています。この科学技術力こそが、Hehe Information がこの絶え間なく変化する分野で競争力を維持し、より安全な画像ソリューションを社会に提供することを可能にします。
現段階で、Hehe Information は独立した知的財産権を持つ 100 件を超える発明特許を取得しており、世界 200 以上の国と地域の数億人のユーザーにインテリジェントなテキスト認識製品と AI サービスを提供しています。今後とも和和情報は映像分野の新たなニーズや動向に注目し、「優れた」AIを活用して業界の発展に安心感を与えてまいります。
