文書画像は重要な情報伝達手段ですが、犯罪者によってソフトウェアやアルゴリズムを使用して改ざんされることがよくあります。これらの虚偽の資料は、デマの拡散、経済詐欺、虚偽ニュースの捏造によく使用され、個人や社会に悪影響を及ぼしています。AIGC の世界的な爆発以降、人々は「生成的偽造」のリスクの高まりを懸念しており、画像コンテンツの安全性と信頼性にも世間の注目が集まっています。
「中華人民共和国ネットワークセキュリティ法」、「生成人工知能サービス管理」およびその他の文書におけるAIサービスの規範要件を実装し、画像コンテンツセキュリティ業界の発展順序を体系的に確立するために、中国は情報通信技術院（以下、「中国ICT研究院」）は、「文書画像改ざん検出標準」の策定を開始した。この標準は、中国情報通信技術院が主導し、上海和和信息技術有限公司、中国画像グラフィック協会、中国科学技術大学、その他の科学技術革新企業やウェルネス企業が共同で編集したものです。有名な学術機関。
「文書画像改ざん検知標準規格」は、文書画像内容の安全性を確実に保証し、新時代のAIセキュリティシステムの構築を支援します。主導団体である中国情報通信技術院は、「文書画像改ざん検出基準」は業界の現状に基づいており、「きめ細かい」視覚差分偽造画像識別、生成画像識別、業界に効果的なガイダンスを提供するために、画像の完全性保護やその他の業界が重点を置く問題を文書化して業界のコンセンサスを集めます。
画像改ざんのリスクが差し迫っており、標準規格の導入も差し迫っている
テクノロジーの発展や電子機器の普及率の向上により、画像を加工する敷居はますます低くなり、かつては専門的なソフトウェアを使用する必要がありましたが、現在では特定のプラットフォームやソフトウェアを通じて、偽の画像、つまりデジタル画像の独創性と信頼性は、厳しい課題に直面しています。
これまで、画像改ざん検出の技術研究対象は主に自然風景の画像に焦点が当てられていました。しかし、実際に人々の生活にリスクをもたらすのは、通常、改ざんされた資格証明書、文書、チャットのスクリーンショットなどです。これらの文書画像の改ざんを判断し、改ざん内容を特定することは、従来の検出システムでは困難なことが多く、その主な理由は次のとおりです。
現実の場面での改ざんの手口の多様性や改ざんの微妙な視覚的痕跡が改ざん検出スキームの課題となる一方で、文書レイアウトの複雑さやテキスト内容の多様化も画像処理の「阻害要因」となっています。これにより、改ざん検出の実装がより困難になります。
また、従来の画像改ざん検出手法では、グローバルなトリミングやトーン処理、複合偽造技術に直面する場合、検出範囲や精度、セキュリティにはまだ改善の余地があり、政府や研究機関など複数の関係者の協力が必要となります。 、および企業が協力して、技術仕様と標準を確立することで、AI 映像産業の健全な成長を支援します。
画像コンテンツのセキュリティは、将来の「信頼される AI」の重要な構築方向となる
AIは「両刃の剣」です。中国情報通信技術院が発行した「信頼できる人工知能産業の生態学的発展に関する報告書（2022年）」では、信頼性が人工知能産業の発展にとって不可欠な要素となり、人工知能の規範的な発展を推進していると述べています。知能。
「信頼できる」とは、AI システム、製品、サービスの信頼性を、セキュリティ、信頼性、説明可能性、説明責任などの一連の固有の属性で反映するものであり、関連する概念は、技術開発のペースとともに曖昧なものから明確なものへと変化しています。 。今年の初め以来、言語生成モデルやビジュアル生成モデルに代表される AIGC 製品は、グラフィック コンテンツの「信頼性」に関する社会的議論を引き起こしました。「文書画像改ざん検知基準」の策定は、マシンビジョンや画像処理分野における中国の「信頼できるAI」システム構築を強力に支援する可能性がある。
科学技術を活用して改ざん痕跡を正確に検出することで、文書画像内容の安全性を確実に保証し、新時代のAIセキュリティシステムの構築に貢献します。画像コンテンツのセキュリティ分野では、改ざんされた文字画像の真贋判定や改ざん痕跡検出を科学技術的手法を用いて実現する最先端の研究に着手している企業があり、人工知能技術企業の和和情報はその代表格である。
Hehe Informationは、さまざまな形式の改ざんを検出し、改ざんプロセス中に画像に残された微妙な痕跡をインテリジェントにキャプチャし、画像領域の改ざんを形式で表示できる、ディープラーニングに基づいた画像改ざん検出技術と関連システムを開発したと報告されています。ヒート マップの位置情報、関連テクノロジーは、銀行、保険、その他の業界で応用されています。
公開情報によると、和和情報はインテリジェント文書処理の基盤技術と応用製品の研究に注力しており、関連技術はICPRやICFHRなど10以上のコンテストで優勝し、CVPR、AAAI、 ACL、ACM MMなど 国際サミットで発行。現在、同社は独立した知的財産権を持つ100件以上の発明特許を取得しており、世界200以上の国と地域の数億人のユーザーにインテリジェントなテキスト認識製品とAIサービスを提供している。