原文 | 文：BFT Robot
2023年はAIGC元年と呼ばれ、大型モデルの投入も最優先されており、市場ではモバイルインターネットを上回るイノベーションが期待されている。AIGC は生産性をさらに解放し、企業のコスト削減と効率の向上を支援し、インターネットが情報を取得してコンテンツを作成する方法に影響を与え、変化させる可能性があります。ChatGPTに代表される新世代の人工知能技術は急速に発展しており、その強力な意味理解能力、論理的推論能力、多ラウンド対話能力で急速に世界を席巻しています、様々な大型モデルが次々と登場し、深く統合されています教育、医療などの産業と連携し、よりスマートで高品質なサービスを提供するために、新たな業態も数多く創出してきました。
しかし、ラージモデルの人工知能生成コンテンツ (AIGC) は、教育、科学研究、出版、医療、その他の分野に新たな課題ももたらし、特に学生の教育と出版モデルに破壊的な影響を与えるでしょう。その内容は信頼できるのか、推論は信頼できるのか、情報セキュリティは確保できるのかといった一連の課題の解決が急務となっている。
AIGC の機会と課題
AIGC が社会生活に組み込まれると、社会倫理と価値観に重大な影響を及ぼし、また個人の自由と社会秩序に問題と課題をもたらします。
ユーザーがアルゴリズムによる意思決定の提案に強く依存して意思決定を行うと、ユーザーは自主的な思考や試行錯誤をある程度放棄することになり、AIGCによる「ワンクリックで生成される」コンテンツは、業界の貴重な独創性や独創性の精神に影響を与える可能性がある。職人技。AIGC による事実誤認はオンラインですぐに拡散し、誤りや偏見を伴う社会的意見を容易に形成してしまいます。特にAIGCが政治選挙に関わる場合、アルゴリズムが特定の政治派閥や政治的思想を選択的にユーザーに押し付けると、有権者の政治的判断に影響を与えたり影響を与えたりして、人類の民主主義に影響を与えることになる。
AIGC は価値観の逸脱や差別をもたらす可能性もあります。AIGC コンテンツには、固定観念を強化し、一般の認識を誤解させ、弱い立場のグループに害を及ぼす情報が含まれている可能性があり、この情報は普及と解釈の過程で、人々の価値観を微妙に再形成し、特定のグループの人々のイメージを歪めます。研究によると、CEO や弁護士などのキーワードを入力すると、DALL-E-2 は男性や白人の人物画像を生成する頻度が高くなります。AIGCの評価結果を利用者の価値を測る基準として活用する機関もあり、例えば、金融機関がAIの「信用スコア」に基づいて人を分類したり、社会的地位をランク付けしたり、特定分野の個人評価を他の分野にも拡張し、より高い評価を実現する例も出てきています。偏見と差別。
さまざまな問題や課題を踏まえ、2023年7月10日に教育省、科学技術省など7省庁が共同で発出した「生成型人工知能サービスの管理に関する暫定措置」において、以下のことが必要と明記された。 「さまざまな業界での生成型人工知能技術の応用を奨励し、さまざまな分野で革新的な応用を促進し、前向きで健康的で元気のある高品質のコンテンツを生成し、応用シナリオを探索して最適化し、応用エコシステムを構築します。」また、「イノベーションと開発に適合する科学的監督方法を改善し、対応する分類の階層的監督ルールまたはガイドラインを策定する」必要があると提案した。科学研究、教育、出版の分野のユーザーも、さまざまなチャネルを通じてCNKIに対し、そのデータの利点と技術蓄積を利用して、人工知能が生成したコンテンツを識別できる関連技術を開発するよう求めている。
学術界にとっては良いニュースであり、論文試験の良い助っ人です
このシステムは、CNKI の構造化され断片化された知識ベースの高品質文献ビッグデータ リソースに基づいており、事前トレーニングされた大規模言語モデルのアルゴリズム ロジックに従って、「知識強化 AIGC 検出技術」といくつかの検出アルゴリズムを提案しています。 AI を使用して AIGC と戦うために、パターンとセマンティック ロジックという 2 つのリンクを使用することで、最終的に学術文書内の AI 生成コンテンツの迅速かつ正確な識別を達成しました。
このシステムは、国内外のさまざまな大型モデルによって生成された中国語テキストの検出をサポートしており、幅広い分野をカバーしており、大量のデータテスト結果により、システムが AI によって生成された疑いのあるさまざまな程度のテキストコンテンツを効果的に識別できることが示されています。 、高い正解率です。システムインターフェイスはシンプルで使いやすく、さまざまな形式の単一/複数のドキュメントのアップロード、圧縮ファイル、手動入力などの複数の方法をサポートし、検出の進行状況を追跡し、検出結果をリアルタイムで表示でき、視覚的な情報を提供します。 AI が生成したテキストを明確かつ直感的に表示するレポート フォーム。さらに、雑誌論文、論文、会議論文、書籍や単行本、科学研究結果、科学技術レポート、授業テストなどの複数のアプリケーション シナリオもサポートできます。
著者 | 寿寿祥
タイポグラフィ | 春の花
レビュー | 猫
この記事の内容についてご質問がございましたら、お問い合わせいただければ迅速に対応させていただきます。