要約:大きな計算力を基に、強力なアルゴリズムで大量のビッグデータを処理して、生成式人工知能ビッグモデルは自然言語処理、音声処理などの分野で優秀な表現をして、すでに内容創意生成、デジタルマン、対話検索、コード生成などのサービスを提供することができ、自動運転、金融リスクコントロール、医療保健、事物インターネットなどの分野でも応用展望が非常に豊富だ。一つのインターネット情報技術の重大な変革として、ビクモデルの論理推理能力及び人類に対する「理解能力」は極めて向上し、人類が創意的な情報内容を生産する強力なツールとなるだけでなく、ネットワーク情報内容の生態を大きく変化させ、低質情報氾濫、初期ソース汚染及び社会倫理への衝撃などの情報内容リスクをもたらすことができ、バランスの取れた発展と安全を追求し、激励と相容れる管理方法を模索する必要がある。

キーワード:生成式人工知能;大規模言語モデル;情報内容;インセンティブ適合;ガバナンス

コンピュータの人類知識の集積、意図に対する理解を高め、人類の知的境界を広げ、より円滑な人間と機械の相互作用を実現することは情報技術努力の重要な方向である。米国の人工知能研究会社オープン人工知能(OpenAI)が発売したチャット生成事前訓練変換器(ChatGPT)が爆発し、多くの科学技術大手らが絶えずコード生成式人工知能競争を繰り広げている。グーグルはチャットボットバード(Bard)に続き、音声映像内容を理解して生成できるマルチモーダル2世代チャンネル言語モデル(PaLM 2)を発表し、マイクロソフトのニュービング検索エンジンはマルチモーダル生成式事前訓練ビッグモデル4(Generative Pretrained Transformer 4、以下GPT-4)を統合し、アマゾンもタイタン(Titan)を通じて戦況参加を宣言した。百度文心一言、華為盤古、テンセント混元助手、アリ通義千問、サンタン日日新、クンルンワンウェイ天工、コタシンビ星火認知など中国発の大型モデルが続々と登場している。各種類の生成式人工知能大規模言語モデル（Large Language Model、以下LLMと略称する）が噴火し、技術応用ブームが全世界を席巻している。

大きな計算力を基礎として、強いアルゴリズムで大量のビッグデータを処理し、大規模なタグなしデータ上で訓練し、一定の特徴や規則を学習して将来の結果を予測する人工知能ビッグモデルであり、パラメータ数はすでに億レベルから数千億レベルに向上し、画像、テキスト、音声の単一モードでの単一タスクサポートから多様なモードでの複数タスクサポートまで飛躍的に実現し、汎化能力と一定の汎用能力を持つモデルライブラリとなった。自然言語処理、コンピューター視覚、音声処理などの分野で優れたパフォーマンスを発揮するビッグモデルはすでに内容クリエイティブ生成、デジタルマン、対話検索、コード生成などのサービスを提供しており、自動運転、金融リスク制御、ヘルスケア、事物インターネットなどの分野でも有望だ。

ビクモデルはすでに"千行百業"をサービスする能力を持っている。しかし，インターネット情報技術の重大な変革として，ビクモデルの論理的推論能力および人間に対する「理解力」が飛躍的に向上し，テキスト，画像，音声，ビデオなどの情報内容生成に革命的変化をもたらし，真に人工知能内容生成（Artificial Intelligence Generated Content（以下AIGC））の新しい時代に情報内容生産と伝播を導入することが人類社会の知識革命を引き起こしている。膨大な量のデータから対象の特徴を学習することにより，単純に対比やマッチングを行うのではなく，人々の考え方を理解しようと試みるが，既存のテキスト，画像あるいは音声ファイルを利用してビッグデータセットに基づいて内容を生成する人工知能内容創作は，人間が創意的な情報内容を生産する強力なツールとなるだけでなく，ネットワーク情報内容生態系も大きく変化し，情報内容管理に新たなリスクと新たな挑戦をもたらす可能性がある。

生成式人工知能ビクモデルの情報内容生産と伝播における高度な技術専門性はすでに人々の既存常識から遠ざかっているため、本文は第一部分で人工知能ビクモデルの内容生成における典型的な機能、応用シーンと重要な特徴をできるだけ簡潔に整理する;その上で、文章第二部分ではビクモデルが持つ重大な影響及びそれ自体が克服しにくい限界により、情報内容管理に顕著なリスクをもたらす可能性があることを論証する;さらに国内外の情報内容管理に対して簡単に整理する場合、以下の三種類の生成式人工知能情報内容管理方法を提案しようと試みる。

サイバーセキュリティは相対的で絶対的ではなく、「ゼロリスク」は科学的目標ではない。モデル開発過程において研究者はすべての潜在リスクを客観的に予測することが困難であり、比較的余裕のある環境下で合理的な限度内で探索と実践を行う必要がある。技術の進歩によるリスクは拘束するしかなく、完全に回避することはできない。たとえば，ビクモデルの「幻覚」による正確性の低下，アルゴリズムブラックボックスによる問責困難などの問題は，できるだけ抑制するしかないが完全に消滅することはできない。

（一）インセンティブ適合性:ビクモデルを最適化して法治環境を開発する

新たな技術革命と産業革命が活発に展開され、毎回産業革命は国家の興亡、民族の盛衰、文明の栄枯にかかわる重大な影響を及ぼしている。中米ゲームが日増しに激しくなって、米国が中国の限界に対して包囲網を圧迫して封鎖する状況で、生成式人工知能のビクモデルがあるかどうか、私たちのビクモデルが十分に先進的で強力なのかどうかが根本的な問題だ。厳格な監督管理は先進技術と強大な産業の基礎の上に置かなければならない。

伝統的な計画経済体制の影響を受けて、特定段階の厳しい国際環境により、国家は社会主義市場経済体制を堅持し、政府と有効な市場との結合が提唱されているにもかかわらず、具体的な産業監督管理において、いくつかの地方と部門は依然として市場に深く介入することに慣れている。特にインターネット分野において、サイバーセキュリティは国家安全に対して極めて重要性を持っているため、インターネットはイデオロギー闘争の最前線、主陣地となり、中国のインターネット業界に対する監督管理が全体的に厳しい。情報内容管理分野において、全国人民代表大会常務委員会が制定した法律を最後まで通過できなくて、現在も20年余りの《インターネット情報サービス管理方法》などの行政法規しか実施しておらず、情報内容管理は主に部門規約に依存しているため、産業監督管理の法治化程度が不足して、剛性に余裕があり、柔軟性が不足しており、トップダウン命令式の一方向規制が顕著である。

しかし、現代社会の法と政策は規制機能だけでなく、国際制度競争の重要な側面であることが国内外で多くの経験から明らかになった。社会問題の総合的な解決の枠組みとして、法律と規制は厳格であればあるほど良いし、緩くなるほど良いのではなく、賢明なバランスを維持しなければならない。命令的で抑圧的なトップダウンの一方向規制が過度に硬直すると、法執行が難しくなったり、選択的な法執行となる。監督管理部門は権力が大きすぎるため、さらに大きな監督管理の捕獲困難に直面して、最終的に技術革新と産業発展を抑制して、国家発展の機会を逃すことになる。

このような背景の下、先進国は最近になってインセンティブ規制を強調している。実践により、監督管理措置と規則が被監督管理対象者の激励と相容れる場合、監督管理目標を達成しやすくなるだけでなく、監督管理コストも大幅に低減し、コンプライアンスと遵法意欲を高めることが証明された。そのため、法治原則を堅持し、激励と相容れる監督管理理念と考え方を実行することは、法治経営環境を最適化する重要な内容になった。安定した期待と長期的利益のため、法治は最高の経営環境と評価されている

急速な発展段階にある生成式人工知能のビクモデルに直面して、立法と監督管理部門は必ずもっと大きな謙虚さで、市場、革新と産業自主性に対する尊重を表現して、新技術の新しい応用の発展にさらに広い空間を残さなければならない。算力はビクモデル発展の基礎であり、算力構造は極めて高価であることを考慮すると、立法と政策選択において、中国は新技術新産業融資により優れた政策空間を提供しなければならない。ビッグモデル訓練には大量のデータが必要であることを考慮し，個人情報やデータセキュリティを保護するという前提の下で，データ訓練などの不合理な障害をできるだけ排除し，データ要素の合理的な流通利用を促進することが望ましい。法律は規則に合致しなければならず、監督管理は必ず実際に合わなければならない。生成式人工知能がもたらすリスクと挑戦を直視し、革新と公共の利益をバランスさせ、生成式人工知能の有益な応用を確保し、社会リスクを回避し、最終的には発展と安全が統一され、客観規則と発展段階に合致する賦能型監督管理理念と監督管理モードを確立しなければならない。

（二）多元共治:企業の社会的責任と個人が積極的に参加できるガバナンス体制の構築

技術革新と産業跳躍は国家の繁栄の源であり、法治と科学的監督管理を堅持することは国家の繁栄の制度的保障だ。20世紀後半以降、「管理型」立法と「ガバナンス」立法の境界がますます明確になっている。「高度の複雑性と不確実性が高い時代にふさわしい社会ガバナンスモデルは協力行動モデルでなければならない」。

インターネット業界は独自の技術的複雑さのため、非常に専門性が高い。インターネットの発展史が示すように、政府と国家の支えは無視できないが、科学コミュニティ、技術コミュニティの役割も重要である。オープンソース精神を持って、科学者と専門技術者の交流及びそれによって達成されたコンセンサスは、インターネット協議書、標準と規則を大きく形作って、国際インターネットの発展に強力な動力を与えた。特にインターネットは新技術•新産業として複雑なコード世界と技術発展が日常生活の世界をリードする場合が多く、直ちに監督当局を含めた社会大衆に十分に理解されることはできない。それが含んでいる発展の潜在力も一目瞭然ではない。忍耐心と包容力、そして穏健で理性的な理念がなければ、リスクに対する懸念のために重要な革新を抹殺しやすい。インターネット新技術の新しい応用分野で絶対的なセキュリティを追求することはしばしばより大きな安全性をもたらす。この背景の下で、中国を含めて、インターネット先進国はしばしば多元管理、社会共治の理念を奉行し、企業と社会が十分に参加することを動員するだけでなく、新技術の新応用発展にも広大な空間を確保している。

生成式人工知能ビクモデルはインターネット情報技術の発展の新しい傾向として爆発性と革命性の潜在力を示したが、生産力ツールとして将来の技術革新、産業跳躍、社会管理、個人福祉に大きな利益をもたらし、さらには国家総合競争実力の重要な要素になる可能性もある。このような状況下で、まずビクモデルの開発と配置を支持して支援するとともに、企業の社会的責任を強化し、データ処理と個人情報保護を規範化し、人工知能模型の開発と応用が道徳と倫理標準に合致することを確保して、アルゴリズムの上向き善しさを促進しなければならない。リスク認識とデータトレーサビリティを強化し、技術管理能力を向上させ、データソースと訓練過程を明確にし、データセットを通じて潜在的な偏差とその他のリスクを識別し、人手による審査或いは監視システムの構築により、内容出力のモニタリング及びリスク認識を行う。苦情の返答メカニズムを確立し、リアルタイムに出現するリスクを受信、監視、評価し、適時に救済措置をとる。

生成式人工知能ビクモデルの応用と影響は全世界的であり、各国の研究開発機構が共同で努力して、技術標準を調整する必要がある。インターネットの第一大国として、私たちは国際インターネットガバナンスに参加し、国際社会にインターネット公共財を提供する意識を持たなければならず、中国のビクモデル、大規模プラットフォームがグローバル技術コミュニティに参加して組織することを支持し、技術、倫理と規則の面で中国貢献をしなければならない。

もちろん、国民のデジタルリテラシーを高め、生成型大規模言語モデルの応用不均衡によったデジタル格差を避けなければならない。まず、利用者の新技術応用に対する全面的な認識を高め、大衆が科学的かつ厳密な態度で新技術を見て評価することを奨励し、盲目的に追従したり反対しない。次に，ニューラルネットワーク，ディープラーニングなどの技術に関する知識を一般に普及させ，生成式人工知能の動作原理と限界を理解し，技術依存を避けることができるよう支援する。最後に、真偽情報の選別能力を増強し、生成式人工知能の出力に対して大衆が一定の理性的態度と識別能力を保持するよう誘導する。

（三）法的対応:生成式大規模言語モデルの法的枠組み構築

インターネット情報内容管理において、我が国は総体的な国家安保観でサイバーイデオロギーの安全を総括しており、国家保安法、サイバーセキュリティ法、対テロ法、インターネット情報サービス管理方法などの法律法規の枠組みの中で、ニュース情報サービスに従事するすべてのメディア属性と世論動員機能を備えたインターネット電波プラットフォームが管理範囲に含まれ、国家安保を害し、民族団結を破壊し、社会安定を乱すなどの内容が厳しく禁止されている。中国は情報化で現代化を駆動することを堅持し、第一に、ネットワーク強国の建設でネットワーク情報内容の発展を総括し、有効にネットワーク情報技術の急速な発展と情報内容の豊富さを促進した。第二に、ネットワーク文明建設でネットワーク情報内容建設を総括し、上向き善のネットワーク風格を作り出し、社会大衆が自ら違法と不良情報の侵食を阻止することを促進した。第三に、インターネット法治建設でインターネット情報内容生態管理を総括し、違法と不良情報のインターネット空間での伝播を効果的に抑制し、インターネット生態を最適化してきた。

生成式人工知能ビッグモデルは全く新しい情報内容の生産と伝播プラットフォームとして，まだ全貌を示していないが，生成性，集積性，汎用性，知能インタラクションの特徴は情報生産と伝播の主要独占者となっている。したがって立法や規制においてはそのリスクをできるだけ正確に認識し既存の情報内容ガバナンスの枠組みの中でデータからアルゴリズムから内容への連鎖的な規制を整備する必要がある。第一に、ユーザーデータの収集、保存、使用を規範化し、ユーザーデータが有害な目的で使用されることを防止する。第二に、人工知能(AI)が生成したテキスト•画像•動画など多様な内容に対して第3者監査や自律システムを構築するよう誘導するアルゴリズム補完すべきだ。第三に、有害情報を識別•監督するとともに，個人の知識獲得と内容創作の自由を両立させる。

一つは科学的かつ明確的な法的責任を負うメカニズムの構築だ。生成式人工知能サービス提供者に対して、立法でデータの信頼性、正確性を確保することを要求する;内容審査義務を履行して有害情報の生成を回避する;特殊表示義務を履行して、顕著かつ目立つ方式で深層合成内容に対して表示する;有害と不良情報の生成と伝播を予防、適時に識別し停止させるメカニズムを確立する。利用者に対しては，サービス提供者がセキュリティ管理の責任を負い、慎重な義務を果たした場合、利用者はモデルをサイバー犯罪の道具として扱う刑事責任を負う。その他の情報プラットフォームは、モデルが生成した虚偽情報とその他の有害情報、不良情報について、適時に選別し、プラットフォーム上の情報伝播を禁止または制限しなければならない。

第二は、国内法治と渉外法治を総括することである。現在、主流の生成式人工知能大モデルは主に中米両国に分布しているが、米国はビクモデルでリードしており、大きな優位性を持っている。「サイバーセキュリティ法」第50条は、外国が生成式大規模言語モデルを使用して我が国の利益を侵害したり、政治的操作やイデオロギー的偏見で内政に干渉したり、その他の犯罪容疑がある情報を伝送することについて「技術的措置その他必要な措置を取って伝播を遮断しなければならない」と規定している。実際、国外政府或いは関係組織から生成式人工知能大規模言語モデルを利用して中国の法律法規に違反する情報を伝送する行為に対して、技術的に阻止措置をとるだけでなく、国家主権、安全、発展利益をよりよく守るために反制体制の確立も模索すべきである。

著者:支振鋒、中国社会科学院法学研究所研究員。

出所:《政法フォーラム》2023年第4期。