「知られざる地政学」連載（29） AI開発：国家と企業のはざま（上）

2024年3月4～8日まで、スイスのジュネーブで、自律型致死性兵器（Lethal Autonomous Weapon Systems, LAWS）分野の侵攻技術に関する締約国政府専門家グループによる会議が開催された。同年8月26～30日にも同会議が予定されている。

拙著『サイバー空間における覇権争奪』では、つぎのように書いておいた。

「国連では、地雷、焼夷兵器などの非人道的な効果を有する特定の通常兵器の使用の禁止または制限のために条約締結が模索されてきたが、その延長線上で、AIを用いて自律的に攻撃する兵器についても規制対象にしようとする動きがすでに存在する。前者については、1980年に採択された特定通常兵器使用禁止制限条約（Convention on Certain Conventional Weapons, CCW）がある。1983年に発効したCCWは2014年に自律型致死性兵器（Lethal Autonomous Weapon Systems, LAWS）の規制協議を開始した。これは、AIを用いて自律的に攻撃する兵器を対象としたものであり、2016年にLAWSに関する政府専門家グループ（GGE）による会合が決まり、2017年12月に第一回会合が開催された。」

だが、2024年になっても、目立った成果はみられない。その間、AIの進化はめざましい。

深まる産官学連携

『サイバー空間における覇権争奪』で紹介したように、米国には、軍事面での官民協力に抵抗が示された時代もあった。だが、2023年11月に示された、米国、中国、EU、日本のほか、中東、アフリカ諸国も含めた29カ国・地域による、共同宣言「2023年11月1-2日、AIセーフティ・サミット出席国によるブレッチリー宣言」では、「国家、国際フォーラム、その他のイニシアティブ、企業、市民社会、学界というすべてのアクターは、AIの安全性をたしかなものとするための果たすべき役割を担っている」として、これらの間の協力の必要性を謳っている。その通りかもしれないが、国家と企業との協力や、産官学などの連携は主権国家主導の戦争準備にほかならないのではないか。そんな懸念も捨てきれない。ここでは、この問題の「現在」について考えてみたい。

AIの軍事利用

おそらく、新しいタンパク質を設計するためのAIテクノロジーを専門とする90人以上の生物学者やその他の科学者たちが生物兵器開発にAIが利用されることを恐れて、「タンパク質設計のためのAIの責任ある開発のためのコミュニティの価値観、指導原則、およびコミットメント」という協定に署名・公開していることを知る日本人は少ないだろう。2024年3月8日に公開されたばかりだが、日本では、大阪大学蛋白質研究所の古賀信康教授や国立感染症研究所の黒田大祐主任研究官が署名している。

「私たちは、学術界、政府、市民社会、民間部門にまたがる世界的な利害関係者と協力し、この技術が責任ある信頼に足る方法で発展し、すべての人々にとって安全、安心、有益なものとなるよう取り組んでいく」という。この合意は、AI技術の開発や流通を抑制しようとするものではない。その代わり、生物学者たちは新しい遺伝物質の製造に必要な装置の使用を規制することを目的としている。

何が起きているかというと、スタンフォード大学の研究チームは、CellXGeneとして知られる世界最大級の細胞データベースの構築に貢献した後、基礎モデルビジネスに参入、研究チームは2023年8月から、メッセンジャーRNAと呼ばれる遺伝情報の一種に注目し、このデータベースに登録されている3300万個の細胞を対象に、コンピュータのトレーニングを行った。また、遺伝子の産物であるタンパク質の立体構造もモデルに与えた。このデータから、ユニバーサル・セル・エンベッディング（UCE）として知られるモデルが生まれ、細胞間の類似性を計算し、遺伝子の使われ方によって1000以上のクラスターに分類した。このクラスターは、何世代もの生物学者によって発見された細胞の種類に対応している。他方で、3300万個を超える細胞のリポジトリー（情報資源保管場所）を利用して訓練されたシングルセル生物学のための基礎モデル（scGPT）まで構築されている。このように、AIの利用によって、「バーチャル細胞」の生成が可能となり、生物兵器への転用もみえている。

いずれにしても、AIの軍事利用はすでにますます本格化しており、だからこそ、危機感が研究者らに広がっているのだ。

2024年2月20日付の「ワシントンポスト」の記事「米国防総省、大規模言語モデルの軍事利用を検討」は重要である。ここでいう「大規模言語モデル」（ラージ・ランゲージ・モデル（LLM）とは、近年、有名となった生成型AIを指している。記事は、2月20日、「国防総省は最も有用な軍事アプリケーションの発見と実装を加速させるため、ハイテク業界のリーダーたちとの会議を開始した」と伝えている。LLMの潜在的な軍事利用法として、①情報管理、②高度な戦争ゲームによる将校の訓練、③リアルタイムの意思決定支援――などが考えられるという。

記事のなかで注目されるのは、生成AIをリードしてきたOpenAIが「1月上旬、「利用ポリシー 」のページから軍事アプリケーションに対する制限を削除した」という記述である。「利用ポリシー」のページでは、とくに「兵器開発」や「軍事および戦争」を含む「物理的危害の危険性が高い活動」を禁止していたのに、これを削除したことで、軍事協力が可能となったのである。

「軍民協力」の難しさ

前述の『サイバー空間における覇権争奪』では、軍民協力の難しさについて紹介したことがある。「米国には中国と異なり、「軍民協力」が難しいという面があることも見落とせない」と記したうえで、官民協力への抵抗として、2017年4月に設立されたAlgorithmic Warfare Cross-Functional Team、別名、「プロジェクト・メイヴェン」（Project Maven）という軍事用ドローン開発のためのプロジェクトで、この開発にAI技術を利用する分野でグーグルが協力していることが2018年3月に明らかになり、騒動となった話を紹介した。グーグル内部から反発の声があがたのである。2019年2月には、マイクロソフトの社員が同社のCEOと社長に書簡を送り、マイクロソフトの技術の一部を戦闘訓練用に軍人に利用させる契約（4億7900万ドル）を拒絶するよう求める「事件」も起きた。

国家主導のAI開発規制の強化

こんな状況もあったが、いまでは中国に対抗する目的が優先され、官民協力は当然視されているように思われる。とくに、AI開発をめぐっては、「多様なタスクをこなし、現在の最先端モデルと同等かそれ以上の能力を持つ、非常に高性能な汎用AIモデル」を意味する、「フロンティアAI」分野での国際協力の必要性が前述した「ブレッチリー宣言」にも明記されている。

この「連載11」の「AI規制に関する最新動向」で紹介したように、この宣言の直前、ジョー・バイデン大統領は10月30日、「AIの安全、安心、信頼できる開発と利用に関する大統領令」に署名した。AIの開発と利用を、八つの指導原則と優先事項に従って進め、管理する方向性が示されている。同日、米国、フランス、ドイツ、イタリア、日本、英国、カナダ、欧州連合（EU）を含むG7は、人工知能（AI）に関する国際指導原則と、広島AIプロセスの下でのAI開発者の自主的行動規範に合意した。

こうした動きをみると、AI開発をめぐって、国家主導で規制を強化しようとする方向性がみてとれる。国家主導のAI開発に取り組んでいる中国共産党に対抗するには、もはや国家と企業が協力するしかないかのような情勢にある。

中国のAI規制

ここで、近年における中国のAI規制についてまとめておこう。

第一に、2021年11月16日に開催された2021年国家インターネット情報弁公室の第20回会議において審議・採択され、工業情報化部、公安部、国家市場監督管理総局の同意を得た「インターネット情報サービスのアルゴリズム推薦管理に関する規定」（互联网信息服务算法推荐管理规定）が重要である。同規定は2021年12月31日に公布され、2022年3月1日以降に施行された。AIアルゴリズムによって労働が行われる労働者の権利を保護する規定がある。とくに、AIは休日と医療資格を考慮し、賃金詐欺を防止しなければならないとされている。

第二に、2022年11月3日に開催された2022年国家インターネット情報弁公室の第21回会議において審議・採択され、工業情報化部および公安部の同意を得た「インターネット情報サービスの深層総合管理に関する規定」（互联网信息服务深度合成管理规定）がある。同規定は、2022年11月25日に公布され、2023年1月10日以降に施行された。AIが生成した画像、人間の発話を模倣したメッセージ、実在の人物を使用した音声や映像に特別なタグを付けることが義務づけられている。

第三に、2023年5月23日に開催された国家インターネット情報弁公室2023年第12回会議において審議・採択され、国家発展改革委員会、教育部、科学技術部、工業情報化部、公安部、国家ラジオテレビ総局の同意を得た「生成人工知能サービス管理暫定弁法」（生成式人工智能服务管理暂行办法）が重要である。同法は、2023年7月10日に公布され、同年8月15日以降に施行された。開発者は検閲当局が承認したコンテンツのみを使用するよう強制されている。それは「社会主義的価値観」に合致し、人種、国家、宗教、その他の理由で差別されないものでなければならない。
2024年に注目すべき大きな動きは、中国が欧州連合（EU）の足跡をたどり、独自の包括的なAI法を発表するかどうかである。これ以上は割愛するが、先行する中国に学ぶべきであることはいうまでもない。その意味で、「米国とその同盟国は、AIの法律と政策について中国と協力すべきである」という論文は必読であると書いておきたい。

「知られざる地政学」連載（29）AI開発：国家と企業のはざま（下）に続く

【連載】知られざる地政学（塩原俊彦）のリンクはこちら

– – – – – – – – – – – – – – – – – – – – – – – – –

★ISF（独立言論フォーラム）「市民記者」募集のお知らせ：来たれ！真実探究＆戦争廃絶の志のある仲間たち

ISF主催トーク茶話会：天野統康さんを囲んでのトーク茶話会のご案内

ISF主催トーク茶話会：原一男監督を囲んでのトーク茶話会のご案内

※ISF会員登録およびご支援のお願いのチラシ作成しました。ダウンロードはこちらまで。
ISF会員登録のご案内

「独立言論フォーラム（ISF）ご支援のお願い」