執筆者・ダニエル・ジョンソン（ジュネーブ）

2026年8月25日 – 完全自律型のAI搭載ドローンが戦場で用いられているとの未確認情報が伝えられる中、アントニオ・グテーレス国連事務総長とミリアナ・スポリアリッチ赤十字総裁は本日、手遅れになる前にその世界的規制を強化するよう、改めて緊急の要請を行いました。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

要点

• その動きが「予測不可能」な兵器と、人間を標的とする兵器の2種類の自立型兵器の規制を求める。
• AIの進化は、致死的武力に対する人間の制御を緩めるおそれがある。
• 各国は法的拘束力のある協定について交渉の開始を求められる。

今回の要請発出のタイミングは、ますます強力なAI技術の後押しにより、より高度な兵器がかつてないスピードと規模で製造、展開されているという懸念の高まりを反映しています。軍縮専門家によると、兵器を製造する企業でさえ、関連する法的問題の明確化を望んでいます。

「私たちは今、『機械が自律的に人間を標的にする』という倫理上の一線を越える瀬戸際にいます」グテーレス国連事務総長は、スポリアリッチ赤十字国際委員会（ICRC）総裁との共同声明の中で、このように述べています。

紛争下において民間人や民生インフラを攻撃の標的とすることは、すでに国際人道法で厳しく禁じられているものの、紛争地帯にどのような非戦闘員がいるかを把握することは、極めて困難なことが多くあります。そのため、変化する状況の中でその違いを判断できない機械が、生死を分ける決定を下すことに対する懸念が高まっているのです。

法的・倫理的原則

ジュネーブ国連事務局でもこうした懸念は高まっており、メラニー・レジンバル国連軍縮部（UNODA）欧州事務所長は、人間による制御も判断もなしに、標的を選別したり、特定したりするシステムは「政治的に受け入れがたく、また、道徳的に許しがたいものであり、国際法で禁止すべき」だという、事務総長がかねてから主張してきた立場を強調しています。

同じくジュネーブに本部を置くICRCのローラン・ジゼル氏も、紛争が「精密さや区別、抑制に基づくものではなく、これまでにない速さと規模の大きさで民間人が殺され、家族が住処を追われ、病院や学校、家屋が破壊されるという状況を引き起こしている」としています。

ICRCで武器・戦闘行為部門を率いるジゼル氏は、このような背景の中で「事態は急速に変化しかねない」と説明し、「戦闘員が降伏したり、負傷したりしたために、攻撃から守られることがある一方で、民間人が自律型兵器システムの作戦地域に立ち入ったり、自律型兵器が想定外の状況に直面したりするおそれもある」と述べています。

グテーレス事務総長とスポリアリッチ総裁は共同声明で、兵器の自律性をさらに高めようとする競争はすでに始まっているとしたうえで、自律型兵器が「遠い未来の話ではない」と述べています。そして、こうしたシステムを開発している科学者やエンジニアも、そのリスクについて懸念を表明していると指摘しています。

各国に行動を要請

国連とICRCは現在、各国政府に対し、議論の先へと歩を進め、明確な禁止事項と規制を確立する法的拘束力のある文書の採択に向けた交渉を開始するよう求めているところです。

国連とICRCは「各国は政治的な勇気を示し、少しずつ議論を積み重ねていくだけでなく、確固たる行動へと進まなければなりません」と述べ、行動を起こさなければ、将来の世代は、生死を分ける決定に関する説明責任の特定がますます困難になる世界を引き継ぐことになると警告しました。

この共同声明は、11月にジュネーブで開催が予定されている特定通常兵器使用禁止制限条約（CCW）第7回運用検討会議に先駆けて発出されたものです。国連と赤十字の最高責任者はともに、この会議を、各国が法的拘束力のある文書の採択に向けて交渉に移ることを合意するための「絶好の機会」と形容しています。

共同声明は、国連総会とCCWの政府専門家会合を通じ、国際人道法の遵守を確保するために必要な人間による判断と制御の定義に向けた前進を含め、合意に向けた重要な基盤がすでに築かれているとしています。

国連とICRCは2023年に発出した最初の共同声明で、2026年までに法的拘束力のある文書の交渉を行うよう各国に呼びかけました。当初の共同声明では、生死を分ける決定を人間が制御し続けなければならないこと、そして、人間の関与なしに命を奪うことのできる機械は国際法で禁止すべきことが強調されました。

本日の声明は、過去3年間にわたって積み重ねられてきた地道な取り組みを今こそ行動に移さねばならないと強調し、この期限付きの要請を再確認するものとなっています。

2人の指導者は「私たちは各国に対して、今この時を逃さないよう強く求めます。イノベーションは、人類のために役立つものであるべきであり、危険にさらすものであってはなりません」と述べています。

共同声明は、2種類の自律型兵器の禁止を要請しています。

1. 予測不可能な自律型兵器：設計上または使用上、操作する人間が行使される武力がもたらす結果を予想も予期もできないもの。ICRCのジゼル氏は「予測ができないものに、どうやって制限を課せるのか」と問いかけています。
2. 対人兵器：ICRC専門家のジゼル氏は、武力行使に対する制御が利きにくいという理由から、自律型兵器全般に倫理的問題があることは「すべての国」が認めてはいるものの、その中で人間を意図的に標的とする兵器は「人の命をデータやアルゴリズム、センサー、さらには機械操作へと落とし込む」ため、最も大きな懸念の対象になると強調しています。

＊　＊＊＊　＊

原文（English）はこちらをご覧ください。