議長、各国代表の方々

この理事会で、人工知能（AI）に関する初めての討論を開催された英国に対して、謝意を表します。

私は、しばらくの間ずっと、AIの発展を注視してきました。実際、私は6年前に総会で、AIが持続可能な開発、労働の世界、そして社会構造に劇的な影響を与えるであろうと述べました。

しかし、私はここにいる皆様と同様に、その能力が急激に進歩したAIの最新形態である生成AIに、衝撃と感銘を受けているところです。

この新しいテクノロジーのあらゆる形態において、その普及スピードとその広がりは、まったく前例がないものです。

これは、印刷機の導入と比較されています。印刷された書籍がヨーロッパ全土で広く利用されるようになるまでに50年以上を要した一方で、ChatGPTはわずか2カ月で1億人のユーザーを獲得しました。

金融業界では、AIの世界経済への寄与額は2030年までに10兆米ドルから15兆米ドルの間に上るだろうと推定しています。

世界中のほぼすべての政府、大企業、組織が、AI戦略の策定に取り組んでいます。

しかし、AIの設計者たちでさえも、その驚くべき技術的な飛躍がどこへつながるのか、まったく見当がついていないのです。

AIが、国連の三つの柱も含めて、私たちの生活のあらゆる領域に影響を及ぼすことは明らかです。

気候危機の監視から医学研究における飛躍的進歩に至るまで、AIは世界の発展を一気に加速させる潜在的な力を秘めています。

人権、特に保健と教育に関する人権を実現する、新たな可能性をもたらします。

しかし、国連人権高等弁務官は、AIが偏見を増幅させ、差別を強め、権威主義者による新たなレベルの監視を可能にし得る兆候に対し、警鐘を鳴らしています。

本日の討論は、AIが平和と安全に及ぼす影響を考察する機会です。ただし、すでにそれは政治的、法的、倫理的、人道的懸念を引き起こしています。

私は、理事会に対し、緊迫感とグローバルな視点、そして学習者の心構えを持って、このテクノロジーに臨むよう要請します。

なぜなら、私たちが見てきたものは、ほんの始まりにすぎないからです。

技術革新は、必ずや今日よりも加速することでしょう。

議長、

AIは現在すでに、国連などの組織で平和と安全に関連する活動に活用されています。

暴力のパターンの特定や停戦の監視などに利用される機会が増え、国連の平和維持、調停、人道支援の各活動の強化に役立っています。

しかしAIツールは、悪意を持つ者に利用される可能性もあります。

AIモデルは、人々が自分自身やお互いを、大きな規模で傷つけることを助長し得るものです。

はっきり申し上げましょう。

悪意を持ってテロ、犯罪、国家の目的のためにAIシステムを使用すれば、恐ろしいレベルの死、破壊、広範なトラウマ、深い精神的ダメージを、想像を絶する規模で引き起こす可能性があります。

AIを利用したサイバー攻撃は、すでに重要なインフラや、国連自体の平和維持活動や人道支援活動を標的として、多大な人的被害をもたらしています。

アクセスする上での技術的、金銭的障壁が低く、これは犯罪者やテロリストにとっても同様です。

AIの応用は、軍事的であれ非軍事的であれ、世界の平和と安全に非常に深刻な結果をもたらす可能性があります。

生成AIの出現は、偽情報やヘイトスピーチの今後について決定づける瞬間となり得ます。真実、事実、安全を損ない、人の行動を新たな次元で操作することを可能にし、大規模な分極化と不安定化を助長するのです。

ディープフェイクは、AIを利用した新たなツールの一つに過ぎず、野放しにすれば平和と安定に深刻な影響を及ぼす可能性があります。

また、AIを利用したシステムの予期せぬ結果が、期せずして安全保障上のリスクを生むことも考えられます。

ソーシャルメディアの状況を見ただけでもわかります。人のつながりを強めるために設計されたツールやプラットフォームが、今や選挙を脅かし、陰謀論を広め、憎悪や暴力を煽るために使われています。

AIシステムの誤作動もまた、大きな懸念領域の一つです。

そしてAIと、核兵器、バイオテクノロジー、ニューロテクノロジー、ロボット工学との相互作用は、深く憂慮すべきものです。

生成AIは、大規模な善にも悪にもなる大きな可能性を秘めています。生成AIの開発者たちでさえ、より大きな、そして破滅的で存亡に関わるリスクが前途に待ち受けていると警鐘を鳴らしています。

こうしたリスクに対処するための行動を起こさなければ、私たちは現在および将来世代に対する責任を放棄することになるのです。

議長、

国際社会には、社会や経済を混乱させる可能性のある新たなテクノロジーに対応してきた長い歴史があります。

私たちは国連に参集し、新たな国際規則を定め、新たな条約に調印し、新たな国際機関を設立してきました。

多くの国々がAIのガバナンスに関するさまざまな措置やイニシアティブを求めていますが、それには普遍的なアプローチが必要です。

そしてガバナンスの問題は、いくつかの理由により、複雑なものとなるでしょう。

第1に、強力なAIモデルが、すでに一般市民のために広範に利用可能となっています。

第2に、AIツールは、核物質、化学・生物兵器とは異なり、ほとんど痕跡を残さずに世界中を移動させることができます。

そして第3に、AIにおいて民間セクターが果たす主導的役割は、他の戦略的テクノロジーにおけるものと、ほとんど共通点がありません。

しかし、私たちにはすでに起点となるものあります。

一つは、「特定通常兵器使用禁止制限条約」を通じて合意された、自律型致死兵器システムに関する2018年‐2019年指針です。

私は、人が制御しない自律型致死兵器の禁止を勧告した多くの専門家たちに同意します。

もう一つは、国連教育科学文化機関（UNESCO）を通じて合意された、人工知能の倫理に関する2021年の勧告です。

国連テロ対策事務所（UNOCT）は、国連地域間犯罪司法研究所（UNICRI）と協力し、テロ目的でAIが使用される可能性に対して加盟国が取り組む方法について勧告を行っています。

また、国際電気通信連合が主催する「AI for Good（善のためのAI）」サミットが、AIを確実に公益に資するものとする取り組みについて、専門家、民間セクター、国連機関、各国政府を集めて開催されています。

議長、

最善のアプローチは、既存の課題に対処すると同時に、将来的なリスクを監視して対応する能力を創出することでしょう。それは、柔軟で適応性があり、技術的、社会的、法的問題を考慮したものでなければなりません。

それには、民間セクター、市民社会、独立した科学者、そしてAIイノベーションを推進するすべての人々を統合する必要があります。

グローバルな標準とアプローチが必要であるため、国連はこれを実現する理想的な場となります。

国連憲章は将来の世代を守ることに重きを置いており、すべてのステークホルダーとともに、一丸となって長期的なグローバル・リスクを軽減するという明確なマンデートを私たちは与えられています。そしてまさにAIが、そうしたリスクをもたらしているのです。

そのため私は、国際原子力機関（IAEA）や国際民間航空機関（ICAO）、気候変動に関する政府間パネル（IPCC）などのモデルにヒントを得て、新たな国連機関を創設し、この驚異的なテクノロジーを統治する総力を挙げた取り組みを支援することを求める、一部の加盟国による呼びかけを歓迎します。

この機関が何よりもめざすことは、各国が善のためのAIの恩恵を最大限に享受できるよう支援し、既存の、および潜在的なリスクを軽減し、国際的に合意された監視とガバナンスのメカニズムを確立して管理することです。

率直に言って、AIスキルに関して、各国政府やその他の行政・安全保障機構には、国やグローバル・レベルで対処しなければならない大きなギャップがあります。

新しい国連機関では、専門知識を結集し、国際社会がその知識を自由に使えるようにします。また、AIツールの研究開発における協働を支援して、持続可能な開発を加速させます。

議長、

その第一歩として、私は、マルチステークホルダーによる人工知能に関するハイレベル諮問委員会を招集します。そのグローバルなAIガバナンスに関する選択肢についての報告を、年末までに受ける予定です。

間もなく発表予定の、「新たな平和への課題」に関する私の政策概要では、加盟国に向けたAIガバナンスに関する勧告も行う予定です。

第1に、加盟国に対し、国際人道法および人権法の下での義務に合致した、AIの責任ある設計、開発、使用に関する国家戦略を策定するよう勧告します。

第2に、加盟国に対し、関係するその他のステークホルダーの関与を確保しつつ、AIの軍事利用に関する規範、規則、原則を策定する多国間プロセスに参画するよう呼びかけます。

第3に、加盟国に対し、AIを含め、テロ対策を目的としたデータ駆動型テクノロジーの利用に対する監視メカニズムを規制・強化する、グローバルな枠組みに合意するよう呼びかけます。

「新たな平和への課題」に関する政策概要では、人の制御や監視なく機能し、国際人道法の下で使用できない自律型致死兵器システムを禁止する、法的拘束力のある文書について、2026年までに交渉をまとめることも求めます。

私は、加盟国がこれらの選択肢について討議し、緊急に必要とされるAIガバナンスのメカニズムを確立するため、最善な一連の行動を決定することを期待しています。

「新たな平和への課題」の提言に加え、私は、核兵器には人の介在と管理が必須であり、これらは決して撤回してはならないという一般原則に合意するよう要請します。

来年の「未来サミット」は、相互に関連するこれらの問題の多くを決定する上で、理想的な機会となるでしょう。

議長、

私は、この理事会が、人工知能に関してリーダーシップを発揮し、AIシステムの透明性、説明責任、監視に向けた共通の方策への道筋を示すよう要請します。

私たちは、さらなる分断を強いるAIではなく、社会的、デジタル的、経済的な分断を解消するためのAIに向けて、協力しなければなりません。

私は、平和と安全のために力を合わせて信頼を築くよう、皆様に強く求めます。

私たちに必要なのは、善のためのAIを開発するための競争です。

信頼性と安全性に優れたAI、貧困に終止符を打ち、飢餓をなくし、がんを治し、気候行動を加速させるAIの開発のために。

持続可能な開発目標（SDGs）に向けて私たちを前進させてくれるAIの開発をめざして。

それこそが私たちに必要な競争であり、実現し、達成し得る競争なのです。

ありがとうございました。

＊　＊＊＊　＊

原文（English）はこちらをご覧ください。

【関連記事】
「新たな平和への課題」に関する政策概要の発表に寄せるアントニオ・グテーレス国連事務総長発言（ニューヨーク、2023年7月20日）