ＡＩ兵器の台頭、正戦論は時代遅れに 最も厳格な倫理的制限の必要性訴える
【バチカン５月２５日ＯＳＶ】新しく発表した回勅『マニフィカ・ウマニタス』の中で、教皇レオ１４世は戦争の常態化に注目した。戦争の常態化は「紛争の性質を変え」、「防衛と攻撃の微妙な境界線」を不鮮明にしてしまうデジタル革命によって、より一層危険になったと記している。
教皇は、正戦論は「時代遅れ」になったとも語った。最も厳密な意味での自己防衛の場合を除き、正戦論はあまりにも多くの場合、あらゆる形態の戦争を正当化するために使われてきた。しかしＡＩの登場により、武器システムの能力の拡大が可能となった。そのため教皇は、戦争でのＡＩの使用には「最も厳格な倫理的制約」を求めた。武器自体が、殺傷能力を進化させているからだ。
教皇は特に自律型致死兵器システムに注目し、その兵器が戦争を「より実行可能」でより人間の抑制が効かないものにすると警告する。
現在、自律型致死兵器に対して、国際的に認められた法的定義はないため、半自律型から、発射後に人間の操作を必要としない完全自律型まで存在する。
軍事力は最終手段であるとして、教皇は「戦争でのＡＩの開発と使用には、最も厳格な倫理的制限が課されなければなりません。人間の尊厳といのちの神聖さは確実に尊重されるべきであり、このような兵器の開発競争を避けねばなりません」と述べる。
教皇は「どのようなアルゴリズムも戦争を道徳的に受け入れられるものにはしません」と断言し、「死をもたらしたり、あるいは取り返しのつかない決定を下したりすることをＡＩに委ねることは容認できません」と強調した。
ＡＩは人間の倫理観と一致しなければならない一方で、教皇は「人工道徳エージェント」という概念を一蹴した。そのエージェントとは、良心、人としての責任、他者を人として認識するといった人間の倫理的判断に取って代わろうとするものだ。
ＡＩに携わる人は警戒感を持つべき
さらに、ＡＩ時代の兵器の使用には三つの「識別すべき具体的な基準」が確立されねばならないと続ける。その基準は、一つ目は「技術を設計し、訓練し、許可し、採用する人」に責任を取らせる責任系統を「確認でき、検証できること」、二つ目は「スピードと効率」を「決して…究極の目標として追い求めず」、戦時に「取り返しのつかない決断」を下す場合の道徳的基準を持つこと、三つ目は非戦闘員への無差別攻撃をせずに、紛争に巻き込まれた市民を確認し保護すること。
「標的の選択と力の使用は、戦闘員と非戦闘員を混同してはならず、無防備な人々への影響も無視してはならない」と語る。
それに加えて、教皇はＡＩ時代の兵器には三つの守るべき条件があるとした。一つ目は、戦争で使われる全てのシステムは、意思決定の過程を検証し、再構築できるものでなければならないこと。「そうすることで、説明責任や非難を『機械』に負わせられなくなります」。二つ目は、殺傷力のある武器の使用の判断を不透明な、自動化されたプロセスに委ねるのではなく、今まで通りの有効で、自己認識を持ち、責任を伴う人間の下で行うこと。三つ目は、軍拡競争を抑え、市民と市民生活に必須のインフラを確実に守るための共通の枠組みを構築しなければならないこと。
教皇は、ＡＩ分野の「主要な全ての人々」――科学者、学者、企業のリーダー、政治家――は、進歩する技術分野にそれぞれの働きが与える影響を全て「鋭敏に察知」するべきだということを心に留め、「透明性と責任」を保つよう促す。そうすることで、「自分たちが道徳的に中立な仕事をしていると思い込んだり、特定の実験を促す究極の目的について問われるのをさけたりしなくなるでしょう」。
このような警戒は特に重要となる。「新しいかたちの戦争は、恐らく過去の戦争よりもより一層危険となりえます。というのもそこでは、全ての倫理的制限が外されてしまうからです」
まずは「言葉の武装解除」から
現在の深刻な危機の中で、教皇はキリスト教信者に「受動的に」暗闇を「ただ見つめるのではなく」、「善のために奉仕する」よう求めた。「キリスト者は光を知っていますし、暗闇が光を打ち砕くことはなく、打ち砕くことはできないと理解しています」と述べた。
「夜の暗闇の中でさえも、主は、諦めずに、忍耐強く善を行い、弱い立場に置かれた人々を守り、和解への道を開く人々を立ち上がらせてくださいます」「聖人たちと高潔な人々、平和を築く忘れられがちな人々の記憶は、私たちに、神の恵みは魔法のように紛争を消し去るわけではないことを示しますが、それ以上に、悪への積極的な抵抗と、善を行う上で驚くほどの創造力を奮い立たせてくれるのです」
「小さいけれども、確固とした忠実な行為を積み重ねることで」「愛の文明」を築いていける、と教皇は説く。
「この世を武装解除する」ために、「言葉の武装解除」から始めるようにという、２０２５年５月に行った呼びかけ――今年の５月２５日の回勅を発表した会見でも繰り返し口にした言葉――を繰り返した。また教皇は、「単に代償を払って得られる紛争がない状態」ではない、正義に基づいた平和を築く必要性を強調した。
教皇は人々に「戦争とあらゆる形の暴力全般に内在する悪の行き着く果て」を気づかせるために戦争犠牲者の「視点と声に耳を傾けるよう」促した。「歴史と記憶の両方」が、対話、外交、真の多国間主義、祈りと共に、戦争を防ぐ上で大切だと言及した。
「飽くことなく平和のために祈り、私たちの人間関係の中で、また社会の中で、平和を実現する決意を固めましょう」
