教皇レオ１４世、初の回勅を発表　ＡＩの“武装解除”の必要性強調

【バチカン５月２５日ＣＮＳ】教皇レオ１４世は５月２５日、教皇庁（バチカン）のシノドスホールで行われた記者会見で、教皇に就任して初の回勅を発表し、人工知能（ＡＩ）は“武装解除”される必要があると警告した。教皇は、政府やＩT企業の幹部や社会は、急速に進化する技術が人間関係をむしばみ、批判的思考力を弱め、平和自体を揺るがす前に、このような技術に対峙（たいじ）するよう求めた。
　回勅は『マニフィカ・ウマニタス』と題され、８２ページに及ぶ。この教皇の教えによって、ＡＩ、自律型兵器、雇用、人間の尊厳、一握りの企業だけに技術力が集中する問題を巡る議論において、カトリック教会の発言力は強まるだろう。
　「平和とは、単に戦争がない状態ではなく、正義が機能している状態を指します」と教皇は語り、「けれども、技術が人間の批判的思考を弱めるならば、平和自体が危険にさらされることになります」と続けた。ホールはバチカンの職員や取材陣、また特別ゲストらでいっぱいになった。
　教皇は回勅を執筆するに当たり、複数の科学者やエンジニア、政治指導者、親、教師たちに、ＡＩがもたらすプラス面と危険性について話を聞いたという。一部の人はＡＩに強い期待を示した一方で、一部の人は、将来の世代や徐々に自律化されていく兵器に恐怖を表したと語った。
　教皇はＡＩの恩恵を認めつつ、まだ開発途上にあるＡＩをより入念に調査する必要があると断言した。
　「ＡＩは武装解除される必要があります。辛辣（しんらつ）な言葉ですが、意図して使いました。というのも、現代は注目を集め、良心を目覚めさせ、人間性へと向かわせる道を指し示す言葉を必要としているからです」
　教皇は就任当初から頻繁に、安全性の確認が不完全なＡＩの開発には警告を発してきた。ＡＩは人間の識別能力を低下させ、現実をゆがめ、真の人間関係を人間同士の交流を模倣したシミュレーションで置き換えてしまう危険性があると警鐘を鳴らす。
　第６０回の世界広報の日のメッセージのテーマに深く根差しながら、教皇はＡＩがますます「人間の声と顔」を精巧に模倣するようになり、その一方で良心、責任、友情、真理という面に、より一層深い問いを投げかけると述べた。
　「それらに対する技術的な答えはありませんし、専門知識を持った人に取って代わろうとすることもありません」と教皇は話す。「けれども、私たちは現代が切実に必要としている人間に関する知恵をもたらすことができます。すなわち、すべての人は唯一無二で、かけがえのない存在だということです。」

　ＡＩには苦しむことができない

　聖座（バチカン）と巨大ＩＴ企業との関わりは、ほぼ１０年近く前にさかのぼる。教会の指導者とグーグルなどを含むシリコンバレーの企業の幹部は、ほぼ毎年開催される「ミネルバ対話」として知られている集いで対話を重ねてきた。
　その経緯もあり、この記者会見への参加が最も有力視されていたパネリストの一人が、ＡＩの研究・開発を専門とする米国企業、アンソロピックの共同創設者の一人、クリス・オラー氏だ。オラー氏は、教皇のこの業界に直接関わろうとする姿勢をたたえた。
　オラー氏は、コンピューター科学者だけではＡＩの倫理的領域を決定することはできないと認めた。なぜなら、開発者自身が野心や競争や財政難などの「いわゆるインセンティブ（動機付け要因）」に影響されてしまうためだという。
　「私たちが間違ったことをしているときに、指摘してくれる博識な批評家が必要です」とオラー氏は述べた。「そうしたインセンティブに屈することのない倫理的な声が必要なのです」
　教会は、ＡＩの経済的恩恵の公正な分配、子どもたちや雇用への技術的影響、人類の繁栄に関する広範な問いを巡る議論を形成する助けとなるとオラー氏は続けた。
　オラー氏はまた、高機能のＡＩシステムの状況を「謎に満ちて、不安定でさえある」と言い表し、研究者たちは、まだ完全に理解していないプログラム動作を見つけ出そうとしていると語った。
　バチカンの教理省長官のビクトル・マヌエル・フェルナンデス枢機卿は、この回勅は技術の発展があっても、人類は自らの尊厳を見失ってはならないと主張していると語った。
　「全ての人間は計り知れない尊厳を持っています。神が私たちを創られたときに人間に与えてくださった、愛するという最高の能力を決して失わないようにしてください」と枢機卿は念を押す。さらにこの回勅の中心をなす主張、つまり、ＡＩは苦しみ、成長し、愛するという人間の能力はまねることはできないのだという点を強調した。
　教皇の回勅は、人間は自分自身の中に、「傷のように刻み付けた教訓、自由と失敗、あるいは夢と失望の間をたどってきた記憶をもっている」と語りかけるものだ、と枢機卿は述べた。