第３章 技術と支配 ＡＩが約束するものに直面する人間の尊厳
５月２５日に発表された教皇レオ１４世の初の回勅「マニフィカ・ウマニタス」（人間の偉大さ―ＡＩの時代における人格の擁護）各章の要約を、５回にわたって紹介します。要約の原文と図版は、バチカンの総合的人間開発省が公開したものをカトリックジャパンニュースが訳したものです。回勅の公式訳は９月３０日、カトリック中央協議会から書籍として発売されます。
第３章の中心になっているのは、技術と権力と人間の間の関係の分析です。これは、人工知能（ＡＩ）が約束するものを、より広い文化変容の文脈の中に位置づけ、進歩の意味自体を問い直すことを目指しています。技術の発展は、人間の創造性の表れと見なされますが、しかし、それが唯一の判断基準になってしまうリスクに対して、回勅は注意を促します。それは、現実を測定可能、計算可能、最適化可能なものに還元するような考え方、すなわち「技術主義的なパラダイム（考え方の枠組み）」と呼ぶものになりかねないと、警告するのです。
このような展開の中で、人工知能（ＡＩ）は、私たちに現実的な利益をもたらす強力な道具となりますが、同時に、それが倫理や人間理解に関する検討を踏まえた方向づけから切り離されたときには、支配のための手段になってしまいます。
回勅は、技術の力の増大が自動的に善と一致するわけではないと警告し、「より強力であることは必ずしもより良いことを意味しない」と言います。物事を判断する決定的な基準は、人間の尊厳であって、手段の効率性ではないのです。
第３章は、人間の知能と人工知能（ＡＩ）の根本的な違いを明らかにしていきます。ＡＩシステムは、一定の言語や行動を模倣することはできても、真の人間的な経験には至りません。「人工知能は、人生を経験せず、身体を持たず、喜びや痛みを体験せず、愛、仕事、責任といったものが何を意味するかを内面から理解することもありません」。従って、人工知能は、道徳的責任を負うことも、それを駆使して下される決定の究極的な意味を理解することもできないのです。
このリスクが特に深刻になるのは、人工知能が人々の生活や評判、また自身にとっての好機や権利に対して直接、影響を及ぼす意思決定に関わるときです。そのような場合、人工知能のアルゴリズム（処理手順）が持つ一見中立的な性質が、避けがたい排除を生み出してしまうことがあります。「あることに対して誰がふさわしく、誰がふさわしくないかを全面的にアルゴリズムに任せることは、人間の可能性に対して境界線を引き直すことになり」、その結果、政治的責任や道徳的な責任意識を失うことになりかねないと、回勅は警告しています。
回勅は、進歩を人間の限界を克服することと考える人々の言説（「トランスヒューマニズム」や「ポストヒューマニズム」）にかなりの注意を払っています。それらに対して、限界は取り除かれるべき欠点ではなく、人間を人間たらしめるものだという見方を示します。「人間は限界があるにもかかわらず成長するのではなく、しばしば限界を通して成長するのです」とはっきり述べ、弱さや脆さのうちに、他者との関係性や思いやり、そして互いに開かれた心が育まれる場所があるとの理解を示しています。
（つづく）
