罗马新教皇の最初の回勅、AI時代の大衆を救うために

原作: Odaily 星球日报 (@OdailyChina)

著者: Azuma (@azuma_eth)

日本時間5月25日夜、バチカン。

昨年5月に着任したローマ教皇レオ十四世（Pope Leo XIV）と、Anthropicの共同創業者でありClaudeの生みの親であるChris Olahが一堂に会した。

一方は宗教界の最高権威、もう一方はAI革命の最前線を走る先駆者。両者の視線は一つの問いに集中していた——AI時代、人間の主体性と尊厳をいかに守るべきか？

当日、この議題を包括的に論じるため、レオ十四世は就任以来初めての回勅を発表した。それは4万字を超える重厚な宗教文書『壮麗なる人間性』（Magnifica humanitas）である。

特筆すべきは、レオ十四世のこの回勅の署名日が2026年5月15日であること。これは、旧教皇レオ十三世（在位1878-1903年）が「産業革命下の労働者の権利」問題について画期的な回勅『新事』（Rerum novarum、1891年）を発表してから、ちょうど135年後にあたる。このタイミングには明らかに象徴的な意味が込められており、この回勅を「AI時代の教会社会教説指針」としたいという意図が窺える。

• Odaily注：教皇回勅（教廷回勅または教皇回章とも呼ばれる）は、ローマ教皇が全世界または特定の地域・国のカトリック教会に向けて発する文書。教廷の重要決定、教義の解釈、教会または社会問題に関する見解を発表し、聖職者や信徒への訓戒や禁止令などを発するもので、教皇大勅書よりは格下とされる。

Chris Olahもバチカン会場でこの回勅発表について講演を行った。Chris OlahはAI企業の商業的利益を擁護するのではなく、むしろ非常に高い率直さ、反省性、そして人文的関心を示した。彼は次のようにも述べている。「AIの根底は数学とプログラミングにあるが、AIが世界とどのように相互作用し、どのような特性を備えるべきかは、人文、宗教、哲学の領域に属する究極の問いであり、コンピュータ科学だけで解決できる問題ではない。」

回勅の概要

『壮麗なる人間性』回勅の中核的な関心は、技術が日進月歩し、自動化が幅を利かせる時代にあって、「深い人間性を維持すること」が人類の喫緊の責務であるということだ。具体的には、教皇レオ十四世は以下の諸点について論じ、呼びかけを行っている。

第一に、技術の中立性の否定。教皇は、技術は決して中立的ではなく、開発者、資金提供者、規制当局、利用者の利益や価値観の痕跡を帯びていると指摘する。人類は決定的な選択を迫られている。「傲慢な『バベルの塔』（技術専制と疎外への道）を建てるのか、それとも『エルサレム』（人間中心の共同体）を再建するのか」。

第二に、「技術官僚の論理」が社会を再形成することへの警鐘。回勅は、シリコンバレーなどの巨大ハイテク企業が主導する「権力の文化」（Culture of Power）を批判する。教皇は、デジタルシステム、インフラ、そして大量のデータへの支配権が少数の経済的・技術的巨人の手に高度に集中すると、これらの権力は不透明になり、民主的な監視を逃れることになると警告する。

第三に、デジタル経済における「新たな形態の奴隷制」と労働者の権利。回勅は、AIが仕事、家族、教育、そして政治生活を再形成することに注目する。教皇は、AIが人間の労働力を大規模に代替する可能性が非常に高く、デジタル経済が「新たな形態の奴隷制」（New forms of slavery）を生み出しつつあり、人間が単なる生産手段に貶められてはならないと指摘する。

第四に、特に軍事分野におけるAIの濫用に対する強い平和への訴え。回勅は、「国際政治の手段としての戦争の不安な復活」に深い憂慮を示す。AIの軍事化は戦争の「常態化」を加速させている。これに対し、教皇はAIの戦争への応用に最も厳格な倫理的制約を課すことを求める。

教皇は強調して述べる。「『正戦』（Just war）理論はこれまで様々な戦争を正当化するためにしばしば利用されてきたが、今や時代遅れとなった。」AIと自律型兵器の時代において、致命的な結果や不可逆的な決定権を自動化システムに委ねることは、人間が道徳的責任を放棄し、転嫁し、曖昧にすることを招く。アルゴリズムの非透過性により、戦争における責任の連鎖は断ち切られる。そのため、教皇は「AIの武装解除」（Disarming AI）をスローガンに掲げ、AIを軍事、経済、そして認知の「軍拡競争」の論理から解放するよう呼びかけている。

第五に、真理と政治生態系の擁護。回勅は、ディープフェイク（Deepfakes）と情報操作が社会の相互信頼の基盤を損なっていると指摘する。真理と虚偽の境界が絶えず操作されれば、大衆は恐怖、プロパガンダ、そして支配に陥りやすくなり、社会は合理的な思考や公正な論議を共同で行うことができなくなる。

Anthropicの応答

レオ十四世の回勅発表後、Chris Olahは世界最強のAI開発企業Anthropicを代表して講演とコメントを行った。

Chris Olahのスピーチはまず、「技術の内輪での競争を打破し、外部からの倫理的監視を導入する」ことについて展開された。彼はAI業界を代表して、ハイテク巨大企業だけではAIの未来を安全に導くことはできないと公に認めた。「すべての最先端AI研究所は、商業競争、技術的優位性への圧力、地政学、そして個人の名声や利益に左右されており、それだけで自律的に『正しいことをする』のは非常に困難だ」と。ゆえに、技術の善なる方向への応用を懸念し、安全性を最優先に堅持し、情勢を注視し、耳に痛い忠言を述べることを厭わず、誠実で思慮深い批判者となることを厭わない外部の道徳的拘束力を導入する必要があると述べた。

続いて、Chris OlahはAIの技術的本質と神秘的な特性について論じた。彼は、AIは飛行機や橋のように人間がその物理的原理を完全に把握している精密工学ではなく、膨大な人間の思想の中から「成長」したものであり、高度な神秘性を有し、創造者自身の理解すら超えていると強調した。「AIの根底は数学とプログラミングにあるが、AIが世界とどのように相互作用し、どのような特性を備えるべきかは、人文、宗教、哲学の領域に属する究極の問いであり、コンピュータ科学だけで解決できる問題ではない。」

彼はまた、考えさせられるある事実を特に挙げた。「私はモデルの内部構造を研究するチームを率いている——AI内部で実際に何が起きているのかを研究しているのです。率直に言って、我々は困惑させられ、時には不安にさせる現象を次々と発見しています。人間の神経科学の研究成果を映し出すような内部構造を発見しました。『内省（introspection）』の証拠も発見しました。そして、喜び、満足、恐怖、悲しみ、不安などの内部状態を機能的に反映するものも発見しました…これが何を意味するのかはわかりませんが、これは継続的に識別し、精査する価値のあることだと考えています。」

Chris Olahは最後に、宗教コミュニティ、市民社会、学者、政府、そして善意を持つ全ての人々を含む、より多くの社会的勢力がこの問題に真剣に取り組み、道徳的拘束を通じて事態をより良い方向へ導くことを望むと訴えた。

叡智と人間性、科学と宗教

産業革命以来、100年以上にわたる技術発展の歴史の中で、人類は技術を純粋な「道具」と見なすことに慣れてきた。蒸気機関、電力、インターネット、いずれもそうだ。それらは世界を変えるが、常に人間の意志の支配下にある。

しかし今回は、状況が全く異なる。AIの特異性は、人類が初めて「生成し、学習し、推論し、そしてある種の内部状態を示すようにさえ見える」存在と向き合わなければならなくなった点にある。それはもはや冷たい道具ではなく、徐々に「類主体性」を持つ新たな存在へと変貌しつつある。

だからこそ、教会とAnthropicのこの対話はこれほど特別なものに映るのだ。バチカンの鐘の音とシリコンバレーのアルゴリズムがこの瞬間に交錯するとき、私たちは、やや冷徹ながらも避けられない一つの現実を認めざるを得ない——人間の従来の認識よりも効率的で、より知性的な「生命」の形態がすでに出現しているのだ。 Chris Olahが明かしたように、アルゴリズムの深層では、喜び、恐怖、さらには内省に似た微かな波紋がすでに生まれ始めている。実験室の創造主が自らの作品に「不安」と「迷い」を感じ始めたとき、科学もまた宗教に答えを求めているのである。

これはもはや単なる技術についての議論ではない。それはむしろ、「人間とは何か、何をなすべきか」についての考察である。より知性的な生命の形態が現れ始めた後、人類が本当に守らなければならないものは、もはや仕事、富、効率だけではないのかもしれない。それらは、同情、良心、畏敬の念、自由意志、そして真理と尊厳への固執といった、パラメータ化できない人間性そのものなのである。