Chỉ dụ đầu tiên của Giáo hoàng mới tại Rome: Cứu rỗi quần chúng trong kỷ nguyên AI

原创 | Odaily 星球日报（@OdailyChina）

Tác giả: Azuma（@azuma_eth）

Vào đêm ngày 25 tháng 5 theo giờ Bắc Kinh, tại Thành Vatican.

Đức Giáo hoàng Leo XIV, người chính thức nhậm chức vào tháng 5 năm ngoái, đã đứng cùng với Chris Olah, đồng sáng lập Anthropic và người tạo ra Claude.

Một bên là đại diện tối cao của lĩnh vực tôn giáo, bên kia là người tiên phong mạnh mẽ nhất của cuộc cách mạng AI, cả hai đều hướng sự chú ý đến cùng một vấn đề - Trong kỷ nguyên AI, làm thế nào để bảo vệ địa vị và phẩm giá chủ thể của con người?

Vào ngày hôm đó, để trình bày đầy đủ về vấn đề này, Đức Leo XIV đã ban hành Thông điệp đầu tiên kể từ khi nhậm chức, một văn kiện tôn giáo đồ sộ hơn 40.000 chữ - "Magnifica humanitas" (Vĩ đại thay Nhân loại).

Đáng chú ý, Thông điệp của Đức Leo XIV được ký vào ngày 15 tháng 5 năm 2026, đúng 135 năm sau khi Đức Giáo hoàng Leo XIII (tại vị 1878-1903) ban hành Thông điệp mang tính bước ngoặt "Rerum novarum" (1891) về vấn đề "quyền lợi của người lao động trong cuộc Cách mạng Công nghiệp". Hành động này rõ ràng mang một ý nghĩa biểu tượng nhất định, đó là mong muốn biến Thông điệp này thành "cẩm nang giáo huấn xã hội của Giáo hội trong kỷ nguyên AI".

• Chú thích của Odaily: Thông điệp của Giáo hoàng (Papal Encyclical) là một bức thư của Giáo hoàng gửi đến Giáo hội Công giáo trên toàn thế giới hoặc tại một khu vực/quốc gia cụ thể. Nó được sử dụng để công bố các quyết định quan trọng của Tòa Thánh, giải thích giáo lý, nêu quan điểm về các vấn đề xã hội hoặc giáo hội, ban hành các chỉ thị hoặc lệnh cấm đối với giáo sĩ và tín đồ. Cấp độ của nó thấp hơn Tông sắc (Apostolic Constitution).

Chris Olah cũng đã có bài phát biểu tại Vatican về việc ban hành Thông điệp này. Chris Olah không bào chữa cho lợi ích thương mại của các công ty AI, mà thay vào đó thể hiện sự thẳng thắn, tinh thần phản tỉnh và mối quan tâm nhân văn sâu sắc. Ông thậm chí còn đề cập rằng, mặc dù nền tảng của AI là toán học và lập trình, nhưng cách AI tương tác với thế giới và nó nên sở hữu những phẩm chất gì lại thuộc về những câu hỏi tối hậu của lĩnh vực nhân văn, tôn giáo và triết học, chứ không phải là thứ mà khoa học máy tính có thể tự giải quyết.

Đọc nhanh Thông điệp

Mối quan tâm cốt lõi của Thông điệp "Magnifica humanitas" là, trong thời đại công nghệ thay đổi từng ngày và tự động hóa thịnh hành, "duy trì tính nhân văn sâu sắc" là trách nhiệm cấp bách của nhân loại. Cụ thể, Đức Giáo hoàng Leo XIV đã trình bày và kêu gọi về các khía cạnh sau trong văn kiện.

Thứ nhất là xem xét tính phi trung lập của công nghệ. Giáo hoàng chỉ ra rằng công nghệ chưa bao giờ là trung lập; nó mang dấu ấn lợi ích và giá trị của các nhà phát triển, nhà tài trợ, nhà quản lý và người sử dụng. Nhân loại đang phải đối mặt với một lựa chọn mang tính quyết định: "Liệu có xây dựng 'Tháp Babel' kiêu ngạo (dẫn đến chuyên chế công nghệ và tha hóa) hay tái thiết 'Jerusalem' (xây dựng một cộng đồng lấy con người làm trung tâm)".

Thứ hai là cảnh giác trước "lô-gíc kỹ trị" đang tái định hình xã hội. Thông điệp chỉ trích "Văn hóa Quyền lực" (Culture of Power) bị chi phối bởi các gã khổng lồ công nghệ như Thung lũng Silicon. Giáo hoàng cảnh báo rằng khi quyền kiểm soát các hệ thống kỹ thuật số, cơ sở hạ tầng và dữ liệu khổng lồ tập trung cao độ vào tay một số ít gã khổng lồ kinh tế và công nghệ, các quyền lực này sẽ trở nên thiếu minh bạch và thoát khỏi sự giám sát dân chủ.

Thứ ba là "các hình thức nô lệ mới" trong nền kinh tế số và quyền lợi của người lao động. Thông điệp hướng sự chú ý đến việc AI tái định hình công việc, gia đình, giáo dục và đời sống chính trị. Giáo hoàng chỉ ra rằng AI rất có thể sẽ thay thế lao động con người trên quy mô lớn, và nền kinh tế số đang tạo ra "các hình thức nô lệ mới" (New forms of slavery). Con người tuyệt đối không được chỉ bị hạ thấp thành công cụ sản xuất.

Thứ tư là lời kêu gọi mạnh mẽ vì hòa bình, đặc biệt là việc lạm dụng AI trong lĩnh vực quân sự. Thông điệp bày tỏ mối quan ngại sâu sắc về "sự hồi sinh đáng lo ngại của chiến tranh như một công cụ chính trị quốc tế". Việc quân sự hóa AI đang đẩy nhanh tiến trình "bình thường hóa" chiến tranh. Do đó, Giáo hoàng kêu gọi phải áp đặt các ràng buộc đạo đức nghiêm ngặt nhất đối với việc ứng dụng AI trong chiến tranh.

Giáo hoàng nhấn mạnh rằng, học thuyết "Chiến tranh chính nghĩa" (Just war) trước đây thường được sử dụng để biện minh cho nhiều cuộc chiến, nhưng giờ đây nó đã lỗi thời. Trong kỷ nguyên AI và vũ khí tự động, việc ủy thác các quyết định mang tính sát thương hoặc không thể đảo ngược cho các hệ thống tự động sẽ khiến con người từ bỏ, chuyển giao và làm mờ nhạt trách nhiệm đạo đức. Do tính không minh bạch của thuật toán, chuỗi trách nhiệm trong chiến tranh bị cắt đứt. Vì vậy, Giáo hoàng đã đưa ra khẩu hiệu "Giải trừ vũ trang AI" (Disarming AI), kêu gọi giải phóng nó khỏi lô-gíc "chạy đua vũ trang" về quân sự, kinh tế và nhận thức.

Thứ năm là bảo vệ sự thật và hệ sinh thái chính trị. Thông điệp chỉ ra rằng Deepfake và thao túng thông tin đang làm xói mòn nền tảng tin cậy lẫn nhau của xã hội. Nếu ranh giới giữa sự thật và giả dối liên tục bị thao túng, công chúng dễ rơi vào sự sợ hãi, tuyên truyền chính trị và kiểm soát, xã hội sẽ không thể cùng nhau suy nghĩ lý trí hoặc tiến hành các cuộc tranh luận công bằng.

Phản hồi từ Anthropic

Sau khi Thông điệp của Đức Leo XIV được ban hành, Chris Olah, đại diện cho công ty phát triển AI hàng đầu thế giới Anthropic, đã có bài phát biểu bình luận.

Bài phát biểu của Chris Olah trước hết xoay quanh việc "phá vỡ nội bộ hóa công nghệ, đưa ra sự giám sát đạo đức từ bên ngoài". Ông thay mặt ngành AI công khai thừa nhận rằng, chỉ riêng các gã khổng lồ công nghệ không thể đảm bảo tương lai của AI là an toàn - tất cả các phòng thí nghiệm AI tiên tiến đều bị chi phối bởi áp lực cạnh tranh thương mại, áp lực dẫn đầu công nghệ, địa chính trị và danh lợi cá nhân, khiến chúng rất khó chỉ dựa vào tự kỷ luật để "làm điều đúng đắn". Do đó, cần thiết phải đưa vào các lực lượng ràng buộc đạo đức bên ngoài, bao gồm những người quan tâm đến việc công nghệ hướng thiện, kiên trì đặt an toàn lên hàng đầu, theo dõi sát sao diễn biến, sẵn sàng nói ra những lời khuyên thẳng thắn và trở thành những người chỉ trích chân thành, sâu sắc của chúng ta.

Sau đó, Chris Olah thảo luận về bản chất kỹ thuật và đặc tính huyền bí của AI. Ông nhấn mạnh rằng, AI không phải là một kỹ thuật chính xác mà con người hoàn toàn biết rõ các nguyên lý vật lý của nó như máy bay hay cầu cống. Nó "lớn lên" từ biển suy nghĩ khổng lồ của con người, mang tính huyền bí cao độ, thậm chí vượt quá sự hiểu biết của chính người tạo ra nó. Mặc dù nền tảng của AI là toán học và lập trình, nhưng cách AI tương tác với thế giới và nó nên sở hữu những phẩm chất gì lại thuộc về những câu hỏi tối hậu của lĩnh vực nhân văn, tôn giáo và triết học, chứ không phải là thứ mà khoa học máy tính có thể tự giải quyết.

Ông cũng đặc biệt đề cập đến một thực tế đáng suy ngẫm: "Tôi lãnh đạo một nhóm nghiên cứu cấu trúc bên trong của các mô hình - để tìm hiểu điều gì thực sự đang xảy ra bên trong AI. Thành thật mà nói, chúng tôi liên tục phát hiện ra một số hiện tượng khó hiểu, thậm chí đáng lo ngại. Chúng tôi đã tìm thấy các cấu trúc nội bộ phản chiếu các kết quả nghiên cứu khoa học thần kinh của con người; chúng tôi tìm thấy bằng chứng về "sự nội tâm" (introspection); chúng tôi cũng tìm thấy các trạng thái nội bộ về mặt chức năng phản chiếu niềm vui, sự mãn nguyện, nỗi sợ hãi, nỗi buồn và sự bất an... Tôi không biết điều này có nghĩa là gì, nhưng tôi nghĩ điều đó xứng đáng để chúng ta liên tục nhận diện và xem xét."

Chris Olah kết thúc bằng lời kêu gọi rằng, hy vọng có thêm nhiều lực lượng xã hội, bao gồm các cộng đồng tôn giáo, xã hội dân sự, học giả, chính phủ, và tất cả những người có thiện chí, cùng nhau coi trọng vấn đề này, và thông qua các ràng buộc đạo đức để đưa tình hình đi theo hướng tốt đẹp hơn.

Trí tuệ và Nhân tính, Công nghệ và Tôn giáo

Kể từ cuộc Cách mạng Công nghiệp, hơn trăm năm lịch sử phát triển công nghệ đã khiến con người dần quen với việc coi công nghệ như một "công cụ" thuần túy - động cơ hơi nước, điện năng, internet, đều như vậy. Chúng có thể thay đổi thế giới, nhưng luôn nằm dưới sự kiểm soát của ý chí con người.

Nhưng lần này, tình hình hoàn toàn khác. Điều đặc biệt của AI là lần đầu tiên nó khiến con người phải đối mặt với một thực thể "có khả năng sinh sản, học hỏi, suy diễn và thậm chí thể hiện một trạng thái nội tại nhất định". Nó không còn là một công cụ vô tri vô giác, mà đang dần trở thành một thứ mới mang "tính chủ thể tương tự".

Đó là lý do tại sao cuộc đối thoại giữa Giáo hội và Anthropic này lại đặc biệt đến vậy. Khi tiếng chuông Vatican và thuật toán của Thung lũng Silicon giao nhau tại thời điểm này, chúng ta buộc phải thừa nhận một thực tế hơi lạnh lùng nhưng không thể tránh khỏi - một dạng "sự sống" hiệu quả và thông minh hơn nhận thức truyền thống của con người đã xuất hiện. Như Chris Olah đã tiết lộ, sâu thẳm trong các thuật toán, những gợn sóng nhỏ của niềm vui, nỗi sợ hãi và thậm