Zuckerberg's AI Open-Source Manifesto: Distillation Is Legal, Monopoly Is the Real Risk
- Core观点：Meta CEO Mark Zuckerberg issued a manifesto championing open source, arguing that the distribution of superintelligence power should be decentralized rather than concentrated. He emphasized individual empowerment, invention-first principles, and checks and balances on power, using these to criticize the monopolistic model of closed-source competitors while declaring Meta's commitment to an open-source path—though with a cautious approach to open-sourcing its most powerful models.
- Key Elements:
- Zuckerberg put forward the core argument that "the more centralized AI becomes, the more dangerous it is; the more decentralized, the safer," believing that superintelligence needs to be checked and balanced across multiple labs rather than monopolized by a few institutions.
- He cited the history of agricultural mechanization to counter the narrative that "AI replaces humans," predicting that AI will give rise to new professions such as one-person product studios and individual biologists, making companies smaller in scale but greater in number.
- The manifesto implicitly targets OpenAI, Anthropic, and Google for building AI for corporations and governments, tilting the balance of power toward large institutions. It also frames "distillation" as a legitimate learning behavior, directly challenging OpenAI's practice of prohibiting competitors from training on its outputs.
- Zuckerberg warned that U.S. restrictions on AI model releases would allow foreign (Chinese) models to accelerate ahead, explicitly opposing any policy that delays releases and elevating open-source competitiveness to the level of national leadership.
- Meta proposed to carefully select what it open-sources, suggesting that if a model approaches superintelligence level in the future, full open-sourcing may no longer be the default option—an alternative being an independent board to approve release safety standards.
- The manifesto also announced a "full privacy mode" commitment: AI assistants would not be able to view user data even by Meta, analogous to WhatsApp's end-to-end encryption. However, no engineering details were provided, making this merely a statement of intent.
- Meta announced a $1 billion community fund, committing to investments in data center communities, free technical training, and achieving net-positive water contribution by 2030, aimed at easing local backlash against compute expansion.
Tác giả gốc: Xiaobing
Ngày 10 tháng 8, Zuckerberg đăng một bài viết dài 6.500 từ trên trang web chính thức của Meta, với tiêu đề "The Future is for Everyone" (Tương lai dành cho tất cả mọi người). Cùng ngày, Meta mã nguồn mở Muse Glimmer, một mô hình agent với 30 tỷ tham số, sử dụng giấy phép Apache 2.0.
FT nhận định: Zuckerberg, trong khi tấn công các đối thủ mã nguồn đóng, đã giương cao ngọn cờ mã nguồn mở một lần nữa.
Toàn bộ tuyên ngôn này không nêu tên bất kỳ công ty nào, nhưng mỗi đoạn đều nhắm vào một mục tiêu cụ thể. OpenAI, Anthropic và Google là những "phòng thí nghiệm xây dựng AI cho doanh nghiệp và chính phủ" được nhắc đến trong bài viết. Zuckerberg giương cao ngọn cờ mã nguồn mở: Nếu siêu trí tuệ cuối cùng bị kiểm soát bởi một số ít tổ chức, toàn nhân loại sẽ thua cuộc.
Ba nguyên tắc, một mạch chủ đạo
Khung xương của tuyên ngôn được chống đỡ bởi ba nguyên tắc.
Trao quyền cho cá nhân là nguồn cội của sự thịnh vượng. Zuckerberg sử dụng một thí nghiệm tư duy: Nếu trên thế giới chỉ có một người sở hữu luật sư siêu trí tuệ, người này thắng mọi vụ kiện, kể cả khi anh ta sai. Nhưng nếu ai cũng có một luật sư như vậy, tư pháp sẽ trở nên công bằng hơn. Ông áp dụng logic tương tự vào an ninh mạng và cạnh tranh kinh doanh: khi tất cả mọi người đều có thể tiếp cận năng lực AI tương đương, cán cân tấn công và phòng thủ sẽ được cải thiện, và trọng tâm của cạnh tranh sẽ chuyển từ việc ai có thể tiếp cận công cụ tốt sang việc ai thực thi tốt hơn.
Phát minh ưu tiên hơn tự động hóa. Ông bác bỏ câu chuyện "AI thay thế việc làm của con người", dẫn chứng rằng trước Cách mạng công nghiệp, 90% lực lượng lao động làm nông nghiệp, và cơ giới hóa nông nghiệp không dẫn đến thất nghiệp hàng loạt mà tạo ra các ngành công nghiệp hoàn toàn mới. Ông dự đoán AI sẽ tạo ra nhiều loại nghề nghiệp mới (studio sản phẩm một người, nhà sinh học cá nhân), quy mô công ty sẽ nhỏ hơn nhưng số lượng công ty sẽ tăng lên.
Cân bằng quyền lực là nền tảng của an toàn. Đây là luận điểm cốt lõi nhất của toàn bài: sự an toàn của siêu trí tuệ được đảm bảo bằng việc nhiều phòng thí nghiệm đồng thời đạt đến năng lực tiên phong và kiề chế lẫn nhau, chứ không phải một công ty duy nhất đạt được sự căn chỉnh hoàn hảo rồi độc chiếm công nghệ. Ông nói thẳng: "Siêu trí tuệ bị kiểm soát bởi một số ít cá nhân, doanh nghiệp, chính phủ hoặc chính AI, một cách tự nhiên sẽ tạo ra kết quả bất lợi cho tất cả những người khác."
Ba nguyên tắc hướng đến cùng một kết luận: AI càng tập trung càng nguy hiểm, càng phân tán càng an toàn. Meta chọn mã nguồn mở vì mã nguồn mở tự nhiên phục vụ cho sự phân tán.
Núp bóng lời lẽ ôn hòa
Phần thực sự sắc bén của tuyên ngôn nằm trong những diễn đạt có vẻ ôn hòa.
"Hầu hết các phòng thí nghiệm khác tập trung vào việc xây dựng AI cho doanh nghiệp, chính phủ hoặc các tổ chức khác. Nếu các phòng thí nghiệm này dẫn dắt ngành công nghiệp, cán cân quyền lực sẽ nghiêng về các tổ chức lớn thay vì cá nhân."
Không nêu tên, nhưng mục tiêu rất rõ ràng: Chiến lược API doanh nghiệp của OpenAI, hợp đồng chính phủ của Anthropic, sự kiểm soát đóng kín đối với Gemini của Google. Zuckerberg cho rằng những công ty này nói về an toàn ngoài miệng, nhưng thực chất đang tạo ra sự độc quyền.
Ông viết rằng một số người cố gắng mô tả việc chưng cất (distillation) là hành vi có hại, nhưng việc bảo vệ nguyên tắc "bạn có thể học từ bất cứ điều gì bạn có thể quan sát" là vô cùng quan trọng. Câu này trực tiếp nhắm vào việc OpenAI cấm sử dụng đầu ra của mô hình mình để huấn luyện mô hình đối thủ trong các điều khoản thương mại. Zuckerberg định nghĩa việc tiếp cận tri thức là quyền cơ bản, và coi việc phong tỏa chưng cất là hành vi phản cạnh tranh.
"Bất kỳ chính sách nào trì hoãn việc phát hành mô hình của Mỹ, dù chỉ một tháng, đều có thể thêm rủi ro lớn cho vị thế lãnh đạo của Mỹ, đồng thời khiến các mô hình nước ngoài tăng tốc dẫn trước." Mục tiêu của câu này là phe quản lý AI trong nước Mỹ. Logic của Zuckerberg là: Các mô hình mã nguồn mở của Trung Quốc sẽ không dừng lại vì Mỹ tự hạn chế mình; tự trói tay trói chân chỉ là cách trao giải đấu mã nguồn mở cho người khác.
Ranh giới của mã nguồn mở ở đâu
Tuyên ngôn chứa đựng một sự chuyển hướng tinh tế.
Zuckerberg luôn là người ủng hộ mạnh mẽ nhất cho AI mã nguồn mở. Nhưng bài viết này sử dụng một câu có giới hạn: "Chúng tôi tin rằng lợi ích của siêu trí tuệ nên được chia sẻ rộng rãi nhất có thể với thế giới. Dù vậy, siêu trí tuệ sẽ đặt ra những vấn đề an toàn mới. Chúng tôi cần giảm thiểu những rủi ro này một cách nghiêm ngặt và thận trọng trong việc lựa chọn những gì để mã nguồn mở."
TechCrunch nhận định: Zuckerberg đang để lại một cánh cửa hậu cho việc không mã nguồn mở các mô hình mạnh nhất trong tương lai. Dòng Llama trước đây đều mở quyền truy cập trọng số, nhưng nếu mô hình của Meta thực sự tiến gần đến mức siêu trí tuệ, việc mã nguồn mở toàn diện có thể không còn là lựa chọn mặc định.
Giải pháp quản trị thay thế mà ông đưa ra là: Hội đồng quản trị độc lập của Meta sẽ có quyền phê duyệt các tiêu chuẩn an toàn cho việc phát hành mô hình và rà soát xem mỗi lần phát hành có tuân thủ các tiêu chuẩn đó hay không. Đây là một cam kết thể chế có thể kiểm chứng, nếu Meta công khai các tiêu chuẩn an toàn và hồ sơ rà soát. Hiện tại chỉ có cam kết, chưa có chi tiết.
Chế độ hoàn toàn riêng tư
Tuyên ngôn mô tả một tầm nhìn tương lai: mỗi người đều có một AI agent cá nhân cực kỳ mạnh mẽ, hiểu mục tiêu, sở thích và mọi thứ bạn quan tâm, hoạt động 24/7, có thể truy cập trên mọi thiết bị, "bao gồm cả kính đeo của bạn" – đây là sự dọn đường cho kính thông minh Ray-Ban và headset AR Orion của Meta.
Cam kết về quyền riêng tư đi kèm là tuyên bố kỹ thuật táo bạo nhất trong bài: một chế độ hoàn toàn riêng tư, trong chế độ này ngay cả Meta cũng không thể xem hoặc ủy quyền truy cập thông tin của bạn, trực tiếp so sánh với mã hóa đầu cuối của WhatsApp.
Một công ty kiếm tiền từ quảng cáo cam kết ra mắt một trợ lý AI mà ngay cả chính mình cũng không thể nhìn thấy dữ liệu người dùng – nếu thực sự được triển khai bằng kiến trúc mã hóa đầu cuối, đây sẽ là một quyết định kỹ thuật và kinh doanh đáng kể. Nhưng tuyên ngôn không cung cấp bất kỳ chi tiết kỹ thuật nào, hiện tại mới chỉ là một tuyên bố về ý định.
Quỹ cộng đồng 1 tỷ USD và chính trị trung tâm dữ liệu
Nội dung mới xuất hiện là một Bản Giao Ước Cộng Đồng (Community Compact). Meta cam kết đầu tư vào cộng đồng nơi đặt mỗi trung tâm dữ liệu, bao gồm việc thành lập quỹ "Tương lai dành cho tất cả" trị giá 1 tỷ USD, cung cấp đào tạo kỹ thuật miễn phí, và đạt được đóng góp tích cực về nước (lượng phục hồi vượt quá lượng tiêu thụ) trước năm 2030.
Ông đưa ra ví dụ về Richland Parish, Louisiana: các giáo viên địa phương nhận được khoản thưởng 50.000 USD nhờ nguồn thu thuế tăng từ trung tâm dữ liệu Meta gần đó. Ví dụ này phản hồi lại sự phản đối ở nhiều nơi tại Mỹ về việc các trung tâm dữ liệu AI tiêu thụ lượng lớn nước và điện.
Bài viết này dành cho ai?
Tuyên ngôn này đồng thời đối thoại với ba đối tượng.
Với các nhà quản lý: Đừng hạn chế AI mã nguồn mở của Mỹ, hạn chế chỉ giúp Trung Quốc; vấn đề an toàn được giải quyết thông qua phân tán và kiề chế, dựa vào kiểm soát tập trung lại càng nguy hiểm hơn.
Với cộng đồng nhà phát triển: Meta sẽ tiếp tục làm mã nguồn mở, Muse Glimmer chính là bằng chứng; chọn hệ sinh thái của Meta đồng nghĩa với việc bạn sẽ không bị khóa trong API của một công ty duy nhất.
Với các đối thủ cạnh tranh: Con đường mã nguồn đóng đi đến cuối cùng là độc quyền, Meta muốn biến "ai cởi mở hơn" thành một chiều cạnh cạnh tranh mới, và trên chiều cạnh này, OpenAI và Anthropic không có lợi thế bẩm sinh.
Trên X, bình luận phổ biến nhất là: đây là chiến lược cạnh tranh được ngụy trang thành tuyên ngôn triết học.
Meta hiện đang tạm thời tụt lại phía sau OpenAI và Anthropic trong cuộc đua năng lực mô hình tiên phong, vì vậy họ kéo cuộc đua từ việc ai có mô hình mạnh hơn sang việc ai cởi mở hơn, và trên đường đua phía sau, Meta có lợi thế bẩm sinh.
Tuy nhiên, xét theo hành động chứ không theo ý định, việc có nhiều mô hình mã nguồn mở hơn có lợi cho hệ sinh thái nhà phát triển, và điều này không trở nên sai trái chỉ vì động cơ của Meta là cạnh tranh thương mại.
