Một cuộc chia rẽ làm thay đổi cục diện AI: Mối ân oán thầm kín giữa OpenAI và Anthropic

Tác giả gốc: Long Yue

Nguồn gốc: Wallstreetcn

Tháng 12 năm 2020, những phút cuối cùng của một cuộc họp video toàn công ty tại OpenAI đã thay đổi hoàn toàn cục diện ngành AI.

Jack Clark, khi đó là người phụ trách chính sách của OpenAI, gõ "Tôi yêu tất cả các bạn" vào ô chat, màn hình lập tức tối đen — bảy thành viên cốt lõi của OpenAI bị đá ra khỏi cuộc họp cùng lúc, quyền truy cập email bị thu hồi, tài khoản Slack bị xóa, laptop bị khóa từ xa. Đây không phải là tai nạn, mà là điểm kết thúc của một sự chia rẽ đã được âm mưu từ lâu.

Bảy người này là những người bị Dario Amodei mang đi. Khi đó ông là Phó Chủ tịch Nghiên cứu của OpenAI, người thúc đẩy cốt lõi của GPT-2 và GPT-3, cũng là người đã viết một bài luận 26 trang nội bộ, đặt nền móng cho lộ trình công nghệ mô hình lớn. Lý do ông rời đi không phải vì tiền, không phải vì chức vụ, mà vì ông cho rằng ban lãnh đạo OpenAI — đặc biệt là Sam Altman — hoàn toàn không thể tin tưởng được.

Ngày 29 tháng 9, theo tiết lộ của phóng viên Kevin Roose của tạp chí The Atlantic sau nhiều năm và phỏng vấn hơn 150 người liên quan, nguồn gốc của sự chia rẽ này có thể truy ngược về một kế hoạch nội bộ năm 2017 có tên "Countries Plan", cùng sự nghi ngờ, cãi vã và cảm giác bị phản bội tích tụ trong ba năm sau đó.

Năm năm sau, Anthropic do bảy người đó thành lập đã có hàng nghìn nhân viên, đang song hành cùng OpenAI tiến thẳng tới AGI. Nhưng mối quan hệ giữa Dario và Altman, theo nhiều nguồn tin thân cận, cho đến nay vẫn là "coi thường lẫn nhau".

Bài luận 26 trang đó, và tham vọng của Amodei

Năm 2016, Dario Amodei rời Google, gia nhập OpenAI.

Ông đeo kính gọng tròn, mái tóc xoăn màu nâu, có thói quen dùng ngón tay cuộn lọn tóc khi căng thẳng hoặc suy nghĩ. Đồng nghiệp nói ông là "thiên tài, nhưng cố chấp".

Ảnh chụp màn hình video Dario Amodei

Cách ông thể hiện quan điểm là viết bài dài.

Năm 2017, ông viết một bài viết nội bộ dài 26 trang, tựa đề "Khối tính toán lớn" (Big Blob of Compute). Bài viết đưa ra: trí tuệ máy móc về bản chất là một hàm của quy mô — mô hình càng lớn, càng thông minh.

Phán đoán này đã đẩy hướng nghiên cứu của OpenAI về phía mô hình ngôn ngữ lớn (LLM), cũng đặt nền móng cho GPT-2 và GPT-3 sau này.

Đáng lẽ ra, sự nghiệp của Amodei đang ở đỉnh cao. Nhóm của ông không chỉ đề xuất "Định luật mở rộng (Scaling Laws)" dự đoán sự cải thiện hiệu năng mô hình, mà còn tiên phong công nghệ "Học tăng cường từ phản hồi của con người (RLHF)" giúp mô hình tránh đầu ra có hại.

Nhưng ông ngày càng chắc chắn rằng mình sẽ không ở lại phát triển GPT-4.

"Countries Plan": kế hoạch khiến ông hoàn toàn thất vọng

Amodei mất niềm tin vào ban lãnh đạo công ty.

Ông cho rằng Sam Altman là một "kẻ thao túng hai mặt", còn Chủ tịch Greg Brockman thì "tham quyền và liều lĩnh". Ông phản đối quyết định thương mại hóa OpenAI của họ, cho rằng điều này đi ngược lại mục đích ban đầu "không bị ràng buộc bởi nhu cầu tạo ra lợi nhuận tài chính".

Điều khiến ông phản cảm hơn là cuộc đấu đá phe phái nội bộ.

Một người từng trao đổi với Amodei tiết lộ, Amodei khi đó cho rằng OpenAI chỉ là "một trò hề", được "điều hành bởi những người thiếu chính trực". Người này nói thẳng: "Ngày nào cũng có khủng hoảng mới, nếu Dario không nổi giận một trận ra trò, thì trong vòng 24 giờ Sam sẽ lại làm một việc điên rồ mới."

Ngòi nổ đã được châm từ năm 2017.

Khi đó Musk đang rút khỏi OpenAI, công ty cần vốn gấp. Theo năm nguồn tin thân cận, Brockman và Ilya Sutskever đã hình thành một phương án gây quỹ có tên "Kế hoạch quốc gia" ("Countries Plan"): tổ chức đấu giá giữa chính phủ Hoa Kỳ và các cường quốc khác, bán quyền đối với công nghệ AGI tương lai của OpenAI.

Logic của Brockman và Sutskever là: AGI có ý nghĩa an ninh quốc gia cực mạnh, sớm muộn gì cũng sẽ bị chính phủ giành lấy từ tay doanh nghiệp tư nhân. Đằng nào cũng phải giao ra, sao không bán ngay bây giờ để lấy vốn phát triển?

"Nghe cứ như một người trong giới công nghệ đang chào bán một startup điên rồ, họ có một kế hoạch kỳ quặc, bước cuối cùng hóa ra là: chúng tôi sẽ để chính phủ trả tiền." Một người từng nghe trình bày kế hoạch này nhớ lại.

Amodei sững sờ. Ông cho rằng việc chào bán AGI cho chính phủ đi ngược lại sứ mệnh của OpenAI.

Tháng 12 năm 2017, ông viết một email gửi Brockman, Sutskever và các giám đốc khác, lời lẽ thẳng thắn:

"Theo tôi thấy, kế hoạch này không những không giảm mà còn làm trầm trọng thêm cuộc chạy đua vũ trang, có thể gây ra những hành động tàn bạo vi phạm nhân quyền… và sẽ phá hủy tính chính danh đạo đức của OpenAI." Ông kiên quyết rằng OpenAI nên tối ưu vì "lợi ích của nhân loại".

Người phát ngôn của OpenAI sau đó nói với The Atlantic rằng công ty "từng thoáng cân nhắc liệu có nên chuyển OpenAI thành một dự án hợp tác quốc tế hay không", nhưng "chưa bao giờ cân nhắc bán AGI cho bất kỳ quốc gia nào".

Kế hoạch này cuối cùng bị gác lại vì Microsoft tham gia. Nhưng Dario không quên rằng Brockman và Sutskever từng thảo luận nghiêm túc về một ý tưởng mà ông cho là "ghê tởm về mặt đạo đức".

Niềm tin cạn dần: danh sách ẩn, điều khoản mua lại bị phủ quyết và sự kiện Kanye

Trong hai năm sau đó, vết nứt ngày càng lớn. Amodei bắt đầu ghi lại những khoảnh khắc ông cho rằng bị Altman đánh lừa.

Ví dụ, trong giai đoạn thử nghiệm nội bộ riêng tư của GPT-3, Amodei yêu cầu Altman cung cấp danh sách khách hàng được phê duyệt. Altman gửi cho ông một danh sách. Nhưng Amodei sau đó tuyên bố rằng ông phát hiện một danh sách được phê duyệt khác dài hơn, mà Altman không hề nhắc đến.

Một ví dụ khác, khi đàm phán khoản đầu tư 1 tỷ USD với Microsoft, Amodei cố gắng giữ lại "điều khoản sáp nhập và hỗ trợ" trong điều lệ OpenAI — tức là nếu xuất hiện một dự án AGI an toàn hơn, OpenAI nên ngừng cạnh tranh và hỗ trợ đối phương. Ông kiên quyết rằng Microsoft không có quyền phủ quyết việc OpenAI có thể bị mua lại trong tương lai (đây là cách khả thi nhất để thực hiện hỗ trợ sáp nhập).

Altman nói với ông rằng Microsoft không đồng ý điều khoản này. Nhưng Amodei tin chắc rằng Altman đã nhượng bộ (hoặc thậm chí không đề cập) vì vội vàng chốt thương vụ, rồi nói dối ông.

Còn có những quyết định kinh doanh trông có vẻ hoang đường khiến Amodei không thể chịu đựng. Năm 2020, Altman gặp rapper Kanye West và đề nghị cho anh ta tham gia thử nghiệm nội bộ GPT-3. Khi đó Kanye vừa phát hành video được cho là đang tiểu vào cúp Grammy, tinh thần cực kỳ bất ổn. Giám đốc chính sách Jack Clark cuối cùng đã đứng ra dập tắt ý tưởng nguy hiểm này.

Những việc này nếu nhìn riêng lẻ có lẽ chưa đủ để khiến người ta từ chức. Nhưng trong đầu Amodei, chúng ghép lại thành một kết luận: tuyệt đối không thể giao một công nghệ mạnh mẽ như AGI vào tay những người như vậy.

"Hội đồng cố vấn thú nhồi bông", và một nhóm nhỏ an toàn ngày càng bị cô lập

Em gái của Amodei, Daniela Amodei, cũng cảm thấy chán ngấy OpenAI.

Là một nhà quản lý từng làm việc trong chính trường, có trí tuệ cảm xúc cao, Daniela trở thành sự bổ sung cho sự cuồng nhiệt kỹ thuật của anh trai. Nhưng khi cô tiếp quản nhiều nhóm kỹ thuật hơn, xung đột với ban lãnh đạo ngày càng tăng.

Ảnh chụp màn hình video Daniela Amodei

Thú vị là Daniela có một cơ chế xử lý xung đột độc đáo — hội đồng cố vấn thú nhồi bông.

Cô và thành viên hội đồng quản trị Holden Karnofsky thu thập rất nhiều thú nhồi bông, và phân vai cho chúng: Jinji là một con mèo lười biếng, khuyến khích cô hủy cuộc họp, làm ít việc; gấu hồng Maura là một nhà quản lý kiểu A chú trọng chi tiết; gấu trúc Beary Bonds là "thần hộ mệnh của sự hào phóng và đồng cảm". Cô dùng cách nửa đùa nửa thật này để nhập vai quản lý.

Đến năm 2020, anh em nhà Amodei bắt đầu xây dựng vòng tròn cốt lõi của riêng mình trong nội bộ OpenAI.

Họ lập các kênh Slack riêng tư, đầy những "tiếng lóng an toàn" mà người ngoài kỹ thuật không hiểu. Đồng nghiệp cũ nhớ lại: "Dario khi đó có thói quen nói thẳng: chúng ta phải làm X; đây là việc đúng về mặt đạo đức. Nó giống như con đường tắt để thắng mọi cuộc tranh luận — 'vì an toàn'. Điều này khiến các nhóm phi an toàn cực kỳ bực bội."

Năm 2019, Amodei từng muốn bỏ cuộc, thậm chí cân nhắc chuyển sang DeepMind. Nhưng giáo sư vật lý Jared Kaplan, người phụ trách nghiên cứu định luật mở rộng, đưa ra một ý tưởng mang tính đột phá hơn: đã bất đồng quan điểm, sao không mang theo tất cả những người coi trọng an toàn, tự mở công ty?

Năm 2020, cùng năm GPT-3 ra mắt, Amodei tập hợp đủ 7 nhà đồng sáng lập.

Trước khi hoàn toàn ngã bài, Amodei đưa ra một loạt điều kiện ở lại với Altman, bao gồm trao cho nhóm an toàn "quyền phủ quyết" đối với việc phát hành sản phẩm mới. Ông biết điều này phần lớn sẽ bị từ chối, chỉ mong qua đó buộc Altman nhượng bộ.

Tr