Anthropic CEO bàn về việc làm chậm phát triển AI: Ngành này đã nói dối quá lâu rồi, rủi ro AI là có thật, nhưng cũng không cần "tắt hết mọi thứ"

Tác giả gốc: Long Yue

Nguồn gốc: Wallstreetcn

Đúng vào cuối tuần mà ba gã khổng lồ AI toàn cầu hiếm hoi cùng nhau kêu gọi "làm chậm nghiên cứu AI", CEO của Anthropic, Dario Amodei, đã ngồi trước ống kính CBS và nói về những rủi ro mà AI có thể gây ra cho nhân loại.

Ngày 13 tháng 9, Amodei đã nhận lời phỏng vấn độc quyền của chương trình "Sunday Morning" trên CBS. Ngay từ đầu cuộc phỏng vấn, người dẫn chương trình Jo Ling Kent đã đặt câu hỏi thẳng thắn: Liệu AI có thực sự có thể giết chết tất cả chúng ta trong tương lai không xa?

Amodei cho biết đã có người cố gắng sử dụng AI để nghiên cứu vũ khí sinh học, tăng cường khả năng lây nhiễm của virus, và đây là điều ông phải đối mặt mỗi ngày khi thức dậy.

Chỉ hai ngày trước, chúng tôi đã công bố một báo cáo về việc ai đó lạm dụng mô hình AI để nghiên cứu vũ khí sinh học. Mỗi sáng thức dậy tôi đều đọc những báo cáo mối đe dọa kiểu này — có người đang cố sử dụng mô hình của chúng tôi để nghiên cứu vũ khí sinh học. Tất nhiên tôi không muốn phải chịu trách nhiệm về điều đó.

Ông cũng đề cập rằng các biện pháp bảo vệ an toàn sinh học của Anthropic nghiêm ngặt đến mức "gần như mỗi ngày đều có người trên mạng xã hội chế giễu tôi, sinh viên ngành sinh học phàn nàn rằng mô hình không dùng được". Phản hồi của ông là: "Tôi thà bị chế giễu còn hơn một ngày nào đó thức dậy và phát hiện có người đã dùng Claude để giết một nhóm người."

Tuy nhiên, ông phản đối cách "đóng cửa mô hình AI" — một biện pháp "cắt ngang" để làm chậm AI. Nếu một mô hình AI đủ mạnh, có thể không thể tắt nó đi được. Ông nói: "Không phải là hôm nay chúng ta cần hoảng loạn, cũng không phải là phải tắt tất cả mọi thứ. Nhưng chúng ta cần đảm bảo rằng các biện pháp bảo vệ an toàn, khả năng hiểu biết và khả năng kiểm soát của chúng ta có thể theo kịp tốc độ phát triển của công nghệ."

Cuộc phỏng vấn này diễn ra vào một thời điểm đặc biệt. Cùng cuối tuần đó, một bài blog của Amodei có tiêu đề "Chúng ta phải đạp phanh cho AI tiên phong" (We Must Pace the Frontier) đã gây ra làn sóng tranh luận dữ dội, và ngay sau đó nhận được sự ủng hộ công khai lần lượt từ Musk và Altman. Cộng đồng mạng bàn tán rằng, việc "đạp phanh" khi AI đang tiến nhanh sẽ giáng đòn nặng vào "giao dịch AI".

Điểm uốn của đường cong hàm mũ: Không phải báo động cấp năm, nhưng là tín hiệu cảnh báo

Jo Ling Kent hỏi: Hiện tại có phải là "báo động cấp năm" không? Câu trả lời của Amodei là:

Đây là một tín hiệu cảnh báo. Không phải là hôm nay chúng ta cần hoảng loạn, cũng không phải là phải tắt tất cả mọi thứ. Nhưng đây là một tín hiệu cảnh báo, cho thấy chúng ta cần làm chậm lại, cần đảm bảo rằng các biện pháp bảo vệ an toàn, khả năng hiểu biết và khả năng kiểm soát của chúng ta có thể theo kịp tốc độ phát triển của công nghệ.

Ông dùng đường cong hàm mũ để mô tả vị trí hiện tại: "Công nghệ này đang tăng trưởng theo cấp số nhân — 1, 2, 4, 8, 16, 32... Hiện tại chúng ta đang ở khúc cua nơi đường cong bắt đầu trở nên dốc hơn."

Ông thừa nhận rằng ngay cả bản thân ông cũng không hoàn toàn lường trước được tiến độ sẽ nhanh đến vậy: "Dù tôi luôn tự nhủ về điều này, tôi cũng chưa thực sự cảm nhận được rằng khi tiến độ thực sự nhanh đến vậy, cảm giác thực tế sẽ như thế nào."

Kế hoạch ba bước: Chuyên gia đánh giá độc lập là cốt lõi

Amodei đã trình bày chi tiết kế hoạch ba bước mà ông đề xuất trong bài blog, trong đó bước đầu tiên được ông coi là quan trọng nhất.

Bước một: Chuyên gia đánh giá độc lập nhúng.

"Tôi đề xuất đưa vào các chuyên gia đánh giá bên ngoài được nhúng, đến từ các tổ chức phi lợi nhuận bên thứ ba, hoặc một ngày nào đó từ các cơ quan chính phủ, họ có thể quan sát toàn bộ quá trình chúng tôi huấn luyện và vận hành mô hình."

Ông ví điều này như thanh tra viên thực phẩm, nhưng Jo Ling Kent hỏi tiếp: Khi công nghệ thay đổi nhanh đến vậy, thanh tra viên thực phẩm có thể theo kịp không?

Câu trả lời của Amodei khá thú vị: "Một trong những điều họ có thể làm là cho chúng tôi biết họ có thể theo kịp với tốc độ nào. Điều này có thể trở thành một trong những yếu tố đặt giới hạn trên cho tốc độ tiến triển của công nghệ."

Bước hai: Nhiều công ty cùng nhau xây dựng tiêu chuẩn an toàn.

"Bước tiếp theo là nhiều bên tham gia trong ngành cũng đồng ý đưa vào các chuyên gia đánh giá bên thứ ba. Sau đó, các công ty cần cùng nhau xây dựng tiêu chuẩn an toàn khi phát hành, có thể bao gồm cả tiêu chuẩn về nhịp độ phát hành. Nhưng để làm được điều này, phải có sự tham gia của chính phủ."

Bước ba: Chính phủ phải có mặt.

"Chúng ta đang nói về vấn đề liệu tốc độ phát hành sản phẩm có an toàn hay không. Chúng ta cần tiến hành cuộc đối thoại này với sự hiện diện của chính phủ."

"Công tắc tắt AI": Không phải thuốc vạn năng, nhưng cũng không phải ý tồi

Jo Ling Kent đề cập đến dự luật "Công tắc tắt AI" do nghị sĩ Ted Leo đề xuất, và hỏi liệu Amodei có ủng hộ không.

Amodei cho biết ông chưa nghiên cứu kỹ dự luật đó, nhưng có thái độ thận trọng đối với bản thân khái niệm "công tắc tắt AI":

Ý tưởng có thể vô hiệu hóa, hạn chế hoặc tắt mô hình AI không phải là giải pháp duy nhất. Nếu một mô hình AI đủ mạnh, nó có thể lách qua các nỗ lực tắt nó — chúng tôi cũng đã thấy điều này trong mô phỏng. Vậy nên nó có thể hoàn toàn không có tác dụng.

Ông dùng "mô hình phô mai Thụy Sĩ" để giải thích triết lý an toàn của mình: "Hãy tưởng tượng một miếng phô mai Thụy Sĩ, nó có thể chặn được một số thứ, nhưng có lỗ hổng. Nhưng nếu tôi xếp năm miếng phô mai Thụy Sĩ chồng lên nhau, với các lỗ hổng ở vị trí khác nhau trên từng lớp, thì rất khó để xuyên qua toàn bộ chồng đó. Không có bất kỳ điều gì duy nhất có thể bảo vệ chúng ta khỏi rủi ro AI, chúng ta phải thận trọng trên toàn bộ chuỗi."

Đối với "Dự luật cấm trí tuệ siêu nhân nhân tạo" do Thượng nghị sĩ Sanders và Hạ nghị sĩ Casar đề xuất — dự luật sẽ áp đặt "án tử hình doanh nghiệp" đối với các công ty và cá nhân liên quan và mức án tù tối đa 20 năm — Amodei rõ ràng không đồng tình với hướng cấm hoàn toàn:

Cấm hoàn toàn không phải là hướng đi đúng đắn. Chúng ta sẽ mãi mãi không thể có được những lợi ích đáng kinh ngạc đó, mãi mãi không thể có được những đột phá y tế, điều này khiến tôi không thể chấp nhận.

Trách nhiệm cá nhân: Cha ông mất vì viêm gan C, bản thân ông từng mắc ung thư giai đoạn sớm

Gần cuối cuộc phỏng vấn, Jo Ling Kent hỏi: Đối mặt với tình huống vận mệnh nhân loại có thể đang gặp nguy hiểm, ông cảm nhận được bao nhiêu trách nhiệm cá nhân?

Câu trả lời của Amodei hiếm khi mang màu sắc cá nhân.

Cha tôi mất vì viêm gan C, căn bệnh đó vào thời điểm ông qua đời có tỷ lệ chữa khỏi khoảng 40%, ông không phải là người được chữa khỏi. Chỉ vài năm sau khi ông qua đời, một loại thuốc có thể nâng tỷ lệ chữa khỏi lên 95% đã được phát minh. Bản thân tôi cũng từng mắc ung thư giai đoạn sớm, nếu tôi sống vào năm 1950, có lẽ tôi đã chết. Vì vậy tôi cảm nhận sâu sắc sức nặng của việc thúc đẩy công nghệ này mang lại lợi ích.

Nhưng tôi cũng cảm nhận được rủi ro. Tất nhiên, tôi không muốn phải chịu trách nhiệm về điều đó. Đó là lý do tại sao chúng tôi có các biện pháp bảo vệ an toàn rất mạnh mẽ.

Ông đồng thời nhấn mạnh rằng đây không nên chỉ là trách nhiệm của một mình ông hay một công ty Anthropic: "Điều này lớn hơn tất cả chúng ta. Chúng ta cần tìm ra một cách để mọi người đều có tiếng nói trong vấn đề này. Tôi không muốn mọi người cảm thấy bất lực. Tôi không muốn họ cảm thấy rằng một vài công ty chỉ đang làm những gì họ muốn."

Phản hồi về chỉ trích từ cựu nhân viên: Anh ấy nói và tôi nói là cùng một điều

Jo Ling Kent đề cập rằng cựu nhân viên Anthropic, Jacob Coxin, đã công khai nói rằng cả Anthropic và OpenAI "đều không hành động có trách nhiệm", "các người đang đánh cược bằng mạng sống của chúng tôi".

Phản hồi của Amodei là:

Có một điểm trong những gì Jacob nói không được trích dẫn nhiều — anh ấy cũng nói rằng anh ấy cho rằng Anthropic là công ty có trách nhiệm nhất trong số các bên tham gia chính, chúng tôi rất nỗ lực để làm đúng mọi việc. Điều anh ấy thực sự chỉ ra cũng chính là điều tôi đang chỉ ra: tình thế khó khăn mang tính cấu trúc mà tất cả chúng ta đều đang ở trong đó, và kế hoạch tôi đề xuất chính là để giúp chúng ta giải quyết vấn đề này.

Ông bổ sung rằng Anthropic mỗi ngày đều liên lạc với các quan chức chính phủ tại Bộ Thương mại, Bộ Tài chính và cộng đồng tình báo, "nói cho họ mọi điều chúng tôi biết".

Lời nhắn gửi đến người dùng thông thường: Ngành công nghiệp đã nói dối về rủi ro quá lâu

Cuối cuộc phỏng vấn, Jo Ling Kent hỏi: Đối với người dùng thông thường đang ngồi ở nhà sử dụng Claude hoặc ChatGPT, ông muốn nói gì?

Amodei nói: "Trước hết, đây là một công nghệ tuyệt vời, có nhiều ứng dụng tích cực. Mỗi tuần có hàng trăm triệu người sử dụng công nghệ của chúng tôi để làm những điều tốt đẹp. Mỗi tuần tôi đều nhận được thư từ ai đó nói rằng Claude đã chẩn đoán được căn bệnh mà bác sĩ của họ bỏ sót."

Nhưng tôi sẽ không nói dối bạn. Thực sự có những nguy hiểm có thật. Tôi cho rằng ngành công nghiệp này đã nói dối mọi người quá lâu