Tiêu đề gốc: "d/acc: một năm sau"

Tác giả gốc: Vitalik Buterin, người sáng lập Ethereum

Biên soạn gốc: Tỏi tây, Tin tức tầm nhìn xa

Tóm tắt: Bài viết tập trung vào khái niệm tăng tốc phi tập trung (d/acc) và thảo luận về ứng dụng cũng như thách thức của nó trong phát triển công nghệ, bao gồm bảo mật và giám sát trí tuệ nhân tạo, mối liên hệ của nó với tiền điện tử và tài trợ hàng hóa công cộng, v.v., nhấn mạnh tầm quan trọng của d /acc để xây dựng một thế giới an toàn và tốt đẹp hơn cũng như những cơ hội và thách thức cho sự phát triển trong tương lai. Tác giả giải thích sâu sắc về ý nghĩa của d/acc, phân tích vai trò của nó trong việc xử lý rủi ro trí tuệ nhân tạo bằng cách so sánh các chiến lược khác nhau và thảo luận về giá trị của tiền điện tử cũng như việc khám phá các cơ chế tài trợ hàng hóa công cộng. sự phát triển công nghệ trong tương lai Nhân loại vẫn có cơ hội xây dựng một thế giới tốt đẹp hơn bằng những công cụ và ý tưởng hiện có.

Lời nói đầu

Đặc biệt cảm ơn các tình nguyện viên như Liraz Siri, Janine Leger và Balvi vì những phản hồi và đánh giá của họ.

Khoảng một năm trước, tôi đã viết một bài báo về sự lạc quan về công nghệ, trong đó tôi trình bày sự nhiệt tình chung của mình đối với công nghệ và những lợi ích to lớn mà nó có thể mang lại, đồng thời bày tỏ sự thận trọng của tôi về một số vấn đề cụ thể. trí tuệ và nguy cơ bị hủy diệt hoặc sự mất mát không thể khắc phục được về sức người nếu công nghệ này không được xây dựng đúng cách.

Một trong những điểm cốt lõi của tôi trong bài viết đó là triết lý tăng tốc phòng thủ phi tập trung, dân chủ và khác biệt. Cần phải tăng tốc phát triển công nghệ nhưng cũng phải tập trung đặc biệt vào những công nghệ giúp cải thiện khả năng phòng thủ của chúng ta thay vì gây tổn hại và thúc đẩy phân cấp quyền lực thay vì tập trung quyền lực vào tay một số ít giới tinh hoa và tránh quyền sở hữu của những người đại diện của những người ưu tú này. Mọi người quyết định điều gì là đúng và sai, thiện và ác. Mô hình phòng thủ nên là mô hình của Thụy Sĩ dân chủ và khu vực gần như vô chính phủ trong lịch sử của Zomia, thay vì mô hình các lãnh chúa và lâu đài được đại diện bởi chế độ phong kiến thời trung cổ.

Trong năm kể từ đó, những khái niệm và ý tưởng này đã phát triển và trưởng thành đáng kể. Tôi đã chia sẻ những suy nghĩ này về 80.000 Hours, một tổ chức tập trung vào các lựa chọn nghề nghiệp và nhận được rất nhiều phản hồi, hầu hết đều tích cực nhưng một số lại chỉ trích.

Bản thân công việc này tiếp tục tiến triển và mang lại những kết quả rõ ràng: chúng tôi đang chứng kiến sự tiến bộ trong lĩnh vực vắc xin nguồn mở có thể kiểm chứng được; nhận thức về giá trị của không khí trong nhà trong lành tiếp tục ngày càng sâu sắc; a Một công cụ thông tin có năm đột phá, đối số kiến thức không tương tác ngắn gọn, không có kiến thức (ZK - SNARK được sử dụng trong nhận dạng của chính phủ và phương tiện truyền thông xã hội (và bảo mật ví Ethereum thông qua việc trừu tượng hóa tài khoản); các công cụ hình ảnh nguồn mở được sử dụng trong y học và giao diện máy tính-não (BCI), v.v.

Vào mùa thu năm ngoái, chúng tôi đã tổ chức sự kiện d/acc quan trọng đầu tiên: "Ngày khám phá d/acc" (d/aDDy) được tổ chức tại Devcon. Sự kiện quy tụ mọi người từ tất cả các trụ cột của d/acc (sinh học, vật lý, mạng, bảo vệ thông tin và công nghệ thần kinh), sự kiện này kéo dài suốt cả ngày. Những người đã làm việc trên các công nghệ này trong nhiều năm đang ngày càng nhận thức rõ hơn về công việc của nhau và những người bên ngoài ngày càng nhận thức rõ hơn về tầm nhìn lớn hơn: rằng những giá trị giống nhau thúc đẩy Ethereum và tiền điện tử có thể được mở rộng ra thế giới rộng lớn hơn.

Ý nghĩa và ký hiệu của d/acc

Thời gian trôi qua đến năm 2042. Bạn thấy một mẩu tin trên phương tiện truyền thông về một đợt bùng phát mới có thể xảy ra ở thành phố của bạn. Bạn đã quen với điều đó: Mọi người có xu hướng phản ứng thái quá với mọi đột biến bệnh ở động vật mà trong phần lớn các trường hợp, chúng không bao giờ dẫn đến một cuộc khủng hoảng thực sự. Hai đợt bùng phát tiềm ẩn trước đó đã được phát hiện sớm và ngăn chặn thành công từ trong trứng nước thông qua giám sát nước thải và phân tích nguồn mở trên mạng xã hội. Tuy nhiên, lần này mọi thứ đã khác và các thị trường dự đoán đang cho thấy 60% khả năng xảy ra ít nhất 10.000 trường hợp, điều này sẽ khiến bạn lo lắng.

Mới hôm qua, trình tự di truyền của virus đã được xác định. Bản cập nhật phần mềm dành cho máy kiểm tra không khí trong túi của bạn sắp ra mắt, mang đến cho người kiểm tra khả năng phát hiện vi-rút mới (thông qua một lần kiểm tra hơi thở hoặc sau 15 phút tiếp xúc với không khí trong nhà trong phòng). Trong khi đó, các hướng dẫn và mã nguồn mở để tạo ra vắc xin, sử dụng thiết bị mà bất kỳ cơ sở y tế hiện đại nào trên thế giới đều có thể tiếp cận được, dự kiến sẽ được phát hành trong vòng vài tuần tới. Hầu hết mọi người vẫn chưa có hành động nào và chủ yếu dựa vào các biện pháp lọc không khí và thông gió trên diện rộng để giữ an toàn cho bản thân.

Bạn thận trọng hơn vì các vấn đề miễn dịch của chính mình: AI trợ lý cá nhân nguồn mở do địa phương mà bạn đang sử dụng có tính đến dữ liệu kiểm tra không khí theo thời gian thực và dữ liệu CO2, bên cạnh các tác vụ thông thường như điều hướng, nhà hàng và khuyến nghị hoạt động. Chúng tôi chỉ đề xuất những nơi an toàn nhất cho bạn. Dữ liệu này được cung cấp bởi hàng nghìn người tham gia và thiết bị, đồng thời với sự trợ giúp của ZK-SNARK và công nghệ bảo mật khác biệt, nguy cơ dữ liệu bị rò rỉ hoặc sử dụng sai mục đích cho các mục đích khác sẽ được giảm thiểu (nếu bạn cố tình đóng góp cho các bộ dữ liệu này, bạn cũng có thể Có những AI trợ lý cá nhân khác xác minh rằng các công cụ mã hóa này thực sự hoạt động).

Hai tháng sau, dịch bệnh đã tiêu tan một cách kỳ diệu: 60% người dân dường như đang tuân theo các quy trình cơ bản, đó là đeo khẩu trang khi người kiểm tra không khí phát ra cảnh báo và cho thấy sự hiện diện của vi rút, đồng thời ở nhà nếu có người có kết quả xét nghiệm dương tính. Chính động thái này đủ để giảm hơn nữa tốc độ truyền vốn đã giảm đáng kể do lọc không khí mạnh thụ động xuống dưới 1. Một mô phỏng cho thấy một căn bệnh có thể tồi tệ hơn gấp 5 lần so với đại dịch coronavirus hai thập kỷ trước nhưng ngày nay không có tác động nghiêm trọng.

ngày d/acc tại Devcon

Một kết quả cực kỳ tích cực của sự kiện d/acc tại Devcon là khái niệm d/acc đã thành công trong việc gắn kết mọi người từ các lĩnh vực khác nhau lại với nhau và thực sự khơi dậy sự quan tâm sâu sắc đến công việc của nhau.

Để tổ chức một sự kiện có “sự đa dạng” không khó nhưng để thiết lập được sự gắn kết chặt chẽ giữa những người có hoàn cảnh, sở thích khác nhau lại không phải là điều dễ dàng. Tôi vẫn còn nhớ những ký ức sống động về việc bị buộc phải xem những vở opera dài tập ở trường cấp hai và cấp ba mà cá nhân tôi thấy nhàm chán. Tôi biết mình "phải" thưởng thức chúng vì nếu không tôi sẽ bị coi là kẻ lười biếng về khoa học máy tính ít học, nhưng tôi đã không kết nối được với nội dung của vở opera ở mức độ sâu hơn. Tuy nhiên, không khí tại ngày d/acc hoàn toàn khác: có vẻ như mọi người thực sự thích thú khi tìm hiểu về nhiều công việc khác nhau trong các lĩnh vực khác nhau.

Việc xây dựng liên minh rộng rãi này là cần thiết nếu chúng ta khao khát một tương lai tươi sáng hơn sự thống trị, suy thoái và hủy diệt. d/acc dường như đã đạt được những kết quả đáng chú ý về mặt này, điều này làm nổi bật giá trị của khái niệm này.

Ý tưởng cốt lõi của d/acc rất đơn giản và rõ ràng: tăng tốc phòng thủ phi tập trung, dân chủ và khác biệt. Xây dựng công nghệ giúp cân bằng giữa tấn công và phòng thủ theo hướng có lợi cho phòng thủ và thực hiện điều đó mà không cần dựa vào việc trao thêm quyền lực cho cơ quan trung ương. Có một mối liên hệ chặt chẽ cố hữu giữa hai khía cạnh này: bất kỳ loại cấu trúc chính trị phi tập trung, dân chủ hoặc tự do nào cũng sẽ có xu hướng phát triển mạnh khi quốc phòng dễ thực hiện và sẽ gặp phải những thách thức nghiêm trọng khi quốc phòng khó thực hiện - —Trong những trường hợp đó, nhiều khả năng kết quả là một thời kỳ hỗn loạn trong đó mọi người đọ sức với nhau, lên đến đỉnh điểm là trạng thái cân bằng bị thống trị bởi kẻ mạnh nhất.

Một cách để hiểu tầm quan trọng của việc cố gắng đạt được sự phân cấp, khả năng phòng thủ và tăng tốc cùng một lúc là đối chiếu nó với triết lý nảy sinh từ việc từ bỏ bất kỳ khía cạnh nào trong ba khía cạnh này.

Biểu đồ từ My Tech Optimism năm ngoái

Phân quyền tăng tốc nhưng phần “phòng thủ khác biệt” bị bỏ qua

Về bản chất, điều này tương tự như việc trở thành một nhà tăng tốc (e/acc) hiệu quả nhưng đồng thời theo đuổi sự phân cấp. Có nhiều người áp dụng cách tiếp cận này, một số người trong số họ tự gọi mình là d/acc, nhưng họ mô tả một cách hữu ích rằng trọng tâm của họ là "xúc phạm". Ngoài ra, còn có nhiều người khác bày tỏ sự nhiệt tình vừa phải hơn đối với “trí tuệ nhân tạo phi tập trung” và các chủ đề tương tự, nhưng theo tôi, họ tỏ ra thiếu quan tâm rõ rệt đến khía cạnh “phòng thủ”.

Theo tôi, cách tiếp cận này có thể tránh được nguy cơ một nhóm người nào đó áp đặt chế độ độc tài lên nhân loại toàn cầu, nhưng nó không giải quyết được vấn đề cơ cấu cơ bản: trong một môi trường thuận lợi cho hành vi phạm tội, luôn có khả năng xảy ra rủi ro thảm họa. hoặc ai đó sẽ định vị mình là người bảo vệ và thống trị vĩnh viễn. Trong trường hợp của AI, nó cũng không giải quyết được thỏa đáng nguy cơ nhân loại nói chung bị mất quyền lực trước AI.

Phòng thủ khác biệt tăng tốc nhưng bỏ qua “phân quyền và dân chủ”

Việc chấp nhận kiểm soát tập trung để đạt được các mục tiêu bảo mật sẽ luôn có sức hấp dẫn nhất định đối với một số người và chắc chắn người đọc sẽ quen thuộc với nhiều ví dụ trong số này cũng như những hạn chế mà chúng mang lại. Gần đây, một số người đã bày tỏ lo ngại rằng kiểm soát tập trung cực độ có thể là cách duy nhất để đối phó với các công nghệ cực đoan trong tương lai: Ví dụ, hãy xem xét một kịch bản giả định trong đó “mọi người đều đeo 'thẻ miễn phí'—ám chỉ đến những hạn chế hơn ngày nay. các thiết bị giám sát có thể đeo được.” Các sản phẩm tiếp theo, tương tự như thẻ đeo ở mắt cá chân được sử dụng thay thế cho nhà tù ở một số quốc gia…video và âm thanh được mã hóa liên tục được tải lên và giải thích bởi máy móc trong thời gian thực.” Tuy nhiên, có một số vấn đề với việc kiểm soát tập trung. Một hình thức kiểm soát tập trung tương đối lành tính thường bị bỏ qua nhưng vẫn có hại, thể hiện ở việc phản đối sự giám sát của công chúng trong lĩnh vực công nghệ sinh học (ví dụ: thực phẩm, vắc xin) và các tiêu chuẩn nguồn đóng cho phép sự phản kháng đó không bị cản trở.

Rủi ro của cách tiếp cận này là hiển nhiên, tức là bản thân trung tâm thường trở thành nguồn gốc của rủi ro. Chúng tôi đã thấy điều này trong đại dịch COVID-19, nơi nghiên cứu đạt được chức năng được tài trợ bởi nhiều chính phủ lớn trên thế giới có thể là nguồn gốc của đại dịch và nhận thức luận tập trung đã dẫn đến việc Tổ chức Y tế Thế giới từ chối thừa nhận rằng COVID-19 trong nhiều năm. -19 lây lan qua không khí và các quy định bắt buộc về vắc xin và giãn cách xã hội đã gây ra phản ứng dữ dội về mặt chính trị có thể kéo dài hàng thập kỷ. Tình huống tương tự rất có thể xảy ra lần nữa trong bất kỳ kịch bản rủi ro nào liên quan đến trí tuệ nhân tạo hoặc các công nghệ rủi ro khác. Ngược lại, cách tiếp cận phi tập trung sẽ giải quyết hiệu quả hơn các rủi ro từ chính trung tâm.

Phân cấp phòng thủ, nhưng loại trừ khả năng tăng tốc

Về cơ bản, đây là một nỗ lực nhằm làm chậm tiến bộ công nghệ hoặc thúc đẩy suy thoái kinh tế.

Thách thức với chiến lược này là gấp đôi. Thứ nhất, tăng trưởng kinh tế và công nghệ nói chung là vô cùng có lợi cho nhân loại, và bất kỳ sự chậm trễ nào trong đó sẽ mang lại những tổn thất khôn lường. Thứ hai, trong một thế giới không toàn trị, sự trì trệ gây mất ổn định: những người “gian lận” nhiều nhất và có thể tìm ra những cách tưởng chừng như hợp lý để tiếp tục thăng tiến sẽ chiếm thế thượng phong. Chiến lược giảm tốc có thể phát huy tác dụng ở một mức độ nhất định trong một số trường hợp nhất định: chẳng hạn, thực phẩm châu Âu tốt cho sức khỏe hơn thực phẩm Mỹ, và cho đến nay, việc không phổ biến vũ khí hạt nhân đã thành công. Tuy nhiên, những chiến lược này có thể không phải lúc nào cũng hiệu quả.

Thông qua d/acc, chúng tôi cố gắng đạt được các mục tiêu sau:

• Tuân thủ các nguyên tắc của chúng tôi trong một thế giới ngày càng mang tính bộ lạc, thay vì chỉ xây dựng mọi thứ một cách mù quáng - thay vào đó, chúng tôi mong muốn xây dựng những thứ cụ thể sẽ giúp thế giới trở thành một nơi an toàn hơn, tốt đẹp hơn.

• Nhận thức được rằng tiến bộ công nghệ theo cấp số nhân đồng nghĩa với việc thế giới sẽ trở nên vô cùng kỳ lạ và “dấu chân” tổng thể của loài người trong vũ trụ chắc chắn sẽ tăng lên. Khả năng của chúng ta trong việc bảo vệ động vật, thực vật và con người dễ bị tổn thương khỏi bị tổn hại phải tiếp tục được cải thiện và con đường duy nhất phía trước là tiến về phía trước.

• Xây dựng công nghệ thực sự bảo vệ chúng ta, thay vì dựa trên giả định rằng những người tốt (hoặc AI tốt) đang nắm quyền. Chúng tôi làm điều này bằng cách xây dựng các công cụ có hiệu quả tự nhiên hơn khi được sử dụng để xây dựng và bảo vệ so với khi được sử dụng để phá hủy.

Một cách khác để nghĩ về d/acc là quay trở lại khuôn khổ đã hình thành nên phong trào Đảng Cướp biển Châu Âu vào cuối những năm 2000: trao quyền.

Mục tiêu của chúng tôi là xây dựng một thế giới bảo tồn quyền tự quyết của con người và đạt được quyền tự do tiêu cực, tức là tránh sự can thiệp tích cực của người khác (dù là công dân, chính phủ hay robot siêu thông minh) vào khả năng định hình vận mệnh của chính mình, đồng thời đạt được tự do tích cực, tức là. Hãy đảm bảo rằng chúng ta có kiến thức và nguồn lực để thực hành khả năng này. Điều này phản ánh truyền thống hàng thế kỷ của chủ nghĩa tự do cổ điển bao gồm sự tập trung của Stuart Brand vào “sự thu thập công cụ” và sự nhấn mạnh của John Stuart Mill về việc đặt giáo dục và quyền tự do cạnh nhau như những yếu tố then chốt của sự tiến bộ của con người— Người ta cũng có thể bổ sung thêm vào tầm nhìn của Buckminster Fuller rằng vấn đề toàn cầu -quá trình giải quyết có sự tham gia và phân phối rộng rãi. Trong bối cảnh công nghệ của thế kỷ 21, chúng ta có thể coi d/acc là một cách để đạt được những mục tiêu tương tự.

Khía cạnh thứ ba: phát triển phối hợp để tồn tại và thịnh vượng

Trong bài viết của tôi năm ngoái, d/acc tập trung cụ thể vào các công nghệ phòng thủ: phòng thủ vật lý, phòng thủ sinh học, phòng thủ mạng và phòng thủ thông tin. Tuy nhiên, chỉ phòng thủ phi tập trung thôi là chưa đủ để xây dựng một thế giới vĩ đại: chúng ta cũng cần một tầm nhìn tích cực và hướng tới tương lai về những gì nhân loại có thể đạt được với sự phân cấp và an ninh mới.

Bài viết năm ngoái đã chứa đựng một tầm nhìn tích cực ở hai khía cạnh:

1. Khi tập trung vào thách thức của siêu trí tuệ, tôi đã đề xuất một con đường (không phải là nguyên gốc đối với tôi) về cách chúng ta có thể đạt được siêu trí tuệ mà không mất đi sức mạnh:

• Ngày nay, trí tuệ nhân tạo được xây dựng như một công cụ chứ không phải là một tác nhân có tính tự trị cao.

• Trong tương lai, các công cụ như thực tế ảo, công nghệ cơ điện và giao diện não-máy tính sẽ được sử dụng để thiết lập cơ chế phản hồi chặt chẽ hơn giữa trí tuệ nhân tạo và con người.

• Thời gian trôi qua, nó dần dần tiến tới kết quả cuối cùng, đó là siêu trí tuệ là sản phẩm của sự tích hợp chặt chẽ giữa máy móc và con người.

2. Khi nói về bảo vệ thông tin, tôi cũng đã đề cập rằng ngoài các công nghệ xã hội phòng thủ nhằm giúp cộng đồng duy trì sự gắn kết và tiến hành các cuộc thảo luận chất lượng cao khi đối mặt với những kẻ tấn công, còn có những công nghệ xã hội tiến bộ có thể giúp ích cho cộng đồng. đưa ra những đánh giá chất lượng cao dễ dàng hơn: Pol.is là một ví dụ và điều này cũng đúng với các thị trường dự đoán.

Nhưng vào thời điểm đó, hai điểm này dường như không liên quan đến lập luận cốt lõi của d/acc: “Đây là một số ý tưởng về việc xây dựng một thế giới dân chủ hơn, thân thiện với quốc phòng hơn ở cấp độ cơ bản, và nhân tiện, đây là một số ý tưởng về cách chúng ta có thể đạt được đó. Những suy nghĩ không liên quan của một siêu trí tuệ”.

Tuy nhiên, tôi tin rằng trên thực tế có một số mối liên hệ quan trọng giữa các công nghệ d/acc được gắn nhãn ở trên là "phòng thủ" và "tiến bộ". Hãy mở rộng biểu đồ d/acc từ bài viết năm ngoái bằng cách thêm trục này vào biểu đồ (và gắn nhãn lại cho nó là “sống sót và phát triển”) để xem kết quả trông như thế nào:

Có một mô hình nhất quán trong nhiều lĩnh vực khác nhau, đó là khoa học, ý tưởng và công cụ có thể giúp chúng ta “sống sót” trong một lĩnh vực nhất định có liên quan chặt chẽ với khoa học, ý tưởng và công cụ có thể giúp chúng ta “phát triển”. Dưới đây là một số ví dụ cụ thể:

• Nhiều nghiên cứu chống Covid-19 gần đây đã tập trung vào sự tồn tại của virus trong cơ thể, đây được coi là cơ chế chính trong vấn đề Covid-19. Gần đây, cũng có ý kiến cho rằng sự tồn tại của virus có thể là yếu tố gây ra bệnh Alzheimer. Nếu điều này đúng thì việc giải quyết sự tồn tại của virus trong tất cả các loại mô có thể là chìa khóa để vượt qua những thách thức của lão hóa.

• Các công cụ hình ảnh nhỏ và chi phí thấp, chẳng hạn như những công cụ đang được Openwater phát triển, có tiềm năng mạnh mẽ để điều trị bệnh huyết khối vi mô, sự tồn tại của virus, ung thư và cũng có thể có các ứng dụng trong lĩnh vực giao diện não-máy tính.

• Các khái niệm thúc đẩy việc xây dựng các công cụ xã hội phù hợp với môi trường có tính đối kháng cao (chẳng hạn như Ghi chú của cộng đồng) và các công cụ xã hội dành cho môi trường hợp tác hợp lý (chẳng hạn như Pol.is) rất giống nhau.

• Thị trường dự đoán có giá trị trong cả môi trường hợp tác cao và đối đầu cao.

• Bằng chứng không có kiến thức và các công nghệ tương tự thực hiện tính toán trên dữ liệu đồng thời bảo vệ quyền riêng tư, điều này không chỉ làm tăng lượng dữ liệu có sẵn cho công việc hữu ích như nghiên cứu khoa học mà còn tăng cường bảo vệ quyền riêng tư.

• Năng lượng mặt trời và pin có ý nghĩa quan trọng trong việc thúc đẩy làn sóng tăng trưởng kinh tế sạch tiếp theo, đồng thời vượt trội về khả năng phân quyền và khả năng phục hồi vật chất.

Ngoài ra, còn có sự phụ thuộc lẫn nhau quan trọng giữa các lĩnh vực chủ đề khác nhau:

• Giao diện não-máy tính đóng vai trò quan trọng như một công nghệ cộng tác và bảo vệ thông tin vì nó cho phép giao tiếp phức tạp hơn về suy nghĩ và ý định của chúng ta. Giao diện não-máy tính không chỉ là sự kết nối giữa robot và ý thức: nó còn có thể là sự tương tác giữa ý thức-robot-ý thức. Điều này phản ánh giá trị của giao diện não-máy tính trong khái niệm đa nguyên.

• Nhiều công nghệ sinh học dựa vào việc chia sẻ thông tin và trong nhiều trường hợp, mọi người chỉ sẵn sàng chia sẻ thông tin nếu họ tin tưởng rằng thông tin đó sẽ chỉ được sử dụng cho một ứng dụng cụ thể. Điều này dựa vào công nghệ bảo mật (chẳng hạn như bằng chứng không có kiến thức, mã hóa đồng hình hoàn toàn, công nghệ che giấu, v.v.).

• Công nghệ cộng tác có thể được sử dụng để điều phối tài trợ cho bất kỳ lĩnh vực công nghệ nào khác.

Câu hỏi khó: An toàn AI, thời gian chặt chẽ và những vấn đề nan giải về quy định

Những người khác nhau có các mốc thời gian AI rất khác nhau. Biểu đồ từ Zuzalu, Montenegro năm 2023.

Những phản đối thuyết phục nhất mà tôi nhận được cho bài viết của mình năm ngoái đến từ cộng đồng an toàn AI. Lập luận đưa ra: “Tất nhiên, nếu chúng ta có nửa thế kỷ để phát triển AI mạnh mẽ, chúng ta có thể tập trung vào việc xây dựng tất cả những thứ có lợi này. Nhưng trên thực tế, có vẻ như chúng ta chỉ có ba năm để phát triển AI nói chung, ba năm nữa. để đạt được trí tuệ siêu việt Vì vậy, nếu chúng ta không muốn thế giới chìm vào sự hủy diệt hoặc gặp phải những rắc rối không thể khắc phục được, chúng ta không thể tăng tốc phát triển các công nghệ có lợi, chúng ta cũng phải làm chậm sự phát triển của các công nghệ có hại, điều mà chúng ta phải làm. có nghĩa là thông qua các biện pháp quản lý mạnh mẽ có thể chọc giận kẻ có quyền lực." Trong bài viết của tôi năm ngoái, tôi đã không đề xuất bất kỳ chiến lược cụ thể nào để “làm chậm sự phát triển của các công nghệ có hại”, ngoài một lời cầu xin mơ hồ là không xây dựng các dạng siêu trí tuệ đầy rủi ro. Vì vậy, ở đây, cần phải đi thẳng vào câu hỏi: Nếu chúng ta ở trong một thế giới kém lý tưởng nhất, nơi rủi ro của AI là cực kỳ cao và thời gian có lẽ chỉ là 5 năm, tôi sẽ ủng hộ những biện pháp quản lý nào?

Những lý do cần thận trọng với quy định mới

Năm ngoái, đề xuất quản lý AI quan trọng là dự luật SB-1047 của California. SB-1047 yêu cầu các nhà phát triển các mô hình mạnh nhất (những mô hình tốn hơn 100 triệu đô la để đào tạo hoặc hơn 10 triệu đô la để tinh chỉnh) phải thực hiện một loạt các biện pháp kiểm tra bảo mật trước khi phát hành. Ngoài ra, các nhà phát triển mô hình AI sẽ phải chịu trách nhiệm nếu họ không thực hiện đầy đủ sự cẩn trọng. Nhiều nhà phê bình cho rằng dự luật "đặt ra mối đe dọa đối với nguồn mở"; Tôi không đồng tình với điều này vì ngưỡng chi phí có nghĩa là nó chỉ ảnh hưởng đến các mô hình mạnh nhất: ngay cả mô hình Llama 3 cũng có thể nằm dưới ngưỡng đó. Tuy nhiên, nhìn lại, tôi nghĩ dự luật có một vấn đề nghiêm trọng hơn: giống như hầu hết các quy định, nó đã được điều chỉnh quá mức so với tình hình hiện tại. Việc tập trung vào chi phí đào tạo đã tỏ ra mong manh trước các công nghệ mới: mẫu DeepSeek v3 hiện đại gần đây chỉ tốn 6 triệu USD để đào tạo và trong các mẫu mới hơn như O1, chi phí thường tăng vọt do đào tạo nhiều hơn. được chuyển sang giai đoạn suy luận.

Các tác nhân có nhiều khả năng chịu trách nhiệm nhất về các kịch bản phá hủy siêu trí tuệ nhân tạo

Trên thực tế, các tác nhân có nhiều khả năng phải chịu trách nhiệm nhất cho một kịch bản hủy diệt siêu trí tuệ nhân tạo là quân đội. Như chúng ta đã chứng kiến trong hơn nửa thế kỷ qua về an toàn sinh học (và trước đó), quân đội sẵn sàng thực hiện một số hành động khủng khiếp và chúng cực kỳ dễ mắc sai lầm. Ngày nay, ứng dụng trí tuệ nhân tạo trong lĩnh vực quân sự đang phát triển nhanh chóng (chẳng hạn như ứng dụng ở Ukraine và Gaza). Và bất kỳ quy định an ninh nào được chính phủ thông qua sẽ mặc định miễn trừ quân đội của chính họ và các công ty hợp tác chặt chẽ với quân đội.

chiến lược đối phó

Tuy nhiên, những lập luận này không phải là lý do để bất lực. Thay vào đó, chúng ta có thể sử dụng chúng làm hướng dẫn và cố gắng xây dựng các quy tắc ít gây ra những lo ngại nhất.

Chiến lược 1: Trách nhiệm

Nếu hành động của ai đó gây ra tổn hại có thể bị kiện về mặt pháp lý theo cách nào đó thì họ có thể bị kiện. Điều này không giải quyết được vấn đề rủi ro do quân đội và các chủ thể "ngoài luật pháp" khác gây ra, nhưng đó là một cách tiếp cận rất chung nhằm tránh trang bị quá mức và do đó, nghiêng về chủ nghĩa tự do. Các nhà kinh tế thường ủng hộ cách tiếp cận này.

Các mục tiêu trách nhiệm chính được xem xét cho đến nay như sau:

• Người dùng: Người sử dụng trí tuệ nhân tạo.

• Người triển khai: Người trung gian cung cấp dịch vụ trí tuệ nhân tạo cho người dùng.

• Nhà phát triển: Người xây dựng trí tuệ nhân tạo.

Việc đặt trách nhiệm lên người dùng dường như phù hợp nhất với các biện pháp khuyến khích. Mặc dù mối liên hệ giữa cách một mô hình được phát triển và cách nó được sử dụng cuối cùng thường không rõ ràng, nhưng người dùng sẽ xác định chính xác cách sử dụng AI. Việc buộc người dùng phải chịu trách nhiệm sẽ tạo ra áp lực mạnh mẽ trong việc sử dụng AI theo cách mà tôi nghĩ là đúng đắn: tập trung vào việc xây dựng bộ đồ cơ khí cho tâm trí con người thay vì tạo ra các dạng sống thông minh tự duy trì mới. Cái trước đáp ứng ý định của người dùng một cách thường xuyên và do đó không dẫn đến những hành động thảm khốc trừ khi người dùng mong muốn. Loại thứ hai có rủi ro lớn nhất, đó là nó có thể mất kiểm soát và kích hoạt kịch bản "trí tuệ nhân tạo mất kiểm soát" cổ điển. Một lợi ích khác của việc đặt trách nhiệm pháp lý càng gần mục đích sử dụng cuối cùng càng tốt là nó giảm thiểu rủi ro trách nhiệm pháp lý khiến mọi người thực hiện các hành động có hại khác (ví dụ: nguồn đóng, biết khách hàng của bạn (KYC) và giám sát, thông đồng nhà nước/doanh nghiệp. người dùng, chẳng hạn như ngân hàng từ chối phục vụ một số khách hàng nhất định, ngoại trừ các khu vực rộng lớn trên thế giới).

Có một sự phản đối kinh điển đối với việc quy trách nhiệm hoàn toàn cho người dùng: người dùng có thể là một cá nhân bình thường, không có nhiều tiền hoặc thậm chí ẩn danh, do đó không ai có thể thực sự trả tiền cho những thiệt hại thảm khốc. Quan điểm này có thể bị phóng đại: ngay cả khi một số người dùng quá nhỏ để phải đối mặt với trách nhiệm pháp lý, thì khách hàng trung bình của các nhà phát triển AI thì không, vì vậy các nhà phát triển AI vẫn sẽ được khuyến khích xây dựng các hệ thống trấn an người dùng rằng họ sẽ không phải đối mặt với sản phẩm Rủi ro có trách nhiệm pháp lý cao. Điều đó nói rằng, đây vẫn là một điểm hợp lệ và cần được giải quyết. Bạn cần khuyến khích ai đó trong quy trình có đủ nguồn lực để quan tâm thích hợp để làm điều đó và cả người triển khai và nhà phát triển đều là những mục tiêu dễ dàng vẫn có tác động lớn đến tính bảo mật của mô hình.

Trách nhiệm của người triển khai có vẻ hợp lý. Một mối lo ngại chung là nó sẽ không hoạt động với các mô hình nguồn mở, nhưng điều này có vẻ có thể quản lý được, đặc biệt vì các mô hình mạnh mẽ nhất rất có thể sẽ là nguồn đóng (nếu nó trở thành nguồn mở thì mặc dù trách nhiệm của người triển khai cuối cùng có thể không quá lớn). hữu ích nhưng cũng không quá có hại). Những mối lo ngại tương tự tồn tại với trách nhiệm pháp lý của nhà phát triển (mặc dù với các mô hình nguồn mở có một rào cản nhất định trong việc tinh chỉnh mô hình để thực hiện điều gì đó mà nó không được phép làm), nhưng các lập luận phản đối tương tự cũng được áp dụng. Theo nguyên tắc chung, áp đặt "thuế" đối với quyền kiểm soát, về cơ bản là "bạn có thể xây dựng thứ mà bạn không thể kiểm soát hoặc bạn có thể xây dựng thứ mà bạn có thể kiểm soát, nhưng nếu bạn xây dựng thứ mà bạn có thể kiểm soát thì phải kiểm soát 20%". được sử dụng cho mục đích của chúng ta." Đây có vẻ là một quan điểm hợp lý đối với hệ thống pháp luật.

Một ý tưởng dường như chưa được khám phá là quy trách nhiệm cho các tác nhân khác trong quy trình, những người có nhiều khả năng có đủ nguồn lực hơn. Một ý tưởng phù hợp với triết lý d/acc là quy trách nhiệm cho chủ sở hữu hoặc người vận hành bất kỳ thiết bị nào mà AI tiếp quản (ví dụ: thông qua hack) trong quá trình thực hiện một số hành động có hại nghiêm trọng. Điều này sẽ tạo ra động lực rất lớn để hướng tới việc làm cho cơ sở hạ tầng của thế giới, đặc biệt là về máy tính và sinh học, trở nên an toàn nhất có thể.

Chiến lược 2: Nút “tạm dừng mềm” chung trên phần cứng quy mô công nghiệp

Nếu tôi bị thuyết phục rằng chúng ta cần điều gì đó “mạnh mẽ” hơn các quy định về trách nhiệm pháp lý, tôi sẽ chọn chiến lược này. Mục tiêu là có khả năng giảm sức mạnh tính toán sẵn có trên toàn cầu khoảng 90% - 99% trong giai đoạn quan trọng, kéo dài 1 - 2 năm, để có thêm thời gian chuẩn bị cho con người. Không nên đánh giá quá cao giá trị của 1-2 năm: một năm ở "chế độ thời chiến" có thể dễ dàng có giá trị bằng một trăm năm làm việc thường xuyên nếu có tính tự mãn. Các phương pháp thực hiện "tạm dừng" đã được khám phá, bao gồm các đề xuất cụ thể như yêu cầu phần cứng đăng ký và xác minh vị trí.

Một cách tiếp cận tiên tiến hơn sẽ là sử dụng các phương tiện mã hóa thông minh: ví dụ: phần cứng AI được sản xuất ở quy mô công nghiệp (nhưng không phải cấp độ người tiêu dùng) có thể được trang bị chip phần cứng đáng tin cậy chỉ nhận dữ liệu từ các tổ chức quốc tế lớn hàng tuần, bao gồm cả ít nhất Nó sẽ chỉ được phép tiếp tục hoạt động nếu 3/3 chi nhánh phi quân sự) ký vào đó. Những chữ ký này sẽ không phụ thuộc vào thiết bị (chúng tôi thậm chí có thể yêu cầu công bố bằng chứng không có kiến thức trên blockchain nếu muốn), vì vậy nó sẽ là tất cả hoặc không có gì: không có cách thực tế nào để ủy quyền cho một thiết bị tiếp tục hoạt động mà không cho phép tất cả các thiết bị khác thiết bị.

Điều này dường như "phù hợp" về mặt tối đa hóa lợi ích và giảm thiểu rủi ro:

• Đây là một khả năng hữu ích: nếu chúng ta nhận được dấu hiệu cho thấy AI gần như siêu thông minh bắt đầu làm những việc có thể gây ra thiệt hại thảm khốc, chúng ta sẽ muốn thực hiện quá trình chuyển đổi chậm hơn.

• Cho đến khi những thời điểm quan trọng như vậy đến, việc chỉ cần có khả năng tạm dừng nhẹ sẽ ít gây hại cho các nhà phát triển.

• Việc tập trung vào phần cứng quy mô công nghiệp và đặt mục tiêu chỉ 90% - 99% sẽ tránh được một số cách tiếp cận lạc hậu như cài chip gián điệp hoặc công tắc buộc tiêu diệt trong máy tính xách tay cấp tiêu dùng hoặc buộc các nước nhỏ phải hành động chống lại họ. ý chí.

• Việc tập trung vào phần cứng dường như có khả năng thích ứng cao với những thay đổi công nghệ. Chúng tôi đã thấy qua nhiều thế hệ AI rằng chất lượng phụ thuộc rất nhiều vào sức mạnh tính toán sẵn có, đặc biệt là trong các phiên bản đầu tiên của mô hình mới. Vì vậy, việc giảm sức mạnh tính toán sẵn có xuống 10 - 100 có thể dễ dàng tạo ra sự khác biệt giữa một AI siêu thông minh đang chạy trốn trong một trận chiến chớp nhoáng với con người đang cố gắng ngăn chặn nó.

• Rắc rối cố hữu khi phải lên mạng để lấy chữ ký hàng tuần sẽ cản trở mạnh mẽ ý tưởng mở rộng kế hoạch này sang phần cứng cấp độ người tiêu dùng.

• Nó có thể được xác minh bằng các kiểm tra ngẫu nhiên và việc thực hiện nó ở cấp độ phần cứng sẽ gây khó khăn cho việc miễn trừ những người dùng cụ thể (các phương pháp tiếp cận dựa trên việc tắt máy được thực thi hợp pháp thay vì các phương tiện kỹ thuật không có thuộc tính tất cả hoặc không có gì này, điều này khiến chúng dễ dàng được xác minh hơn được miễn trừ cho quân đội, v.v.).

Quy định về phần cứng hiện đang được xem xét kỹ lưỡng, mặc dù thường nằm trong khuôn khổ kiểm soát xuất khẩu, về cơ bản có triết lý "chúng tôi tin tưởng một bên chứ không phải bên kia". Leopold Aschenbrenner có lập luận nổi tiếng rằng Hoa Kỳ nên chạy đua để giành được lợi thế quyết định và sau đó buộc Trung Quốc ký một thỏa thuận hạn chế số lượng thiết bị mà họ có thể vận hành. Cách tiếp cận này đối với tôi có vẻ mạo hiểm và có thể kết hợp những cạm bẫy của cạnh tranh đa cực và tập trung hóa. Nếu chúng ta phải hạn chế mọi người, có vẻ tốt hơn là nên hạn chế mọi người một cách bình đẳng và cố gắng thực sự làm việc cùng nhau để tổ chức thực hiện, thay vì một bên cố gắng thống trị mọi người.

d/acc Vai trò của Công nghệ đối với rủi ro AI

Cả hai chiến lược (nút trách nhiệm và nút tạm dừng phần cứng) đều có lỗ hổng và rõ ràng chúng chỉ là những điểm dừng tạm thời: nếu có thể làm được điều gì đó trên siêu máy tính tại thời điểm T, thì trên máy tính xách tay tại thời điểm T + 5 năm thì chắc chắn có thể làm được. trên máy tính cũng vậy. Vì vậy, chúng ta cần những biện pháp ổn định hơn để câu giờ. Nhiều kỹ thuật d/acc có liên quan ở đây. Chúng ta có thể nhìn nhận vai trò của công nghệ d/acc như sau: Nếu trí tuệ nhân tạo chiếm lĩnh thế giới thì nó sẽ làm như thế nào?

• Nó xâm chiếm máy tính của chúng ta → Phòng thủ mạng

• Nó tạo ra siêu bệnh dịch → phòng thủ sinh học

• Nó thuyết phục chúng tôi (hoặc chúng tôi tin tưởng nó hoặc chúng tôi không tin tưởng lẫn nhau) → Bảo vệ thông tin

Như đã đề cập ngắn gọn ở trên, các quy tắc trách nhiệm pháp lý là một cách tiếp cận pháp lý phù hợp một cách tự nhiên với triết lý d/acc, vì chúng có thể rất hiệu quả trong việc khuyến khích các biện pháp phòng vệ này được áp dụng và thực hiện nghiêm túc trên toàn thế giới. Đài Loan gần đây đang thử nghiệm áp dụng trách nhiệm pháp lý đối với những quảng cáo sai sự thật, đây có thể được coi là một ví dụ về việc sử dụng trách nhiệm pháp lý để khuyến khích bảo vệ thông tin. Chúng ta không nên quá quan tâm đến việc áp đặt trách nhiệm pháp lý ở mọi nơi và hãy nhớ lợi ích của các quyền tự do thông thường trong việc cho phép những người nhỏ tham gia vào quá trình đổi mới mà không sợ kiện tụng, nhưng ở những nơi chúng ta muốn thúc đẩy mạnh mẽ hơn về an toàn, trách nhiệm pháp lý có thể khá linh hoạt và hiệu quả. .

Vai trò của tiền điện tử trong d/acc

Nhiều khía cạnh của d/acc vượt xa các chủ đề blockchain điển hình: an toàn sinh học, giao diện não-máy tính và các công cụ diễn ngôn hợp tác dường như khác xa với những gì mà người về tiền điện tử thường nói đến. Tuy nhiên, tôi nghĩ có một số mối liên hệ quan trọng giữa tiền điện tử và d/acc, cụ thể:

• d/acc là sự mở rộng các giá trị cơ bản của tiền điện tử (phân quyền, chống kiểm duyệt, nền kinh tế và xã hội toàn cầu mở) sang các lĩnh vực công nghệ khác.

• Bởi vì người dùng tiền điện tử là những người chấp nhận sớm một cách tự nhiên và có sự liên kết giữa các giá trị nên cộng đồng tiền điện tử là những người chấp nhận sớm công nghệ d/acc một cách tự nhiên. Sự nhấn mạnh vào cộng đồng (cả trực tuyến và ngoại tuyến, chẳng hạn như sự kiện và sự kiện tạm thời) và thực tế là các cộng đồng này thực sự làm những việc mang tính đặt cược cao thay vì chỉ nói chuyện với nhau, khiến các cộng đồng tiền điện tử trở nên đặc biệt thú vị đối với d/acc. công nghệ Vườn ươm hấp dẫn và cơ sở chứng minh cho các công nghệ về cơ bản hoạt động trên các nhóm chứ không phải cá nhân (chẳng hạn như hầu hết các công nghệ bảo vệ thông tin và phòng thủ sinh học). Mọi người trong lĩnh vực tiền điện tử chỉ làm mọi việc cùng nhau.

• Nhiều công nghệ tiền điện tử có thể được sử dụng trong các lĩnh vực chủ đề d/acc: blockchain để xây dựng cơ sở hạ tầng tài chính, quản trị và truyền thông xã hội mạnh mẽ và phi tập trung hơn, bằng chứng không có kiến thức để bảo vệ quyền riêng tư, v.v. Ngày nay, nhiều thị trường dự đoán lớn nhất được xây dựng trên blockchain và chúng đang dần trở nên phức tạp, phi tập trung và dân chủ hơn.

• Các cơ hội hợp tác đôi bên cùng có lợi cũng tồn tại trên các công nghệ liền kề với tiền điện tử, hữu ích cho các dự án tiền điện tử và là chìa khóa để đạt được các mục tiêu của d/acc: xác minh chính thức, bảo mật phần mềm và phần cứng máy tính cũng như công nghệ quản trị mạnh mẽ đối nghịch. Những điều này làm cho chuỗi khối Ethereum, ví và các tổ chức tự trị phi tập trung (DAO) an toàn và mạnh mẽ hơn, đồng thời chúng cũng đạt được các mục tiêu phòng thủ văn minh quan trọng, chẳng hạn như giảm khả năng dễ bị tổn thương của chúng ta trước các cuộc tấn công mạng, bao gồm cả những lỗ hổng có thể đến từ trí tuệ nhân tạo siêu thông minh). .

Cursive là một ứng dụng sử dụng mã hóa đồng hình hoàn toàn (FHE), cho phép người dùng xác định các lĩnh vực mà người dùng khác quan tâm đồng thời bảo vệ quyền riêng tư. Edge City ở Chiang Mai (một trong nhiều chi nhánh của Zuzalu) sử dụng ứng dụng này.

d/acc và tài trợ hàng hóa công cộng

Một câu hỏi mà tôi luôn quan tâm là tìm ra các cơ chế tốt hơn để tài trợ cho hàng hóa công: các dự án có giá trị đối với một nhóm rất lớn người dân nhưng không có mô hình kinh doanh dễ tiếp cận một cách tự nhiên. Công việc trước đây của tôi trong lĩnh vực này bao gồm những đóng góp của tôi cho Tài trợ bậc hai và những đóng góp của nó cho Tài trợ Gitcoin, Tài trợ hàng hóa công cộng hồi tố (retro PGF) và gần đây nhất là Tài trợ sâu.

Nhiều người còn hoài nghi về khái niệm hàng hóa công cộng. Sự nghi ngờ này thường xuất phát từ hai khía cạnh:

• Hàng hóa công trong lịch sử đã được sử dụng như một biện pháp biện minh cho việc lập kế hoạch và can thiệp tập trung mạnh tay của chính phủ vào xã hội và nền kinh tế.

• Một nhận thức phổ biến là việc tài trợ cho hàng hóa công thiếu chặt chẽ và hoạt động trên cơ sở thiên vị mong muốn của xã hội—tức là, điều gì nghe có vẻ tốt chứ không phải điều gì thực sự tốt—và ủng hộ những người trong nội bộ có thể tham gia trò chơi xã hội.

Đây là những lời chỉ trích quan trọng và có giá trị. Tuy nhiên, tôi tin rằng nguồn tài trợ phi tập trung mạnh mẽ cho hàng hóa công là rất quan trọng đối với tầm nhìn d/acc, bởi vì bản thân mục tiêu chính của d/acc (giảm thiểu các điểm kiểm soát trung tâm) đã cản trở nhiều mô hình kinh doanh truyền thống. Có thể xây dựng các doanh nghiệp thành công trên nguồn mở—một số người được cấp phép Balvi đang làm điều đó—nhưng trong một số trường hợp, điều đó đủ khó để các dự án quan trọng cần có sự hỗ trợ liên tục bổ sung. Vì vậy, chúng ta phải làm một việc khó khăn, đó là tìm ra cách tài trợ cho hàng hóa công theo cách giải quyết hai lời chỉ trích ở trên.

Giải pháp cho vấn đề đầu tiên về cơ bản là tính trung lập và phân cấp đáng tin cậy. Kế hoạch hóa tập trung có vấn đề vì nó trao quyền kiểm soát cho giới tinh hoa, những người có thể trở nên lạm dụng và vì nó thường thích ứng quá mức với hoàn cảnh hiện tại và ngày càng trở nên kém hiệu quả theo thời gian. Cấp vốn bậc hai và các cơ chế tương tự chính xác là nhằm cấp vốn cho hàng hóa công theo cách trung lập đáng tin cậy nhất và phi tập trung hóa (về mặt kiến trúc và chính trị) có thể.

Câu hỏi thứ hai thách thức hơn. Một lời chỉ trích phổ biến về tài trợ bậc hai là nó nhanh chóng trở thành một cuộc cạnh tranh phổ biến, đòi hỏi các nhà tài trợ dự án phải nỗ lực đáng kể cho việc quảng bá. Hơn nữa, các dự án "ở ngay trước mắt mọi người" (chẳng hạn như các ứng dụng dành cho người dùng cuối) sẽ được tài trợ, trong khi các dự án ở phía sau hậu trường ("sự phụ thuộc điển hình được duy trì bởi một anh chàng ở Nebraska") không được tài trợ ở mức tất cả mọi nguồn tài trợ. Nguồn tài trợ hồi tố lạc quan phụ thuộc vào số lượng người nắm giữ huy hiệu chuyên gia ít hơn; ở đây, hiệu ứng cạnh tranh về mức độ phổ biến bị giảm đi, nhưng hiệu quả xã hội của việc có mối quan hệ cá nhân chặt chẽ với người giữ huy hiệu sẽ được khuếch đại.

Deep Funding là nỗ lực mới nhất của tôi để giải quyết vấn đề này. Có hai đổi mới chính trong tài trợ sâu:

• Biểu đồ phụ thuộc. Thay vì hỏi mỗi bồi thẩm đoàn một câu hỏi chung ("Giá trị của dự án A đối với nhân loại là gì?"), chúng tôi hỏi một câu hỏi địa phương ("Dự án A hay dự án B có giá trị hơn so với kết quả C? Bao nhiêu?"). Con người nổi tiếng là kém trong việc trả lời các câu hỏi toàn cầu: trong một nghiên cứu nổi tiếng, khi được hỏi họ sẽ chi bao nhiêu để cứu N con chim, những người được hỏi trả lời N = 2.000, N = 20.000 và câu trả lời cho N = 200.000 là khoảng 80 USD. Các vấn đề địa phương dễ giải quyết hơn. Sau đó, chúng tôi kết hợp các câu trả lời cục bộ thành câu trả lời toàn cầu bằng cách duy trì "biểu đồ phụ thuộc": đối với mỗi dự án, những dự án nào khác đóng góp vào thành công của dự án đó và đóng góp bao nhiêu?

• Trí tuệ nhân tạo như khả năng phán đoán tinh tế của con người. Mỗi bồi thẩm đoàn chỉ được giao một mẫu nhỏ ngẫu nhiên của tất cả các câu hỏi. Có một cuộc thi mở trong đó bất kỳ ai cũng có thể gửi mô hình trí tuệ nhân tạo nhằm cố gắng lấp đầy tất cả các cạnh trong biểu đồ một cách hiệu quả. Câu trả lời cuối cùng là tổng trọng số của các mô hình phù hợp nhất với câu trả lời của ban giám khảo. Xem ở đây để biết ví dụ về mã. Cách tiếp cận này cho phép cơ chế mở rộng quy mô rất lớn trong khi yêu cầu bồi thẩm đoàn chỉ gửi một số lượng nhỏ "thông tin". Điều này làm giảm nguy cơ tham nhũng và đảm bảo mọi thông tin đều có chất lượng cao: bồi thẩm đoàn có thể dành nhiều thời gian để suy nghĩ về từng câu hỏi, thay vì nhấp chuột nhanh qua hàng trăm câu hỏi. Bằng cách sử dụng các cuộc thi mở dành cho AI, chúng tôi giảm bớt sự thiên vị từ bất kỳ quy trình đào tạo và tuyển chọn AI nào. Thị trường mở cho trí tuệ nhân tạo đóng vai trò là động cơ và con người đóng vai trò là tay lái.

Nhưng tài trợ sâu chỉ là ví dụ mới nhất; trước đây đã có những ý tưởng khác về cơ chế tài trợ cho hàng hóa công và sẽ còn nhiều hơn nữa trong tương lai. allo.expert thực hiện tốt công việc lập danh mục chúng. Mục tiêu cơ bản là tạo ra một công cụ xã hội có thể tài trợ cho hàng hóa công với mức độ chính xác, công bằng và khả năng tiếp cận mở ít nhất gần với mức tài trợ thị trường cho hàng hóa tư nhân. Suy cho cùng, nó không cần phải hoàn hảo; bản thân thị trường còn lâu mới hoàn hảo. Nhưng nó phải đủ hiệu quả để các nhà phát triển làm việc trên các dự án nguồn mở chất lượng cao mang lại lợi ích cho mọi người có thể tiếp tục làm như vậy mà không cảm thấy cần phải thực hiện những thỏa hiệp không thể chấp nhận được.

Ngày nay, hầu hết các dự án hàng đầu trong các lĩnh vực chủ đề của d/acc: vắc xin, giao diện não-máy tính, "giao diện não-máy tính" như điện cơ cổ tay và theo dõi mắt, thuốc chống lão hóa, phần cứng, v.v., đều là các dự án độc quyền. Điều này có những bất lợi đáng kể về mặt đảm bảo niềm tin của công chúng, như chúng ta đã thấy trong nhiều lĩnh vực nêu trên. Nó cũng hướng sự chú ý tới động lực cạnh tranh (“Nhóm của chúng ta phải giành chiến thắng trong ngành quan trọng này!”) và tránh xa cuộc đua lớn hơn nhằm đảm bảo những công nghệ này xuất hiện đủ nhanh để bảo vệ chúng ta trong thế giới AI siêu thông minh. Vì những lý do này, nguồn tài trợ hàng hóa công mạnh mẽ có thể là động lực mạnh mẽ cho sự cởi mở và tự do. Đây là một cách khác mà cộng đồng tiền điện tử có thể giúp d/acc: bằng cách nỗ lực nghiêm túc để khám phá các cơ chế tài trợ này và làm cho chúng hoạt động tốt trong bối cảnh riêng của chúng, chuẩn bị cho chúng ứng dụng rộng rãi hơn trong khoa học và công nghệ nguồn mở.

tương lai

Những thập kỷ tới mang lại những thách thức quan trọng. Gần đây tôi đang suy nghĩ về hai thử thách:

• Một làn sóng công nghệ mới mạnh mẽ, đặc biệt là trí tuệ nhân tạo mạnh mẽ, đang nhanh chóng xuất hiện và kéo theo chúng là những cạm bẫy quan trọng mà chúng ta cần tránh. “Siêu trí tuệ nhân tạo” có thể mất năm năm hoặc có thể mất năm mươi năm. Trong cả hai trường hợp, không rõ liệu kết quả mặc định có tự động dương tính hay không và như được mô tả trong bài đăng này và bài đăng trước, có nhiều cạm bẫy cần tránh.

• Thế giới ngày càng trở nên ít hợp tác hơn. Nhiều chủ thể quyền lực trước đây dường như hành động, ít nhất là đôi khi, trên cơ sở các nguyên tắc cao (chủ nghĩa quốc tế, tự do, nhân loại chung... v.v.) giờ đây theo đuổi lợi ích cá nhân hoặc bộ lạc một cách cởi mở và quyết liệt hơn.

Tuy nhiên, mỗi thử thách này đều có một lớp lót bạc. Đầu tiên, giờ đây chúng tôi có các công cụ rất mạnh để thực hiện phần còn lại của công việc nhanh hơn nhiều:

• AI hiện tại và ngắn hạn có thể được sử dụng để xây dựng các công nghệ khác và có thể được sử dụng như một yếu tố trong quản trị (chẳng hạn như tài trợ sâu hoặc tài chính thông tin). Nó cũng rất phù hợp với các giao diện não-máy tính, vốn có thể mang lại hiệu quả cao hơn nữa.

• Hiện nay có thể thực hiện được sự phối hợp hàng loạt ở quy mô lớn hơn nhiều so với trước đây. Internet và phương tiện truyền thông xã hội đã mở rộng phạm vi phối hợp, tài chính toàn cầu (bao gồm cả tiền điện tử) đã tăng cường sức mạnh, giờ đây các công cụ cộng tác và bảo vệ thông tin có thể nâng cao chất lượng của nó và có lẽ sẽ sớm có giao diện não-máy tính ở dạng con người-máy tính-con người. có thể tăng độ sâu của nó.

• Xác minh chính thức, công nghệ hộp cát (trình duyệt web, Docker, Qubes, GrapheneOS, v.v.), mô-đun phần cứng bảo mật và các công nghệ khác đang được cải tiến, giúp bảo mật mạng tốt hơn có thể.

• Viết phần mềm dưới mọi hình thức đã dễ dàng hơn nhiều so với hai năm trước.

• Nghiên cứu cơ bản gần đây về cách thức hoạt động của virus, đặc biệt là sự hiểu biết đơn giản rằng hình thức lây truyền quan trọng nhất là qua không khí, đang chỉ ra một con đường rõ ràng hơn về cách cải thiện khả năng phòng vệ sinh học.

• Những tiến bộ gần đây trong công nghệ sinh học (ví dụ, CRISPR, những tiến bộ trong hình ảnh sinh học) đang giúp việc sử dụng công nghệ sinh học dưới mọi hình thức trở nên dễ dàng hơn, cho dù là để phòng vệ, kéo dài tuổi thọ, siêu hạnh phúc, khám phá nhiều giả thuyết sinh học mới hay chỉ làm những điều thực sự thú vị.

• Cùng với nhau, những tiến bộ trong điện toán và công nghệ sinh học đang tạo ra các công cụ sinh học tổng hợp khả thi mà bạn có thể sử dụng để điều chỉnh, theo dõi và cải thiện sức khỏe của mình. Các công nghệ phòng thủ mạng, chẳng hạn như mật mã, làm cho chiều hướng cá nhân hóa này trở nên khả thi hơn.

Thứ hai, giờ đây nhiều nguyên tắc mà chúng ta yêu quý không còn được một số cựu thế lực chọn lọc nắm giữ nữa, chúng có thể được lấy lại bởi một liên minh rộng rãi chào đón bất kỳ ai trên thế giới tham gia. Đây có thể là lợi ích lớn nhất của việc “tái tổ chức” chính trị gần đây trên toàn thế giới và nó đáng để tận dụng. Tiền điện tử đã làm rất tốt việc tận dụng điều này và tìm kiếm sức hút toàn cầu; d/acc có thể làm được điều tương tự.

Việc mua lại các công cụ có nghĩa là chúng ta có thể thích ứng và cải thiện sinh học và môi trường của mình, còn phần "phòng thủ" của d/acc có nghĩa là chúng ta có thể làm điều này mà không xâm phạm quyền tự do làm điều tương tự của người khác. Nguyên tắc của chủ nghĩa đa nguyên tự do có nghĩa là có thể có sự đa dạng lớn trong cách chúng ta thực hiện điều này và cam kết của chúng ta đối với các mục tiêu chung của con người có nghĩa là cần phải đạt được điều đó.

Con người chúng ta vẫn là những ngôi sao sáng nhất. Nhiệm vụ trước mắt của chúng ta là xây dựng một thế kỷ 21 tươi sáng hơn nhằm bảo vệ sự sống còn, tự do và quyền tự chủ của con người khi chúng ta chạm tới các vì sao là một nhiệm vụ đầy thách thức. Nhưng tôi tin chúng ta có thể làm được.