Tựa gốc: Sự lạc quan về công nghệ của tôi

Tác giả gốc: Vitalik

Bản tổng hợp gốc: Luccy, BlockBeats

Lưu ý của biên tập viên: Người ta thường nói về tác động của tiến bộ công nghệ đối với tương lai. Tháng trước, Tuyên bố lạc quan về công nghệ của Marc Andreessen rõ ràng phản đối nỗi lo sợ về tiến bộ công nghệ. Ngoài ra, cuộc tranh cãi trong tháng này do OpenAI gây ra, chủ đề này một lần nữa làm dấy lên cuộc thảo luận sôi nổi.
Vitalik Buterin phản đối tâm lý “ưu tiên duy trì tình trạng hiện tại của thế giới” và chỉ ra rằng sự phát triển công nghệ không chỉ cần tập trung vào cường độ mà còn phải tập trung vào phương hướng. Trong bài viết mới nhất của mình, ông đã thảo luận sâu sắc về sự giao thoa giữa trí tuệ nhân tạo và blockchain, đồng thời đề xuất khái niệm “d/acc” (tăng tốc phi tập trung). Ông tin rằng với sự phát triển nhanh chóng của công nghệ, sự xuất hiện của trí tuệ nhân tạo có thể trở thành một trong những thách thức lớn nhất mà nhân loại phải đối mặt, nhưng nó cũng đề xuất một con đường phát triển nhân văn và phi tập trung hơn.

Các chủ đề trong bài viết bao gồm bảo vệ thông tin, công nghệ xã hội, hợp tác giữa con người và máy móc và các khía cạnh khác, nêu bật tầm quan trọng của việc tích cực chỉ đạo định hướng phát triển công nghệ. Trong một bối cảnh triết học khác, Vitalik ủng hộ một thái độ vừa tích cực vừa thận trọng, kêu gọi các nhà phát triển chú ý hơn đến các lựa chọn và ý định khi xây dựng công nghệ để đảm bảo sự phát triển của công nghệ phù hợp với giá trị con người và lâu dài. -lợi ích có kỳ hạn.

Đặc biệt cảm ơn Morgan Beller, Juan Benet, Eli Dourado, Sriram Krishnan, Nate Soares, Jaan Tallinn, Vincent Weisser, tình nguyện viên Balvi và những người khác vì những phản hồi và đánh giá của họ.

Tháng trước, Marc Andreessen đã xuất bản Tuyên ngôn lạc quan về công nghệ, kêu gọi một sự nhiệt tình mới đối với công nghệ đồng thời ủng hộ việc sử dụng thị trường và các phương tiện tư bản để xây dựng công nghệ và thúc đẩy nhân loại hướng tới một tương lai tươi sáng hơn. Tuyên ngôn bác bỏ rõ ràng cái gọi là tâm lý trì trệ, đó là nỗi sợ hãi về tiến bộ công nghệ và ưu tiên giữ cho thế giới như ngày nay. Tuyên ngôn đã nhận được sự chú ý rộng rãi, bao gồm các bài viết phản hồi từ Noah Smith, Robin Hanson, Joshua Gans (tích cực), Dave Karpf, Luca Ropek, Ezra Klein (tiêu cực hơn) và nhiều người khác. Mặc dù không liên quan trực tiếp đến bản tuyên ngôn, các chủ đề tương tự bao gồm Chủ nghĩa tương lai bảo thủ của James Pethokoukis và Đã đến lúc xây dựng vì điều tốt đẹp của Palladium. Tháng này, với tranh chấp về OpenAI, chúng ta sẽ chứng kiến ​​một cuộc tranh luận tương tự, với phần lớn cuộc thảo luận tập trung vào sự nguy hiểm của AI siêu thông minh và khả năng OpenAI có thể phát triển quá nhanh.

Cảm giác lạc quan về công nghệ của tôi rất ấm áp và nhiều sắc thái. Tôi tin rằng tương lai sẽ tươi sáng hơn hiện tại nhờ những công nghệ thay đổi hoàn toàn, đồng thời tôi cũng tin vào con người và nhân loại. Tôi phản đối quan điểm cho rằng chúng ta nên cố gắng giữ cho thế giới về cơ bản giống như ngày nay, chỉ cần bớt tham lam hơn và chăm sóc sức khỏe cộng đồng nhiều hơn. Tuy nhiên, tôi tin rằng không chỉ bằng cấp là quan trọng, mà phương hướng cũng quan trọng. Có một số loại công nghệ nhất định đáng tin cậy hơn trong việc biến thế giới thành một nơi tốt đẹp hơn và một số loại công nghệ, nếu được phát triển, có thể giảm thiểu tác động tiêu cực của các loại công nghệ khác. Thế giới đang đầu tư quá mức vào một số hướng phát triển công nghệ và đầu tư ít vào các hướng khác. Chúng ta cần tỉnh táo lựa chọn hướng đi mình muốn vì công thức “tối đa hóa lợi nhuận” không tự động dẫn đến những hướng đi này.

Trong bài viết này, tôi sẽ khám phá ý nghĩa của sự lạc quan về công nghệ đối với tôi. Điều này bao gồm thế giới quan rộng hơn đã truyền cảm hứng cho công việc của tôi về một số loại ứng dụng blockchain và mật mã, công nghệ xã hội và các lĩnh vực khoa học khác mà tôi bày tỏ sự quan tâm. Nhưng những quan điểm khác nhau về vấn đề rộng lớn hơn này cũng có ý nghĩa quan trọng đối với trí tuệ nhân tạo, cũng như nhiều lĩnh vực khác. Những tiến bộ nhanh chóng về công nghệ của chúng ta có thể sẽ trở thành những vấn đề xã hội quan trọng nhất của thế kỷ 21, vì vậy điều quan trọng là phải suy nghĩ cẩn thận về chúng.

Công nghệ thật tuyệt vời và việc trì hoãn sự phát triển của nó có thể cực kỳ tốn kém

Ở một số lĩnh vực, lợi ích của công nghệ thường bị đánh giá thấp, chủ yếu coi nó là điều không tưởng và là nguồn rủi ro tiềm ẩn. Trong nửa thế kỷ qua, nhận thức này thường xuất phát từ những lo ngại về môi trường hoặc lo ngại rằng lợi ích của công nghệ sẽ chỉ đến với người giàu, qua đó củng cố quyền lực của họ đối với người nghèo. Gần đây, tôi cũng nhận thấy rằng một số người theo chủ nghĩa tự do lo lắng về một số công nghệ có thể dẫn đến sự tập trung quyền lực. Trong tháng này, tôi đã tiến hành một số nghiên cứu và đặt câu hỏi sau: Nếu một công nghệ cần bị hạn chế vì nó quá nguy hiểm, thì họ muốn độc quyền hay trì hoãn nó trong một thập kỷ? Thật ngạc nhiên, trên ba nền tảng và ba lựa chọn liên quan đến tình trạng độc quyền, mọi người đều nhất trí và mạnh mẽ lựa chọn trì hoãn.

Vì vậy, đôi khi tôi lo lắng rằng chúng ta có thể đã sửa chữa quá mức, và nhiều người đang bỏ sót một khía cạnh khác của cuộc tranh luận: rằng lợi ích của công nghệ thực sự rất lớn, và ở những lĩnh vực mà chúng ta có thể đo lường chúng, những tác động tích cực vượt xa những tác động tiêu cực, và cho dù có bị trì hoãn cả chục năm thì cái giá phải trả cũng là khôn lường.

Để làm ví dụ cụ thể, chúng ta hãy nhìn vào biểu đồ tuổi thọ:

Chúng ta thấy gì? Trong thế kỷ qua, đã có những tiến bộ thực sự to lớn. Điều này áp dụng cho toàn thế giới, cả những khu vực giàu có và thống trị trong lịch sử cũng như những khu vực nghèo và bị bóc lột.

Một số người đổ lỗi cho công nghệ đã tạo ra hoặc làm trầm trọng thêm các thảm họa, chẳng hạn như chủ nghĩa toàn trị và chiến tranh. Trên thực tế, chúng ta có thể thấy trên biểu đồ số người chết do chiến tranh: trong Thế chiến thứ nhất (những năm 1910) và trong Thế chiến thứ hai (những năm 1940). Nếu để ý kỹ, bạn cũng có thể thấy những thảm họa phi quân sự như Cúm Tây Ban Nha và Bước nhảy vọt vĩ đại. Nhưng biểu đồ cho thấy một điều rõ ràng: Ngay cả khi những thảm họa đó khủng khiếp đến mức nào, chúng vẫn bị choáng ngợp bởi quy mô tuyệt đối của những cải tiến được thực hiện về thực phẩm, vệ sinh, y học và cơ sở hạ tầng trong thế kỷ đó.

Điều này phù hợp với những cải thiện đáng kể trong cuộc sống hàng ngày của chúng ta. Nhờ có Internet, hầu hết mọi người trên thế giới giờ đây có thể dễ dàng tiếp cận những thông tin mà chỉ hai thập kỷ trước không thể tiếp cận được. Nền kinh tế toàn cầu đã trở nên dễ tiếp cận hơn nhờ những cải thiện trong thanh toán và tài chính quốc tế. Tình trạng nghèo đói toàn cầu đang giảm nhanh chóng. Với bản đồ trực tuyến, chúng ta không còn phải lo lắng về việc bị lạc trong thành phố nữa và giờ đây chúng ta có cách gọi xe dễ dàng hơn nếu cần về nhà nhanh chóng. Tài sản của chúng ta đã trở thành đồ vật kỹ thuật số và vật lý trở nên rẻ hơn, điều đó có nghĩa là chúng ta không còn lo lắng nhiều về hành vi trộm cắp vật lý nữa. Mua sắm trực tuyến đã làm giảm sự bất bình đẳng trong khả năng tiếp cận hàng hóa giữa các thành phố lớn trên toàn cầu và phần còn lại của thế giới. Ở mọi khía cạnh, tự động hóa mang lại cho chúng ta lợi ích luôn bị đánh giá thấp là chỉ đơn giản là làm cho cuộc sống của chúng ta thuận tiện hơn.

Những cải tiến này, cả có thể định lượng và không thể định lượng, đều rất lớn. Và trong thế kỷ 21, rất có thể sẽ sớm có những cải tiến lớn hơn nữa. Ngày nay, việc chấm dứt lão hóa và bệnh tật dường như là một khái niệm không tưởng. Nhưng từ góc nhìn của máy tính vào năm 1945, kỷ nguyên hiện đại của việc nhúng chip vào hầu hết mọi thứ đã từng là điều không tưởng: ngay cả những chiếc máy tính trong phim khoa học viễn tưởng cũng thường có kích thước bằng một căn phòng. Nếu công nghệ sinh học tiến bộ trong 75 năm tới giống như máy tính đã tiến bộ trong 75 năm qua, thì tương lai có thể còn ấn tượng hơn hầu hết mọi người mong đợi.

Đồng thời, một số hoài nghi về sự tiến bộ thường có chiều hướng đen tối hơn. Ngay cả những cuốn sách giáo khoa y khoa, chẳng hạn như cuốn sách này từ những năm 1990 (cảm ơn Emma Szewczak vì đã tìm ra nó), đôi khi đưa ra những tuyên bố cực đoan phủ nhận giá trị của hai thế kỷ khoa học y tế và thậm chí còn cho rằng cứu sống con người không phải là một điều Tốt:

Lý thuyết giới hạn tăng trưởng là một ý tưởng được đưa ra vào những năm 1970, cho rằng dân số và công nghiệp ngày càng tăng cuối cùng sẽ làm cạn kiệt nguồn tài nguyên hạn chế của trái đất, dẫn đến chính sách một con của Trung Quốc và tình trạng triệt sản cưỡng bức trên quy mô lớn ở Ấn Độ. Trong thời gian trước đó, những lo ngại về dân số quá đông được sử dụng để biện minh cho việc giết người hàng loạt. Và những ý tưởng này, được phát triển từ năm 1798, đã được chứng minh là sai trong một thời gian dài.

Chính vì những lý do này mà tôi cảm thấy rất khó chịu với những lập luận coi điểm khởi đầu là làm chậm lại tiến bộ công nghệ hoặc con người. Ngay cả sự chậm lại của các ngành cũng có thể nguy hiểm do các lĩnh vực này có mối liên hệ chặt chẽ với nhau như thế nào. Vì vậy, khi tôi viết những điều giống như những điều tôi sẽ nói sau trong bài viết này, rời xa quan điểm cởi mở để tiến bộ dưới bất kỳ hình thức nào, tôi nói điều này với một trái tim trĩu nặng - tuy nhiên, ở thế kỷ 21 Thật khác biệt và độc đáo rằng những sự tinh tế này đáng được xem xét.

Phải nói rằng, xét về câu hỏi rộng hơn, đặc biệt là khi chúng ta vượt ra ngoài công nghệ tổng thể có tốt không và hướng tới công nghệ cụ thể nào là tốt?, có một sắc thái quan trọng cần chỉ ra: môi trường.

Tầm quan trọng của môi trường và sự sẵn sàng phối hợp

Tiến bộ đã đạt được ở hầu hết mọi khía cạnh trong hàng trăm năm qua, ngoại trừ vấn đề biến đổi khí hậu:

Ngay cả một kịch bản bi quan về nhiệt độ tăng cao cũng sẽ không thể dẫn đến sự tuyệt chủng thực sự của loài người. Nhưng một kịch bản như vậy có thể giết chết nhiều người hơn một cuộc chiến tranh lớn và có thể gây tổn hại nghiêm trọng đến sức khỏe cũng như sinh kế của người dân ở những khu vực vốn đã gặp khó khăn nhất. Một nghiên cứu của Viện Swiss Re cho thấy kịch bản biến đổi khí hậu trong trường hợp xấu nhất có thể làm giảm tới 25% tổng sản phẩm quốc nội của các nước nghèo nhất thế giới. Nghiên cứu cũng lưu ý rằng tuổi thọ ở vùng nông thôn Ấn Độ có thể thấp hơn một thập kỷ so với dự kiến ​​ban đầu, trong khi các nghiên cứu như thế này và nghiên cứu này cho thấy biến đổi khí hậu có thể khiến thêm 100 triệu người tử vong vào cuối thế kỷ này.

Những vấn đề này rất nghiêm trọng. Câu trả lời cho lý do tại sao tôi lạc quan về khả năng vượt qua những thách thức này của chúng ta có hai mặt. Đầu tiên, sau nhiều thập kỷ cường điệu và mơ tưởng, năng lượng mặt trời cuối cùng cũng đã bước sang một chặng đường mới và các công nghệ hỗ trợ như pin cũng đang đạt được tiến bộ tương tự. Thứ hai, chúng ta có thể nhìn vào thành tích của loài người trong việc giải quyết các vấn đề môi trường trước đây. Lấy ô nhiễm không khí làm ví dụ. Xem lại viễn cảnh lạc hậu của quá khứ: Sương khói London năm 1952 London.

Điều gì đã xảy ra kể từ đó? Chúng tôi đã hỏi lại Thế giới dữ liệu của chúng tôi:

Hóa ra năm 1952 thậm chí còn chưa phải là đỉnh điểm của ô nhiễm không khí: vào cuối thế kỷ 19, thậm chí còn có nồng độ chất ô nhiễm không khí cao hơn được coi là bình thường và có thể chấp nhận được. Kể từ đó, chúng ta đã chứng kiến ​​một thế kỷ suy thoái nhanh chóng và kéo dài. Tôi đã trực tiếp trải nghiệm quá trình này khi đến thăm Trung Quốc vào năm 2014. Mật độ khói bụi cao trong không khí, ước tính sẽ rút ngắn tuổi thọ hơn 5 năm, là điều bình thường, nhưng vào năm 2020, không khí thường có vẻ sạch sẽ như ở nhiều thành phố phương Tây. Đây không phải là câu chuyện thành công duy nhất của chúng tôi. Ở nhiều nơi trên thế giới, diện tích rừng ngày càng tăng. Cuộc khủng hoảng mưa axit đang được cải thiện. Tầng ozone đã được phục hồi trong nhiều thập kỷ.

Đối với tôi, ý nghĩa của câu chuyện này là, thường thì phiên bản N của công nghệ nền văn minh của chúng ta gây ra vấn đề và phiên bản N+1 sẽ giải quyết nó. Tuy nhiên, điều này không xảy ra một cách tự động và đòi hỏi sự nỗ lực có ý thức của con người. Tầng ozone đang phục hồi vì chúng ta đã đưa nó trở lại thông qua các hiệp định quốc tế như Nghị định thư Montreal. Ô nhiễm không khí đang được cải thiện bởi vì chúng ta đang làm cho nó tốt hơn. Tương tự như vậy, các tấm pin mặt trời đã có những bước tiến lớn không phải vì chúng là một phần định mệnh của cây công nghệ năng lượng, mà các tấm pin mặt trời đã có những bước tiến lớn vì mối quan tâm ngày càng tăng trong nhiều thập kỷ về tầm quan trọng của chúng trong việc giải quyết vấn đề biến đổi khí hậu. , và các công ty cũng như chính phủ đã tài trợ cho nghiên cứu của họ. Việc giải quyết những vấn đề này đạt được thông qua hành động có ý thức, định hình quan điểm của chính phủ, nhà khoa học, nhà từ thiện và doanh nghiệp thông qua diễn ngôn và văn hóa công cộng, chứ không phải là cỗ máy vốn công nghệ không thể ngăn cản.

Trí tuệ nhân tạo về cơ bản khác với các công nghệ khác và cần được chăm sóc đặc biệt

Rất nhiều quan điểm bác bỏ về AI mà tôi thấy xuất phát từ quan điểm cho rằng nó chỉ là “một công nghệ khác”: cùng loại với mạng xã hội, mã hóa, biện pháp tránh thai, điện thoại, máy bay, súng, in ấn và bánh xe. Những điều này rõ ràng có tác động đáng kể đến xã hội. Chúng không chỉ là những cải tiến biệt lập đối với hạnh phúc cá nhân: chúng thay đổi căn bản văn hóa, thay đổi cán cân quyền lực và gây tổn hại cho những người phụ thuộc nhiều vào trật tự trước đó. Nhiều người chống lại họ. Nhìn chung, những người bi quan luôn được chứng minh là sai.

Nhưng có một cách nhìn khác về trí tuệ nhân tạo: đó là một loại trí tuệ mới đang nhanh chóng cải thiện trí thông minh của nó và có cơ hội vượt qua khả năng trí tuệ của con người và trở thành loài đỉnh cao mới trên Trái đất. Có ít thứ hơn nhiều trong danh mục đó: chúng ta có thể bao gồm một cách hợp lý con người vượt qua loài khỉ, sinh vật đa bào vượt qua sinh vật đơn bào, nguồn gốc của sự sống và có lẽ là Cách mạng Công nghiệp, trong đó các thiết bị cơ khí vượt qua sức mạnh thể chất của loài người. Đột nhiên, chúng tôi có cảm giác như đang du hành ở một vùng đất xa lạ hơn nhiều.

Điều quan trọng là có những rủi ro

Một cách mà mọi thứ không ổn với AI có thể khiến thế giới trở nên tồi tệ hơn (gần như) là cách tồi tệ nhất có thể: nó có thể dẫn đến sự tuyệt chủng của loài người theo đúng nghĩa đen. Đây là một tuyên bố cực đoan: mặc dù các kịch bản xấu nhất về biến đổi khí hậu, đại dịch do con người gây ra, hay chiến tranh hạt nhân có thể gây ra thiệt hại lớn, nhưng vẫn còn rất nhiều “hòn đảo” văn minh sẽ còn nguyên vẹn để nhặt những mảnh vỡ. Nhưng nếu một AI siêu thông minh quyết định chống lại chúng ta, rất có thể sẽ không còn ai sống sót, từ đó chấm dứt nhân loại vĩnh viễn. Ngay cả sao Hỏa cũng có thể không an toàn.

Một lý do khiến mối quan tâm tập trung vào sự hội tụ công cụ: đối với loại mục tiêu rất rộng mà một thực thể siêu trí tuệ có thể có, hai bước trung gian rất tự nhiên mà AI có thể thực hiện để đạt được những mục tiêu đó tốt hơn là (i) tiêu thụ tài nguyên và (ii) đảm bảo sự an toàn của chính chúng . Trái đất chứa đựng nguồn tài nguyên khổng lồ và con người là mối đe dọa có thể dự đoán được đối với an ninh của một thực thể như vậy. Chúng ta có thể cố gắng đưa ra cho AI một mục tiêu rõ ràng, đó là yêu thương và bảo vệ con người, nhưng chúng ta không biết làm cách nào để đạt được mục tiêu đó theo cách không hoàn toàn suy sụp khi AI gặp phải điều gì đó bất ngờ. . Vậy là chúng ta đang phải đối mặt với một vấn đề.

FVcWHxjVIAA 2 PylMIRI 

Nhà nghiên cứu Rob Bensinger đã cố gắng minh họa bằng đồ họa những ước tính của những người khác nhau về xác suất AI sẽ giết chết tất cả mọi người hoặc làm điều gì đó gần như tồi tệ như nhau. Nhiều quan điểm chỉ là những ước tính sơ bộ dựa trên tuyên bố công khai của mọi người, nhưng nhiều quan điểm khác đã công khai đưa ra ước tính chính xác của họ; khá nhiều quan điểm đưa xác suất hủy diệt lên trên 25%.

Một cuộc khảo sát năm 2022 với các nhà nghiên cứu về học máy cho thấy rằng trung bình, các nhà nghiên cứu cho rằng xác suất AI thực sự giết chết tất cả chúng ta là từ 5-10%, gần bằng với dự đoán thống kê của bạn về việc chết vì các nguyên nhân phi sinh học, chẳng hạn như chấn thương. khá tốt.

Đây chỉ là một giả thuyết suy đoán và tất cả chúng ta nên cảnh giác với những giả thuyết suy đoán liên quan đến những câu chuyện phức tạp, nhiều bước. Tuy nhiên, những lập luận này đã vượt qua được sự xem xét kỹ lưỡng trong hơn một thập kỷ và do đó, dường như ít nhất cũng đáng được quan tâm ở mức độ nhẹ. Nhưng ngay cả khi bạn không lo lắng về sự tuyệt chủng thực sự thì vẫn có những lý do khác để lo sợ.

Ngay cả khi chúng ta sống sót, liệu tương lai của AI siêu thông minh có phải là thế giới mà chúng ta muốn sống?

Nhiều tiểu thuyết khoa học viễn tưởng hiện đại mô tả những viễn cảnh đen tối và miêu tả trí tuệ nhân tạo dưới ánh sáng yếu ớt. Ngay cả khi các tác phẩm phi khoa học viễn tưởng cố gắng khám phá tương lai của trí tuệ nhân tạo, các câu trả lời thường khá không thỏa đáng. Vì vậy, tôi đã hỏi xung quanh và hỏi về những mô tả về một tương lai bao gồm trí tuệ nhân tạo siêu thông minh, dù là khoa học viễn tưởng hay không, và liệu chúng ta có muốn sống trong đó hay không. Câu trả lời phổ biến nhất là loạt phim Civilization của Iain Banks.

Loạt nền văn minh mô tả một nền văn minh giữa các vì sao xa xôi, chủ yếu bao gồm hai nhân vật: con người bình thường và trí tuệ nhân tạo siêu thông minh được gọi là tâm lý. Con người được biến đổi một chút: Mặc dù về mặt lý thuyết, công nghệ y tế cho phép con người sống vô thời hạn, nhưng hầu hết chỉ chọn sống khoảng 400 năm, dường như vì họ đã chán cuộc sống vào thời điểm đó.

Nhìn bề ngoài, cuộc sống của con người có vẻ tốt: thoải mái, các vấn đề sức khỏe được giải quyết, có nhiều lựa chọn giải trí phong phú và có mối quan hệ tích cực và hiệp lực giữa con người và “tâm trí”. Tuy nhiên, xem xét kỹ hơn sẽ phát hiện ra một vấn đề: có vẻ như “tâm trí” hoàn toàn nắm quyền kiểm soát, và vai trò duy nhất của con người trong truyện là đóng vai trò là con tốt của “tâm trí”, thay mặt họ thực hiện nhiệm vụ.

Trích dẫn từ cuốn sách Chống lại nền văn minh của Gavin Leitch:

Mặc dù cuốn sách dường như có các nhân vật chính là con người làm những việc lớn lao và nghiêm túc, nhưng con người không phải là nhân vật chính của câu chuyện, họ thực sự là đặc vụ của trí tuệ nhân tạo. (Zakalwe là một trong những trường hợp ngoại lệ duy nhất, vì anh ta có thể làm những điều trái đạo đức mà Tâm trí không muốn làm.) Tư duy trong loạt phim Civilization không cần con người, nhưng con người cần phải được cần đến. (Tôi nghĩ chỉ có một rất ít. Cần có con người, hay đúng hơn là chỉ cần một vài người trong số họ là đủ để từ bỏ nhiều tiện nghi. Hầu hết cuộc sống con người không ở mức độ này. Vẫn là một lời phê bình hay.)

Các dự án do con người thực hiện mang theo những rủi ro không thực tế. Máy móc có thể làm hầu hết mọi thứ tốt hơn. Bạn có thể làm gì? Bạn có thể ra lệnh cho Tâm trí không bắt được bạn khi bạn đang leo xuống vách đá; bạn có thể xóa bản sao lưu của tâm trí để khiến bản thân gặp nguy hiểm thực sự. Bạn cũng có thể rời bỏ nền văn minh và gia nhập một số nền văn minh lỗi thời, phi tự do được đánh giá cao. Một lựa chọn khác là truyền bá về sự tự do bằng cách tham gia Liên hệ.

Tôi nghĩ ngay cả việc giao cho con người những vai trò có ý nghĩa trong loạt phim Civilization cũng là một điều quá đáng; tôi đã hỏi ChatGPT (còn ai nữa?) tại sao con người lại được giao những vai mà họ đảm nhận, thay vì Minds tự mình làm mọi thứ hoàn toàn, cá nhân tôi thấy câu trả lời khá đáng thất vọng. Trong một thế giới bị thống trị bởi trí tuệ nhân tạo siêu thông minh thân thiện, có vẻ như khó có thể cho phép con người phục vụ như bất cứ thứ gì khác ngoài thú cưng.

Một thế giới mà tôi không muốn nhìn thấy.

Nhiều bộ truyện khoa học viễn tưởng khác mô tả một thế giới tồn tại trí tuệ nhân tạo siêu thông minh, nhưng những trí tuệ nhân tạo này tuân theo mệnh lệnh của bậc thầy sinh học (không tăng cường) của con người. Star Trek là một ví dụ tuyệt vời về tầm nhìn về sự hài hòa giữa phi thuyền và máy tính AI (và Dữ liệu) của nó cũng như phi hành đoàn con người điều hành nó. Tuy nhiên, sự cân bằng này dường như rất không ổn định. Thế giới của Star Trek ở hiện tại có vẻ dễ chịu, nhưng thật khó để tưởng tượng tầm nhìn của nó về mối quan hệ giữa trí tuệ nhân tạo và loài người như bất kỳ thứ gì khác ngoài một thế giới trong đó các phi thuyền hoàn toàn được điều khiển bằng máy tính, không ồn ào về hành lang, trọng lực nhân tạo. hoặc kiểm soát khí hậu, giai đoạn chuyển tiếp mười năm.

Trong tình huống như vậy, việc con người ra lệnh cho một cỗ máy siêu thông minh sẽ khiến con người kém thông minh hơn nhiều so với cỗ máy và sở hữu ít thông tin hơn. Trong một vũ trụ có sự cạnh tranh ở bất kỳ mức độ nào, những nền văn minh mà con người đóng vai trò thứ yếu sẽ vượt trội hơn những nền văn minh mà con người ngoan cố đòi quyền kiểm soát. Ngoài ra, bản thân máy tính có thể chiếm quyền kiểm soát. Để hiểu lý do tại sao, hãy tưởng tượng bạn là nô lệ theo đúng nghĩa đen của một đứa trẻ tám tuổi. Nếu bạn có thể trò chuyện lâu với một đứa trẻ, bạn có nghĩ rằng bạn có thể thuyết phục được đứa trẻ ký vào một tờ giấy giải phóng bạn không? Mặc dù tôi chưa tiến hành thí nghiệm này nhưng câu trả lời trực quan của tôi là có. Vì vậy, về tổng thể, việc con người trở thành thú cưng dường như là một điểm thu hút rất khó thoát mà không cần phải lo lắng về việc thiết kế hội trường, trọng lực nhân tạo và kiểm soát khí hậu.

Bầu trời gần và hoàng đế ở xa

Câu tục ngữ “Trời cao hoàng đế xa” thể hiện một thực tế cơ bản về giới hạn của tập trung hóa chính trị. Ngay cả trong các đế chế chuyên quyền và lớn trên danh nghĩa - trên thực tế, và đặc biệt là ở các đế chế chuyên quyền lớn hơn - vẫn có những giới hạn thực tế đối với ảnh hưởng và sự chú ý của giới lãnh đạo, bị suy yếu do nhu cầu lãnh đạo giao phó cho các đại diện địa phương thực thi ý chí của mình. thực hiện ý định của mình, do đó sẽ luôn có một mức độ tự do thực tế nhất định. Đôi khi điều này có thể gây ra những tác động bất lợi: Sự vắng mặt của quyền lực có thể tạo ra không gian cho các lãnh chúa địa phương cướp bóc và đàn áp. Nhưng nếu quyền lực trung tâm đi theo hướng xấu, những giới hạn thực tế về sự chú ý và khoảng cách có thể đặt ra những giới hạn thực tế về mức độ tồi tệ mà nó có thể xảy ra.

Trong thời đại trí tuệ nhân tạo, điều này không còn đúng nữa. Trong thế kỷ 20, công nghệ giao thông hiện đại đã khiến cho việc hạn chế khoảng cách trở nên kém hiệu quả hơn so với trước đây đối với quyền lực trung ương; các đế quốc toàn trị quy mô lớn những năm 1940 một phần là kết quả của việc này. Trong thế kỷ 21, việc thu thập và tự động hóa thông tin có thể mở rộng có thể đồng nghĩa với việc sự chú ý sẽ không còn là hạn chế nữa. Sự biến mất hoàn toàn các giới hạn tự nhiên đối với sự tồn tại của chính phủ có thể gây ra những hậu quả thảm khốc. Các đế chế toàn trị khổng lồ của những năm 1940 một phần là kết quả của việc này.

Một thập kỷ sau sự trỗi dậy của chủ nghĩa độc tài kỹ thuật số, công nghệ giám sát đã mang lại cho các chính phủ độc tài một chiến thuật mới mạnh mẽ để đàn áp phe đối lập: cho phép các cuộc biểu tình diễn ra, sau đó phát hiện và âm thầm hành động chống lại những người tham gia sau khi sự việc xảy ra. Tổng quát hơn, về cơ bản, tôi lo lắng rằng cùng một loại công nghệ quản lý đã cho phép OpenAI phục vụ hơn 100 triệu khách hàng với 500 nhân viên cũng sẽ tạo điều kiện cho một nhóm chính trị ưu tú gồm 500 người hoặc thậm chí một ban giám đốc gồm 5 người, duy trì một chính sách sắt thép- nắm quyền thống trị toàn bộ đất nước. Với công nghệ giám sát hiện đại để thu thập thông tin và trí tuệ nhân tạo hiện đại để giải thích thông tin, có thể không còn nơi ẩn náu nữa.

Tình hình thậm chí còn tồi tệ hơn khi chúng ta xem xét hậu quả của AI trong chiến tranh. Dịch nội dung một bài viết bán nổi trên Sohu năm 2019. Với công nghệ giám sát hiện đại để thu thập thông tin và trí tuệ nhân tạo hiện đại để giải thích thông tin, có thể không còn nơi ẩn náu nữa.

"Không cần công tác chính trị tư tưởng và vận động thời chiến"Nó chủ yếu có nghĩa là người chỉ huy tối cao của cuộc chiến chỉ cần xem xét tình hình của cuộc chiến, giống như chơi cờ, và không cần lo lắng về những gì hiệp sĩ và xe trên bàn cờ hiện đang suy nghĩ. Cuộc chiến đã trở thành một cuộc cạnh tranh thuần túy về mặt công nghệ.

Ở mức độ sâu hơn,"Công tác chính trị, tư tưởng và động viên thời chiến"Bất cứ ai gây chiến đều phải có lý do chính đáng. Không nên đánh giá thấp tầm quan trọng của việc có được sự biện minh, một khái niệm chi phối tính hợp pháp của chiến tranh trong xã hội loài người trong hàng nghìn năm. Bất cứ ai muốn bắt đầu một cuộc chiến tranh ít nhất phải tìm được một lý do hoặc lời bào chữa chính đáng. Bạn có thể cho rằng sự ràng buộc này là yếu bởi vì, về mặt lịch sử, nó thường chỉ là một cái cớ. Ví dụ, động cơ thực sự đằng sau các cuộc Thập tự chinh là cướp bóc và mở rộng lãnh thổ, tuy nhiên, chúng được thực hiện nhân danh Chúa, ngay cả khi mục tiêu là những người sùng đạo ở Constantinople. Tuy nhiên, ngay cả hạn chế yếu nhất vẫn là hạn chế! Lý do đơn thuần này thực sự ngăn cản các chiến binh hoàn toàn để mục tiêu của họ không bị kiểm soát. Ngay cả một kẻ độc ác như Hitler cũng không thể tiến hành chiến tranh mà không dè dặt; ông ta đã phải mất nhiều năm thuyết phục người dân Đức về sự cần thiết của chủng tộc quý tộc Aryan để chiến đấu vì không gian sống của họ.

Ngày nay, “người dân lưu hành” như một biện pháp kiểm tra quan trọng đối với quyền lực của những kẻ độc tài trong việc tiến hành chiến tranh hoặc đàn áp công dân tại quê nhà. Những người trong vòng lặp đã ngăn chặn chiến tranh hạt nhân, giữ cho Bức tường Berlin mở và cứu mạng sống trong các hành động tàn bạo như Holocaust. Nếu quân đội được tạo thành từ robot, hạn chế này sẽ biến mất hoàn toàn. Một nhà độc tài có thể say rượu lúc 10 giờ tối, nổi điên lúc 11 giờ tối vì ai đó không tử tế với họ trên Twitter, và sau đó trước nửa đêm, một đội robot xâm lược có thể vượt qua biên giới và tàn phá dân thường và cơ sở hạ tầng của quốc gia láng giềng.

Không giống như những thời đại trước, luôn có những góc xa, xa xôi, nơi những người chống đối chế độ có thể tổ chức lại, ẩn náu và cuối cùng tìm cách cải thiện mọi thứ. Tuy nhiên, với sự phát triển của trí tuệ nhân tạo trong thế kỷ 21, một chế độ toàn trị có thể duy trì đủ mức “phong tỏa” bằng cách giám sát và kiểm soát thế giới đủ để không bao giờ thay đổi.

d/acc: Phòng thủ (hoặc Phân tán, hoặc Khác biệt) Chủ nghĩa gia tốc

Trong vài tháng qua, phong trào e/acc (người tăng tốc hiệu quả) đã có những bước tiến vượt bậc. Được tóm tắt bởi Beff Jezos ở đây, e/acc về cơ bản là sự thừa nhận những lợi ích thực sự to lớn của tiến bộ công nghệ và mong muốn đẩy nhanh xu hướng này để thu được những lợi ích đó sớm hơn.

Có nhiều tình huống tôi thấy mình đồng cảm với quan điểm của e/acc. Có rất nhiều bằng chứng cho thấy FDA quá thận trọng trong việc trì hoãn hoặc ngăn chặn việc phê duyệt thuốc, và đạo đức sinh học nói chung dường như thường tuân theo nguyên tắc này: Thật là một bi kịch khi 20 người chết trong một thí nghiệm vì sai sót, nhưng 200.000 người chết vì sai sót. về sự chậm trễ. Khi nói đến các phương pháp điều trị cứu sống, đó chỉ là một thống kê. Sự chậm trễ trong việc phê duyệt các xét nghiệm và vắc xin COVID, cũng như vắc xin sốt rét, dường như càng củng cố điều này. Tuy nhiên, quan điểm này có thể được coi là quá nghiêm túc.

Ngoài những lo ngại liên quan đến AI, tôi còn cảm thấy đặc biệt mâu thuẫn về sự nhiệt tình của e/acc đối với công nghệ quân sự. Trong kịch bản hiện tại là năm 2023, nơi công nghệ này được sản xuất tại Hoa Kỳ và ngay lập tức được áp dụng để bảo vệ Ukraine, thật dễ dàng nhận thấy nó có thể trở thành một lực lượng tốt như thế nào. Tuy nhiên, từ góc độ rộng hơn, sự nhiệt tình đối với công nghệ quân sự hiện đại dường như đòi hỏi niềm tin rằng lực lượng công nghệ thống trị sẽ luôn là người tốt trong hầu hết các cuộc xung đột, hiện tại và tương lai: Công nghệ quân sự tốt vì công nghệ quân sự do Hoa Kỳ sản xuất. Các quốc gia được xây dựng và kiểm soát, và nước Mỹ tốt. Có phải e/acc sắp trở thành người theo chủ nghĩa tối cao của Mỹ? Để đặt cược tất cả số tiền của bạn vào đạo đức hiện tại và tương lai của chính phủ cũng như sự thành công trong tương lai của đất nước?

Mặt khác, tôi thấy cần phải suy nghĩ về những cách mới để giảm thiểu những rủi ro này. Cơ cấu quản trị của OpenAI là một trường hợp điển hình: nó dường như là một nỗ lực có chủ đích nhằm cân bằng nhu cầu sinh lãi nhằm làm hài lòng các nhà đầu tư đã cung cấp vốn ban đầu, đồng thời tìm cách tạo ra một hệ thống kiểm tra và cân bằng để bảo vệ tắt những động thái đó Một động thái có thể dẫn đến việc OpenAI hủy diệt thế giới. Tuy nhiên, trên thực tế, nỗ lực sa thải Sam Altman gần đây của họ khiến cơ cấu này trông giống như một thất bại hoàn toàn: Nó tập trung quyền lực vào một ban giám đốc gồm năm người phi dân chủ, vô trách nhiệm, làm mọi việc dựa trên thông tin bí mật, đưa ra các quyết định quan trọng và từ chối cung cấp. bất kỳ chi tiết nào về lý do của họ cho đến khi bị đe dọa. Bằng cách nào đó, các hội đồng phi lợi nhuận hoạt động kém đến mức các nhân viên của công ty đã thành lập một liên minh ngẫu hứng trên thực tế để hỗ trợ CEO tỷ phú thay vì họ.

Nhìn chung, tôi thấy có quá nhiều kế hoạch giải cứu thế giới liên quan đến việc trao quyền lực cực đoan và không rõ ràng cho một số ít người và hy vọng họ sẽ sử dụng nó một cách khôn ngoan. Vì vậy, tôi thấy mình đang hướng tới một triết lý khác, một triết lý có những ý tưởng chi tiết về cách đối phó với rủi ro, nhưng lại tìm cách tạo ra và duy trì một thế giới dân chủ hơn và cố gắng tránh tập trung quyền lực như giải pháp đầu tiên cho các vấn đề. Triết lý này cũng liên quan đến các lĩnh vực vượt xa AI và tôi sẽ dùng tên d/acc để chỉ triết lý này.

dacc 3 

Chữ d ở đây có thể tượng trưng cho nhiều thứ, đặc biệt là quốc phòng, phân quyền, dân chủ và khác biệt. Đầu tiên, hãy coi nó như một lời biện hộ, và sau đó chúng ta có thể thấy điều này liên quan đến những cách giải thích khác như thế nào.

Một thế giới phòng thủ nơi sức khỏe và quản trị dân chủ phát triển mạnh

Một cách để suy nghĩ về những hậu quả vĩ mô của công nghệ là xem xét sự cân bằng giữa phòng thủ và tấn công. Một số công nghệ khiến việc tấn công người khác trở nên dễ dàng hơn, nói rộng ra: bằng cách làm những việc đi ngược lại lợi ích của họ và khiến họ cảm thấy cần phải phản ứng. Trong khi các công nghệ khác giúp việc phòng thủ trở nên dễ dàng hơn mà không cần dựa vào các tác nhân tập trung lớn.

Một thế giới thiên về phòng thủ là một thế giới tốt đẹp hơn vì nhiều lý do. Tất nhiên, đầu tiên là những lợi ích trực tiếp của an ninh: ít người chết hơn, ít mất đi giá trị kinh tế hơn, ít lãng phí thời gian hơn vào các cuộc xung đột. Tuy nhiên, điều ít được đánh giá cao là một thế giới phòng thủ hơn sẽ tạo điều kiện cho các hình thức quản trị lành mạnh hơn, cởi mở hơn và tôn trọng tự do hơn phát triển dễ dàng hơn.

Một ví dụ rõ ràng là Thụy Sĩ. Thụy Sĩ thường được coi là quốc gia gần gũi nhất trong thế giới thực với một nền quản trị tự do cổ điển không tưởng. Một lượng lớn quyền lực được chuyển giao cho các tỉnh (gọi là tiểu bang), các quyết định quan trọng được quyết định thông qua trưng cầu dân ý và nhiều người dân địa phương thậm chí không biết tổng thống là ai. Làm thế nào một đất nước như vậy có thể tồn tại dưới những áp lực chính trị đầy thách thức? Một phần do chiến lược chính trị xuất sắc, nhưng một phần do địa hình rất phòng thủ được tạo ra bởi địa hình đồi núi.

Lá cờ là một điểm cộng lớn, nhưng những ngọn núi cũng vậy.

Trong cuốn sách mới của James C. Scott, Nghệ thuật không bị thống trị, các xã hội vô chính phủ ở Zomia, được nhắc đến nhiều, là một ví dụ khác: họ phần lớn duy trì được quyền tự do và độc lập, phần lớn nhờ vào địa hình đồi núi. Đồng thời, thảo nguyên Á-Âu đóng vai trò là ví dụ điển hình cho một điều không tưởng về quản trị. Cuộc thảo luận của Sarah Penn về các cường quốc hàng hải và lục địa cũng đưa ra quan điểm tương tự, mặc dù cô tập trung nhiều vào nước như một hàng rào phòng thủ hơn là vào các ngọn núi. Quả thực, sự kết hợp giữa việc dễ dàng buôn bán tự nguyện và khó khăn trong việc bị xâm lược cưỡng bức, phổ biến ở Thụy Sĩ cũng như các quốc đảo, dường như là điều kiện lý tưởng cho sự phát triển của con người.

Khi tôi đang tư vấn về các vòng cấp vốn Gitcoin Grants trong hệ sinh thái Ethereum, tôi đã phát hiện ra một hiện tượng liên quan. Ở Vòng 4, một trò hề đã nổ ra khi một số người hưởng lợi nhiều nhất là những người có ảnh hưởng trên Twitter, những đóng góp của họ được một số người coi là tích cực và những người khác coi là tiêu cực. Giải thích của tôi về điều này là có sự mất cân bằng: nguồn tài trợ thứ cấp cho phép bạn chỉ ra rằng bạn tin rằng thứ gì đó là hàng hóa công cộng, nhưng nó không cung cấp cách để chỉ ra rằng thứ gì đó gây phiền toái cho công chúng. Trong những trường hợp cực đoan, một hệ thống tài trợ thứ cấp hoàn toàn trung lập sẽ tài trợ cho cả hai bên trong cuộc chiến. Vì vậy, ở vòng 5, tôi đã đề xuất rằng Gitcoin nên bao gồm các khoản đóng góp tiêu cực: bạn trả 1 đô la để giảm số tiền tài trợ mà một dự án nhận được (và ngầm phân bổ lại nó cho tất cả các dự án khác), và kết quả là rất nhiều người không hài lòng. Với cái này.

Một trong nhiều meme được lan truyền sau hiệp thứ năm.

Đối với tôi, đây có vẻ giống như một biểu hiện vi mô của một mô hình lớn hơn: tạo ra các cơ chế quản trị phi tập trung để giải quyết các tác động bên ngoài tiêu cực là một vấn đề rất khó khăn trong xã hội. Ví dụ kinh điển về sai lầm trong quản trị phi tập trung thường là sự công bằng của đám đông. Có điều gì đó về tâm lý con người khiến việc giải quyết những điều tiêu cực trở nên khó khăn hơn nhiều và có nhiều khả năng gây ra vấn đề nghiêm trọng hơn là giải quyết những điều tích cực. Đây là lý do tại sao, ngay cả trong các tổ chức có tính dân chủ cao, quyền quyết định cách ứng phó với các vấn đề tiêu cực thường được giao cho ủy ban trung ương.

Trong nhiều trường hợp, tình thế tiến thoái lưỡng nan này là một trong những lý do sâu xa khiến khái niệm “tự do” lại có giá trị đến vậy. Nếu ai đó nói điều gì đó xúc phạm bạn hoặc có lối sống mà bạn thấy khó chịu thì nỗi đau và sự ghê tởm mà bạn cảm thấy là có thật và thậm chí bạn có thể cảm thấy rằng việc bị hành hung thể xác không tệ bằng việc phải đối mặt với những điều này. Nhưng cố gắng đồng ý về hành vi xúc phạm và đáng ghét được xã hội chấp nhận có thể phải trả giá đắt và nguy hiểm hơn là nhắc nhở bản thân rằng những kẻ lập dị và khốn nạn nhất định là cái giá chúng ta phải trả cho việc sống trong một xã hội tự do.

Tuy nhiên, trong những trường hợp khác, cách tiếp cận hút nó là không thực tế. Trong trường hợp này, một giải pháp khác đôi khi đáng được xem xét là công nghệ phòng thủ. Internet càng an toàn thì chúng ta càng ít cần xâm phạm quyền riêng tư của người dân và sử dụng biện pháp ngoại giao quốc tế mờ ám để đối phó với các cá nhân tin tặc. Chúng ta càng có thể xây dựng các công cụ được cá nhân hóa để chặn mọi người trên Twitter, các công cụ trong trình duyệt để phát hiện gian lận và các công cụ tập thể để phân biệt tin đồn với sự thật, chúng ta càng ít phải tranh luận về kiểm duyệt. Chúng ta sản xuất vắc xin càng nhanh thì chúng ta càng ít phải đối phó với những kẻ siêu lây lan. Những giải pháp này sẽ không hiệu quả trong mọi lĩnh vực - chúng tôi chắc chắn không muốn thấy một thế giới mà mọi người đều phải mặc áo giáp thật - nhưng ở những lĩnh vực mà chúng tôi có thể tận dụng công nghệ để khiến thế giới thiên về phòng thủ hơn, thì có giá trị rất lớn trong làm như vậy.

Ý tưởng cốt lõi này, cho rằng một số công nghệ tốt cho việc phòng thủ và đáng được phát triển, trong khi các công nghệ khác tốt cho việc tấn công và cần bị ngăn chặn, có nguồn gốc từ tài liệu về lòng vị tha hiệu quả xuất hiện dưới một cái tên khác: phát triển công nghệ khác biệt. Vào năm 2022, các nhà nghiên cứu tại Đại học Oxford đã đưa ra nguyên tắc này rất hay:

Hình 1: Các cơ chế giúp phát triển công nghệ khác biệt giúp giảm tác động tiêu cực đến xã hội.

Chắc chắn sẽ có những sai sót khi phân loại các kỹ thuật tấn công, phòng thủ hay trung lập. Giống như “quyền tự do”, người ta có thể tranh luận liệu các chính sách của chính phủ dân chủ xã hội có làm giảm quyền tự do bằng cách áp thuế nặng và ép buộc người sử dụng lao động hay không, hay liệu chúng có tăng quyền tự do bằng cách giảm bớt mối lo ngại của người dân về nhiều loại rủi ro hay không. công nghệ có thể ở cả hai đầu của quang phổ. Vũ khí hạt nhân tốt cho tấn công, nhưng năng lượng hạt nhân tốt cho sự thịnh vượng của con người và trung lập giữa tấn công và phòng thủ. Các công nghệ khác nhau có thể hoạt động khác nhau trong các khung thời gian khác nhau. Nhưng giống như “tự do” (hay “bình đẳng” hay “luật pháp”), việc làm mờ đi các ranh giới không phải là một lập luận chống lại một nguyên tắc mà là một cơ hội để hiểu rõ hơn về sự tinh tế của nó.

Bây giờ, hãy xem nguyên tắc này có thể được áp dụng như thế nào để có cái nhìn toàn diện hơn về thế giới. Chúng ta có thể coi công nghệ quốc phòng giống như các công nghệ khác, được chia thành hai lĩnh vực: thế giới nguyên tử và thế giới bit. Thế giới nguyên tử có thể được chia thành vi mô (tức là sinh học và công nghệ nano sau này) và vĩ mô (tức là những gì chúng ta thường nghĩ là phòng thủ, nhưng cũng bao gồm cơ sở hạ tầng vật chất kiên cường). Tôi chia thế giới bit theo các trục khác nhau: về nguyên tắc thì dễ dàng đồng ý, ai là kẻ tấn công? Đôi khi việc đó thật dễ dàng; tôi gọi đó là phòng thủ mạng. Những lúc khác thì khó khăn hơn; tôi gọi đó là bảo vệ thông tin.

phòng thủ vật lý vĩ mô

Công nghệ phòng thủ bị đánh giá thấp nhất trong lĩnh vực vĩ ​​mô thậm chí không phải là Iron Dome (bao gồm cả hệ thống mới của Ukraine) và các phần cứng quân sự chống công nghệ và tên lửa khác, mà là cơ sở hạ tầng vật chất kiên cường. Hầu hết số ca tử vong trong chiến tranh hạt nhân có thể đến từ sự gián đoạn chuỗi cung ứng chứ không phải do hậu quả và cú sốc ban đầu, và các giải pháp internet có cơ sở hạ tầng thấp như Starlink rất quan trọng để duy trì kết nối ở Ukraine trong một năm rưỡi qua.

Xây dựng các công cụ giúp mọi người tồn tại độc lập hoặc bán độc lập hoặc thậm chí sống thoải mái trong chuỗi cung ứng quốc tế dài hạn dường như là một công nghệ phòng thủ có giá trị và ít rủi ro hơn khi sử dụng để tấn công.

Nhiệm vụ cố gắng biến nhân loại thành một nền văn minh đa hành tinh cũng có thể được nhìn từ góc độ d/acc: việc có ít nhất một số người có thể sống tự cung tự cấp trên các hành tinh khác có thể tăng khả năng phục hồi của chúng ta trước những sự kiện khủng khiếp trên Trái đất. Ngay cả khi tầm nhìn đầy đủ hiện tại có vẻ không khả thi, có khả năng các dạng sống tự cung tự cấp cần được phát triển để hiện thực hóa dự án này có thể được sử dụng để giúp tăng khả năng phục hồi của nền văn minh của chúng ta trên Trái đất.

Phòng thủ vi vật lý (còn gọi là phòng thủ sinh học)

Covid vẫn là một mối lo ngại, đặc biệt là do nó ảnh hưởng lâu dài đến sức khỏe. Nhưng Covid còn lâu mới là đại dịch cuối cùng mà chúng ta sẽ phải đối mặt; nhiều khía cạnh của thế giới hiện đại khiến có khả năng sẽ có thêm nhiều đại dịch sắp xảy ra:

Mật độ dân số cao hơn khiến virus trong không khí và các mầm bệnh khác dễ lây lan hơn. Các bệnh dịch còn tương đối mới trong lịch sử loài người, hầu hết đều bắt đầu từ quá trình đô thị hóa cách đây hàng nghìn năm. Quá trình đô thị hóa nhanh chóng đang diễn ra có nghĩa là mật độ dân số sẽ tăng hơn nữa trong nửa thế kỷ tới.

Việc di chuyển bằng đường hàng không tăng lên có nghĩa là mầm bệnh trong không khí có thể lây lan nhanh chóng trên khắp thế giới. Mọi người đang nhanh chóng trở nên giàu có hơn có nghĩa là việc đi lại bằng đường hàng không có thể sẽ tăng đáng kể trong nửa thế kỷ tới; mô hình phức tạp cho thấy rằng ngay cả những mức tăng nhỏ cũng có thể gây ra hậu quả nghiêm trọng. Biến đổi khí hậu có thể làm tăng thêm nguy cơ này.

Việc thuần hóa động vật và chăn nuôi công nghiệp là những yếu tố nguy cơ chính. Bệnh sởi có thể đã tiến hóa từ một loại virus ở bò cách đây chưa đầy 3.000 năm. Hoạt động chăn nuôi công nghiệp ngày nay cũng đang tạo ra các chủng vi-rút cúm mới (cũng như thúc đẩy tình trạng kháng thuốc kháng sinh, có tác động đến hệ thống miễn dịch bẩm sinh của con người).

Kỹ thuật sinh học hiện đại giúp dễ dàng tạo ra các mầm bệnh mới, độc hại hơn. Covid có thể đã hoặc không bị rò rỉ từ một phòng thí nghiệm đang tiến hành nghiên cứu nâng cao có chủ ý. Bất chấp điều đó, rò rỉ trong phòng thí nghiệm vẫn xảy ra và các công cụ đang nhanh chóng được cải tiến, khiến việc cố tình tạo ra các loại virus cực kỳ nguy hiểm và thậm chí cả prion (protein zombie) trở nên dễ dàng hơn. Các bệnh dịch nhân tạo đặc biệt đáng lo ngại, một phần vì, không giống như vũ khí hạt nhân, chúng không phải do nguyên nhân: Bạn có thể giải phóng một loại virus và không ai có thể biết ai đã tạo ra nó. Giờ đây, bạn có thể thiết kế trình tự gen, gửi nó đến phòng thí nghiệm ẩm ướt để tổng hợp và giao nó cho bạn trong vòng năm ngày.

Đây là một trong những lĩnh vực mà hai tổ chức, CryptoRelief và Balvi, được thành lập và tài trợ vào năm 2021 nhờ một lượng lớn tiền xu Shiba Inu. Ban đầu tập trung vào việc ứng phó với cuộc khủng hoảng trước mắt, CryptoRelief gần đây đã xây dựng một hệ sinh thái nghiên cứu y tế lâu dài ở Ấn Độ, trong khi Balvi tập trung vào các dự án hướng tới tương lai nhằm cải thiện khả năng phát hiện, ngăn ngừa và điều trị Covid cũng như các bệnh lây truyền qua đường không khí khác của chúng tôi. . ++Balvi khẳng định rằng các dự án được nó tài trợ phải áp dụng cách tiếp cận nguồn mở++. Lấy cảm hứng từ phong trào kỹ thuật thủy lực thế kỷ 19 đã đánh bại bệnh tả và các mầm bệnh lây truyền qua đường nước khác, quỹ này tài trợ cho các dự án trên toàn bộ công nghệ có thể mặc định khiến thế giới trở nên kiên cường hơn trước các mầm bệnh trong không khí, bao gồm:

Nghiên cứu và phát triển bức xạ UVC xa

Lọc không khí và giám sát chất lượng, giám sát chất lượng không khí ở Ấn Độ, Sri Lanka, Hoa Kỳ, v.v.

Thiết bị kiểm tra chất lượng không khí phi tập trung giá rẻ và hiệu quả

Nghiên cứu nguyên nhân Covid lâu dài và các phương án điều trị tiềm năng (nguyên nhân chính có thể đơn giản, nhưng làm rõ cơ chế và tìm ra phương pháp điều trị thì khó hơn)

Vắc xin (ví dụ: RaDVaC, PopVax) và nghiên cứu về tổn thương do vắc xin

Một bộ công cụ y tế không xâm lấn mới

Tận dụng phân tích dữ liệu nguồn mở để phát hiện sớm dịch bệnh (ví dụ: EPIWATCH)

Các xét nghiệm, bao gồm các xét nghiệm nhanh phân tử rất rẻ

Mặt nạ an toàn sinh học khi các phương pháp khác không thành công

Các lĩnh vực nghiên cứu đầy hứa hẹn khác bao gồm giám sát mầm bệnh trong nước thải, cải thiện quá trình lọc và thông gió trong các tòa nhà, đồng thời hiểu rõ hơn và giảm thiểu rủi ro do ô nhiễm không khí gây ra.

Theo mặc định, có cơ hội để xây dựng một thế giới có khả năng chống chịu tốt hơn trước các dịch bệnh trong không khí tự nhiên và nhân tạo. Thế giới này sẽ có một quy trình được tối ưu hóa cao, nơi chúng ta có thể tự động phát hiện dịch bệnh ngay từ đầu và mọi người trên khắp thế giới có thể tiếp cận với vắc xin nguồn mở có mục tiêu, được sản xuất tại địa phương và có thể kiểm chứng hoặc các biện pháp phòng ngừa khác trong vòng một tháng, thông qua sương mù. Dùng hóa chất hoặc xịt mũi (tức là tự dùng khi cần thiết, không cần tiêm). Đồng thời, chất lượng không khí tốt hơn sẽ giảm đáng kể tốc độ lây truyền và ngăn ngừa nhiều dịch bệnh bị dập tắt ngay từ giai đoạn đầu.

Hãy hình dung một tương lai không phải dùng đến búa của sự ép buộc xã hội - không có mệnh lệnh và tệ hơn nữa, không có mệnh lệnh rủi ro, được thiết kế và thực hiện kém có thể khiến mọi thứ trở nên tồi tệ hơn - bởi vì cơ sở hạ tầng Y tế công cộng được dệt thành nền văn minh. Một thế giới như vậy là có thể thực hiện được và với những khoản đầu tư khiêm tốn vào phòng thủ sinh học, điều đó có thể đạt được. Công việc sẽ suôn sẻ hơn nếu những phát triển này là nguồn mở, có sẵn miễn phí cho người dùng và được bảo vệ như hàng hóa công cộng.

Phòng thủ mạng, chuỗi khối và mật mã

Các chuyên gia bảo mật thường đồng ý rằng tình trạng bảo mật máy tính hiện nay rất tồi tệ. Tuy nhiên, thật dễ dàng để đánh giá thấp những tiến bộ đã đạt được. Hàng chục tỷ đô la tiền điện tử có thể bị đánh cắp ẩn danh bởi bất kỳ ai có thể xâm nhập vào ví của người dùng và mặc dù tỷ lệ phần trăm bị đánh cắp hoặc bị đánh cắp lớn hơn nhiều so với tôi mong muốn, nhưng thực tế là hầu hết tiền điện tử đã không bị hack trong hơn một thập kỷ qua. một thập kỷ Ăn trộm. Đã có một số cải tiến gần đây:

Một chip phần cứng đáng tin cậy được tích hợp vào thiết bị, tạo ra một hệ điều hành nhỏ hơn, có độ an toàn cao hơn một cách hiệu quả trong điện thoại của người dùng mà vẫn đảm bảo an toàn ngay cả khi phần còn lại của điện thoại bị hack. Những con chip này ngày càng được khám phá như một cách để tạo ra ví tiền điện tử an toàn hơn, một phần trong một số trường hợp sử dụng.

Trình duyệt đóng vai trò là hệ điều hành trên thực tế. Trong thập kỷ qua, đã có sự chuyển đổi lặng lẽ từ các ứng dụng có thể tải xuống sang các ứng dụng dựa trên trình duyệt. Điều này phần lớn là do WebAssugging (WASM). Ngay cả Adobe Photoshop, từ lâu được coi là một trong những lý do chính khiến nhiều người không thể thực sự sử dụng Linux do tính cần thiết và không tương thích với Linux, giờ đây đã thân thiện với Linux nhờ được nhúng vào trình duyệt. Đây cũng là một lợi thế lớn về bảo mật: mặc dù các trình duyệt có sai sót nhưng nhìn chung chúng cung cấp nhiều hộp cát hơn các ứng dụng đã cài đặt: ứng dụng không thể truy cập các tệp tùy ý trên máy tính của bạn.

Làm cứng hệ điều hành. GrapheneOS cho thiết bị di động tồn tại và rất hữu dụng. Phiên bản QubesOS dành cho máy tính để bàn cũng tồn tại; theo kinh nghiệm của tôi, hiện tại nó ít được sử dụng hơn Graphene, nhưng nó đang được cải thiện.

Cố gắng nhìn xa hơn mật khẩu. Mật khẩu khó bảo vệ vì chúng khó nhớ và có thể dễ dàng bị nghe lén. Gần đây, phong trào ngày càng gia tăng nhằm giảm sự phụ thuộc vào mật khẩu và làm cho xác thực đa yếu tố dựa trên phần cứng thực sự hoạt động.

Tuy nhiên, việc thiếu phòng thủ mạng ở các lĩnh vực khác cũng dẫn đến những thất bại đáng kể. Nhu cầu bảo vệ khỏi thư rác đã khiến email trở nên rất đầu sỏ trong thực tế, gây khó khăn cho việc tự lưu trữ hoặc tạo nhà cung cấp email mới. Nhiều ứng dụng trực tuyến, bao gồm cả Twitter, yêu cầu người dùng đăng nhập để truy cập nội dung và chặn địa chỉ IP bằng VPN, khiến việc truy cập Internet theo cách bảo vệ quyền riêng tư trở nên khó khăn hơn. Việc tập trung hóa phần mềm cũng tiềm ẩn rủi ro vì “sự phụ thuộc lẫn nhau được vũ khí hóa”: các công nghệ hiện đại có xu hướng chảy qua các nút thắt cổ chai tập trung và những người vận hành các nút cổ chai này sử dụng quyền lực này để thu thập thông tin, thao túng kết quả hoặc loại trừ các tác nhân cụ thể, điều này khiến cho chiến thuật này thậm chí còn xuất hiện để đang được sử dụng để chống lại chính ngành công nghiệp blockchain.

Những xu hướng này thật đáng lo ngại vì chúng đe dọa về mặt lịch sử một trong những hy vọng lớn nhất của tôi về triển vọng tự do và quyền riêng tư trong tương lai. Trong cuốn sách “Những điều không hoàn hảo trong tương lai”, David Friedman dự đoán rằng chúng ta có thể phải đối mặt với một tương lai chiết trung: thế giới vật chất sẽ ngày càng bị giám sát nhiều hơn, nhưng thông qua mật mã, thế giới trực tuyến sẽ bảo toàn hoặc thậm chí cải thiện quyền riêng tư của họ. Thật không may, như chúng ta đã thấy, một xu hướng ngược lại như vậy là không chắc chắn.

Đây là sự nhấn mạnh của tôi về các công nghệ mã hóa như chuỗi khối và bằng chứng không có kiến ​​thức. Blockchain cho phép chúng ta tạo ra các cấu trúc kinh tế và xã hội bằng “ổ cứng dùng chung” mà không cần dựa vào các tác nhân tập trung. Tiền điện tử cho phép các cá nhân lưu trữ và thực hiện các giao dịch tài chính giống như tiền mặt được sử dụng trước khi có Internet mà không cần phải dựa vào các bên thứ ba đáng tin cậy, những người có thể thay đổi các quy tắc theo ý muốn. Chúng cũng có thể hoạt động như cơ chế chống Sybil dự phòng, khiến các cuộc tấn công và spam gây tốn kém cho những người dùng không hoặc không muốn tiết lộ danh tính thực thể của mình. Việc trừu tượng hóa tài khoản, đặc biệt là ví phục hồi xã hội, có thể bảo vệ tài sản tiền điện tử của chúng tôi và các tài sản tiềm năng khác trong tương lai mà không phụ thuộc quá nhiều vào các trung gian tập trung.

Bằng chứng không có kiến ​​thức có thể được sử dụng để bảo mật, cho phép người dùng chứng minh sự thật về bản thân mà không tiết lộ thông tin cá nhân. Ví dụ: gói chữ ký hộ chiếu kỹ thuật số trong ZK-SNARK chứng tỏ rằng bạn là công dân duy nhất của một quốc gia mà không tiết lộ bạn là công dân nào. Các công nghệ tương tự cho phép chúng tôi duy trì lợi ích về quyền riêng tư và ẩn danh - các tính năng được nhiều người coi là cần thiết cho các ứng dụng như bỏ phiếu - trong khi vẫn đạt được sự đảm bảo về bảo mật và chống lại thư rác cũng như các tác nhân xấu.

Thiết kế được đề xuất của hệ thống truyền thông xã hội ZK cho phép thực hiện các hoạt động kiểm duyệt và khả năng trừng phạt người dùng mà không cần biết danh tính của bất kỳ ai.

Zupass là một ví dụ điển hình về phương pháp được ươm mầm tại Zuzalu. Đây là một ứng dụng đã được hàng trăm người ở Zuzalu và gần đây là hàng nghìn người ở Devconnect sử dụng để bán vé, cho phép bạn giữ vé, tư cách thành viên, đồ sưu tầm kỹ thuật số (không thể chuyển nhượng) và các chứng chỉ khác, đồng thời chứng nhận tất cả các vấn đề liên quan cho họ mà không tiết lộ quyền riêng tư. Ví dụ: bạn có thể chứng minh rằng bạn là cư dân đã đăng ký duy nhất của Zuzalu hoặc là người giữ vé cho Devconnect mà không tiết lộ thông tin khác về bạn là ai. Những bằng chứng này có thể được hiển thị trực tiếp hoặc kỹ thuật số thông qua mã QR để đăng nhập vào các ứng dụng như Zupoll, một hệ thống bỏ phiếu ẩn danh chỉ dành cho cư dân Zuzalu.

Những công nghệ này là ví dụ điển hình về nguyên tắc d/acc: chúng cho phép người dùng và cộng đồng xác minh độ tin cậy mà không ảnh hưởng đến quyền riêng tư, đồng thời bảo vệ tính bảo mật của họ mà không cần dựa vào các điểm tắc nghẽn tập trung áp đặt định nghĩa riêng về ai là người tốt và kẻ xấu. Chúng tăng khả năng tiếp cận toàn cầu bằng cách tạo ra những cách tốt hơn và công bằng hơn để bảo vệ tính bảo mật của người dùng hoặc dịch vụ hơn là thông lệ phổ biến hiện nay là phân biệt đối xử với toàn bộ các quốc gia được coi là không đáng tin cậy. Đây là những nguyên tắc cơ bản rất mạnh mẽ có thể cần thiết nếu chúng ta mong muốn duy trì tầm nhìn phi tập trung về an ninh thông tin khi chúng ta bước vào thế kỷ 21. Một cam kết rộng rãi hơn đối với các công nghệ phòng thủ trong không gian mạng có thể giúp ích rất nhiều trong việc làm cho Internet trở nên cởi mở, an toàn và miễn phí hơn theo những cách rất quan trọng.

bảo vệ thông tin

Phòng thủ thông tin là những gì tôi mô tả là phòng thủ mạng, xử lý các tình huống mà những người có lý trí có thể dễ dàng đồng thuận về danh tính của kẻ tấn công. Nếu ai đó cố gắng hack vào ví của bạn, bạn dễ dàng cho rằng hacker là kẻ xấu. Nếu ai đó cố gắng thực hiện một cuộc tấn công DoS trên một trang web, mọi người dễ dàng cho rằng họ độc hại và khác biệt về mặt đạo đức với người dùng bình thường đang cố gắng đọc nội dung của trang web. Có những trường hợp khác mà các đường thậm chí còn mờ hơn. Tôi gọi các công cụ để cải thiện khả năng phòng thủ của chúng ta trong những tình huống này là “bảo vệ thông tin”.

Hãy lấy ví dụ như việc kiểm tra tính xác thực (hay còn gọi là ngăn chặn “thông tin sai lệch”). Tôi thực sự thích Ghi chú cộng đồng, nó giúp ích rất nhiều cho người dùng xác định sự thật và lời nói dối trong các tweet của người dùng khác. Ghi chú cộng đồng sử dụng một thuật toán mới không hiển thị những ghi chú phổ biến nhất mà hiển thị những ghi chú được nhiều người dùng nhất trên phạm vi chính trị xác nhận.

Ứng dụng thực tế của chú thích cộng đồng.

Tôi cũng là người hâm mộ thị trường dự đoán, thị trường có thể tiết lộ tầm quan trọng của các sự kiện trong thời gian thực, trước khi mọi thứ trở nên rõ ràng và trước khi có sự đồng thuận về việc mọi thứ sẽ diễn ra như thế nào. Ví dụ: Polymarket trên Sam Altman cung cấp một bản tóm tắt rất hữu ích về tiết lộ và đàm phán các sự kiện theo từng giờ, cung cấp bối cảnh rất cần thiết cho những người chỉ xem từng mục tin tức riêng lẻ mà không hiểu tầm quan trọng của từng mục.

Thị trường dự đoán thường có sai sót, nhưng những người có ảnh hưởng trên Twitter sẵn sàng tự tin tuyên bố những gì họ nghĩ sẽ xảy ra trong năm tới thì thậm chí còn sai sót hơn. Thị trường dự đoán vẫn còn rất nhiều chỗ để cải thiện. Ví dụ: thị trường dự đoán thường có khối lượng giao dịch thấp ở tất cả các sự kiện ngoại trừ những sự kiện nổi bật nhất; hướng đi tự nhiên để giải quyết vấn đề này là tung ra thị trường dự đoán liên quan đến trí tuệ nhân tạo.

Trong không gian blockchain, tôi nghĩ chúng ta cần nhiều loại hình bảo vệ thông tin cụ thể hơn. Điều đó có nghĩa là ví phải sâu sắc hơn và chủ động hơn trong việc giúp người dùng xác định ý nghĩa của những thứ họ ký và bảo vệ họ khỏi gian lận và lừa đảo. Đây là trường hợp trung gian: cái gì là lừa đảo và cái gì không phải là lừa đảo ít chủ quan hơn ý kiến ​​​​về các sự kiện xã hội gây tranh cãi, nhưng chủ quan hơn việc phân biệt người dùng hợp pháp với kẻ tấn công hoặc tin tặc DoS. Metamask đã có cơ sở dữ liệu lừa đảo và tự động chặn người dùng truy cập các trang web lừa đảo.

Các ứng dụng như Fire là một ví dụ về cách tiếp cận sâu hơn. Tuy nhiên, phần mềm bảo mật không phải là thứ cần được cài đặt rõ ràng; nó phải là cài đặt mặc định cho ví tiền điện tử hoặc thậm chí cả trình duyệt.

Bởi vì việc bảo vệ thông tin mang tính chủ quan hơn nên mang tính tập thể hơn là phòng thủ trên mạng: bạn cần bằng cách nào đó kết nối với một nhóm người lớn và phức tạp để xác định thông tin nào có thể đúng hay sai và với những ứng dụng nào. Đó là một kế hoạch Ponzi lừa đảo . Các nhà phát triển có cơ hội đạt được tiến bộ lớn hơn trong việc phát triển các biện pháp bảo vệ thông tin hiệu quả và tăng cường các hình thức bảo vệ thông tin hiện có. Một cái gì đó như Ghi chú cộng đồng có thể được đưa vào trình duyệt, không chỉ bao gồm các nền tảng truyền thông xã hội mà còn bao gồm toàn bộ internet.

Công nghệ xã hội vượt ra ngoài khuôn khổ “phòng thủ”

Ở một mức độ nào đó, tôi có thể bị buộc tội là quá nhấn mạnh vào việc mô tả một số công nghệ thông tin là phòng thủ. Xét cho cùng, phòng thủ là giúp bảo vệ những tác nhân có thiện chí khỏi những tác nhân độc hại (hoặc, trong một số trường hợp, từ tự nhiên). Tuy nhiên, một số công nghệ xã hội này giúp những người có thiện chí phát triển sự đồng thuận.

Một ví dụ điển hình về điều này là pol.is, sử dụng thuật toán tương tự như Ghi chú cộng đồng (và có trước Ghi chú cộng đồng) để giúp cộng đồng xác định các điểm đồng thuận giữa các nhóm nhỏ khác nhau không đồng ý về nhiều khía cạnh. Viewpoints.xyz được lấy cảm hứng từ pol.is và có tinh thần tương tự:

Những kỹ thuật như thế này có thể được sử dụng để cho phép quản trị phi tập trung hơn đối với các quyết định gây tranh cãi. Một lần nữa, cộng đồng blockchain là nơi thực hành tốt trong lĩnh vực này và đã chứng minh giá trị của các thuật toán này. Nói chung, các quyết định về những cải tiến (EIP) cần thực hiện đối với giao thức Ethereum được đưa ra bởi một nhóm khá nhỏ trong các cuộc họp có tên là Cuộc gọi của tất cả các nhà phát triển cốt lõi. Điều này hoạt động khá tốt đối với các quyết định mang tính kỹ thuật hơn và hầu hết các thành viên trong cộng đồng không cảm thấy thực sự tin tưởng. Đối với các quyết định quan trọng hơn liên quan đến kinh tế giao thức hoặc các giá trị cơ bản hơn như tính bất biến và khả năng chống kiểm duyệt, điều này thường là không đủ. Nhìn lại năm 2016-17, khi thực hiện hàng loạt quyết định gây tranh cãi như hard fork DAO, giảm phát hành và (không) giải phóng ví Parity, các công cụ như Carbonvote và bỏ phiếu trên mạng xã hội đã giúp cộng đồng và nhà phát triển hiểu rõ hơn về công chúng. ý kiến ​​của cộng đồng.

Carbonvote on the DAO fork.

Carbonvote có những sai sót: nó dựa vào việc nắm giữ ETH để xác định ai là thành viên của cộng đồng Ethereum, khiến kết quả bị chi phối bởi một số ít người nắm giữ ETH giàu có (“cá voi”). Tuy nhiên, với các công cụ hiện đại, chúng tôi có thể tạo ra Carbonvote tốt hơn bằng cách tận dụng nhiều tín hiệu như POAP, tem Zupass, hộ chiếu Gitcoin, tư cách thành viên của Protocol Guild và nắm giữ ETH (thậm chí cả ETH được đặt cược riêng lẻ) để đo lường tư cách thành viên cộng đồng.

Bất kỳ cộng đồng nào cũng có thể sử dụng công cụ này để đưa ra các quyết định có chất lượng cao hơn, tìm ra điểm chung, điều phối việc di chuyển (vật lý hoặc kỹ thuật số) hoặc thực hiện các hoạt động khác mà không cần dựa vào sự lãnh đạo trung tâm không rõ ràng. Đây không phải là sự tăng tốc phòng thủ mà có thể được gọi là sự tăng tốc dân chủ. Những công cụ như vậy thậm chí có thể được sử dụng để cải thiện và dân chủ hóa việc quản trị của các chủ thể và tổ chức chủ chốt hoạt động trong lĩnh vực AI.

Vậy con đường phía trước cho siêu trí tuệ là gì?

Giờ đây, tất cả đều có vẻ ổn và có thể khiến thế giới trở thành một nơi hài hòa hơn, an toàn hơn và tự do hơn trong thế kỷ tới. Tuy nhiên, điều này thậm chí còn chưa đề cập đến con voi trong phòng: trí tuệ nhân tạo siêu thông minh.

Con đường phía trước được đề xuất ngầm bởi nhiều người lo lắng về AI về cơ bản dẫn đến một chính phủ thế giới AI ở mức tối thiểu. Các phiên bản gần đây bao gồm các đề xuất về tập đoàn AGI xuyên quốc gia ("MAGIC"). Nếu một liên minh như vậy được thành lập và thành công trong mục tiêu tạo ra AI siêu thông minh, thì trên thực tế, nó sẽ trở thành một chính phủ thế giới tối thiểu. Về lâu dài, cũng có ý tưởng về lý thuyết hành động quan trọng: chúng tôi tạo ra một AI thực hiện một hành động một lần, tổ chức lại thế giới thành một thế giới mà con người vẫn có quyền kiểm soát, nhưng bảng trò chơi bằng cách nào đó lại giống A hơn. hoàn cảnh thuận lợi cho việc phòng thủ và phát triển con người.

Vấn đề thực tế chính mà tôi thấy hiện tại là mọi người dường như không thực sự tin tưởng vào bất kỳ cơ chế quản trị cụ thể nào để có thẩm quyền xây dựng một thứ như vậy. Khi bạn nhìn vào kết quả cuộc thăm dò gần đây của tôi trên Twitter, nơi mọi người được hỏi liệu họ muốn thấy AI bị độc quyền bởi một thực thể duy nhất bắt đầu sớm hơn một thập kỷ hay để AI cho tất cả mọi người bị trì hoãn một thập kỷ, thực tế là Điều đó rất rõ ràng :

Mặc dù quy mô của mỗi cuộc thăm dò nhỏ nhưng những thiếu sót về quy mô được bù đắp bằng kết quả nhất quán của các cuộc thăm dò này trên nhiều nguồn thông tin và tùy chọn. Chín trên chín phiếu bầu, đa số muốn thấy trí tuệ nhân tạo tiên tiến bị trì hoãn một thập kỷ hơn là bị độc quyền bởi một nhóm duy nhất, cho dù là một công ty, chính phủ hay cơ quan đa quốc gia. Bảy trong số chín lần, việc trì hoãn đã giành chiến thắng với tỷ số ít nhất là hai ăn một. Đây có vẻ như là một thực tế quan trọng mà bất kỳ ai theo đuổi quy định về AI đều phải hiểu. Các cách tiếp cận hiện tại là tạo ra các chương trình cấp phép và các yêu cầu pháp lý nhằm cố gắng hạn chế sự phát triển của AI cho ít người tham gia hơn, nhưng những cách tiếp cận này đã vấp phải sự phản đối rộng rãi vì mọi người không muốn thấy ai độc quyền thứ gì đó mạnh mẽ như vậy. . Ngay cả khi những đề xuất quản lý từ trên xuống như vậy làm giảm nguy cơ tuyệt chủng, chúng vẫn làm tăng nguy cơ trượt vĩnh viễn sang chế độ toàn trị tập trung. Nghịch lý thay, một thỏa thuận cấm hoàn toàn nghiên cứu AI cực kỳ tiên tiến (có lẽ ngoại trừ AI y sinh), cùng với các biện pháp buộc nguồn mở cho những mô hình không bị cấm, lại là một cách để giảm khuyến khích lợi nhuận trong khi Will tiếp tục tiếp cận để cải thiện sự bình đẳng quyền truy cập sẽ phổ biến hơn?

Cách tiếp cận chính được những người phản đối cách tiếp cận ưa thích là có một cơ quan toàn cầu xử lý AI và đảm bảo khả năng quản trị của nó rất tốt là AI đa thần: cố ý đảm bảo rằng có nhiều người và công ty đang phát triển số lượng lớn AI để Không ai trở nên mạnh hơn những người khác. Theo lý thuyết, theo cách này, ngay cả khi AI trở nên siêu thông minh, chúng ta vẫn có thể duy trì sự cân bằng quyền lực.

Triết lý này thật thú vị, nhưng kinh nghiệm của tôi khi cố gắng đảm bảo “chủ nghĩa đa thần” trong hệ sinh thái Ethereum khiến tôi lo lắng rằng đây vốn là một trạng thái cân bằng không ổn định. Trong Ethereum, chúng tôi cố tình đảm bảo sự phân cấp theo nhiều cách: đảm bảo rằng không có cơ sở mã nào kiểm soát hơn một nửa mạng bằng chứng cổ phần, cố gắng chống lại sự thống trị của các nhóm cổ phần lớn, cải thiện phân cấp địa lý, v.v. Về cơ bản, Ethereum thực sự đang cố gắng thực hiện giấc mơ tự do cũ về một xã hội dựa trên thị trường sử dụng áp lực xã hội thay vì chính phủ làm cơ quan quản lý chống độc quyền. Ở một mức độ nào đó, điều này đã được đền đáp: Tỷ lệ thống trị của khách hàng Prysm đã giảm từ trên 70% xuống dưới 45%. Nhưng đây không phải là một quá trình thị trường tự động nào đó: nó là kết quả của ý chí con người và hành động phối hợp.

Trải nghiệm của tôi với Ethereum phù hợp với những gì đã học được trên khắp thế giới, nơi nhiều thị trường đã được chứng minh là độc quyền tự nhiên. Khi AI siêu thông minh hoạt động độc lập với con người, tình hình càng trở nên bấp bênh hơn. AI mạnh nhất có thể nhanh chóng vượt lên nhờ khả năng tự cải thiện đệ quy và một khi AI trở nên mạnh hơn con người, sẽ không có khả năng cân bằng lại mọi thứ.

Hơn nữa, ngay cả khi chúng ta có được một thế giới đa thần ổn định với AI siêu thông minh, chúng ta vẫn phải đối mặt với một vấn đề khác: chúng ta có một vũ trụ nơi con người trở thành thú cưng.

Con đường dẫn đến hạnh phúc: Hợp nhất với trí tuệ nhân tạo?

Một lựa chọn khác mà tôi đã nghe gần đây là ít nghĩ đến AI như một thứ gì đó tách biệt với con người và tập trung nhiều hơn vào các công cụ giúp tăng cường nhận thức của con người thay vì thay thế nó.

Một ví dụ gần đây là công cụ vẽ AI. Ngày nay, các công cụ nổi bật nhất để tạo hình ảnh do AI tạo ra chỉ yêu cầu đầu vào của con người trong một bước, sau đó AI sẽ đảm nhận hoàn toàn. Một lựa chọn khác là tập trung nhiều hơn vào phiên bản AI của một thứ gì đó như Photoshop: nghệ sĩ hoặc AI có thể tạo bản phác thảo sớm của một hình ảnh và sau đó cả hai cộng tác để cải thiện nó thông qua quá trình phản hồi theo thời gian thực.

nguồn, 2023 AI do Photoshop tạo ra sẽ lấp đầy. Tôi đã thử nó và phải mất một thời gian để làm quen, nhưng nó thực sự hoạt động rất tốt!

Một hướng khác với tinh thần tương tự là kiến ​​trúc cơ quan mở, đề xuất tách các phần khác nhau của tâm trí AI (ví dụ: lập kế hoạch, thực hiện kế hoạch, diễn giải thông tin từ thế giới bên ngoài) thành các thành phần riêng biệt và đưa vào giữa các phần này sự đa dạng phản hồi của con người.

Cho đến nay, điều này nghe có vẻ bình thường và hầu hết mọi người đều có thể đồng ý rằng đó là một điều tốt. Công trình của nhà kinh tế học Daron Acemoglu khác xa với loại chủ nghĩa tương lai AI này, nhưng cuốn sách mới của ông, Sức mạnh và Sự tiến bộ, gợi ý về mong muốn được thấy nhiều hơn những loại trí tuệ nhân tạo này.

Tuy nhiên, nếu muốn đưa ý tưởng hợp tác giữa trí tuệ nhân tạo và con người đi xa hơn, chúng ta sẽ đi đến những kết luận cấp tiến hơn. Trừ khi chúng ta tạo ra một chính phủ thế giới đủ mạnh để phát hiện và ngăn chặn mọi nhóm nhỏ hack bằng GPU riêng lẻ trên máy tính xách tay, cuối cùng ai đó sẽ tạo ra một AI siêu thông minh - một AI có thể suy nghĩ nhanh hơn AI chúng ta hàng nghìn lần - và không có nhóm người nào với các công cụ mà họ có thể sử dụng để cạnh tranh. Vì vậy, chúng ta cần suy nghĩ sâu hơn và xa hơn về ý tưởng hợp tác giữa con người và máy móc này.

Bước tự nhiên đầu tiên là giao diện não-máy tính. Giao diện não-máy tính có thể giúp con người tiếp cận trực tiếp hơn với các hình thức tính toán và nhận thức ngày càng mạnh mẽ, rút ​​ngắn vòng giao tiếp hai chiều giữa con người và máy móc từ vài giây xuống còn mili giây. Nó cũng sẽ làm giảm đáng kể chi phí nỗ lực tinh thần để có được một chiếc máy tính giúp bạn thu thập thông tin, đưa ra lời khuyên hoặc thực hiện một kế hoạch.

Các giai đoạn sau của lộ trình này trở nên thực sự kỳ lạ. Ngoài giao diện não-máy tính, còn có nhiều cách khác nhau để trực tiếp cải thiện bộ não của chúng ta thông qua những đổi mới sinh học. Bước cuối cùng trong việc hợp nhất hai tuyến đường này có thể liên quan đến việc tải tâm trí của chúng ta lên máy tính để chạy trực tiếp. Điều này cũng sẽ trở thành giải pháp tối ưu cho an ninh vật lý: bảo vệ bản thân khỏi bị tổn hại sẽ không còn là vấn đề phức tạp trong việc bảo vệ cơ thể con người mềm yếu không thể tránh khỏi mà là vấn đề đơn giản hơn là tạo bản sao lưu dữ liệu của bạn.

Những hướng dẫn như vậy đôi khi gây ra mối lo ngại, một phần vì chúng không thể thay đổi được và một phần vì chúng có thể mang lại lợi thế cho những người có quyền lực so với những người còn lại trong chúng ta. Đặc biệt, có những mối nguy hiểm với giao diện não-máy tính—xét cho cùng, chúng ta đang nói về việc đọc và viết trực tiếp suy nghĩ của con người. Chính vì những lo ngại này mà tôi tin rằng tốt nhất là phong trào nguồn mở tập trung vào bảo mật nên đảm nhận vai trò dẫn đầu trên con đường này, thay vì đóng cửa các công ty độc quyền và các quỹ đầu tư mạo hiểm. Hơn nữa, tất cả những vấn đề này đều nghiêm trọng hơn trong trường hợp AI siêu thông minh hoạt động độc lập với con người so với các bộ phận tăng cường tiếp xúc gần gũi với con người. Do các hạn chế sử dụng của ChatGPT, ngày nay đã có sự phân chia giữa nâng cao và không nâng cao.

Nếu chúng ta muốn một tương lai vừa siêu thông minh vừa có con người, một tương lai nơi con người không chỉ là thú cưng mà còn thực sự giữ được quyền tự quyết có ý nghĩa trên thế giới, thì một lựa chọn như thế này có vẻ tự nhiên nhất. Có nhiều lập luận ủng hộ cách tiếp cận này: bằng cách thu hút phản hồi của con người ở mỗi bước của quá trình ra quyết định, chúng tôi giảm động cơ chuyển trách nhiệm lập kế hoạch cấp cao sang chính AI, từ đó giảm nhu cầu về AI ​​để thực hiện một cái gì đó hoàn toàn khác biệt độc lập với các giá trị của con người.

Một lập luận khác ủng hộ hướng đi này là thay vì chỉ hét lên PAT, sẽ tốt hơn nếu đưa ra một thông báo tương ứng đưa ra những con đường thay thế về phía trước. Điều này sẽ đòi hỏi một sự thay đổi triết học khỏi tư duy hiện tại rằng những tiến bộ công nghệ chạm tới con người là nguy hiểm, nhưng những tiến bộ không liên quan gì đến con người về cơ bản là an toàn. Nhưng nó có một lợi ích rất lớn: nó mang lại cho các nhà phát triển một việc gì đó để làm. Ngày nay, thông điệp chính của phong trào an toàn AI gửi tới các nhà phát triển AI dường như là “bạn nên dừng lại”. Các nghiên cứu về sự liên kết có thể được tiến hành, nhưng ngày nay thiếu các động lực tài chính cho việc này. Ngược lại, thông điệp e/acc phổ biến là Bạn đã là anh hùng, hãy cứ là chính mình rõ ràng là rất hấp dẫn. Thông điệp của d/acc rằng “bạn nên xây dựng và xây dựng những thứ giúp bạn và nhân loại phát triển, nhưng hãy chọn lọc và có chủ ý hơn trong việc đảm bảo bạn xây dựng những thứ giúp phát triển” có thể là thông điệp chiến thắng.

D/acc có phù hợp với triết lý hiện tại của bạn không?

Nếu bạn là e/acc thì d/acc là một phân loài của e/acc, chỉ có tính chọn lọc và có ý thức hơn.

Nếu bạn là một người có lòng vị tha hiệu quả, thì d/acc là sự tóm tắt lại ý tưởng về lòng vị tha hiệu quả, mặc dù tập trung nhiều hơn vào các giá trị tự do và dân chủ.

Nếu bạn là người theo chủ nghĩa tự do, thì d/acc là một phân loài của chủ nghĩa tự do-công nghệ, mặc dù thực dụng hơn, phê phán hơn cỗ máy vốn công nghệ và sẵn sàng chấp nhận sự can thiệp của chính phủ, ít nhất là ngày nay (ít nhất, nếu nền văn hóa nếu can thiệp là không hiệu quả) để ngăn chặn một tương lai phi tự do thậm chí còn tồi tệ hơn.

Nếu bạn là người theo chủ nghĩa đa nguyên, như Glen Weir định nghĩa, thì d/acc là một khuôn khổ có thể dễ dàng đáp ứng các kỹ thuật phối hợp dân chủ tốt hơn mà chủ nghĩa đa nguyên nhấn mạnh.

Nếu bạn là người ủng hộ sức khỏe cộng đồng, các ý tưởng của d/acc có thể mang lại nguồn cảm hứng cho tầm nhìn dài hạn rộng hơn và mang đến cho bạn cơ hội tìm thấy điểm chung với các chuyên gia kỹ thuật mà bạn có thể không đồng ý.

Nếu bạn là người ủng hộ blockchain, thì d/acc là một câu chuyện hiện đại hơn, rộng hơn so với việc nhấn mạnh vào lạm phát và ngân hàng mười lăm năm trước, đặt blockchain vào bối cảnh của một chiến lược cụ thể để hướng tới sự phát triển trong tương lai tươi sáng hơn.

Nếu bạn là một Solarpunk, d/acc là một phân loài của Solarpunk và có sự nhấn mạnh tương tự vào hành động tập thể và có ý thức.

Nếu bạn là một moonpunk thì bạn sẽ đánh giá cao sự nhấn mạnh của d/acc vào việc bảo vệ thông tin bằng cách duy trì quyền riêng tư và tự do.

Chúng ta là ngôi sao sáng nhất

Tôi yêu công nghệ vì nó mở rộng tiềm năng của con người. Mười nghìn năm trước, chúng ta chỉ có thể tạo ra một số dụng cụ cầm tay đơn giản, thay đổi sự phát triển của thực vật trên một mảnh đất nhỏ và xây dựng những ngôi nhà cơ bản. Ngày nay, chúng ta có thể xây dựng những tòa tháp cao 800 mét, lưu trữ toàn bộ nội dung kiến ​​thức của con người trong các thiết bị trong tay, liên lạc ngay lập tức trên khắp thế giới, kéo dài tuổi thọ, sống một cuộc sống hạnh phúc và trọn vẹn và không còn lo lắng về ngày cuối cùng của mình. số phận Bạn tốt thường chết vì bệnh tật.

Chúng tôi bắt đầu ở phía dưới và bây giờ chúng tôi đang ở đây.

Tôi tin rằng những điều này rất có lợi, và nó cũng rất có lợi cho việc mở rộng hơn nữa ảnh hưởng của nhân loại đến hành tinh và Odaily, bởi vì tôi tin rằng con người rất tốt. Trong một số giới, hoài nghi là điều hợp thời: các phong trào ủng hộ sự tuyệt chủng tự nguyện của con người tin rằng Trái đất sẽ tốt hơn nếu không có con người, và nhiều người khác hy vọng sẽ còn ít người hơn nữa trong những thế kỷ tới. Mọi người thường cho rằng con người xấu vì chúng ta lừa dối và trộm cắp, tham gia vào chủ nghĩa thực dân và chiến tranh, lạm dụng và tiêu diệt các loài khác. Câu trả lời của tôi cho lối suy nghĩ này là một câu hỏi đơn giản: so sánh với cái gì?

Đúng, con người thường hành động xấu xa, nhưng chúng ta thường hành động tử tế, nhân hậu và cùng nhau làm việc vì lợi ích chung. Ngay cả trong chiến tranh, chúng ta thường quan tâm đến việc bảo vệ dân thường - tất nhiên là chưa đủ, nhưng nhiều hơn những gì chúng ta đã làm cách đây 2.000 năm. Có thể sẽ có sẵn rộng rãi các loại thịt không làm từ động vật trong thế kỷ tới, loại bỏ thảm họa đạo đức lớn nhất mà con người có thể bị buộc tội một cách chính đáng ngày nay. Động vật không phải con người không làm điều này. Không có trường hợp nào mà một con mèo áp dụng toàn bộ lối sống từ chối việc ăn thịt chuột như một nguyên tắc đạo đức. Mặt trời ngày càng sáng hơn mỗi năm và trong khoảng một tỷ năm nữa, điều này được dự đoán sẽ khiến Trái đất trở nên quá nóng để có thể hỗ trợ sự sống. Liệu mặt trời có coi đó là nạn diệt chủng mà nó sắp gây ra?

Vì vậy, tôi tin chắc rằng con người chúng ta là những ngôi sao sáng nhất trong vũ trụ mà chúng ta từng biết và từng thấy. Chúng ta là điều duy nhất mà chúng ta biết, ngay cả khi không hoàn hảo, đôi khi thực hiện nỗ lực chân thành để quan tâm đến “điều tốt” và điều chỉnh hành vi của mình để phục vụ nó tốt hơn. Hai tỷ năm nữa, nếu trái đất hay bất kỳ phần nào của vũ trụ vẫn sở hữu vẻ đẹp của sự sống trên trái đất thì đó sẽ là một tác phẩm nghệ thuật của nhân loại, giống như du hành vũ trụ