Vitalik Buterin: Thử nghiệm mạng xã hội Ghi chú cộng đồng được mã hóa rất tốt
Tác giả gốc: Vitalik
Biên soạn văn bản gốc: Deep Tide TechFlow
Hai năm qua được cho là thời kỳ hỗn loạn đối với Twitter (X). Năm ngoái, Elon Musk đã mua nền tảng này với giá 44 tỷ USD, sau đó đại tu lại đội ngũ nhân sự, đánh giá nội dung, mô hình kinh doanh và văn hóa trang web của công ty. Những thay đổi này có thể là do quyền lực mềm của Elon Musk hơn là do các quyết định chính sách cụ thể. Tuy nhiên, giữa những động thái gây tranh cãi này, một tính năng mới trên Twitter đang nhanh chóng trở nên quan trọng và dường như được ưa chuộng trên khắp các lĩnh vực chính trị: Ghi chú của cộng đồng.
Ghi chú cộng đồng là một công cụ kiểm tra tính xác thực đôi khi đính kèm chú thích theo ngữ cảnh vào các tweet, giống như chú thích của Elon Musk ở trên, như một công cụ kiểm tra tính xác thực và chống thông tin sai lệch. Ban đầu nó được gọi là Birdwatch và được ra mắt lần đầu tiên dưới dạng chương trình thử nghiệm vào tháng 1 năm 2021. Kể từ đó, nó dần dần mở rộng, với giai đoạn mở rộng nhanh nhất trùng với thời điểm Elon Musk tiếp quản Twitter vào năm ngoái. Ngày nay, Ghi chú cộng đồng là một tính năng thường xuyên của các tweet nhận được nhiều sự chú ý trên Twitter, bao gồm cả những bài đề cập đến các chủ đề chính trị gây tranh cãi. Theo quan điểm của tôi và từ những cuộc trò chuyện của tôi với nhiều người thuộc các chính trường khác nhau, những Ghi chú này mang tính thông tin và có giá trị khi chúng xuất hiện.
Nhưng điều khiến tôi quan tâm nhất là Ghi chú cộng đồng, mặc dù không phải là một dự án tiền điện tử nhưng có lẽ là ví dụ gần nhất về giá trị tiền điện tử mà chúng tôi từng thấy trong thế giới chính thống. Ghi chú cộng đồng không được viết hoặc quản lý bởi một số chuyên gia được lựa chọn tập trung; thay vào đó, bất kỳ ai cũng có thể viết và bỏ phiếu, và Ghi chú nào hiển thị hay không hiển thị được xác định hoàn toàn bằng thuật toán nguồn mở. Trang web Twitter có hướng dẫn chi tiết và toàn diện mô tả cách hoạt động của thuật toán và bạn có thể tải xuống dữ liệu chứa Ghi chú và phiếu bầu đã đăng, chạy thuật toán cục bộ và xác minh rằng kết quả đầu ra khớp với những gì hiển thị trên trang web Twitter. Mặc dù không hoàn hảo nhưng nó gần với lý tưởng về tính trung lập đáng tin cậy trong những tình huống gây tranh cãi và đồng thời rất hữu ích.
Thuật toán Ghi chú cộng đồng hoạt động như thế nào?
Bất kỳ ai có tài khoản Twitter đáp ứng các tiêu chí nhất định (về cơ bản: hoạt động trên 6 tháng, không có lịch sử vi phạm, số điện thoại di động đã được xác minh) đều có thể đăng ký tham gia Ghi chú cộng đồng. Hiện tại, những người tham gia đang được chấp nhận một cách chậm rãi và ngẫu nhiên, nhưng cuối cùng kế hoạch là cho phép bất kỳ ai đủ điều kiện tham gia. Sau khi được chấp nhận, trước tiên bạn có thể tham gia chấm điểm Ghi chú hiện có và khi việc chấm điểm của bạn đủ tốt (được đo bằng cách xem điểm nào phù hợp với kết quả cuối cùng cho Ghi chú đó), bạn cũng có thể viết Ghi chú của riêng mình.
Khi bạn viết Ghi chú, Ghi chú sẽ nhận được điểm dựa trên đánh giá của các thành viên Ghi chú cộng đồng khác. Những đánh giá này có thể được xem dưới dạng phiếu bầu theo ba cấp độ hữu ích, phần nào hữu ích và không hữu ích nhưng các đánh giá cũng có thể chứa các nhãn khác đóng vai trò trong thuật toán. Dựa trên những đánh giá này, Notes sẽ được cho điểm. Nếu điểm của Ghi chú vượt quá 0,40 thì Ghi chú này sẽ được hiển thị, nếu không thì Ghi chú này sẽ không hiển thị.
Điều làm cho thuật toán trở nên độc đáo là cách tính điểm. Không giống như các thuật toán đơn giản, được thiết kế để chỉ tính toán một số loại tổng hoặc trung bình xếp hạng của người dùng và sử dụng kết quả đó làm kết quả cuối cùng, thuật toán xếp hạng Ghi chú cộng đồng cố gắng ưu tiên rõ ràng những xếp hạng nhận được xếp hạng tích cực từ những người có quan điểm khác nhau. Nghĩa là, nếu những người thường không đồng ý về xếp hạng cuối cùng cũng đồng ý về một Ghi chú cụ thể thì Ghi chú đó sẽ được đánh giá cao.
Chúng ta hãy nhìn sâu hơn vào cách nó hoạt động. Chúng ta có một tập hợp người dùng và một tập hợp Ghi chú; chúng ta có thể tạo ma trận M trong đó ô Mij thể hiện cách người dùng thứ i xếp hạng Ghi chú thứ j.
Đối với bất kỳ Ghi chú cụ thể nào, hầu hết người dùng đều chưa xếp hạng Ghi chú đó, vì vậy hầu hết các mục trong ma trận sẽ bằng 0, nhưng không sao. Mục tiêu của thuật toán là tạo mô hình bốn cột về người dùng và Ghi chú, gán cho mỗi người dùng hai số liệu thống kê mà chúng tôi có thể gọi là Mức độ thân thiện và Cực, đồng thời gán cho mỗi Ghi chú hai số liệu thống kê, chúng tôi gọi đó là sự hữu ích và phân cực. Mô hình cố gắng dự đoán ma trận dưới dạng hàm của các giá trị này bằng cách sử dụng công thức sau:
Lưu ý rằng ở đây tôi giới thiệu thuật ngữ được sử dụng trong bài báo Birdwatch, cũng như của riêng tôi để cung cấp sự hiểu biết trực quan hơn về ý nghĩa của các biến mà không cần đi sâu vào các khái niệm toán học:
μ là thông số cảm xúc của công chúng đo lường mức độ xếp hạng của người dùng nói chung.
iu là sự thân thiện của người dùng, tức là khả năng người dùng có xu hướng đánh giá cao.
in là “sự hữu ích” của ghi chú, tức là ghi chú đó có khả năng được đánh giá cao như thế nào. Đây là biến chúng tôi quan tâm.
fu hoặc fn là cực của người dùng hoặc Ghi chú, tức là vị trí của họ trên trục thống trị của các cực đoan chính trị. Trong thực tế, phân cực âm gần như có nghĩa là nghiêng trái và phân cực dương nghiêng sang phải, nhưng lưu ý rằng các trục cực trị được lấy từ phân tích dữ liệu người dùng và Ghi chú, đồng thời các khái niệm về trái và phải không được mã hóa cứng.
Thuật toán sử dụng mô hình học máy khá cơ bản (giảm độ dốc tiêu chuẩn) để tìm các giá trị biến tốt nhất để dự đoán các giá trị ma trận. Tính hữu ích được gán cho một Ghi chú cụ thể là điểm cuối cùng cho Ghi chú đó. Một Ghi chú sẽ được hiển thị nếu mức độ hữu ích của nó ít nhất là + 0,4.
Sự khéo léo cốt lõi ở đây là sự phân cực hấp thụ các đặc tính của Ghi chú, khiến nó được một số người dùng thích và một số người dùng khác không thích, trong khi sự hữu ích chỉ đo lường các đặc điểm của Ghi chú, những tính năng này dẫn đến việc nó được thích bởi tất cả người dùng. Do đó, việc chọn tính hữu dụng sẽ xác định các Ghi chú được các bộ lạc chấp thuận và loại trừ các Ghi chú được bộ lạc này ca ngợi nhưng bị bộ tộc khác không thích.
Ở trên chỉ mô tả phần cốt lõi của thuật toán. Trên thực tế, có rất nhiều cơ chế bổ sung được thêm vào. May mắn thay, chúng được mô tả trong tài liệu công khai. Các cơ chế này bao gồm:
Thuật toán được chạy nhiều lần, mỗi lần thêm một số phiếu bầu giả được tạo cực kỳ ngẫu nhiên vào phiếu bầu. Điều này có nghĩa là đầu ra thực sự của thuật toán cho mỗi Ghi chú là một phạm vi giá trị và kết quả cuối cùng phụ thuộc vào mức độ tin cậy thấp hơn được lấy từ phạm vi đó và so với ngưỡng 0,32.
Nếu nhiều người dùng (đặc biệt là những người có cùng quan điểm với Ghi chú) đánh giá Ghi chú là không hữu ích và họ cũng gán cùng một nhãn (ví dụ: ngôn ngữ gây tranh cãi hoặc thiên vị, nguồn không hỗ trợ Ghi chú) làm Vì lý do chấm điểm, ngưỡng hữu dụng cần thiết để Ghi chú được xuất bản tăng từ 0,4 lên 0,5 (có vẻ nhỏ nhưng lại rất quan trọng trong thực tế).
Nếu một Ghi chú được chấp nhận thì tính hữu dụng của nó phải nằm dưới ngưỡng 0,01 điểm cần thiết để chấp nhận Ghi chú đó.
Thuật toán chạy nhiều hơn với nhiều mô hình, đôi khi tăng cường Ghi chú với điểm hữu ích thô trong khoảng từ 0,3 đến 0,4.
Nói chung, bạn nhận được một số mã Python khá phức tạp, tổng cộng 6282 dòng trải rộng trên 22 tệp. Nhưng tất cả đều mở và bạn có thể tải xuống Ghi chú cũng như dữ liệu tính điểm và tự chạy nó để xem liệu kết quả đầu ra có khớp với những gì thực sự xảy ra trên Twitter hay không.
Vậy trong thực tế, điều này trông như thế nào?
Có lẽ sự khác biệt lớn nhất giữa thuật toán này và phương pháp đơn giản lấy điểm trung bình từ phiếu bầu của mọi người là khái niệm về cái mà tôi gọi là giá trị phân cực. Tài liệu thuật toán gọi chúng là fu và fn, sử dụng f làm hệ số vì hai số hạng này nhân với nhau; số hạng tổng quát hơn một phần vì cuối cùng người ta mong muốn làm cho fu và fn trở thành đa chiều.
Phân cực được gán cho người dùng và Ghi chú. Liên kết giữa ID người dùng và tài khoản Twitter cơ bản được cố tình giữ ở chế độ riêng tư nhưng Ghi chú thì ở chế độ công khai. Trên thực tế, ít nhất là đối với tập dữ liệu tiếng Anh, độ phân cực do thuật toán tạo ra có mối tương quan rất chặt chẽ với bên trái và bên phải.
Dưới đây là một số ví dụ về Ghi chú có độ phân cực khoảng -0,8:
Lưu ý rằng tôi không chọn anh đào ở đây; đây thực sự là ba hàng đầu tiên trong bảng tính Score_notes.tsv mà tôi tạo khi chạy thuật toán cục bộ và điểm phân cực của chúng (được gọi là coreNoteFactor 1 trong bảng tính) nhỏ hơn - 0,8.
Bây giờ, đây là một số Ghi chú có độ phân cực khoảng +0,8. Hóa ra, nhiều người trong số họ là những người nói về chính trị Brazil bằng tiếng Bồ Đào Nha hoặc những người hâm mộ Tesla giận dữ bác bỏ những lời chỉ trích về Tesla, vì vậy hãy để tôi chọn lọc một chút và tìm một số Ghi chú không thuộc cả hai loại:
Chỉ để nhắc nhở bạn một lần nữa,"Chia trái và phải"không được mã hóa cứng vào thuật toán theo bất kỳ cách nào; nó được phát hiện bằng máy tính. Điều này cho thấy rằng nếu bạn áp dụng thuật toán này cho các bối cảnh văn hóa khác, nó có thể tự động phát hiện sự chia rẽ chính trị chính của chúng và xây dựng cầu nối giữa chúng.
Trong khi đó, những Ghi chú có tính hữu ích cao nhất sẽ trông như thế này. Lần này, vì Ghi chú thực sự xuất hiện trên Twitter nên tôi chỉ có thể chụp ảnh màn hình một cái:
Và một cái khác:
Đối với Ghi chú thứ hai, nó đề cập trực tiếp hơn đến các chủ đề chính trị mang tính đảng phái cao, nhưng đây là Ghi chú rõ ràng, chất lượng cao và mang tính thông tin nên đạt điểm cao cho nó. Nhìn chung, thuật toán dường như hoạt động và có vẻ khả thi khi xác minh đầu ra của thuật toán bằng cách chạy mã.
Tôi nghĩ gì về thuật toán?
Điều làm tôi ấn tượng nhất khi phân tích thuật toán này là độ phức tạp của nó. chỉ có một"phiên bản bài viết học thuật", sử dụng phương pháp giảm độ dốc để tìm ra phương trình ma trận và vectơ năm số hạng phù hợp nhất, tiếp theo là phiên bản thực, một chuỗi thực thi thuật toán phức tạp với nhiều cách thực thi khác nhau và nhiều hệ số tùy ý trong quá trình thực hiện.
Ngay cả các phiên bản bài báo học thuật cũng ẩn giấu sự phức tạp tiềm ẩn. Phương trình mà nó tối ưu hóa là một bậc bốn âm (vì có một số hạng bậc hai fu*fn trong công thức dự báo và hàm chi phí đo bình phương của sai số). Mặc dù việc tối ưu hóa phương trình bậc hai với số lượng biến bất kỳ sẽ hầu như luôn có một nghiệm duy nhất mà bạn có thể tìm ra bằng đại số tuyến tính khá cơ bản, nhưng việc tối ưu hóa phương trình bậc hai với nhiều biến thường sẽ có nhiều nghiệm, do đó, nhiều vòng của thuật toán giảm độ dốc Có thể thu được những câu trả lời khác nhau. Những thay đổi đầu vào nhỏ có thể làm cho việc giảm dần chuyển từ mức tối thiểu cục bộ này sang mức tối thiểu cục bộ khác, làm thay đổi đáng kể kết quả đầu ra.
Sự khác biệt giữa điều này và các thuật toán mà tôi đã giúp phát triển, chẳng hạn như tài trợ bậc hai, đối với tôi giống như sự khác biệt giữa thuật toán của nhà kinh tế và thuật toán của kỹ sư. Tốt nhất, các thuật toán của các nhà kinh tế tập trung vào sự đơn giản, tương đối dễ phân tích và có các đặc tính toán học rõ ràng cho biết chúng là tối ưu (hoặc ít tệ nhất) cho nhiệm vụ trước mắt và chứng minh một cách lý tưởng rằng ai đó có thể gây ra bao nhiêu thiệt hại trong đang cố gắng tận dụng nó. Mặt khác, thuật toán của kỹ sư được tạo ra thông qua quá trình thử và sai lặp đi lặp lại để xem điều gì hiệu quả và điều gì không trong môi trường hoạt động của kỹ sư. Thuật toán của kỹ sư có tính thực tế và hoàn thành công việc; thuật toán của nhà kinh tế không hoàn toàn mất kiểm soát khi đối mặt với những điều không mong đợi.
Hoặc, như nhà triết học internet đáng kính roon (hay còn gọi là tszzl) đã đưa nó vào một chủ đề liên quan:
Tất nhiên, tôi sẽ nói rằng khía cạnh thẩm mỹ lý thuyết của tiền điện tử là cần thiết để có thể phân biệt chính xác giữa các giao thức thực sự không đáng tin cậy và những giao thức có vẻ tốt và hoạt động bề ngoài tốt, nhưng thực sự đòi hỏi phải tin tưởng vào một tác nhân tập trung nào đó, Hoặc thậm chí tệ hơn, nó có thể là một trò lừa đảo hoàn toàn.
Học sâu có hiệu quả trong điều kiện bình thường, nhưng nó có những điểm yếu không thể tránh khỏi trước các cuộc tấn công học máy đối nghịch khác nhau. Nếu thực hiện đúng, các bẫy kỹ thuật và thang có tính trừu tượng cao có thể chống lại các cuộc tấn công này. Vì vậy, tôi có một câu hỏi: Liệu chúng ta có thể biến bản thân Ghi chú cộng đồng thành một thứ gì đó giống một thuật toán kinh tế hơn không?
Để hiểu điều này có ý nghĩa gì trong thực tế, chúng ta hãy khám phá một thuật toán mà tôi đã nghĩ ra cho mục đích tương tự cách đây vài năm: Cấp vốn bậc hai giới hạn theo cặp.
Mục tiêu của việc tài trợ bậc hai có giới hạn theo cặp là lấp đầy lỗ hổng trong tài trợ bậc hai thông thường, trong đó ngay cả khi hai người chơi thông đồng với nhau, họ vẫn có thể đóng góp số tiền rất cao cho một dự án không có thật, số tiền sẽ được trả lại cho họ và Nhận những khoản trợ cấp lớn làm cạn kiệt toàn bộ số tiền của bạn. Trong cấp vốn bậc hai giới hạn theo cặp, chúng tôi chỉ định ngân sách hữu hạn M cho mỗi cặp người tham gia. Thuật toán lặp lại trên tất cả các cặp người tham gia có thể có và nếu thuật toán quyết định thêm trợ cấp vào một số dự án P vì cả người tham gia A và người tham gia B đều ủng hộ nó, thì khoản trợ cấp này sẽ được khấu trừ khỏi ngân sách được phân bổ cho cặp đó (A,B) . Do đó, ngay cả khi k người tham gia thông đồng, họ có thể đánh cắp tối đa k*(k-1)*M từ cơ chế.
Dạng thuật toán này không hoạt động tốt trong bối cảnh Ghi chú cộng đồng, vì mỗi người dùng chỉ bỏ một số lượng phiếu bầu nhỏ: trung bình, phiếu bầu chung giữa hai người dùng bất kỳ là 0, do đó, chỉ cần xem từng cặp Người dùng riêng lẻ, thuật toán không thể hiểu được sự phân cực của người dùng. Mục tiêu của mô hình học máy chính xác là cố gắng điền vào một ma trận từ dữ liệu nguồn rất thưa thớt không thể phân tích trực tiếp theo cách này. Nhưng thách thức với cách tiếp cận này là cần phải nỗ lực nhiều hơn để tránh những kết quả có tính biến động cao khi đối mặt với một số lượng nhỏ phiếu bầu không tốt.
Ghi chú cộng đồng có thể thực sự đứng về phía bên trái và bên phải không?
Chúng tôi có thể phân tích xem thuật toán Ghi chú cộng đồng có thực sự chống lại các cực đoan hay không, tức là liệu nó có hoạt động tốt hơn thuật toán bỏ phiếu đơn giản hay không. Thuật toán bỏ phiếu này phần nào đã có khả năng chống lại các cực đoan: một bài đăng có 200 lượt thích và 100 lượt không thích sẽ hoạt động kém hơn một bài đăng chỉ có 200 lượt thích. Nhưng Ghi chú cộng đồng có làm tốt hơn không?
Từ quan điểm thuật toán trừu tượng, thật khó để nói. Tại sao một bài viết phân cực có xếp hạng trung bình cao lại không thể có tính phân cực mạnh mẽ và tính hữu ích cao? Ý tưởng là nếu những phiếu bầu đó xung đột nhau thì phe phân cực nên “tiếp thu” đặc điểm khiến bài đăng nhận được nhiều phiếu bầu, nhưng thực tế nó có làm được điều đó không?
Để kiểm tra điều này, tôi đã chạy triển khai đơn giản hóa trong 100 vòng. Kết quả trung bình như sau:
Trong thử nghiệm này, Ghi chú tốt được người dùng cùng đảng phái chính trị xếp hạng +2, +0 bởi người dùng thuộc đảng phái chính trị đối lập và Ghi chú tốt nhưng cực đoan hơn được người dùng cùng đảng phái chính trị xếp hạng +4 trong và -2 ở người dùng của phe đối diện. Mặc dù điểm trung bình là như nhau nhưng độ phân cực lại khác nhau. Và trên thực tế, mức độ hữu ích trung bình của Notes tốt dường như cao hơn so với Notes tốt nhưng cực kỳ nghiêng.
Việc có một thuật toán gần hơn với “Thuật toán của nhà kinh tế” sẽ có câu chuyện rõ ràng hơn về cách thuật toán trừng phạt các thái cực.
Tất cả những điều này hữu ích như thế nào trong tình huống rủi ro cao?
Chúng ta có thể tìm hiểu về một số điều này bằng cách xem xét một tình huống cụ thể. Khoảng một tháng trước, Ian Bremmer phàn nàn rằng một dòng tweet về một quan chức chính phủ Trung Quốc đã thêm một Ghi chú cộng đồng có tính chỉ trích cao?item_id=888" target="_blank" rel="noopener noreferrer">xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm? item_id= 888" target="_blank" rel="noopener noreferrer">Xem thêm nhưng Ghi chú đã bị xóa.
Đây là một nhiệm vụ khó khăn. Thiết kế cơ chế là một chuyện trong môi trường cộng đồng Ethereum, nơi mà lời phàn nàn lớn nhất có thể chỉ là 20.000 đô la dành cho một người có ảnh hưởng cực đoan trên Twitter. Đó là một câu chuyện khác khi đề cập đến các vấn đề chính trị và địa chính trị ảnh hưởng đến hàng triệu người và mọi người đều có xu hướng giả định một cách hợp lý những động cơ tồi tệ nhất có thể xảy ra. Nhưng việc tương tác với những môi trường có tính rủi ro cao này là điều cần thiết nếu các nhà thiết kế cơ khí muốn tạo ra tác động đáng kể đến thế giới.
Trong trường hợp của Twitter, có lý do rõ ràng để nghi ngờ sự thao túng tập trung là nguyên nhân dẫn đến việc xóa Notes: Elon Musk có nhiều lợi ích kinh doanh ở Trung Quốc, nên có thể Elon Musk đã ép nhóm Community Notes can thiệp vào đầu ra của Twitter. thuật toán và xóa Ghi chú cụ thể này.
May mắn thay, thuật toán này là nguồn mở và có thể kiểm chứng được, vì vậy chúng ta thực sự có thể tìm hiểu sâu hơn về nó! Làm thôi nào. URL của tweet gốc là https://twitter.com/MFA_China/status/1676157337109946369. Số 1676157337109946369 ở cuối là ID của tweet. Chúng ta có thể tìm kiếm ID đó trong dữ liệu có thể tải xuống và xác định hàng cụ thể trong bảng tính có Ghi chú trên:
Ở đây chúng ta có ID của Notes, 1676391378815709184 . Sau đó, chúng tôi tìm kiếm ID này trong các tệp Score_notes.tsv và note_status_history.tsv được tạo bằng cách chạy thuật toán. Chúng tôi đã nhận được kết quả sau:
Cột thứ hai ở đầu ra đầu tiên là xếp hạng hiện tại của Ghi chú. Đầu ra thứ hai hiển thị lịch sử của Ghi chú: trạng thái hiện tại của nó nằm ở cột thứ bảy (NEEDS_MORE_RATINGS) và trạng thái đầu tiên nó nhận được không phải là NEEDS_MORE_RATINGS nằm ở cột thứ năm (CURRENTLY_RATED_HELPFUL). Vì vậy, chúng ta có thể thấy rằng bản thân thuật toán lần đầu tiên hiển thị Ghi chú và sau đó xóa chúng sau khi xếp hạng của chúng giảm nhẹ - dường như không có sự can thiệp trung tâm nào.
Chúng ta cũng có thể nhìn nhận điều này theo cách khác bằng cách nhìn vào chính cuộc bỏ phiếu. Chúng tôi có thể quét tệp rating-00000.tsv để tách biệt tất cả các xếp hạng cho Ghi chú này và xem có bao nhiêu được xếp hạng HỮU ÍCH và KHÔNG_HELPFUL:
Tuy nhiên, nếu bạn sắp xếp chúng theo dấu thời gian và nhìn vào 50 phiếu bầu hàng đầu, bạn sẽ thấy rằng có 40 phiếu bầu HỮU ÍCH và 9 phiếu KHÔNG HỖ TRỢ. Vì vậy, chúng tôi đã đi đến cùng một kết luận: Notes được khán giả ban đầu đánh giá tích cực hơn và khán giả sau đó ít hơn, vì vậy xếp hạng của nó bắt đầu cao và giảm dần theo thời gian.
Thật không may, thật khó để giải thích chính xác cách Ghi chú thay đổi trạng thái: vấn đề không đơn giản là trước đây được xếp hạng trên 0,40, bây giờ được xếp hạng dưới 0,40, vì vậy nó đã bị xóa. Thay vào đó, số lượng câu trả lời NOT_HELPFUL cao sẽ kích hoạt một trong các điều kiện ngoại lệ, làm tăng điểm hữu dụng mà Ghi chú cần để duy trì trên ngưỡng.
Đây là một cơ hội học tập tuyệt vời khác dạy cho chúng ta một bài học: để tạo ra một thuật toán trung lập đáng tin cậy thực sự đáng tin cậy đòi hỏi phải giữ nó đơn giản. Nếu một Ghi chú chuyển từ được chấp nhận sang không được chấp nhận thì cần có một câu chuyện đơn giản và rõ ràng về lý do tại sao lại như vậy.
Tất nhiên, có một cách hoàn toàn khác để thao túng cuộc bỏ phiếu này: Lữ đoàn. Ai đó nhìn thấy Ghi chú mà họ không chấp thuận có thể thu hút cộng đồng có mức độ tương tác cao (hoặc tệ hơn là vô số tài khoản giả mạo) để xếp hạng Ghi chú đó KHÔNG_HELPFUL và có thể không cần nhiều phiếu bầu để xóa Ghi chú khỏi Hữu ích trở nên cực đoan. Cần phải phân tích và làm việc nhiều hơn để giảm thiểu lỗ hổng của thuật toán trước các cuộc tấn công phối hợp như vậy một cách hợp lý. Một cải tiến có thể có là không cho phép bất kỳ người dùng nào bỏ phiếu cho bất kỳ Ghi chú nào mà thay vào đó chỉ định ngẫu nhiên Ghi chú cho người chấm điểm bằng cách sử dụng đề xuất thuật toán dành cho bạn và cho phép người chấm điểm chỉ chấm điểm những Ghi chú mà họ được giao.
Community Notes chưa đủ dũng cảm sao?
Những lời chỉ trích chính mà tôi thấy về Ghi chú cộng đồng về cơ bản là nó chưa đủ hiệu quả. Tôi thấy hai bài báo gần đây đề cập đến điều này. Để trích dẫn một trong những bài viết:
Quá trình này gặp phải một hạn chế nghiêm trọng là để Ghi chú của Cộng đồng được công khai, chúng phải được chấp nhận chung bởi sự đồng thuận của mọi người trên phạm vi chính trị.
“Nó phải có sự đồng thuận về ý thức hệ,” ông nói. “Điều đó có nghĩa là những người ở bên trái và những người ở bên phải phải đồng ý rằng ghi chú phải được đính kèm vào dòng tweet.”
Về cơ bản, ông nói, nó đòi hỏi “một thỏa thuận giữa các hệ tư tưởng về sự thật, điều gần như không thể thực hiện được trong một môi trường ngày càng có nhiều đảng phái”.
Đó là một câu hỏi khó, nhưng cuối cùng tôi có xu hướng nghĩ rằng thà có mười tweet chứa thông tin sai lệch được miễn phí còn hơn là một tweet bị chú thích một cách không công bằng. Chúng tôi đã chứng kiến nhiều năm kiểm tra sự thật một cách dũng cảm và từ quan điểm “thực sự chúng tôi biết sự thật, chúng tôi biết một bên thường xuyên nói dối hơn bên kia”. Chuyện gì sẽ xảy ra?
Thành thật mà nói, có một sự nghi ngờ khá phổ biến đối với chính khái niệm kiểm tra thực tế. Ở đây, một chiến lược là: hãy phớt lờ những lời chỉ trích đó, hãy nhớ rằng những người kiểm tra sự thật biết rõ sự thật hơn bất kỳ hệ thống bỏ phiếu nào và bám sát nó. Nhưng dốc toàn lực vào cách tiếp cận này có vẻ nguy hiểm. Có giá trị trong việc xây dựng các thể chế liên bộ lạc mà ít nhất được tất cả mọi người tôn trọng. Giống như câu châm ngôn của William Blackstone và các tòa án, tôi cảm thấy rằng việc duy trì sự tôn trọng đó đòi hỏi một hệ thống mắc sai lầm do thiếu sót chứ không phải do lỗi cố ý. Vì vậy, đối với tôi, điều đáng giá là ít nhất một tổ chức lớn đang đi theo con đường khác biệt này và coi sự tôn trọng hiếm có giữa các bộ tộc của mình là một nguồn tài nguyên quý giá.
Một lý do khác khiến tôi nghĩ rằng Ghi chú cộng đồng nên thận trọng là không sao vì tôi không nghĩ mọi tweet có thông tin sai hoặc thậm chí hầu hết các tweet có thông tin sai đều sẽ nhận được ghi chú khắc phục. Ngay cả khi ít hơn một phần trăm các tweet có thông tin sai lệch được chú thích để cung cấp ngữ cảnh hoặc chỉnh sửa, Community Notes vẫn cung cấp một dịch vụ cực kỳ có giá trị như một công cụ giáo dục. Mục đích không phải là sửa chữa mọi thứ; mà đúng hơn, mục đích là để nhắc nhở mọi người rằng có nhiều quan điểm khác nhau, rằng một số bài đăng có vẻ thuyết phục và thu hút một cách riêng biệt thực ra lại khá sai và rằng bạn, vâng, bạn thường có thể làm những điều cơ bản. Tìm kiếm trên internet để xác minh nó sai.
Ghi chú của Cộng đồng không thể, cũng không nhằm mục đích trở thành thuốc chữa bách bệnh cho mọi vấn đề trong nhận thức luận công cộng. Bất kể vấn đề nào không giải quyết được, vẫn có rất nhiều chỗ để các cơ chế khác giải quyết, cho dù đó là các tiện ích mới như thị trường dự đoán hay các tổ chức đã thành lập thuê nhân viên toàn thời gian có chuyên môn về lĩnh vực để cố gắng lấp đầy khoảng trống.
Tóm lại là
Ghi chú của Cộng đồng không chỉ là một thử nghiệm hấp dẫn trên mạng xã hội mà còn là một ví dụ hấp dẫn về một kiểu thiết kế cơ chế mới nổi: các cơ chế cố gắng xác định các thái cực một cách có ý thức và có xu hướng thúc đẩy sự giao thoa thay vì duy trì sự phân chia.
Hai ví dụ khác trong danh mục này mà tôi biết là: (i) cơ chế tài trợ bậc hai được ghép nối được sử dụng trong Gitcoin Grants và (ii) Polis, một công cụ thảo luận sử dụng thuật toán phân cụm để giúp cộng đồng xác định các tuyên bố phổ biến phổ biến dành cho những người thường có ý kiến khác nhau. Lĩnh vực thiết kế cơ chế này rất có giá trị và tôi hy vọng chúng ta sẽ thấy nhiều công trình nghiên cứu học thuật hơn trong lĩnh vực này.
Tính minh bạch về thuật toán mà Ghi chú cộng đồng cung cấp không hẳn là phương tiện truyền thông xã hội được phân quyền hoàn toàn - nếu bạn không đồng ý với cách thức hoạt động của Ghi chú cộng đồng thì sẽ không có cách nào để thấy góc nhìn thuật toán khác trên cùng một nội dung. Nhưng đây là lần gần nhất mà các ứng dụng siêu quy mô sẽ có được trong vài năm tới và chúng ta có thể thấy rằng nó đã mang lại rất nhiều giá trị, vừa ngăn chặn thao túng tập trung vừa đảm bảo rằng các nền tảng không tham gia vào thao túng như vậy sẽ nhận được những gì chúng xứng đáng được công nhận .
Tôi mong muốn được thấy Ghi chú cộng đồng và nhiều thuật toán có tinh thần tương tự phát triển và tăng trưởng trong thập kỷ tới.
