Vitalik Buterin: 소셜 미디어 실험 커뮤니티 노트는 매우 암호화되어 있습니다.

원작자: Vitalik

원문 편집: Deep Tide TechFlow

지난 2년은 트위터(X)에게 있어 격동의 시기였습니다. 작년에 Elon Musk는 440억 달러에 플랫폼을 구입한 후 회사의 인력, 콘텐츠 검토, 비즈니스 모델 및 웹 사이트 문화를 전면적으로 점검했습니다. 이러한 변화는 구체적인 정책 결정보다는 Elon Musk의 소프트 파워에 더 기인한 것일 수 있습니다. 그러나 이러한 논란의 여지가 있는 움직임 속에서 트위터의 새로운 기능은 빠르게 중요성을 얻고 있으며 정치적 스펙트럼 전반에 걸쳐 선호를 누리고 있는 것처럼 보입니다. 바로 커뮤니티 노트입니다.

Community Notes는 위의 Elon Musk와 같이 사실 확인 및 허위 정보 방지 도구로 때로는 상황별 주석을 트윗에 첨부하는 사실 확인 도구입니다. 원래는 Birdwatch라고 불렸으며 2021년 1월에 파일럿 프로그램으로 처음 출시되었습니다. 이후 점차 확장해 왔으며, 가장 빠른 확장 단계는 지난해 엘론 머스크(Elon Musk)의 트위터 인수와 맞물린다. 오늘날 커뮤니티 노트는 논쟁의 여지가 있는 정치적 주제를 다루는 내용을 포함하여 트위터에서 많은 관심을 받는 트윗의 일반적인 기능입니다. 내 의견으로는 정치적 스펙트럼에 걸쳐 많은 사람들과의 대화를 통해 이 노트가 나타날 때 유익하고 가치가 있다고 생각합니다.

그러나 제가 가장 관심을 갖는 것은 커뮤니티 노트입니다. 암호화 프로젝트는 아니지만 아마도 주류 세계에서 본 암호화 가치에 가장 가까운 사례일 것입니다. 커뮤니티 노트는 중앙에서 선정된 일부 전문가가 작성하거나 선별하는 것이 아니라 누구나 작성하고 투표할 수 있으며, 노트가 표시되거나 표시되지 않는 것은 전적으로 오픈 소스 알고리즘에 의해 결정됩니다. Twitter 웹사이트에는 알고리즘 작동 방식을 설명하는 상세하고 포괄적인 가이드가 있으며, 게시된 메모와 여론 조사가 포함된 데이터를 다운로드하고, 알고리즘을 로컬로 실행하고, 출력이 Twitter 웹사이트에 표시되는 것과 일치하는지 확인할 수 있습니다. 완벽하지는 않지만 논란이 많은 상황에서 신뢰할 수 있는 중립성의 이상에 놀라울 정도로 가까워지며 동시에 매우 유용합니다.

커뮤니티 노트 알고리즘은 어떻게 작동하나요?

특정 기준(기본적으로 6개월 이상 활성 상태, 위반 기록 없음, 확인된 휴대폰 번호)을 충족하는 트위터 계정을 가진 사람이라면 누구나 가입하여 커뮤니티 노트에 참여할 수 있습니다. 현재는 천천히 무작위로 참가자를 받아들이고 있지만, 최종적으로는 자격이 있는 사람이라면 누구나 참가할 수 있도록 할 계획입니다. 승인되면 먼저 기존 노트 채점에 참여할 수 있으며, 채점이 충분히 좋아지면(해당 노트의 최종 결과와 일치하는 채점을 확인하여 측정) 자신만의 노트를 작성할 수도 있습니다.

메모를 작성하면 다른 커뮤니티 메모 회원의 리뷰를 바탕으로 메모에 점수가 부여됩니다. 이러한 리뷰는 유용함, 약간 도움이 됨, 도움이 되지 않음의 세 가지 수준에 따른 투표로 볼 수 있지만 리뷰에는 알고리즘에서 역할을 하는 다른 레이블이 포함될 수도 있습니다. 이러한 리뷰를 바탕으로 Notes에 점수가 부여됩니다. 메모 점수가 0.40을 초과하면 이 메모가 표시되고, 그렇지 않으면 이 메모가 표시되지 않습니다.

알고리즘을 독특하게 만드는 것은 점수가 계산되는 방식입니다. 단순히 사용자 평가의 합이나 평균을 계산하여 최종 결과로 사용하도록 설계된 단순한 알고리즘과 달리 커뮤니티 노트 평가 알고리즘은 명시적으로 다양한 관점을 가진 사람들로부터 긍정적인 평가를 받은 사용자의 우선 순위를 지정하려고 합니다. 즉, 일반적으로 평가에 동의하지 않는 사람들이 결국 특정 메모에 동의한다면 해당 메모는 높은 평가를 받게 됩니다.

어떻게 작동하는지 자세히 살펴보겠습니다. 사용자 집합과 메모 집합이 있으며, Mj 셀이 i번째 사용자가 j번째 메모를 평가한 방법을 나타내는 행렬 M을 만들 수 있습니다.

특정 메모에 대해 대부분의 사용자는 해당 메모를 평가하지 않았으므로 매트릭스의 대부분 항목은 0이 되지만 괜찮습니다. 알고리즘의 목표는 사용자와 Notes의 4열 모델을 생성하여 각 사용자에게 친화성과 극성이라고 부르는 두 개의 통계를 할당하고, 각 Notes에 두 개의 통계인 유용성과 극성을 할당하는 것입니다. 극성. 모델은 다음 공식을 사용하여 이러한 값의 함수로 행렬을 예측하려고 합니다.

여기에서는 수학적 개념에 들어 가지 않고도 변수가 의미하는 바를 보다 직관적으로 이해할 수 있도록 Birdwatch 논문에 사용된 용어와 내 용어를 소개합니다.

• μ는 사용자가 일반적으로 평점을 얼마나 높게 평가하는지를 측정하는 대중 감정 매개변수입니다.

• iu는 사용자의 친화성, 즉 사용자가 높은 평점을 줄 가능성이 얼마나 되는지를 나타냅니다.

• 에는 해당 지폐의 유용성, 즉 해당 지폐가 높은 평가를 받을 가능성이 얼마나 되는지가 중요합니다. 이것이 우리가 관심을 갖는 변수입니다.

• fu 또는 fn은 사용자 또는 메모의 극성, 즉 정치적 극단의 지배적인 축에 대한 위치입니다. 실제로 부정적인 극성은 대략 왼쪽으로 기울어짐을 의미하고 긍정적인 극성은 오른쪽으로 기울어짐을 의미하지만, 극축은 사용자 및 Notes 데이터 분석에서 파생되며 왼쪽과 오른쪽의 개념이 하드코딩되어 있지 않습니다.

알고리즘은 매우 기본적인 기계 학습 모델(표준 경사하강법)을 사용하여 행렬 값을 예측하는 데 가장 적합한 변수 값을 찾습니다. 특정 메모에 할당된 유용성은 해당 메모의 최종 점수입니다. 유용성이 +0.4 이상인 경우 메모가 표시됩니다.

여기서 핵심 독창성은 극성이 Notes의 특성을 흡수하여 일부 사용자는 좋아하고 다른 사용자는 싫어하게 만드는 반면, 유용성은 Notes의 특성만을 측정한다는 것입니다. 모든 사용자에 의해. 따라서 유용성을 선택하면 여러 부족에서 승인된 지폐가 식별되고 한 부족에서는 호평을 받았지만 다른 부족에서는 싫어하는 지폐가 제외됩니다.

위의 내용은 알고리즘의 핵심 부분만 설명합니다. 실제로 그 위에 많은 추가 메커니즘이 추가되었습니다. 다행히도 공개 문서에 설명되어 있습니다. 이러한 메커니즘에는 다음이 포함됩니다.

• 알고리즘은 여러 번 실행되며, 매번 매우 무작위로 생성된 의사 투표를 투표에 추가합니다. 즉, 각 노트에 대한 알고리즘의 실제 출력은 값의 범위이며 최종 결과는 해당 범위에서 가져온 낮은 신뢰 수준에 따라 달라지며 임계값 0.32와 비교됩니다.

• 많은 사용자(특히 Notes와 유사한 극성을 가진 사용자)가 Note를 도움이 되지 않음으로 평가하고 동일한 라벨(예: 논쟁의 여지가 있거나 편견이 있는 언어, Notes를 지원하지 않는 소스)을 할당하는 경우 점수를 매기는 이유는 노트 게시에 필요한 유용성 임계값이 0.4에서 0.5로 증가하기 때문입니다(사소해 보일 수 있지만 실제로는 매우 중요함).

• 메모가 승인되면 해당 메모의 유용성은 해당 메모를 승인하는 데 필요한 0.01포인트 임계값 미만으로 떨어져야 합니다.

• 알고리즘은 여러 모델을 사용하여 더 많은 실행을 수행하며 때로는 0.3에서 0.4 사이의 원시 유용성 점수로 Notes를 향상시킵니다.

전체적으로 22개 파일에 걸쳐 총 6282줄에 달하는 매우 복잡한 Python 코드가 생성됩니다. 하지만 모두 공개되어 있으므로 Notes와 평가 데이터를 다운로드하고 직접 실행하여 출력이 Twitter에서 실제로 일어나는 일과 일치하는지 확인할 수 있습니다.

실제로 이것은 어떤 모습일까요?

아마도 이 알고리즘과 단순히 사람들의 투표에서 평균 점수를 얻는 방법의 가장 큰 차이점은 제가 극성 값이라고 부르는 개념일 것입니다. 알고리즘 문서에서는 이를 fu와 fn이라고 부르는데, 두 항이 서로 곱하기 때문에 인수에 f를 사용합니다. 보다 일반적인 용어는 부분적으로 fu와 fn을 다차원으로 만들려는 궁극적인 욕구 때문입니다.

극성은 사용자와 메모에 할당됩니다. 사용자 ID와 기본 Twitter 계정 간의 링크는 의도적으로 비공개로 유지되지만 Notes는 공개됩니다. 실제로, 적어도 영어 데이터 세트의 경우 알고리즘이 생성한 극성은 왼쪽 및 오른쪽과 매우 밀접한 상관관계가 있습니다.

다음은 극성이 -0.8 정도인 몇 가지 Notes 예입니다.

여기서는 선별적으로 선택하는 것이 아닙니다. 이것은 실제로 알고리즘을 로컬에서 실행할 때 생성한 Score_notes.tsv 스프레드시트의 처음 세 행이며 해당 극성 점수(스프레드시트에서는 coreNoteFactor 1이라고 함)는 다음보다 작습니다. 0.8.

이제 극성이 약 +0.8인 일부 노트가 있습니다. 밝혀진 바와 같이, 그들 중 다수는 브라질 정치에 대해 포르투갈어로 이야기하는 사람들이거나 Tesla 팬이 Tesla에 대한 비판에 화를 내며 반박하는 사람들이었습니다. 따라서 조금 선별하여 두 범주에 속하지 않는 몇 가지 메모를 찾아보겠습니다.

다시 한 번 상기시켜드리자면,"왼쪽과 오른쪽으로 나누기"어떤 방식으로든 알고리즘에 하드코딩되지 않고 계산 방식으로 검색됩니다. 이는 이 알고리즘을 다른 문화적 맥락에 적용하면 주요 정치적 분열을 자동으로 감지하고 그 사이에 다리를 구축할 수 있음을 시사합니다.

한편, 유용성이 가장 높은 노트는 다음과 같습니다. 이번에는 Notes가 실제로 Twitter에 표시되므로 하나만 스크린샷으로 찍을 수 있습니다.

그리고 또 다른:

두 번째 노트의 경우 당파성이 강한 정치적 주제를 좀 더 직접적으로 다루지만 명확하고 수준이 높으며 유익한 노트이므로 높은 평가를 받습니다. 전반적으로 알고리즘은 작동하는 것으로 보이며, 코드를 실행하여 알고리즘의 출력을 검증하는 것이 가능해 보입니다.

나는 알고리즘에 대해 어떻게 생각하는가?

이 알고리즘을 분석하면서 가장 놀랐던 점은 복잡성이었습니다. 하나 있어요"학술 논문 버전", 이는 경사하강법을 사용하여 5항 벡터 및 행렬 방정식에 가장 적합한 것을 찾은 다음 실제 버전, 다양한 실행 및 수많은 임의 계수가 포함된 복잡한 알고리즘 실행 시퀀스가 ​​이어집니다.

학술 논문 버전조차도 근본적인 복잡성을 숨깁니다. 최적화하는 방정식은 음의 사차입니다(예측 공식에 2차 fu*fn 항이 있고 비용 함수는 오류의 제곱을 측정하기 때문입니다). 다양한 변수에 대해 2차 방정식을 최적화하면 거의 항상 고유한 솔루션이 있는 반면, 상당히 기본적인 선형 대수학으로 알아낼 수 있지만, 많은 변수에 대해 4차 방정식을 최적화하면 일반적으로 많은 솔루션이 있으므로 경사 하강 알고리즘의 여러 라운드 다른 답변 얻을 수 있습니다. 작은 입력 변화로 인해 하강이 하나의 로컬 최소값에서 다른 최소값으로 전환되어 출력 결과가 크게 변경될 수 있습니다.

이것과 내가 개발하는 데 도움을 준 알고리즘(예: 2차 금융)의 차이점은 나에게 경제학자의 알고리즘과 엔지니어의 알고리즘의 차이를 좋아합니다. 경제학자들의 알고리즘은 기껏해야 단순성에 초점을 맞추고 상대적으로 분석하기 쉽고 당면한 작업에 최적(또는 최소한으로 나쁘지 않음)임을 명시하는 명확한 수학적 특성을 가지고 있으며 이상적으로는 누군가가 어떤 피해를 입힐 수 있는지를 증명합니다. 그것을 활용하려고 노력합니다. 반면에 엔지니어의 알고리즘은 엔지니어의 운영 환경에서 무엇이 작동하고 무엇이 작동하지 않는지 확인하는 반복적인 시행착오 과정을 통해 파생됩니다. 엔지니어의 알고리즘은 실용적이고 작업을 완료하지만, 경제학자의 알고리즘은 예상치 못한 상황에도 통제력을 완전히 잃지 않습니다.

또는 존경받는 인터넷 철학자 Roon(일명 tszzl)이 관련 스레드에 다음과 같이 썼습니다.

물론 암호화폐의 이론적 미학 측면은 진정으로 신뢰할 수 없는 프로토콜과 보기에도 좋고 표면적으로는 잘 작동하지만 실제로는 일부 중앙화된 행위자를 신뢰해야 하는 프로토콜을 정확하게 구별할 수 있기 위해 필요하다고 말하고 싶습니다. 아니면 더 나쁜 것은 노골적인 사기일 수도 있습니다.

딥러닝은 일반적인 조건에서는 효과적이지만, 다양한 적대적 머신러닝 공격에는 필연적인 약점을 갖고 있습니다. 제대로 수행된다면 기술적 함정과 고도로 추상적인 사다리가 이러한 공격에 대응할 수 있습니다. 그래서 질문이 있습니다. 커뮤니티 노트 자체를 경제 알고리즘과 유사한 것으로 바꿀 수 있습니까?

실제로 이것이 무엇을 의미하는지 확인하기 위해 제가 몇 년 전에 비슷한 목적으로 고안한 알고리즘인 쌍 경계 2차 자금 조달을 살펴보겠습니다.

쌍으로 묶인 2차 펀딩의 목표는 두 플레이어가 서로 공모하더라도 매우 높은 금액을 가짜 프로젝트에 기부하고 자금을 반환받을 수 있는 기존 2차 펀딩의 허점을 메우는 것입니다. 전체 자금을 소모하는 큰 보조금. 쌍별 경계 2차 자금 조달에서는 각 참가자 쌍에게 한정된 예산 M을 할당합니다. 알고리즘은 가능한 모든 참가자 쌍에 대해 반복되며, 참가자 A와 참가자 B가 모두 지원하기 때문에 알고리즘이 일부 프로젝트 P에 보조금을 추가하기로 결정한 경우 이 보조금은 해당 쌍(A,B)에 할당된 예산에서 공제됩니다. . 따라서 k명의 참가자가 공모하더라도 메커니즘에서 최대 k*(k-1)*M을 훔칠 수 있습니다.

이러한 형태의 알고리즘은 각 사용자가 적은 수의 투표만 하기 때문에 커뮤니티 노트의 맥락에서 잘 작동하지 않습니다. 평균적으로 두 사용자 간의 공통 투표 수는 0이므로 각 쌍을 개별적으로 보면 됩니다. 사용자 알고리즘은 사용자의 극성을 이해할 수 없습니다. 기계 학습 모델의 목표는 이러한 방식으로 직접 분석할 수 없는 매우 희소한 소스 데이터에서 행렬을 채우는 것입니다. 그러나 이 접근 방식의 문제점은 소수의 잘못된 표에 직면하여 변동성이 큰 결과를 피하기 위해 추가 노력이 필요하다는 것입니다.

커뮤니티 노트가 정말로 좌파와 우파에 맞설 수 있을까요?

커뮤니티 노트 알고리즘이 실제로 극단적인 상황에 저항하는지, 즉 순진한 투표 알고리즘보다 더 나은 성능을 발휘하는지 분석할 수 있습니다. 이 투표 알고리즘은 이미 극단적인 상황에 다소 저항력이 있습니다. 좋아요가 200개이고 싫어요가 100개인 게시물은 좋아요가 200개만 있는 게시물보다 성과가 더 나쁩니다. 하지만 커뮤니티 노트가 더 나은가요?

추상적인 알고리즘 관점에서는 말하기가 어렵습니다. 평균 평점이 높은 편광 포스트는 왜 강한 극성과 높은 유용성을 얻을 수 없습니까? 아이디어는 해당 투표가 충돌하는 경우 게시물이 많은 투표를 얻게 된 기능을 극성이 흡수해야 한다는 것입니다. 그러나 실제로 그렇게 됩니까?

이를 확인하기 위해 100라운드 동안 단순화된 구현을 실행했습니다. 평균 결과는 다음과 같습니다.

이 테스트에서 좋음 노트는 동일한 정치적 성향을 가진 사용자에 의해 +2 등급, 반대 정치적 성향을 가진 사용자에 의해 +0 등급, 좋지만 더 극단적인 노트는 동일한 성향에 속한 사용자에 의해 +4 등급으로 평가되었습니다. , 반대 세력의 사용자는 -2입니다. 평균점수는 같아도 극성은 다릅니다. 그리고 실제로 좋은 노트의 평균 유용성은 좋지만 더 극단적인 노트보다 더 높은 것 같습니다.

경제학자의 알고리즘에 더 가까운 알고리즘을 사용하면 알고리즘이 극단을 처벌하는 방법에 대한 더 명확한 설명을 얻을 수 있습니다.

위험이 큰 상황에서 이 모든 것이 얼마나 유용합니까?

우리는 특정한 상황을 살펴봄으로써 이들 중 일부에 대해 배울 수 있습니다. 약 한 달 전, Ian Bremmer는 중국 정부 관리에 대한 트윗에 매우 비판적인 커뮤니티 노트?item_id=888가 추가되었다고 불평했습니다." target="_blank" rel="noopener noreferrer">더보기? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 보시겠습니까? item_id= 888" target="_blank" rel="noopener noreferrer">더 많은 내용을 볼 수 있지만 메모가 삭제되었습니다.

이것은 어려운 작업입니다. 메커니즘 디자인은 가장 큰 불만이 극단적인 Twitter 영향력자에게 20,000달러를 주는 것일 수 있는 Ethereum 커뮤니티 환경에서 중요한 것입니다. 수백만 명의 사람들에게 영향을 미치는 정치적, 지정학적 문제에 관해서라면 이야기는 다르지만 모든 사람은 합리적으로 최악의 동기를 가정하는 경향이 있습니다. 그러나 기계 설계자가 세상에 큰 영향을 미치고 싶다면 이러한 위험이 큰 환경과 상호 작용하는 것이 필수적입니다.

트위터의 경우 노트 삭제 원인으로 중앙집권적 조작을 의심할 수 있는 분명한 이유가 있다. 엘론 머스크는 중국 내 사업적 이해관계가 많기 때문에 엘론 머스크가 커뮤니티 노트 팀에게 노트 삭제 결과에 개입하도록 강요했을 가능성이 있다. 알고리즘을 적용하고 이 특정 메모를 삭제합니다.

다행히도 알고리즘은 오픈 소스이고 검증 가능하므로 실제로 그 원인을 파악할 수 있습니다! 이렇게 해보자. 원본 트윗의 URL은 https://twitter.com/MFA_China/status/1676157337109946369입니다. 마지막 숫자 1676157337109946369가 해당 트윗의 ID입니다. 다운로드 가능한 데이터에서 해당 ID를 검색하고 위의 메모가 있는 스프레드시트의 특정 행을 식별할 수 있습니다.

여기에는 Notes 자체의 ID인 1676391378815709184가 있습니다. 그런 다음 알고리즘을 실행하여 생성된 Score_notes.tsv 및 note_status_history.tsv 파일에서 이 ID를 검색합니다. 우리는 다음과 같은 결과를 얻었습니다:

첫 번째 출력의 두 번째 열은 Notes의 현재 등급입니다. 두 번째 출력은 Notes의 기록을 보여줍니다. 현재 상태는 일곱 번째 열(NEEDS_MORE_RATINGS)에 있고 NEEDS_MORE_RATINGS가 아닌 첫 번째 수신 상태는 다섯 번째 열(CURRENTLY_RATED_HELPFUL)에 있습니다. 따라서 우리는 알고리즘 자체가 먼저 메모를 표시한 다음 등급이 약간 떨어진 후에 메모를 제거했음을 알 수 있습니다. 중앙 개입은 포함되지 않은 것 같습니다.

투표 자체를 살펴보면 이를 다른 방식으로 볼 수도 있습니다. ratings-00000.tsv 파일을 스캔하여 이 Notes에 대한 모든 등급을 분리하고 몇 개가 HELPFUL 및 NOT_HELPFUL 등급인지 확인할 수 있습니다.

그러나 타임스탬프별로 정렬하고 상위 50개 표를 보면 HELPFUL 표가 40표이고 NOT_HELPFUL 표가 9표임을 알 수 있습니다. 그래서 우리는 같은 결론에 도달했습니다. Notes는 초기 청중에 의해 더 긍정적으로 평가되었지만 이후 청중에서는 덜 평가되었습니다. 따라서 평가는 처음에는 높았다가 시간이 지남에 따라 감소하면서 낮아졌습니다.

불행히도 Notes의 상태가 어떻게 변경되는지 정확하게 설명하기는 어렵습니다. 이전에는 0.40 이상으로 평가되었으며 현재는 0.40 미만으로 평가되어 제거되었습니다라는 간단한 문제가 아닙니다. 대신, NOT_HELPFUL 응답 수가 많으면 예외 조건 중 하나가 트리거되어 Notes가 임계값 이상을 유지해야 하는 유용성 점수가 높아집니다.

이는 우리에게 교훈을 주는 또 다른 훌륭한 학습 기회입니다. 신뢰할 수 있는 중립 알고리즘을 진정으로 신뢰할 수 있게 만들려면 단순함을 유지해야 합니다. 메모가 승인되었다가 승인되지 않는 경우 그 이유에 대한 간단하고 명확한 설명이 있어야 합니다.

물론 이 투표를 조작할 수 있는 또 다른 완전히 다른 방법이 있습니다. 바로 브리게딩(Brigading)입니다. 자신이 승인하지 않는 메모를 본 사람은 참여도가 높은 커뮤니티(또는 가짜 계정의 군단)에 요청하여 해당 메모를 도움이 되지 않음으로 평가할 수 있으며, 유용함의 메모를 극단적으로 옮기는 데 많은 투표가 필요하지 않을 수 있습니다. 이러한 협력 공격에 대한 알고리즘의 취약성을 적절하게 줄이려면 더 많은 분석과 작업이 필요합니다. 한 가지 가능한 개선점은 사용자가 메모에 투표하는 것을 허용하지 않고 대신 For You 알고리즘에서 권장하는 방식으로 평가자에게 메모를 무작위로 할당하고 평가자만 할당된 메모를 평가할 수 있도록 허용하는 것입니다.

커뮤니티 노트는 용감한 것만으로도 충분하지 않나요?

커뮤니티 노트에 대해 내가 본 주요 비판은 기본적으로 충분하지 않다는 것입니다. 최근에 이에 대해 언급한 두 개의 기사를 보았습니다. 기사 중 하나를 인용하자면:

커뮤니티 노트가 공개되기 위해서는 정치적 스펙트럼을 넘어 사람들의 합의에 의해 일반적으로 받아들여져야 한다는 점에서 이 과정은 심각한 한계를 안고 있습니다.

이념적 합의가 있어야 한다”고 말했다. 즉, 왼쪽에 있는 사람들과 오른쪽에 있는 사람들이 해당 메모를 트윗에 첨부해야 한다는 데 동의해야 한다는 뜻입니다.

본질적으로 그는 점점 더 당파적인 환경에서 거의 불가능한 진실에 대한 이념 간 합의가 필요하다고 말했습니다.

까다로운 질문이지만 궁극적으로 나는 불공평하게 주석을 달기 위해 하나의 트윗보다 잘못된 정보가 담긴 10개의 트윗을 무료로 공개하는 것이 더 낫다고 생각하는 경향이 있습니다. 우리는 수년간 용감하게 사실 확인을 해왔고 실제로 우리는 진실을 알고 있으며 한쪽이 다른 쪽보다 더 자주 거짓말을 한다는 것을 알고 있습니다라는 관점을 보았습니다. 무슨 일이 일어날 것?

솔직히 말해서 사실 확인이라는 개념 자체에 대한 불신이 상당히 널리 퍼져 있습니다. 여기서 한 가지 전략은 다음과 같습니다. 비판적인 사람들을 무시하고 사실 확인 담당자가 어떤 투표 시스템보다 사실을 더 잘 알고 있다는 점을 기억하고 이를 고수하는 것입니다. 하지만 이 접근 방식에 올인하는 것은 위험해 보입니다. 모든 사람이 적어도 어느 정도 존중할 수 있는 부족 간 기관을 구축하는 데에는 가치가 있습니다. 윌리엄 블랙스톤(William Blackstone)의 격언과 법원처럼, 나는 그러한 존중을 유지하려면 자발적인 오류보다는 누락으로 인해 오류를 범하는 시스템이 필요하다고 생각합니다. 따라서 적어도 하나의 주요 조직이 이 다른 길을 택하고 부족 간 존중을 귀중한 자원으로 보는 것이 가치 있다고 생각됩니다.

커뮤니티 노트가 보수적이어서 괜찮다고 생각하는 또 다른 이유는 모든 잘못된 정보의 트윗, 심지어 대부분의 잘못된 정보의 트윗이 정정 메모를 받아야 한다고 생각하지 않기 때문입니다. 잘못 알려진 트윗 중 1% 미만이 주석을 달아 맥락이나 수정을 제공하더라도 커뮤니티 노트는 여전히 교육 도구로서 매우 가치 있는 서비스를 제공합니다. 목표는 모든 것을 바로잡는 것이 아니라, 오히려 다양한 관점이 있다는 것과, 설득력 있고 고립되어 있는 것처럼 보이는 게시물 중 일부는 실제로 꽤 잘못되었으며, 예, 일반적으로 기본적인 것은 할 수 있다는 것을 사람들에게 상기시키는 것입니다. 인터넷 검색해서 틀린지 확인해보세요.

커뮤니티 노트는 공공 인식론의 모든 문제에 대한 만병통치약이 될 수 없으며 그렇게 의도되지도 않습니다. 해결되지 않는 문제가 무엇이든, 예측 시장과 같은 새로운 장치이든, 공백을 메울 수 있는 도메인 전문 지식을 갖춘 정규 직원을 고용하는 기존 조직이든, 다른 메커니즘이 이를 채울 수 있는 여지가 많이 있습니다.

결론적으로

커뮤니티 노트는 소셜 미디어에서의 매혹적인 실험일 뿐만 아니라 새로운 유형의 메커니즘 설계, 즉 의식적으로 극단을 식별하려고 노력하고 분할을 영속시키기보다는 교차를 촉진하는 경향이 있는 메커니즘의 매혹적인 예이기도 합니다.

내가 알고 있는 이 범주의 다른 두 가지 예는 다음과 같습니다: (i) Gitcoin Grants에서 사용되는 쌍을 이루는 2차 자금 조달 메커니즘, 그리고 (ii) 클러스터링 알고리즘을 사용하여 커뮤니티가 공통 인기 진술을 식별하는 데 도움이 되는 토론 도구인 Polis는 다음과 같습니다. 의견이 다른 경우가 많습니다. 이 메커니즘 설계 분야는 가치가 있으며 이 분야에서 더 많은 학문적 연구가 이루어지기를 바랍니다.

커뮤니티 노트가 제공하는 알고리즘 투명성은 완전히 분산된 소셜 미디어가 아닙니다. 커뮤니티 노트의 작동 방식에 동의하지 않으면 동일한 콘텐츠에 대해 다른 알고리즘 관점을 볼 수 있는 방법이 없습니다. 그러나 이는 향후 몇 년 내에 하이퍼스케일 애플리케이션이 얻을 수 있는 가장 가까운 수준이며 중앙 집중식 조작을 방지하고 그러한 조작에 관여하지 않는 플랫폼이 인정받을 가치가 있는 것을 보장하는 등 이미 많은 가치를 제공한다는 것을 알 수 있습니다. .

저는 커뮤니티 노트와 유사한 정신을 지닌 많은 알고리즘이 향후 10년 동안 발전하고 성장하는 것을 기대합니다.