為什麼 Reddit 的 Karma 系統使其成為 AI 的有毒訓練場 Reddit 的 Karma 系統，透過上讚增加分數和下讚減少分數，似乎是一種公平的方式來突顯優質內容。但它創造了一個憤怒的循環、回音室和壓抑的細微差別。這使得該平台的數據對 AI 訓練存在缺陷。 基於 Reddit 文字訓練的模型，學習的是什麼內容受歡迎。如果負面內容佔主導地位，AI 就會產生一種憤世嫉俗、分裂的偏見。正面或平衡的帖子則被埋沒。 問題出在下讚上。與「不喜歡」不同，下讚會主動隱藏內容，告訴算法這是糟糕的。用戶利用這一點進行 Karma 農場，發佈激怒性內容以引發辯論，因為爭議會驅動參與和上讚。結果是：Reddit 的首頁經常是一場抱怨的盛宴。子版塊變成了孤島，異議觀點被下讚至無底，形成了集體思維。對於 AI 而言，這意味著訓練的數據主要是抱怨，而不是人類思想的樣本。 負面情緒如何成為貨幣 Karma 偏愛病毒式傳播而非質量。一個深思熟慮的帖子可能獲得適度的上讚；而一篇關於「企業貪婪」或「老一輩虛偽」的咆哮則會爆炸，因為它觸及了原始情感。下讚使這一情況更糟：它們是免費的、匿名的且無限制，將管理變成了暴民統治。 新用戶的 Karma 低，在許多子版塊面臨發帖限制，這使得已建立的回音室更受青睞。這獎勵了負面情緒——諷刺比創新更安全。 研究顯示，爭議或負面帖子獲得的互動是中立帖子的 2-3 倍，因為下讚引發了群起而攻之。對 r/politics 的分析發現，65% 的熱門帖子將問題框架化為對立，這與更高的上讚相關。一位 Reddit 用戶曾指出：「Karma 不是為了質量——而是為了融入。偏離正軌，你在早餐前就會變成 -500。」 對於 AI 而言，這是一個問題。基於 Reddit 數據訓練的模型過度強調諷刺和部落主義。基於這些數據構建的 AI 難以生成平衡或建設性的輸出，因為它浸淫在以 Karma 驅動的負面情緒中。 Karma 與 X 的喜歡和轉發：更公平的反饋引擎 X 的喜歡和轉發系統避免了許多這種情況。沒有下讚，就沒有內建的負面情緒。喜歡顯示親和力——簡單的讚美而不懲罰發帖者。 轉發放大內容，並可選擇性地附上評論，將分享變成對話，而不是取消。X 的算法根據這些信號提升觸及率，偏愛參與而非壓制。 Reddit Karma 與 X 喜歡和轉發： 核心機制：Reddit 使用上/下讚；淨分數排名內容。X 使用喜歡（肯定）和轉發（分享附帶可選評論）。 負面偏見：Reddit 的偏見高——下讚埋沒和打擊，獎勵爭議。X 的偏見低——沒有直接懲罰；負面情緒通過回覆擴散，但不會自動降級。 參與風格：Reddit 偏重辯論；暴民下讚創造回音室。X 是廣播和重混；轉發建立網絡，喜歡建立安靜的共識。...