Reddit のカルマ システムが AI にとって有害な訓練場となる理由 Reddit のカルマ システムは、賛成票でスコアが上がり、反対票がスコアを下げるというもので、優れたコンテンツを強調する公正な方法のように思えます。しかし、それは怒り、エコーチェンバー、抑圧されたニュアンスのサイクルを生み出します。これにより、AI トレーニング用のプラットフォームのデータに欠陥が生じます。 Reddit テキストでトレーニングされたモデルは、人気のあるものから学びます。ネガティブなコンテンツが優勢な場合、AI は皮肉的で分裂的な偏見を拾います。ポジティブまたはバランスのとれたポストは埋もれています。 問題は反対票にある。「嫌い」とは異なり、彼らは積極的にコンテンツを隠し、アルゴリズムにそれが悪いことを伝えます。ユーザーはこれをカルマファーミングに悪用し、論争がエンゲージメントと賛成票を促進するため、レイジベイトを投稿して議論を引き起こします。その結果、Reddit のトップページはしばしば苦情の祭典になります。サブレディットはサイロ化し、反対意見は忘却の彼方に投票され、集団思考が生まれます。AI にとって、これは人間の思考のサンプルではなく、ほとんどが苦情であるデータに基づいてトレーニングすることを意味します。 ネガティブな感情が通貨になる方法 カルマは品質よりもバイラル性を好みます。思慮深い投稿はささやかな賛成票を獲得するかもしれません。「企業の貪欲さ」や「団塊の世代の偽善」についての暴言は、生の感情を利用するため爆発します。反対票はこれをさらに悪化させます:彼らは自由で、匿名で、無制限であり、穏健さを暴徒の支配に変えます。 カルマの低い新規ユーザーは、多くのサブレディットで投稿制限に直面しており、確立されたエコーチェンバーを好みます。これは否定的なことに報いる――スナークは独創性よりも安全だ。 調査によると、物議を醸す投稿や否定的な投稿は、反対票が山積みを引き起こすため、中立的な投稿よりも2〜3倍多くのインタラクションを獲得しています。r/politics の分析によると、上位投稿の 65% が問題を敵対的なものとして捉えており、賛成票の増加に結びついています。ある Reddit ユーザーはかつて次のように述べています。列から外れれば、朝食前には-500度になります。」 AIにとって、これは問題です。Reddit データでトレーニングされたモデルは、皮肉や部族主義を過度に強調しています。これに基づいて構築された AI は、カルマ主導の否定性に染み込んでいるため、バランスの取れた出力または建設的な出力を生成するのに苦労します。 Karma vs. X の「いいね!」とリポスト: より公平なフィードバック エンジン Xの「いいね!」とリポストのシステムは、このようなことの多くを回避しています。反対票がなければ、ネガティブな要素は組み込まれていません。「いいね!」は親和性を示し、投稿者を罰することなく単純な賞賛です。 再投稿は、オプションのコメントでコンテンツを増幅し、共有をキャンセルではなく会話に変えます。Xのアルゴリズムは、これらのシグナルに基づいてリーチを拡大し、抑制よりもエンゲージメントを優先します。 Reddit Karma vs. X: いいねと再投稿: コアメカニズム: Reddit は賛成/反対投票を使用します。ネットスコアはコンテンツをランク付けします。Xは「いいね!」(肯定)と再投稿(オプションのコメント付きで共有)を使用します。 否定的なバイアス: Reddit は高く、反対票が埋もれて落胆し、論争に報いています。Xは低く、直接的な罰はありません。否定的な意見は返信を通じて広がりますが、自動的に降格することはありません。 エンゲージメントスタイル: Reddit は議論が多いです。暴徒の反対票はエコーチェンバーを作り出します。X はブロードキャストとリミックスです。リポストはネットワークを構築し、「いいね!」は静かなコンセンサスを構築します。...