لماذا يجعله نظام الكارما من Reddit ساحة تدريب سامة الذكاء الاصطناعي يبدو نظام الكارما في Reddit ، حيث تزيد الأصوات المؤيدة من النتيجة وتقل الأصوات السلبية ، طريقة عادلة لتسليط الضوء على المحتوى الجيد. لكنه يخلق دورة من الغضب وغرف الصدى والفروق الدقيقة المكبوتة. هذا يعيب بيانات النظام الأساسي للتدريب على الذكاء الاصطناعي. النماذج المدربة على نص Reddit ، تتعلم مما هو شائع. إذا سيطر المحتوى السلبي ، فإن الذكاء الاصطناعي يلتقط تحيزا ساخرا ومثير للانقسام. يتم دفن المشاركات الإيجابية أو المتوازنة. تكمن المشكلة في التصويت السلبي. على عكس "عدم الإعجاب" ، فإنهم يخفون المحتوى بنشاط ، ويخبرون الخوارزمية أنه سيء. يستغل المستخدمون هذا لزراعة الكارما ، وينشرون ragebait لإثارة المناقشات ، حيث يؤدي الجدل إلى المشاركة والأصوات المؤيدة. النتيجة: غالبا ما تكون الصفحة الأولى ل Reddit مهرجانا للشكاوى. تتحول subreddits إلى صوامع حيث يتم التصويت على الآراء المعارضة إلى النسيان ، مما يخلق تفكيرا جماعيا. بالنسبة إلى الذكاء الاصطناعي ، هذا يعني التدريب على البيانات التي تكون في الغالب شكاوى ، وليس عينة من الفكر البشري. كيف تصبح السلبية عملة تفضل الكرمة الفيروسية على الجودة. قد يحصل منشور مدروس على أصوات مؤيدة متواضعة. ينفجر الصخب حول "جشع الشركات" أو "نفاق الطفرة السكانية" لأنه يستفيد من المشاعر الخام. الأصوات السلبية تزيد من سوء الأمر: فهي حرة ومجهولة وغير محدودة ، وتحول الاعتدال إلى حكم الغوغاء. يواجه المستخدمون الجدد ذوو الكارما المنخفضة حدود النشر في العديد من subreddits ، ويفضلون غرف الصدى القائمة. هذا يكافئ السلبية - السخرية أكثر أمانا من الأصالة. تشير الدراسات إلى أن المنشورات المثيرة للجدل أو السلبية تحصل على تفاعلات أكثر بمقدار 2-3 مرات من المنشورات المحايدة ، حيث تؤدي التصويت السلبي إلى إثارة التراكم. وجد تحليل ل r / politics أن 65٪ من المناصب العليا تؤطر القضايا على أنها عدائية ، مرتبطة بأعلى الأصوات المؤيدة. لاحظ أحد Redditor ذات مرة: "الكارما ليست للجودة - إنها من أجل الاندماج. اخرج من الخط ، وستكون في -500 قبل الإفطار ". بالنسبة الذكاء الاصطناعي ، هذه مشكلة. النماذج المدربة على بيانات Reddit تبالغ في التأكيد على السخرية والقبلية. يكافح الذكاء الاصطناعي المبني على هذا لتوليد مخرجات متوازنة أو بناءة ، لأنه غارق في السلبية التي تحركها الكارما. الكرمة مقابل الإعجاب وإعادة النشر ل X: محرك ردود فعل أكثر عدلا يتجنب نظام X للإعجابات وإعادة النشر الكثير من هذا. بدون التصويت السلبي ، لا توجد سلبية مدمجة. تظهر الإعجابات التقارب - مدح بسيط دون معاقبة الملصق. تعمل عمليات إعادة النشر على تضخيم المحتوى من خلال التعليق الاختياري ، وتحويل المشاركات إلى محادثات وليس إلغاءات. تعزز خوارزمية X الوصول بناء على هذه الإشارات ، وتفضل المشاركة على القمع. Reddit Karma مقابل X الإعجابات وإعادة النشر: الآلية الأساسية: يستخدم Reddit الأصوات لأعلى / لأسفل ؛ صافي النتيجة يصنف المحتوى. يستخدم X الإعجابات (التأكيد) وإعادة النشر (المشاركة مع التعليق الاختياري). التحيز السلبي: Reddit مرتفع - الأصوات السلبية تدفن وتثبط عزيمتها ، مما يكافئ الجدل. X منخفض - لا توجد عقاب مباشر. تنتشر السلبية عبر الردود ولكنها لا تنخفض تلقائيا. أسلوب المشاركة: Reddit ثقيل النقاش. الغوغاء التصويت لصالح خلق غرف الصدى. يتم بث X وإعادة مزج. إعادة النشر بناء الشبكات ، الإعجابات بناء إجماع هادئ....