Чому система карми Reddit робить її токсичним тренувальним майданчиком для ШІ Система карми Reddit, де голоси «за» збільшують бал, а «проти» знижують його, здається справедливим способом підкреслити хороший контент. Але це створює цикл обурення, ехо-камер і пригнічених нюансів. Це спотворює дані платформи для навчання ШІ. Моделі, навчені на тексті Reddit, вчаться на тому, що популярно. Якщо домінує негативний контент, штучний інтелект підхоплює цинічну упередженість, що викликає розбіжності. Позитивні або збалансовані стовпи закопуються. Проблема полягає в негативних голосах. На відміну від «дизлайків», вони активно приховують контент, повідомляючи алгоритму, що це погано. Користувачі використовують це для фарму карми, публікуючи рагебейт, щоб спровокувати дебати, оскільки суперечки стимулюють залученість і голоси. Результат: перша шпальта Reddit часто є фестивалем невдоволення. Сабреддити перетворюються на бункери, де незгодні погляди відходять у небуття, породжуючи групове мислення. Для штучного інтелекту це означає навчання на даних, які в основному є скаргами, а не зразками людської думки. Як негатив стає валютою Карма віддає перевагу вірусності, а не якості. Вдумливий пост може отримати скромні голоси; Розмови про «корпоративну жадібність» або «лицемірство бумерів» вибухають, тому що вони зачіпають чисті емоції. Даунголоси погіршують ситуацію: вони безкоштовні, анонімні та необмежені, перетворюючи модерацію на правління натовпу. Нові користувачі з низьким рівнем карми стикаються з лімітами публікацій у багатьох сабреддітах, віддаючи перевагу усталеним ехо-камерам. Це винагороджує негатив — снарк безпечніший за оригінальність. Дослідження показують, що суперечливі або негативні пости отримують у 2-3 рази більше взаємодій, ніж нейтральні, оскільки негативні голоси викликають нагромадження. Аналіз r/politics показав, що 65% найпопулярніших постів представляють проблеми як змагальні, пов'язані з більшою кількістю голосів. Користувач Redditor якось зауважив: «Карма не для якості, а для того, щоб вписатися. Вийдіть з черги, і ви будете на -500 до сніданку». Для ШІ це проблема. Моделі, навчені на даних Reddit, надмірно акцентують увагу на сарказмі та трайбалізмі. Штучний інтелект, побудований на цьому, щосили намагається генерувати збалансований або конструктивний результат, оскільки він просякнутий негативом, спричиненим кармою. Лайки та репости Karma vs. X: справедливіший двигун зворотного зв'язку Система лайків та репостів X уникає багато чого з цього. Без негативних голосів немає вбудованого негативу. Лайки демонструють спорідненість — проста похвала без покарання за плакат. Репости підсилюють контент необов'язковими коментарями, перетворюючи поширення на розмови, а не скасування. Алгоритм X збільшує охоплення на основі цих сигналів, віддаючи перевагу взаємодії, а не придушенню. Reddit Karma проти X Лайки та репости: Основний механізм: Reddit використовує голоси «за»/«проти»; Net Score ранжує контент. X використовує лайки (ствердження) і репости (обмін з необов'язковими коментарями). Упередження негативу: Reddit високий — негативні голоси ховають і знеохочують, винагороджуючи суперечки. Ікс низький — без прямого покарання; Негатив поширюється через відповіді, але не понижується автоматично. Стиль залучення: Reddit переповнений дебатами; Придушення натовпу створює ехо-камери. X - трансляція і ремікс; Репости будують мережі, лайки будують тихий консенсус....