GPT-5 каже "Я не знаю". Люблю це, дякую.

Такі компанії, як Facebook, фіксують кожну можливу взаємодію своїх користувачів з платформою. Вони реєструють кожен ваш клік і натискання. вони відстежують, як довго ваш погляд затримувався на посту, чи були ви в одному Wi-Fi з тією жінкою, яка може бути вашою подругою, який ролик в Instagram ви дивилися тричі. Для одного користувача це дивно, але ці практики виконуються в планетарному масштабі у всіх технологічних гігантів. вони створюють петабайти даних на день і зберігають їх стільки, скільки їм дозволять європейські регулятори. Тоді вони можуть перетворити машинний інтелект на корисні знання для своїх кібернетичних систем управління, які будують стрічки новин, розміщують рекламу, вирішують, скільки обчислень витратити на вас, які артикули повинні бути на яких складах прямо перед тим, як ви їх захочете. Рахунки за метамагазин Hive обчислюються мільярдами Лікарні викидають більшу частину своїх даних і телеметрії після кожного випадку, щодня. Вони записують відео судинних операцій, ендоскопії, відкривають для себе цікаві фізіології. Іноді вони взагалі не записуються, і в більшості випадків вони видаляють їх, як тільки вони закінчують це ще гірше для фізіологічних хвиль (ЕКГ, ЕЕГ, артеріальні лінії), які по суті взагалі ніде не реєструються. Зображення мозку, судинного русла, серця пацієнта генеруються і миттєво руйнуються. Всі ці часові ряди, звичайно, передбачають завчасну зупинку серця людей, вибух мозку і т.д. хірурги – це телеопераційні роботи, жоден з мікрорухів не реєструється, політики ніколи не вивчаються, ніколи не корелюються з тим, які результати були успішними, а які ні Це було б немислимо для більшості програмістів, чий інстинкт полягає в тому, щоб записувати все скрізь, не звертаючи уваги на витрати на хмару, тому що ми впевнені, що від цього буде якась користь пізніше, а якась модель буде вивчена пізніше. У мене тут немає рецепту як такого, моя точка зору полягає лише в тому, що наша цивілізація регулярно накопичує і зберігає деякі з найбезглуздіших даних у світі: «Я натиснув, як на котушці John Pork Remo», і знищує багато всіх найважливіших даних, які вона генерує, і обмежує те, що машини можуть вивчити

Ян ЛеКун: «Якщо вам цікавий штучний інтелект людського рівня, не працюйте на LLM»

Дві речі становлять екзистенційний ризик для людства: надрозумний штучний інтелект і людська дурість; і я не дуже впевнений щодо ШІ

Я (повільно) перечитую легендаріум Толкієна (невелика частина якого є «Володарем перснів»). Весь корпус робіт настільки неймовірний, що більше нічого подібного немає... Вона розбавляє інші світи художньої літератури. Зачекайте - ваша історія не має всеосяжної історії/міфології, що охоплює кілька віків, аж до міфу про створення світу, як це детально описано в окремих томах? Ви спочатку не винайшли нові мови та діалекти для своїх персонажів? Ви не наповнили її потужними темами та історіями, не написали її в красивому, архаїчному стилі і не склали разом вірші та пісні? Вам не знадобилося кілька десятиліть ітерацій? А як щодо всієї незвіданої території, яка ще залишилася? Чи є Том Бомбадиль одним з айнурів. Де знаходяться Entwives. Що сталося з двома неврахованими Ітарі. Чи можемо ми почути більше про те, яким він був у Куйв'єнені, коли ельфи вперше прокинулися? Або побачити світло двох дерев Валінору. Або про пишність печер Агларонда. Але найбільше мені на думку – легендаріум Толкієна є конкретним прикладом висоти культури. Чи дозволяє штучний інтелект, сьогодні чи найближчим часом, досягти цього рівня завдяки розширенню можливостей як у письмі, так і в генерації ідей? Або важче, коли швидкі перемоги спокусливі і ~вільні, а самостійна здатність до творчості пригнічена. Якщо така робота буде виконана знову, але вже за потужної допомоги штучного інтелекту, чи викликає це таке ж здивування? А раптом тисячі з них вийдуть на вимогу лише з підказкою? Чому ви відчуваєте себе обдуреним, коли дізнаєтеся, що те, що ви прочитали, було згенеровано штучним інтелектом? Це минущий чи функція можливостей? Це неохайність? Що таке помиї? Чи, може, диво невіддільне від міфу про довічне створення, одержимість розумом, подібним до вашого власного? Стільки запитань.

Сем Альтман – весела людина 😀 Ми вигідні на висновках. Якби ми не платили за навчання, ми були б дуже прибутковою компанією ~ Сем Альтман

“Humanity’s Last Exam” is probably not going to be the last AI benchmark…