Про те, як ми використовуємо штучний інтелект і @lancedb всередині!

Я виявив, що розробляю свої інструменти штучного інтелекту задом наперед. Наведемо приклад. Це був мій ланцюжок обробки розсилок: читання електронних листів, дзвінок обробнику розсилок, видобуток компаній, а потім додавання їх до CRM. Це включало чотири різні етапи, які коштували $3,69 за кожну тисячу оброблених інформаційних бюлетенів. Раніше: Ланцюжок обробки інформаційних бюлетенів (перше зображення) Потім я створив уніфікований інструмент для розсилки новин, який об'єднав у собі все, використовуючи Google Agent Development Kit, фреймворк Google для створення інструментів AI agent виробничого класу: (друге зображення) Чому інструмент єдиної розсилки новин складніший? Він включає кілька дій в одному інтерфейсі (процес, пошук, вилучення, перевірка), реалізує управління станами, яке відстежує шаблони використання та кешує результати, має вбудоване обмеження швидкості, а також створює структуровані виходи JSON з метаданими замість простого тексту. Але ось парадоксальна частина: незважаючи на те, що він складніший всередині, уніфікований інструмент простіший у використанні для LLM, оскільки він забезпечує послідовні, структуровані виходи, які легше аналізувати, навіть якщо ці виходи довші. Щоб зрозуміти вплив, ми провели тести по 30 ітерацій на кожен сценарій. Результати показують вплив нової архітектури : (третє зображення) Ми змогли скоротити токени на 41% (p=0,01, статистично значуще), що лінійно перетворилося на економію коштів. Показник успіху покращився на 8% (p=0,03), і ми змогли потрапити в кеш у 30% випадків, що є ще однією економією коштів. У той час як окремі інструменти давали коротші та «чистіші» відповіді, вони змушували LLM працювати старанніше, аналізуючи несумісні формати. Структуровані, всебічні виходи з уніфікованих інструментів забезпечили більш ефективну обробку LLM, незважаючи на те, що вони довші. Мій робочий процес спирався на десятки спеціалізованих інструментів Ruby для електронної пошти, досліджень та управління завданнями. Кожен інструмент мав власний інтерфейс, обробку помилок і формат виведення. Об'єднавши їх у мета-інструменти, кінцева продуктивність стає кращою, а також ви отримуєте величезну економію коштів. Ви можете знайти повну архітектуру на GitHub.

«Шлях до написання твору – три-чотири рази, жодного разу». Писати важко. Джон Макфі, який винайшов літературний нон-фікшн, який читається як роман, розробив метод написання з чотирьох чернеток, який перетворює хаотичні ідеї на переконливі розповіді. Макфі став піонером творчого нон-фікшну в The New Yorker, написавши такі книги, як «Апельсини та прибуття в країну», які зробили складні теми захоплюючими за допомогою оповіді. Його підхід відрізняється від традиційної журналістики тим, що включає художні прийоми при збереженні фактичної точності. Його проза поєднує в собі яскраву образність з економією: «Лікар слухає в стетоскоп і чує звуки індіанського барабана». Він віддавав перевагу прямоті: «Йому подобалося переходити від пункту А до пункту Б, не вигадуючи букв між». Про свій жанр Макфі говорив: «Нон-фікшн — що, чорт забирай, це просто негрейпфрут, який ми їмо сьогодні вранці». Пізніше Макфі кодифікував свій підхід у чернетці No 4: Про процес письма, поділившись десятиліттями письменницької мудрості. Його організаційна філософія формує все: «Ви можете побудувати структуру таким чином, щоб у людей виникало бажання постійно перегортати сторінки. Переконлива структура в нехудожній літературі може мати привабливий ефект, аналогічний сюжетній лінії в художній літературі. Читачі не повинні помічати структуру. Він має бути таким же помітним, як чиїсь кістки». Фреймворк Макфі з чотирьох чернеток : 1. Чернетка мозкового дампа - Фіксуйте кожну можливу ідею, факт і ракурс без редагування чи засудження 2. Структуруйте чернетку - Організуйте ідеї в логічні послідовності та визначте основну нитку розповіді 3. Безжальна чернетка - Видаліть все, що не служить основному повідомленню або не збиває з пантелику читача 4. Польська чернетка - Удосконалюйте прозу, виправляйте граматику та переконайтеся, що кожне речення веде до вашої мети Це одна з найкращих технік, яку я знайшов для письма. Метод працює тому, що відокремлює творче мислення від критичної оцінки. Коли ти намагаєшся писати ідеальну прозу, генеруючи ідеї, легко потрапити у творчий блок. Кожна чернетка стає фундаментом для наступної, створюючи рекурсивний процес, який перетворює хаотичні думки на структуровані наративи. Подібно до зняття шарів апельсина, щоб відкрити плід всередині, кожен протяг видаляє те, що не належить, розкриваючи важливу історію, яка завжди чекала на відкриття.