- Агент Replit знищив виробничу базу даних - Zillow втратила $304 млн через штучний інтелект для купівлі житла - iTutor заплатив $365 тис., коли AI відмовив старим претендентам Такі катастрофи зі штучним інтелектом можуть буквально змусити вас втратити роботу! Давайте дізнаємося, як створювати агентів, які не дають збоїв у продакшн (за допомогою коду):

Одна з основних проблем з агентами штучного інтелекту, орієнтованими на клієнтів, полягає в тому, що вони або занадто швидко передають проблему людині (низький рівень стримування), або впевнено вводять користувача в оману. Ось чому системи штучного інтелекту, орієнтовані на користувача, не можуть просто оптимізуватися для точності. Замість цього вони також повинні оптимізувати для «стримування», тобто того, як часто агенти вирішують проблему без ескалації. Крім того, справа не тільки в частоті помилок, але і в їх серйозності, особливо коли навіть найгірші 0,001% можуть мати значення.

Сьогодні давайте використовувати Parlant (відкритий вихідний код з 12 тисячами зірок) для створення сумісного розмовного фінансового агента, який обробляє та затверджує кредити. Parlant – це фреймворк для створення агентів, орієнтованих на клієнтів, які поводяться точно відповідно до інструкцій. У моїй гілці нижче пояснюються його ключові особливості.

1️⃣ Створити агента Почнемо з визначення агента з погодження кредитів. Далі ми оголошуємо деякі специфічні для предметної області терміни, які Агенту може знадобитися знати для впевненої відповіді. Перевірте це 👇

2️⃣ Подорож Parlant вводить ідею Journeys. Вони інформують Агента про багатоетапний розмовний потік, який допомагає йому вести користувача через розмову так, як було задумано. Перевірте цей шлях 👇 схвалення кредиту

Це наша подорож: - Визначте тип кредиту, який бажає користувач - Збирайте дані про кредит і доходи - Інструмент дзвінків для перевірки відповідності вимогам - Завершіть, якщо ви не відповідаєте вимогам, попросіть їх завантажити документи - Інструмент дзвінків для обробки завантажених документів - Закінчити, якщо невірні документи ще схвалені кредит Перевірте це 👇

3️⃣ Методичні рекомендації Керівні принципи в Parlant вказують агенту, як підходити до конкретних ситуацій за допомогою пар умова-дія. Це забезпечує більший контроль над поведінкою агента. Це зменшує невідповідності, гарантуючи, що поведінка агента відповідає потребам бізнесу. Перевірте це👇

Ми можемо робити більше речей для вбудовування більшого контролю, але ця проста настройка сама по собі дає потужний агент, що слідує інструкціям. У відео нижче, що б я не намагався отримати схвалення кредиту, Агент відмовляється це робити. Ви також можете ознайомитися з точними міркуваннями. Перевірте це👇

Ось і все! Якщо ви вважаєте її зрозумілою, повторно поділіться нею зі своєю мережею. Знайди мене → @_avichawla Щодня я ділюся навчальними матеріалами та ідеями про DS, ML, LLM та RAG.