- Агент Replit уничтожил производственную базу данных - Zillow потерял 304 миллиона долларов из-за своего AI для покупки домов - iTutor заплатил 365 тысяч долларов, когда AI отклонил старых кандидатов Катастрофы с AI, подобные этим, могут буквально заставить вас потерять работу! Давайте научимся создавать Агентов, которые не терпят неудач в производстве (с кодом):

Одной из основных проблем с клиентскими AI-агентами является то, что они либо слишком быстро передают проблему человеку (низкая степень сдерживания), либо уверенно вводят пользователя в заблуждение. Вот почему AI-системы, ориентированные на пользователя, не могут просто оптимизировать точность. Вместо этого они также должны оптимизировать "сдерживание", т.е. как часто агенты решают проблему без эскалации. Кроме того, это не только частота ошибок, но и их серьезность, особенно когда даже худшие 0,001% могут иметь значение.

Сегодня давайте используем Parlant (с открытым исходным кодом с 12k звёзд) для создания соответствующего разговорного финансового агента, который обрабатывает и одобряет кредиты. Parlant — это фреймворк для создания агентов, взаимодействующих с клиентами, которые ведут себя точно так, как указано. Моя ветка ниже объясняет его ключевые особенности.

1️⃣ Создать Агент Мы начинаем с определения Агента для одобрения кредита. Затем мы объявляем некоторые специфические для области термины, которые Агент может понадобиться знать, чтобы ответить с уверенностью. Проверьте это 👇

2️⃣ Путешествие Parlant представляет идею Путешествий. Они информируют Агента о многоступенчатом разговорном потоке, который помогает ему направлять пользователя через разговор так, как задумано. Проверьте этот путь одобрения кредита 👇

Это наше путешествие: - Определить тип кредита, который хочет пользователь - Собрать данные о кредите и доходе - Вызвать инструмент для проверки соответствия требованиям - Завершить, если не соответствует требованиям, иначе попросить их загрузить документы - Вызвать инструмент для обработки загруженных документов - Завершить, если документы недействительны, иначе кредит одобрен Проверьте это 👇

3️⃣ Руководства Руководства в Parlant сообщают агенту, как подходить к конкретным ситуациям через пары условий и действий. Это обеспечивает больший контроль над поведением агента. Это снижает несоответствия, гарантируя, что поведение агента соответствует бизнес-потребностям. Проверьте это👇

Мы можем сделать больше вещей, чтобы внедрить больше контроля, но эта простая настройка сама по себе дает мощного агента, следящего за инструкциями. В видео ниже, независимо от того, что я пытаюсь сделать, чтобы получить одобрение кредита, агент отказывается это делать. Вы также можете проверить точные причины. Проверьте это👇

На этом всё! Если вам это было полезно, поделитесь с вашей сетью. Найдите меня → @_avichawla Каждый день я делюсь уроками и инсайтами по DS, ML, LLM и RAG.