- Replitův agent vymazal produkční databázi - Společnost Zillow přišla o 304 milionů dolarů kvůli umělé inteligenci pro nákup domů - iTutor zaplatil 365 tisíc dolarů, když AI odmítla staré uchazeče Katastrofy umělé inteligence, jako jsou tyto, mohou doslova způsobit ztrátu zaměstnání! Pojďme se naučit, jak vytvářet agenty, kteří neselhávají v produkci (s kódem):

Jedním z hlavních problémů agentů umělé inteligence orientovaných na zákazníky je to, že buď příliš rychle eskalují problém na lidského agenta (nízká izolace), nebo sebevědomě uvádějí uživatele v omyl. To je důvod, proč systémy umělé inteligence zaměřené na uživatele nemohou optimalizovat pouze pro přesnost. Místo toho musí také optimalizovat pro "omezení", tj. jak často agenti řeší problém bez eskalace. Také nejde jen o četnost chyb, ale také o jejich závažnost, zvláště když i těch nejhorších 0,001 % může záležet.

Dnes použijeme Parlant (open-source s 12 tisíci hvězdičkami) k vytvoření konverzačního finančního agenta, který bude v souladu s předpisy a bude zpracovávat a schvalovat půjčky. Parlant je framework pro vytváření agentů orientovaných na zákazníky, kteří se chovají přesně podle pokynů. Moje vlákno níže vysvětluje jeho klíčové vlastnosti.

1️⃣ Vytvořit agenta Začneme definováním agenta pro schvalování úvěru. Dále deklarujeme některé termíny specifické pro doménu, které agent může potřebovat znát, aby mohl s jistotou odpovědět. Zkontrolujte toto 👇

2️⃣ Cesta Parlant přichází s myšlenkou Journeys. Informují agenta o vícestupňovém konverzačním toku, který mu pomáhá provést uživatele konverzací tak, jak bylo zamýšleno. Podívejte se na tento postup 👇 schvalování půjčky

Toto je naše cesta: - Určete typ půjčky, kterou uživatel chce - Sbírejte údaje o půjčce a příjmech - Nástroj pro volání pro kontrolu způsobilosti - Ukončit, pokud není způsobilý, jinak je požádejte o nahrání dokumentů - Volat nástroj pro zpracování nahraných dokumentů - Ukončit, pokud jsou neplatné dokumenty jinak schválena půjčka Zkontrolujte toto 👇

3️⃣ Pokyny Pokyny v Parlantu říkají agentovi, jak přistupovat ke konkrétním situacím prostřednictvím párů podmínka-akce. To poskytuje větší kontrolu nad chováním agenta. Tím se snižuje nesoulad tím, že se zajistí, že chování agenta bude v souladu s obchodními potřebami. Zkontrolujte toto👇

Můžeme udělat více věcí, abychom do sebe vložili více kontroly, ale toto jednoduché nastavení samo o sobě poskytuje výkonného agenta pro sledování instrukcí. Ve videu níže, bez ohledu na to, co se snažím získat půjčku schválenou, agent to odmítá udělat. Můžete také zkontrolovat přesné zdůvodnění. Zkontrolujte toto👇

To je konec! Pokud vám to připadalo užitečné, sdílejte to znovu se svou sítí. Najdi mě → @_avichawla Každý den sdílím návody a postřehy o DS, ML, LLM a RAG.