- Replits agent raderade en produktionsdatabas - Zillow förlorade 304 miljoner dollar på grund av sin AI för bostadsköp. - iTutor betalade $365k när AI avvisade gamla sökande AI-katastrofer som dessa kan bokstavligen göra att du förlorar ditt jobb! Nu ska vi lära oss hur du skapar agenter som inte misslyckas i produktion (med kod):

En primär utmaning med kundinriktade AI-agenter är att de antingen eskalerar problemet för snabbt till en mänsklig agent (låg inneslutning) eller på ett säkert sätt vilseleder användaren. Det är därför användarinriktade AI-system inte bara kan optimera för noggrannhet. I stället måste de också optimera för "containment", det vill säga hur ofta agenter löser problemet utan eskalering. Det är inte bara frekvensen av misstag, utan deras allvarlighetsgrad, särskilt när även de värsta 0,001 % kan spela roll.

Idag ska vi använda Parlant (öppen källkod med 12k stjärnor) för att bygga en kompatibel konversationsfinansagent som bearbetar och godkänner lån. Parlant är ett ramverk för att bygga kundinriktade agenter som beter sig exakt enligt instruktionerna. Min tråd nedan förklarar dess viktigaste funktioner.

1️⃣ Skapa agent Vi börjar med att definiera en agent för godkännande av lån. Därefter förklarar vi några domänspecifika villkor som agenten kan behöva känna till för att kunna svara på ett säkert sätt. Kolla in det här 👇

2️⃣ Resa Parlant introducerar idén om Journeys. De informerar handläggaren om konversationsflödet i flera steg som hjälper den att vägleda användaren genom konversationen som avsett. Kontrollera den här resan för 👇 godkännande av lån

Det här är vår resa: - Bestäm vilken typ av lån användaren vill ha - Samla in låne- och inkomstrelaterade uppgifter - Samtalsverktyg för att kontrollera behörighet - Avsluta om de inte är berättigade, annars be dem att ladda upp dokument - Samtalsverktyg för att bearbeta uppladdade dokument - Avsluta om ogiltiga dokument annars lånet godkänns Kolla in det här 👇

3️⃣ Riktlinjer Riktlinjer i Parlant talar om för agenten hur de ska närma sig specifika situationer genom villkor-åtgärdspar. Detta ger mer kontroll över agentens beteende. Detta minskar feljusteringar genom att säkerställa att agentens beteende överensstämmer med affärsbehoven. Kolla in det här👇

Vi kan göra fler saker för att bädda in mer kontroll, men den här enkla installationen i sig ger en kraftfull instruktionsföljande agent. I videon nedan, oavsett vad jag försöker få ett lån godkänt, vägrar agenten att göra det. Du kan också granska det exakta resonemanget. Kolla in det här👇

Det är en wrap! Om du tyckte att det var insiktsfullt, dela det igen med ditt nätverk. Hitta mig → @_avichawla Varje dag delar jag med mig av handledningar och insikter om DS, ML, LLM och RAGs.