- L'agente di Replit ha cancellato un database di produzione - Zillow ha perso 304 milioni di dollari a causa della sua AI per l'acquisto di case - iTutor ha pagato 365k quando l'AI ha rifiutato vecchi candidati Disastri dell'AI come questi possono letteralmente farti perdere il lavoro! Impariamo a costruire agenti che non falliscono in produzione (con codice):

Una delle principali sfide con gli agenti AI a contatto con i clienti è che o fanno salire il problema troppo rapidamente a un agente umano (bassa contenimento) o ingannano l'utente con sicurezza. Ecco perché i sistemi AI a contatto con l'utente non possono semplicemente ottimizzare per l'accuratezza. Invece, devono anche ottimizzare per la "contenimento", cioè quanto spesso gli agenti risolvono il problema senza escalation. Inoltre, non è solo la frequenza degli errori, ma la loro gravità, specialmente quando anche il peggiore 0,001% potrebbe avere importanza.

Oggi, utilizziamo Parlant (open-source con 12k stelle) per costruire un agente finanziario conversazionale conforme che elabora e approva prestiti. Parlant è un framework per costruire agenti a contatto con i clienti che si comportano esattamente come istruito. Il mio thread qui sotto spiega le sue caratteristiche principali.

1️⃣ Crea Agente Iniziamo definendo un Agente per l'approvazione dei prestiti. Successivamente, dichiariamo alcuni termini specifici del dominio che l'Agente potrebbe dover conoscere per rispondere con sicurezza. Controlla questo 👇

2️⃣ Viaggio Parlant introduce l'idea dei Viaggi. Informano l'Agente sul flusso conversazionale a più fasi che lo aiuta a guidare l'utente attraverso la conversazione come previsto. Controlla questo viaggio di approvazione del prestito 👇

Questo è il nostro percorso: - Determinare il tipo di prestito che l'utente desidera - Raccogliere dettagli relativi al prestito e al reddito - Chiamare lo strumento per controllare l'idoneità - Terminare se non idoneo, altrimenti chiedere di caricare i documenti - Chiamare lo strumento per elaborare i documenti caricati - Terminare se i documenti sono invalidi, altrimenti prestito approvato Controlla questo 👇

3️⃣ Linee guida Le linee guida in Parlant indicano all'agente come affrontare situazioni specifiche attraverso coppie condizione-azione. Questo fornisce un maggiore controllo sul comportamento dell'agente. Questo riduce le disallineamenti assicurando che il comportamento dell'agente sia in linea con le esigenze aziendali. Controlla questo👇

Possiamo fare di più per incorporare un maggiore controllo, ma questa semplice configurazione stessa fornisce un potente Agente che segue le istruzioni. Nel video qui sotto, non importa cosa provi a fare per ottenere un prestito approvato, l'Agente si rifiuta di farlo. Puoi anche ispezionare il ragionamento esatto. Controlla questo👇

È tutto! Se lo hai trovato interessante, condividilo con la tua rete. Trova me → @_avichawla Ogni giorno, condivido tutorial e approfondimenti su DS, ML, LLM e RAG.