Despre modul în care folosim AI și @lancedb intern!

Am descoperit că îmi proiectam instrumentele AI invers. Iată un exemplu. Acesta a fost lanțul meu de procesare a buletinelor informative: citirea e-mailurilor, apelarea unui procesator de buletine informative, extragerea companiilor și apoi adăugarea lor la CRM. Acest lucru a implicat patru pași diferiți, costând 3,69 USD pentru fiecare mie de buletine informative procesate. Înainte: Lanțul de procesare a buletinelor informative (prima imagine) Apoi am creat un instrument de newsletter unificat care a combinat totul folosind Google Agent Development Kit, cadrul Google pentru construirea instrumentelor de agent AI de nivel de producție: (a doua imagine) De ce este instrumentul de newsletter unificat mai complicat? Include mai multe acțiuni într-o singură interfață (procesare, căutare, extragere, validare), implementează managementul stării care urmărește modelele de utilizare și memorează rezultatele în cache, are limitarea ratei încorporate și produce ieșiri JSON structurate cu metadate în loc de text simplu. Dar iată partea contraintuitivă: în ciuda faptului că este mai complex intern, instrumentul unificat este mai simplu de utilizat pentru LLM, deoarece oferă rezultate consistente, structurate, care sunt mai ușor de analizat, chiar dacă acele ieșiri sunt mai lungi. Pentru a înțelege impactul, am rulat teste de 30 de iterații pe scenariu de testare. Rezultatele arată impactul noii arhitecturi: (a treia imagine) Am reușit să reducem token-urile cu 41% (p=0,01, semnificativ statistic), ceea ce s-a tradus liniar în economii de costuri. Rata de succes s-a îmbunătățit cu 8% (p=0.03) și am reușit să atingem cache-ul în 30% din timp, ceea ce este o altă economie de costuri. În timp ce instrumentele individuale produceau răspunsuri mai scurte și mai "curate", ele au forțat LLM să lucreze mai mult pentru a analiza formatele inconsecvente. Rezultatele structurate și cuprinzătoare ale instrumentelor unificate au permis o procesare LLM mai eficientă, în ciuda faptului că sunt mai lungi. Fluxul meu de lucru s-a bazat pe zeci de instrumente Ruby specializate pentru e-mail, cercetare și gestionarea sarcinilor. Fiecare instrument avea propria interfață, gestionarea erorilor și formatul de ieșire. Prin rularea lor în metainstrumente, performanța finală este mai bună și există economii uriașe de costuri. Puteți găsi arhitectura completă pe GitHub.

"Modul de a scrie este de trei sau patru ori, niciodată o dată." Scrisul este greu. John McPhee, care a inventat non-ficțiunea literară care se citește ca un roman, a dezvoltat o metodă de scriere în patru schițe care transformă ideile haotice în narațiuni convingătoare. McPhee a fost pionier în non-ficțiune creativă la The New Yorker, scriind cărți precum Oranges & Coming into the Country, care au făcut subiecte complexe fascinante prin povestire. Abordarea sa diferă de jurnalismul tradițional prin încorporarea tehnicilor de ficțiune, menținând în același timp acuratețea faptelor. Proza sa combină imagini vii cu economie: "Doctorul ascultă cu un stetoscop și aude sunetele unei tobe indiene de război." El a favorizat sinceritatea: "Îi plăcea să meargă de la A la B fără să inventeze litere între ele." Despre genul său, McPhee a spus: "Nonficțiune – ce naiba, asta spune doar că acesta este non-grapefruit pe care îl mâncăm în această dimineață." McPhee și-a codificat mai târziu abordarea în Draft No. 4: On the Writing Process, împărtășind decenii de înțelepciune a scrisului. Filozofia sa organizațională modelează totul: "Poți construi o structură în așa fel încât să-i facă pe oameni să vrea să continue să întoarcă paginile. O structură convingătoare în non-ficțiune poate avea un efect de atracție analog cu o poveste în ficțiune. Cititorii nu ar trebui să observe structura. Este menit să fie la fel de vizibil ca oasele cuiva." Cadrul de patru schițe al lui McPhee: 1. Proiect de descărcare a creierului - Surprinde fiecare idee, fapt și unghi posibil fără editare sau judecată 2. Schița de structură - Organizează ideile în secvențe logice și identifică firul narativ de bază 3. Schiță tăiată nemiloasă - Eliminați tot ceea ce nu servește mesajului principal sau nu derutează cititorul 4. Schiță poloneză - Rafinează proza, corectează gramatica și asigură-te că fiecare propoziție se îndreaptă spre obiectivul tău Aceasta este una dintre cele mai bune tehnici pe care le-am găsit pentru scris. Metoda funcționează pentru că separă gândirea creativă de evaluarea critică. Când încerci să scrii o proză perfectă în timp ce generezi idei, este ușor să cazi în blocajul creativ. Fiecare schiță devine fundația pentru următoarea, creând un proces recursiv care transformă gândurile haotice în narațiuni structurate. Ca și cum ai decoji straturile unei portocale pentru a dezvălui fructele din interior, fiecare ciornă îndepărtează ceea ce nu aparține, dezvăluind povestea esențială care a fost mereu acolo așteptând să fie descoperită.