Gabriel og jeg startet denne forretningsprogrammeringen på et lite kontor i et år i strekk. Vi startet med ideen om at AI-systemer må kunne lære av erfaring fra den virkelige verden for å løse problemer i den virkelige verden. Etter hvert ble det klart at dette var mye mer et system- og dataproblem enn et maskinlæringsproblem. Løsningen måtte være industriell programvare som var fritt tilgjengelig og enkel å ta i bruk for individuelle utviklere, men som kunne skaleres for å passe behovene til store organisasjoner. Så vi åpnet prosjektet og ba våre tidligste brukere om å slutte å betale oss. Det føltes sprøtt. I disse dager runder vi et hjørne. Vi har et lite, men utrolig teknisk team: Aaron (Rust-kompilatorvedlikeholder, Svix, AWS), @anndvision (Columbia postdoc, Oxford PhD) og Alan (CMU PhD, VP ved JPM AI Research) som snart får selskap av Shuyang (stab SWE på LLM infra hos Google, Palantir) og Cole (Cognition, Windsurf, Stanford). Samfunnet vårt er aktivt og vokser (snart til 10k stjerner!). Det er en klar vei mot å bygge agenten som optimaliserer hver TensorZero-distribusjon mot tilbakemeldingene den samler inn. Hvis du fortalte meg da jeg begynte på doktorgraden min at mange selskaper en dag frivillig ville begynne å lagre RL-baner i en datamodell som jeg hjalp til med å bygge, slik at vi kunne optimalisere retningslinjene deres mot belønningene de bryr seg om, ville jeg blitt forbløffet. Snart vil dette ikke bli gjort for hånd.
TensorZero
TensorZero19. aug., 04:14
Kunngjøring av vår seed-runde på $7.3 millioner! TensorZero muliggjør et data- og læringssvinghjul for optimalisering av LLM-applikasjoner: en tilbakemeldingssløyfe som gjør produksjonsmålinger og menneskelig tilbakemelding til smartere, raskere og billigere modeller og agenter. I dag tilbyr vi en åpen kildekode-stakk for å bygge LLM-applikasjoner av industriell kvalitet som forener en LLM-gateway, observerbarhet, optimalisering, evaluering og eksperimentering. Du kan ta det du trenger, ta i bruk trinnvis og supplere med andre verktøy. Over tid lar disse komponentene deg sette opp en prinsipiell tilbakemeldingssløyfe for LLM-applikasjonen din. Dataene du samler inn, er knyttet til KPI-ene dine, porter på tvers av modellleverandører og sammensettes til et konkurransefortrinn for virksomheten din. Vår visjon er å automatisere mye av LLM-prosjektering. Vi legger grunnlaget for det med åpen kildekode TensorZero. For eksempel, med vår datamodell og ende-til-ende-arbeidsflyt, vil vi være i stand til proaktivt å foreslå nye varianter (f.eks. en ny finjustert modell), backteste den på historiske data (f.eks. ved å bruke ulike teknikker fra forsterkende læring), muliggjøre en gradvis, live A/B-test og gjenta prosessen. Med et verktøy som dette kan ingeniører fokusere på arbeidsflyter på høyere nivå – bestemme hvilke data som skal inn og ut av disse modellene, hvordan man måler suksess, hvilken atferd som skal stimuleres og avskrekkes, og så videre – og overlate implementeringsdetaljene på lavt nivå til et automatisert system. Dette er fremtiden vi ser for LLM-ingeniørfag som disiplin. Nylig nådde TensorZero #1 ukens trendlager globalt på GitHub (og vi er i ferd med å krysse 10k stjerner). Vi er heldige som har mottatt bidrag fra dusinvis av utviklere over hele verden, og det er spennende å se at TensorZero allerede driver banebrytende LLM-produkter hos grensesprengende AI-startups og store organisasjoner, inkludert en av Europas største banker. Vi er glade for å dele at vi har samlet inn 7.3 millioner dollar for å akselerere TensorZeros innsats for å bygge klassens beste åpen kildekode-infrastruktur for LLM-ingeniører (vi ansetter!). Runden ble ledet av @FirstMarkCap, med deltakelse fra @BessemerVP, @bedrock, @DRWTrading, @coalitionvc og dusinvis av strategiske engler.
25,83K