Annunciamo il nostro round di finanziamento seed da 7,3 milioni di dollari! TensorZero abilita un volano di dati e apprendimento per ottimizzare le applicazioni LLM: un ciclo di feedback che trasforma le metriche di produzione e il feedback umano in modelli e agenti più intelligenti, veloci ed economici. Oggi, forniamo uno stack open-source per costruire applicazioni LLM di livello industriale che unifica un gateway LLM, osservabilità, ottimizzazione, valutazione e sperimentazione. Puoi prendere ciò di cui hai bisogno, adottare in modo incrementale e completare con altri strumenti. Nel tempo, questi componenti ti consentono di impostare un ciclo di feedback principled per la tua applicazione LLM. I dati che raccogli sono legati ai tuoi KPI, portano attraverso fornitori di modelli e si accumulano in un vantaggio competitivo per la tua azienda. La nostra visione è automatizzare gran parte dell'ingegneria LLM. Stiamo ponendo le basi per questo con TensorZero open-source. Ad esempio, con il nostro modello di dati e il flusso di lavoro end-to-end, saremo in grado di suggerire proattivamente nuove varianti (ad es. un nuovo modello fine-tuned), testarlo retroattivamente su dati storici (ad es. utilizzando tecniche diverse dall'apprendimento per rinforzo), abilitare un test A/B graduale e dal vivo, e ripetere il processo. Con uno strumento come questo, gli ingegneri possono concentrarsi su flussi di lavoro di livello superiore — decidendo quali dati entrano ed escono da questi modelli, come misurare il successo, quali comportamenti incentivare e disincentivare, e così via — e lasciare i dettagli di implementazione di basso livello a un sistema automatizzato. Questo è il futuro che vediamo per l'ingegneria LLM come disciplina. Recentemente, TensorZero ha raggiunto il primo repository in tendenza della settimana a livello globale su GitHub (& stiamo per superare i 10k stelle). Siamo fortunati ad aver ricevuto contributi da decine di sviluppatori in tutto il mondo, ed è emozionante vedere TensorZero già alimentare prodotti LLM all'avanguardia in startup AI di frontiera e grandi organizzazioni, inclusa una delle banche più grandi d'Europa. Siamo entusiasti di condividere che abbiamo raccolto 7,3 milioni di dollari per accelerare gli sforzi di TensorZero nel costruire un'infrastruttura open-source di classe mondiale per gli ingegneri LLM (stiamo assumendo!). Il round è stato guidato da @FirstMarkCap, con la partecipazione di @BessemerVP, @bedrock, @DRWTrading, @coalitionvc e decine di angeli strategici.