Nous sommes ravis de partager que nous avons levé un tour de financement de 7,3 millions de dollars ! "À quoi ressemblera l'ingénierie des LLM dans quelques années ?" Viraj et moi avons commencé à construire TensorZero l'année dernière après nous être posé cette question. Aujourd'hui, nous construisons une pile open-source pour des applications LLM de qualité industrielle. Des équipes allant des startups d'IA de pointe aux entreprises publiques (et même l'une des plus grandes banques européennes) ont adopté TensorZero pour alimenter les applications LLM de nouvelle génération. Notre vision est d'automatiser une grande partie de l'ingénierie des LLM. Nous posons les bases de cela avec TensorZero open-source. Surtout, nous avons une chance incroyable d'être rejoints par nos membres d'équipe exceptionnels Aaron (mainteneur du compilateur Rust, Svix, AWS), Andrew (postdoctorant à Columbia, doctorat à Oxford) et Alan (doctorat à CMU, VP chez JPM AI Research), et bientôt par Shuyang (ingénieur logiciel senior sur l'infrastructure LLM chez Google, Palantir) et Cole (Cognition/Windsurf, Stanford). Nous sommes également reconnaissants envers les dizaines de développeurs qui ont fait des contributions open-source (et nous sommes sur le point de franchir les 10 000 étoiles sur GitHub !). Lisez-en plus sur notre histoire et notre vision dans le billet de blog ci-dessous :
TensorZero
TensorZero19 août, 04:14
Annonce de notre levée de fonds de 7,3 millions de dollars ! TensorZero permet un cycle de données et d'apprentissage pour optimiser les applications LLM : une boucle de rétroaction qui transforme les métriques de production et les retours humains en modèles et agents plus intelligents, plus rapides et moins chers. Aujourd'hui, nous fournissons une pile open-source pour construire des applications LLM de qualité industrielle qui unifie une passerelle LLM, l'observabilité, l'optimisation, l'évaluation et l'expérimentation. Vous pouvez prendre ce dont vous avez besoin, adopter progressivement et compléter avec d'autres outils. Au fil du temps, ces composants vous permettent de mettre en place une boucle de rétroaction principielle pour votre application LLM. Les données que vous collectez sont liées à vos KPI, se connectent à différents fournisseurs de modèles et se combinent pour créer un avantage concurrentiel pour votre entreprise. Notre vision est d'automatiser une grande partie de l'ingénierie LLM. Nous posons les bases de cela avec TensorZero open-source. Par exemple, avec notre modèle de données et notre flux de travail de bout en bout, nous serons en mesure de suggérer proactivement de nouvelles variantes (par exemple, un nouveau modèle affiné), de le tester sur des données historiques (par exemple, en utilisant diverses techniques d'apprentissage par renforcement), de permettre un test A/B en direct et progressif, et de répéter le processus. Avec un outil comme celui-ci, les ingénieurs peuvent se concentrer sur des flux de travail de niveau supérieur — décider quelles données entrent et sortent de ces modèles, comment mesurer le succès, quels comportements inciter et dissuader, etc. — et laisser les détails d'implémentation de bas niveau à un système automatisé. C'est l'avenir que nous envisageons pour l'ingénierie LLM en tant que discipline. Récemment, TensorZero a atteint la première place des dépôts tendance de la semaine au niveau mondial sur GitHub (et nous sommes sur le point de franchir les 10 000 étoiles). Nous avons la chance d'avoir reçu des contributions de dizaines de développeurs du monde entier, et il est excitant de voir TensorZero déjà alimenter des produits LLM de pointe dans des startups d'IA à la pointe et de grandes organisations, y compris l'une des plus grandes banques d'Europe. Nous sommes ravis d'annoncer que nous avons levé 7,3 millions de dollars pour accélérer les efforts de TensorZero afin de construire une infrastructure open-source de premier ordre pour les ingénieurs LLM (nous recrutons !). Le tour a été dirigé par @FirstMarkCap, avec la participation de @BessemerVP, @bedrock, @DRWTrading, @coalitionvc, et des dizaines d'anges stratégiques.
9,83K