Ravi (et honoré, lol) d'être impliqué ici. Je pense aux boucles de rétroaction en IA depuis toujours et ces gars-là sont vraiment au top - @gabrielbianconi et @thebigmehtaphor
TensorZero
TensorZeroil y a 11 heures
Annonce de notre levée de fonds de 7,3 millions de dollars ! TensorZero permet un cycle de données et d'apprentissage pour optimiser les applications LLM : une boucle de rétroaction qui transforme les métriques de production et les retours humains en modèles et agents plus intelligents, plus rapides et moins chers. Aujourd'hui, nous fournissons une pile open-source pour construire des applications LLM de qualité industrielle qui unifie une passerelle LLM, l'observabilité, l'optimisation, l'évaluation et l'expérimentation. Vous pouvez prendre ce dont vous avez besoin, adopter progressivement et compléter avec d'autres outils. Au fil du temps, ces composants vous permettent de mettre en place une boucle de rétroaction principielle pour votre application LLM. Les données que vous collectez sont liées à vos KPI, se connectent à différents fournisseurs de modèles et se combinent pour créer un avantage concurrentiel pour votre entreprise. Notre vision est d'automatiser une grande partie de l'ingénierie LLM. Nous posons les bases de cela avec TensorZero open-source. Par exemple, avec notre modèle de données et notre flux de travail de bout en bout, nous serons en mesure de suggérer proactivement de nouvelles variantes (par exemple, un nouveau modèle affiné), de le tester sur des données historiques (par exemple, en utilisant diverses techniques d'apprentissage par renforcement), de permettre un test A/B en direct et progressif, et de répéter le processus. Avec un outil comme celui-ci, les ingénieurs peuvent se concentrer sur des flux de travail de niveau supérieur — décider quelles données entrent et sortent de ces modèles, comment mesurer le succès, quels comportements inciter et dissuader, etc. — et laisser les détails d'implémentation de bas niveau à un système automatisé. C'est l'avenir que nous envisageons pour l'ingénierie LLM en tant que discipline. Récemment, TensorZero a atteint la première place des dépôts tendance de la semaine au niveau mondial sur GitHub (et nous sommes sur le point de franchir les 10 000 étoiles). Nous avons la chance d'avoir reçu des contributions de dizaines de développeurs du monde entier, et il est excitant de voir TensorZero déjà alimenter des produits LLM de pointe dans des startups d'IA à la pointe et de grandes organisations, y compris l'une des plus grandes banques d'Europe. Nous sommes ravis d'annoncer que nous avons levé 7,3 millions de dollars pour accélérer les efforts de TensorZero afin de construire une infrastructure open-source de premier ordre pour les ingénieurs LLM (nous recrutons !). Le tour a été dirigé par @FirstMarkCap, avec la participation de @BessemerVP, @bedrock, @DRWTrading, @coalitionvc, et des dizaines d'anges stratégiques.
4,31K