¡Anunciamos nuestra ronda inicial de 7,3 millones de dólares! TensorZero habilita un volante de datos y aprendizaje para optimizar las aplicaciones LLM: un ciclo de retroalimentación que convierte las métricas de producción y la retroalimentación humana en modelos y agentes más inteligentes, rápidos y económicos. Hoy en día, proporcionamos una pila de código abierto para crear aplicaciones LLM de grado industrial que unifica una puerta de enlace LLM, observabilidad, optimización, evaluación y experimentación. Puede tomar lo que necesita, adoptar gradualmente y complementar con otras herramientas. Con el tiempo, estos componentes le permiten configurar un ciclo de retroalimentación basado en principios para su aplicación LLM. Los datos que recopila están vinculados a sus KPI, se transfieren a los proveedores de modelos y se convierten en una ventaja competitiva para su negocio. Nuestra visión es automatizar gran parte de la ingeniería de LLM. Estamos sentando las bases para eso con TensorZero de código abierto. Por ejemplo, con nuestro modelo de datos y flujo de trabajo de extremo a extremo, podremos sugerir de manera proactiva nuevas variantes (por ejemplo, un nuevo modelo ajustado), probarlo en datos históricos (por ejemplo, utilizando diversas técnicas de aprendizaje por refuerzo), habilitar una prueba A / B gradual y en vivo y repetir el proceso. Con una herramienta como esta, los ingenieros pueden concentrarse en flujos de trabajo de alto nivel, decidir qué datos entran y salen de estos modelos, cómo medir el éxito, qué comportamientos incentivar y desincentivar, etc., y dejar los detalles de implementación de bajo nivel a un sistema automatizado. Este es el futuro que vemos para la ingeniería LLM como disciplina. Recientemente, TensorZero alcanzó el #1 repositorio de tendencias de la semana a nivel mundial en GitHub (y estamos a punto de cruzar las 10k estrellas). Tenemos la suerte de haber recibido contribuciones de docenas de desarrolladores en todo el mundo, y es emocionante ver que TensorZero ya impulsa productos LLM de vanguardia en nuevas empresas de IA de vanguardia y grandes organizaciones, incluido uno de los bancos más grandes de Europa. Nos complace compartir que hemos recaudado $ 7.3 millones para acelerar los esfuerzos de TensorZero para crear la mejor infraestructura de código abierto de su clase para ingenieros de LLM (¡estamos contratando!). La ronda fue liderada por @FirstMarkCap, con la participación de @BessemerVP, @bedrock, @DRWTrading, @coalitionvc y docenas de ángeles estratégicos.