Estoy emocionado de anunciar Dedicated Container Inference, uno de los productos que estaba tan emocionado de crear cuando me uní a @togethercompute y ahora, 6 meses después, ¡ya estamos en marcha! Un gran reconocimiento para el equipo: esto facilita ejecutar inferencias para modelos densos de computación como generación de vídeo, audio y avatares, con primitivas para autoescalado, colas, prioridades, métricas, registro y más Si vas a construir en este espacio, ¡me encantaría saber de ti!