Estou animado para anunciar o Dedicated Container Inference – um dos produtos que eu estava tão animado para desenvolver quando entrei na @togethercompute e agora, 6 meses depois, estamos no ar! Muito crédito para a equipe – isso facilita a execução de inferência para modelos densos de computação limitada, como geração de vídeo, áudio e avatares, com primitivas para auto-escalonamento, fila, prioridades, métricas, logging e muito mais Se você está construindo neste espaço, adoraria ouvir você!