Acho que as circunstâncias podem conspirar para aumentar os custos do token LLM de forma significativa no próximo ano ou mais. Dado quão críticos esses ferramentas são para as operações diárias da minha empresa, estamos tomando medidas para desenvolver nossa própria infraestrutura de inferência, primeiro com provedores de GPU na nuvem e, eventualmente, localmente.