Je pense que les circonstances pourraient conspirer pour faire grimper les coûts des tokens LLM dans l'année à venir. Étant donné à quel point ces outils sont critiques pour les opérations quotidiennes de mon entreprise, nous prenons des mesures pour développer notre propre infrastructure d'inférence, d'abord avec des fournisseurs de GPU cloud, puis éventuellement sur site.
7,75K