Penso che le circostanze possano cospirare per far salire i costi dei token LLM alle stelle nel prossimo anno o giù di lì. Dato quanto siano critici questi strumenti per le operazioni quotidiane della mia azienda, stiamo prendendo provvedimenti per sviluppare la nostra infrastruttura di inferenza, prima con fornitori di GPU cloud, poi eventualmente on-premise.
7,75K