Jag tror att omständigheterna kan konspirera för att driva upp kostnaderna för LLM-token under nästa år eller så Med tanke på hur viktiga dessa verktyg är för mitt företags dagliga verksamhet vidtar vi åtgärder för att lansera vår egen inferensinfrastruktur, först med moln-GPU-leverantörer och så småningom onprem