Saya pikir keadaan mungkin berkonspirasi untuk mendorong biaya token LLM naik dalam setahun ke depan atau lebih Mengingat betapa pentingnya alat-alat ini untuk operasi sehari-hari perusahaan saya, kami mengambil langkah-langkah untuk meluncurkan infrastruktur inferensi kami sendiri, pertama dengan penyedia GPU cloud, kemudian akhirnya onprem