Jeg tror omstendighetene kan konspirere for å drive LLM-tokenkostnadene langt opp i løpet av det neste året eller så Gitt hvor kritiske disse verktøyene er for bedriftens daglige drift, tar vi skritt for å rulle vår egen inferensinfrastruktur, først med sky-GPU-leverandører, deretter til slutt onprem
7,51K