Myślę, że okoliczności mogą sprzyjać znacznemu wzrostowi kosztów tokenów LLM w ciągu najbliższego roku lub dwóch. Biorąc pod uwagę, jak kluczowe są te narzędzia dla codziennej działalności mojej firmy, podejmujemy kroki, aby stworzyć własną infrastrukturę inferencyjną, najpierw z dostawcami GPU w chmurze, a następnie ostatecznie na miejscu.
7,51K