Cred că circumstanțele ar putea conspira pentru a crește costurile jetoanelor LLM în următorul an sau cam așa ceva Având în vedere cât de importante sunt aceste instrumente pentru operațiunile de zi cu zi ale companiei mele, luăm măsuri pentru a ne implementa propria infrastructură de inferență, mai întâi cu furnizorii de GPU cloud, apoi în cele din urmă onpremise