Zásadní chybou je zde jednotné uvažování "model jako produkt". Směrování modelů již vidíme v GPT-5, proč by měl tento router zůstat také v cloudu? Menší místní modely lze použít pro agentní funkce a větší modely jsou vzdáleny jen voláním nástroje. Přemýšlejte v systémech...
swyx
swyx8. 9. 17:39
V normálním světě bych z toho udělal blogpost, ale jsem docela zaneprázdněn velkým oznámením ✨✨ TMR Takže v podstatě zde jsou 4 platné scénáře ve snu místních modelů Většina lidí z Big Lab věří 1, většina investorů věří 2, Huggingface a spol. věří buď 3 nebo 4, a většina diskursu o otevřených modelech je jen o tom, že lidé mluví jeden přes druhého, aniž by stanovili chybové meze na A, B a D%. U produktů AI hodně dominuje kvalita, zejména u obecně inteligentních produktů, vše ostatní jako náklady na soukromí atd. je jen chyba zaokrouhlování
5,16K