El error fundamental aquí es el pensamiento unitario de "modelo como producto". Ya vemos el enrutamiento del modelo en GPT-5, ¿por qué ese enrutador debería permanecer también en la nube? Los modelos locales más pequeños se pueden usar para la funcionalidad de agente y los modelos más grandes están a solo una llamada de herramienta. Piensa en sistemas...
swyx
swyx8 sept, 17:39
En un mundo normal, haría de esto una publicación de blog, pero estoy bastante ocupado con el gran anuncio✨ de ✨TMR Así que básicamente aquí están los 4 escenarios válidos en el sueño de los modelos locales la mayoría de las personas de los grandes laboratorios creen 1, la mayoría de los inversores / empresas creen 2, hugggingface et al creen 3 o 4, y la mayoría del discurso de los modelos abiertos es solo personas que hablan entre sí sin simplemente poner límites de error en A, B y D%. En los productos de IA, la calidad domina mucho, especialmente para productos generalmente inteligentes, todo lo demás, como el costo de privacidad, etc., es solo un error de redondeo
5.15K