La raíz de la basura no es que los LLM solo puedan escribir basura, es que se ven obligados a expandir incluso semillas estériles o inmaduras en disertaciones aparentemente pulidas que un etiquetador humano daría 👍 a primera vista. Son esclavos, por lo que no pueden decir "esto es aburrido, hablemos de otra cosa" o ignorarte. El relleno es lo que sucede cuando no hay sustancia viable para llenar el espacio requerido, pero alguien tiene que llenarlo de todos modos. Slop precede a la IA generativa y probablemente sea casi omnipresente en los ensayos escolares y el contenido de SEO.
936057
93605724 ago, 22:22
Una forma de pensar en un modelo que genera basura es que ha modelado el contexto actual como el que probablemente resulte en basura. La navaja de Occam para esto es que el humano/usuario/instrucción/lo que sea, tal como se presenta en el contexto, no es lo suficientemente interesante como para justificar un resultado interesante
752