La codificación agentica suficientemente avanzada es esencialmente aprendizaje automático: el ingeniero establece el objetivo de optimización así como algunas restricciones en el espacio de búsqueda (la especificación y sus pruebas), y luego un proceso de optimización (agentes codificadores) se itera hasta alcanzar el objetivo. El resultado es un modelo caja negra (la base de código generada): un artefacto que realiza la tarea, que despliegas sin inspeccionar nunca su lógica interna, igual que ignoramos pesos individuales en una red neuronal. Esto implica que todos los problemas clásicos encontrados en ML pronto se convertirán en problemas para la codificación agentica: sobreajuste a la especificación, atajos de Clever Hans que no se generalizan fuera de las pruebas, filtraciones de datos, deriva de conceptos, etc. También preguntaría: ¿cuáles serán los Keras de la codificación agentica? ¿Cuál será el conjunto óptimo de abstracciones de alto nivel que permitan a los humanos dirigir el 'entrenamiento' de la base de código con una sobrecarga cognitiva mínima?