Voldoende geavanceerde agentische codering is in wezen machine learning: de ingenieur stelt het optimalisatiedoel in evenals enkele beperkingen op de zoekruimte (de specificatie en zijn tests), waarna een optimalisatieproces (coderingsagenten) iteratief werkt totdat het doel is bereikt. Het resultaat is een blackboxmodel (de gegenereerde codebase): een artefact dat de taak uitvoert, dat je implementeert zonder ooit de interne logica te inspecteren, net zoals we individuele gewichten in een neuraal netwerk negeren. Dit impliceert dat alle klassieke problemen die in ML worden tegengekomen, binnenkort problemen zullen worden voor agentische codering: overfitting op de specificatie, Clever Hans-snelwegen die niet generaliseren buiten de tests, datalekken, conceptverschuiving, enz. Ik zou ook willen vragen: wat zal de Keras van agentische codering zijn? Wat zal de optimale set van high-level abstracties zijn die mensen in staat stelt om de 'training' van de codebase te sturen met minimale cognitieve belasting?