Codificarea agentică suficient de avansată este, în esență, învățare automată: inginerul stabilește obiectivul de optimizare, precum și unele constrângeri asupra spațiului de căutare (specificația și testele sale), apoi un proces de optimizare (agenți de programare) se itera până când scopul este atins. Rezultatul este un model blackbox (baza de cod generată): un artefact care execută sarcina, pe care îl implementezi fără să inspectezi vreodată logica internă, la fel cum ignorăm greutățile individuale într-o rețea neuronală. Aceasta implică faptul că toate problemele clasice întâlnite în ML vor deveni în curând probleme pentru codarea agentică: supraajustarea la specificație, scurtături Clever Hans care nu se generalizează în afara testelor, scurgeri de date, deriva conceptului etc. Aș întreba și: care vor fi Kera-urile codării agentice? Care va fi setul optim de abstracții de nivel înalt care să permită oamenilor să conducă "antrenamentul" codului cu o suprasolicitare cognitivă minimă?