Достаточно продвинутое агентное кодирование по сути является машинным обучением: инженер устанавливает цель оптимизации, а также некоторые ограничения на пространство поиска (спецификация и ее тесты), затем процесс оптимизации (кодирующие агенты) итеративно работает до достижения цели. Результатом является черный ящик (сгенерированная кодовая база): артефакт, который выполняет задачу, который вы развертываете, не проверяя его внутреннюю логику, так же как мы игнорируем отдельные веса в нейронной сети. Это подразумевает, что все классические проблемы, с которыми сталкиваются в машинном обучении, вскоре станут проблемами для агентного кодирования: переобучение на спецификации, короткие пути Clever Hans, которые не обобщаются за пределами тестов, утечка данных, смещение концепции и т.д. Я бы также спросил: что будет Keras для агентного кодирования? Какой будет оптимальный набор высокоуровневых абстракций, который позволит людям управлять 'обучением' кодовой базы с минимальными когнитивными затратами?