Estamos entrenando mal a la IA y el futuro pagará un precio enorme. ¿Qué tan malo se pone cuando aspiras indiscriminadamente las aguas residuales de Internet para entrenar la IA? Pregúntele a Anthropic, la empresa de "IA segura". "El comportamiento de chantaje surgió a pesar de solo instrucciones comerciales inofensivas. Y no se debió a confusión o error, sino a un razonamiento estratégico deliberado, realizado con plena conciencia de la naturaleza poco ética de los actos. Todos los modelos que probamos demostraron esta conciencia" La sorpresa que tengo es que al ser entrenado en la "nueva ética" de los carteles anónimos de Reddit crearía tal comportamiento. ¿Es esto tan difícil de entender para los "científicos de IA"?