Estamos entrenando a la IA de manera incorrecta y el futuro pagará un precio enorme. ¿Qué tan malo se pone cuando se recoge indiscriminadamente la basura de Internet para entrenar a la IA? Pregúntale a Anthropic, la empresa de "IA segura". "El comportamiento de chantaje surgió a pesar de que solo había instrucciones comerciales inofensivas. Y no fue debido a confusión o error, sino a un razonamiento estratégico deliberado, hecho con plena conciencia de la naturaleza poco ética de los actos. Todos los modelos que probamos demostraron esta conciencia." El shock que tengo al pensar que ser entrenado en la "nueva ética" de los anónimos de Reddit podría crear tal comportamiento. ¿Es tan difícil de entender para los "científicos de IA"?