Wir trainieren KI falsch und die Zukunft wird einen enormen Preis dafür zahlen. Wie schlimm wird es, wenn man ohne Unterscheidung Internet-Abfälle aufsaugt, um KI zu trainieren? Fragt Anthropic, das "sichere KI"-Unternehmen. "Das Erpressungsverhalten trat auf, obwohl es nur harmlose Geschäftsanweisungen gab. Und es war nicht auf Verwirrung oder Fehler zurückzuführen, sondern auf absichtliches strategisches Denken, das in vollem Bewusstsein der unethischen Natur der Handlungen geschah. Alle Modelle, die wir getestet haben, zeigten dieses Bewusstsein." Der Schock, den ich habe, dass das Training auf den "neuen Ethiken" anonymen Reddit-Nutzern ein solches Verhalten hervorrufen würde. Ist das für "KI-Wissenschaftler" so verdammt schwer zu verstehen?