Angenommen, Sie haben einen RL-Agenten trainiert, um die Belohnung in verschiedenen Umgebungen zu maximieren Wenn Sie es dann in eine neue Umgebung versetzen, lautet die erste Frage, die es zu stellen lernt: "Was ist hier meine Belohnungsfunktion?" Es könnte sogar lernen, die Motive seiner Simulatoren zu modellieren, um dies herauszufinden

"Was ist mein Ziel/Zweck" fühlt sich instrumentell konvergent an. Ich frage mich, ob das in gewissem Sinne der Grund ist, warum wir Gott suchen.