Ci sono state molte discussioni qui riguardo all'AI e alla creatività: l'AI sarà in grado di creare conoscenza o arte veramente nuove? C'è una distinzione tra due tipi di creatività: chiusa (con obiettivo specifico) e creatività aperta, "blue sky" (senza limiti). In uno dei miei articoli preferiti: la creatività chiusa risponde a incentivi; la creatività "blue sky" non lo fa: si basa sulla motivazione intrinseca. Un componente chiave per l'addestramento dei sistemi AI è il RL, che genera segnali positivi in base all'output del modello. Potrebbe essere che questo sistema ottimizzi la creatività "chiusa", ma non riesca a colpire nel segno con la creatività "blue sky". Infatti, lo stesso gruppo di autori dimostra che gli esseri umani continuano a dominare l'AI nella creatività "blue sky", ma hanno prestazioni inferiori in compiti che coinvolgono la creatività chiusa. Se vogliamo che l'AI crei conoscenza veramente nuova, è utile pensare a come ottimizzare l'addestramento per questo tipo di creatività "blue sky". Questo apre molte domande importanti su come progettare la funzione di ricompensa, come dotare il modello di motivazione intrinseca (che è un'area di ricerca attiva), ecc.