Тут було багато обговорень щодо ШІ та креативності — чи зможе ШІ створювати справді нові знання чи мистецтво? Існує розмежування між двома типами творчості: закритою (з конкретною метою) і відкритою, «блакитно-небесною» творчістю (відкритою). В одній із моїх улюблених статей: закрита творчість реагує на стимули; Творчість «блакитного неба» не має — вона базується на внутрішній мотивації. Ключовим компонентом навчання систем ШІ є RL, який генерує позитивні сигнали на основі результату моделі. Можливо, ця система оптимізує «закриту» креативність, але не відповідає «блакитної» креативності. Справді, той самий набір авторів показує, що люди продовжують домінувати в ШІ у сфері креативності «блакитного неба», але слабшать у завданнях, пов'язаних із закритою творчістю. Якщо ми хочемо, щоб ШІ створював справді нові знання, корисно подумати, як оптимізувати тренування для такого типу креативності «блакитного неба». Це відкриває багато важливих питань про те, як спроектувати функцію винагороди, як наділити модель внутрішньою мотивацією (що є активною сферою досліджень) тощо.