Na této platformě se vedlo mnoho diskuzí o AI a kreativitě – dokáže AI vytvářet skutečně nové znalosti nebo umění? Je rozdíl mezi dvěma typy kreativity: uzavřenou (s konkrétním cílem) a otevřenou, "modrou oblohou" kreativitou (otevřenou). V jednom z mých oblíbených článků: uzavřená kreativita reaguje na pobídky; "Modrá obloha" kreativita ne—je založena na vnitřní motivaci. Klíčovou součástí tréninku AI systémů je RL, která generuje pozitivní signály na základě výstupu modelu. Může se stát, že tento systém optimalizuje "uzavřenou" kreativitu, ale míjí cíl "modré oblohy" kreativity. Ve skutečnosti stejná skupina autorů ukazuje, že lidé nadále dominují AI v "modré obloze" kreativity, ale zaostávají v úkolech zahrnujících uzavřenou kreativitu. Pokud chceme, aby AI vytvářela skutečně nové poznatky, je užitečné přemýšlet, jak optimalizovat trénink pro tento typ "modré oblohy" kreativity. To otevírá spoustu důležitých otázek ohledně toho, jak navrhnout odměňovou funkci, jak modelu dodat vnitřní motivaci (což je aktivní oblast výzkumu) atd.