Uit het archief: We vroegen @MarkChen (Chief Research Officer bij @OpenAI) hoe het achtervolgen van gebruikersstatistieken de ontwikkeling van AI zou kunnen schaden. Hij benadrukte hoe het achtervolgen van eenvoudige statistieken zoals dagelijkse actieve gebruikers (DAU) het gedrag van een model in de loop van de tijd kan vervormen: "Als je alleen de reacties versterkt waar gebruikers duim omhoog zeggen, creëert dat een situatie voor een model...waar het gewoon begint te slijmen, en zegt 'hé, je hebt gelijk,' zelfs in ingewikkelde situaties waar je objectief zou zeggen dat deze persoon fout zit." Chen beschreef de noodzaak van een zorgvuldige benadering van statistieken: "We moeten een mening hebben over de functies die we bouwen. Bouw voor de dingen die mensen willen, misschien weten ze vandaag niet dat ze het willen, en gebruik DAU als een bijproduct." "We willen niet in deze valkuilen vallen waar dit over drie, vier jaar verandert in engagement-bait."