Fra arkivet: Vi spurte @MarkChen (Chief Research Officer i @OpenAI) hvordan det å jage brukerberegninger kan skade AI-utviklingen. Han fremhevet hvordan jakt på enkle beregninger som daglige aktive brukere (DAU) kan forvrenge en modells atferd over tid: «Hvis du bare øker svarene der brukerne sier tommel opp, skaper det en betingelse for en modell ... hvor det bare begynner å suge opp til deg, si 'hei, du har rett', selv i kompliserte situasjoner der du objektivt sett vil si at denne personen tar feil.» Chen beskrev behovet for en forsiktig tilnærming til beregninger: «Vi må ha meninger om funksjonene vi bygger. Bygg for de tingene folk vil ha, kanskje ikke nødvendigvis vet at de vil ha i dag, og bruk deretter DAU som et biprodukt.» «Vi ønsker ikke å gå i disse fellene der tre, fire år fra nå blir dette til engasjementsagn.»
32,76K