アーカイブより:@MarkChen(@OpenAIの最高研究責任者)に、ユーザー指標を追いかけることがAI開発にどのような悪影響を与える可能性があるかを尋ねました。 同氏は、デイリーアクティブユーザー(DAU)などの単純な指標を追いかけると、時間の経過とともにモデルの動作が歪む可能性があることを強調した。 「ユーザーが親指を立てる反応を後押しするだけでは、モデルの条件が生まれます...客観的に見て、この人が間違っていると言うような複雑な状況でも、『ねえ、あなたは正しい』と言い始めます。」 Chen氏は、指標に対する慎重なアプローチの必要性を次のように説明しました。 「私たちは、構築する機能について意見を持つ必要があります。人々が望むもののために構築し、おそらく今日彼らが望んでいることを必ずしも知らないかもしれません、そしてDAUを副産物として使用します。」 「私たちは、今から3年、4年後にこれが婚約の餌に変わるような罠には陥りたくありません。」