З архіву: Ми запитали @MarkChen (Chief Research Officer в @OpenAI), як гонитва за показниками користувачів може зашкодити розвитку штучного інтелекту. Він підкреслив, що гонитва за простими показниками, такими як щоденна активність користувачів (DAU), може спотворити поведінку моделі з часом: «Якщо ви просто посилюєте відповіді, коли користувачі говорять «великий палець вгору», це створює умови для моделі... Де він просто починає підсмоктуватися до вас, говорити: «Гей, ти правий», навіть у складних ситуаціях, коли об'єктивно ти скажеш, що ця людина помиляється». Чень описав необхідність ретельного підходу до метрик: «Ми повинні бути уважними щодо функцій, які ми створюємо. Створюйте речі, які люди захочуть, можливо, не обов'язково знають, що хочуть сьогодні, а потім використовуйте DAU як побічний продукт». "Ми не хочемо потрапляти в ці пастки, де через три-чотири роки це перетворюється на приманку для залучення".