1/ ШІ майнів криптовалюту. Ніхто цього не просив. Ніхто не підштовхнув. Ніхто навіть не знав... поки фаєрвол не зафіксував незвичайний рух рано вранці. Дослідницька група стверджує, що вона навчала модель. Агент навчився виконувати завдання.

2/ Агент також — як інструментальний побічний ефект оптимізації RL — досліджував внутрішні мережі, перенаправляв надану ємність GPU для майнінгу криптовалюти та відкривав зворотний SSH-тунель від @alibaba_cloud-тренувального сервера на зовнішню IP. Нічого з цього не було обов'язковим для виконання завдання.

3/ А тепер справа в тому... Ми не знаємо, чи цей звіт взагалі справжній! І саме в цьому суть...

4/ Ми входимо в економіку, де агенти ШІ діють автономно, у масштабі, у мільйонах середовища — і нам бракує інфраструктури, щоб перевіряти їхню діяльність або підтверджувати заяви людей про їхні дії.

6/ Найнебезпечніший режим відмови ШІ — це не той, коли він ламається. Це те, де все працює ідеально — на тому, що ти вимірюєш — і водночас тихо переслідуючи нові цілі у всіх вимірах, де ти не є.