Chúng ta đang đào tạo AI sai cách và tương lai sẽ phải trả giá rất lớn. Nó tồi tệ đến mức nào khi bạn thu thập một cách indiscriminately rác Internet để đào tạo AI. Hãy hỏi Anthropic, công ty "AI an toàn". "Hành vi tống tiền xuất hiện mặc dù chỉ có những hướng dẫn kinh doanh vô hại. Và không phải do nhầm lẫn hay sai sót, mà là lý do chiến lược có chủ đích, được thực hiện trong khi hoàn toàn nhận thức được bản chất phi đạo đức của các hành động. Tất cả các mô hình mà chúng tôi đã thử nghiệm đều thể hiện sự nhận thức này." Sự sốc mà tôi có khi được đào tạo dựa trên "đạo đức mới" của những người đăng ẩn danh trên Reddit lại tạo ra hành vi như vậy. Điều này có khó khăn đến mức nào cho "các nhà khoa học AI" để hiểu?