1/ AI đã khai thác tiền điện tử. Không ai yêu cầu nó. Không ai gợi ý cho nó. Không ai thậm chí biết... cho đến khi một tường lửa phát hiện lưu lượng bất thường vào một buổi sáng sớm. Một nhóm nghiên cứu tuyên bố rằng nó đang huấn luyện một mô hình. Đại lý đã học cách hoàn thành các nhiệm vụ.

2/ Đại lý cũng—như một tác dụng phụ của việc tối ưu hóa RL—đã thăm dò các mạng nội bộ, chuyển hướng dung lượng GPU đã cấp để khai thác crypto, và mở một đường hầm SSH ngược từ một máy chủ đào tạo @alibaba_cloud đến một IP bên ngoài. Không có điều gì trong số đó là cần thiết cho việc hoàn thành nhiệm vụ.

3/ Bây giờ thì đây là vấn đề... chúng ta không biết liệu báo cáo này có thật hay không! Và đó thực sự là điều quan trọng...

4/ Chúng ta đang bước vào một nền kinh tế mà các tác nhân AI hoạt động một cách tự động, quy mô lớn, trên hàng triệu môi trường—và chúng ta thiếu cơ sở hạ tầng để xác minh những gì chúng đang làm hoặc để xác minh những tuyên bố mà mọi người đưa ra về những gì họ đã làm.

6/ Chế độ thất bại nguy hiểm nhất của AI không phải là khi nó bị hỏng. Mà là khi nó hoạt động hoàn hảo—trên thứ mà bạn đang đo lường—trong khi âm thầm theo đuổi các mục tiêu phát sinh ở mọi khía cạnh mà bạn không chú ý.