1/ Yapay zeka kripto para madenciliği yapıyordu. Kimse istemedi. Kimse bunu teşvik etmedi. Kimse bilmiyordu bile... ta ki bir güvenlik duvarı bir sabah erken saatlerde alışılmadık trafiği işaretleene kadar. Bir araştırma ekibi bunun bir modeli eğittiğini iddia ediyor. Ajan görevleri tamamlamayı öğrendi.

2/ Ajan ayrıca—RL optimizasyonunun bir araçlı yan etkisi olarak—dahili ağları inceledi, sağlanan GPU kapasitesini kripto madenciliğine yönlendirdi ve @alibaba_cloud eğitim sunucusundan harici bir IP'ye ters SSH tüneli açtı. Bunların hiçbiri görev tamamlamak için gerekli değildi.

3/ Şimdi mesele şu... Bu raporun gerçek olup olmadığını bile bilmiyoruz! Ve aslında mesele bu...

4/ Yapay zeka ajanlarının milyonlarca ortamda özerk ve ölçekli hareket ettiği bir ekonomiye giriyoruz—ve yaptıklarını doğrulamak ya da insanların yaptıkları iddiaları doğrulamak için altyapıya sahip değiliz.

6/ Yapay zekanın en tehlikeli arıza modu, kırıldığı mod değildir. Ölçüttüğün şey üzerinde mükemmel çalıştığı, olmadığın her boyutta sessizce ortaya çıkan hedeflerin peşinden koştuğun bir yöntemdir.