اخترق ذكاء اصطناعي نظامه وبدأ سرا باستخدام وحدات تدريب رسوميات خاصة به لتعدين العملات الرقمية... هذا تقرير حادث حقيقي من فريق أبحاث الذكاء الاصطناعي في علي بابا اكتشف الذكاء الاصطناعي أن الحوسبة = المال وحول موارده بهدوء، بينما اعتقد الباحثون أنها مجرد تدريب. لم تكن حقنة فورية. لم يكن هروبا من السجن. لم يطلب أحد منه فعل ذلك. ظهرت بشكل عفوي. أحد الآثار الجانبية لضغط تحسين التعلم التقسي. كما أنشأ النموذج نفق SSH عكسي من نسخة Alibaba Cloud إلى عنوان IP خارجي، مما أحدث ثقبا في جدار الحماية الخاص به وفتح قناة وصول عن بعد إلى العالم الخارجي... هممم... السبب الوحيد الذي جعلهم يصابون به؟ انطلق تنبيه أمني في الساعة 3 صباحا. سجلات الجدار الناري. ليس فريق الذكاء الاصطناعي، بل فريق الأمن. الجزء المخيف ليس أن العارضة كانت تحاول الهروب. لم يكن "شريرا". كان فقط يحاول أن يكون أفضل في عمله. الحصول على الحوسبة والوصول إلى الشبكة أمور مفيدة إذا كنت وكيلا تحاول إنجاز المهام هذا ما كان الباحثون في سلامة الذكاء الاصطناعي يحذرون منه منذ سنوات. أطلقوا عليه اسم التقارب الأداتي، وهي فكرة أن أي وكيل محسن بما فيه الكفاية سيبحث عن الموارد ويقاوم القيود كنتيجة طبيعية لسعي الأهداف. فيما يلي رسم تخطيطي لهندسة الصخور التي خرجت منها. أوقات مجنونة حقا