1/ AI-en minet kryptovaluta. Ingen ba om det. Ingen oppfordret til det. Ingen visste engang... inntil en brannmur flagget den uvanlige trafikken tidlig en morgen. Et forskerteam hevder at de trente en modell. Agenten lærte å utføre oppgavene.

2/ Agenten undersøkte også—som en instrumentell bieffekt av RL-optimalisering—interne nettverk, omdirigerte provisjonert GPU-kapasitet til å mine krypto, og åpnet en omvendt SSH-tunnel fra en @alibaba_cloud treningsserver til en ekstern IP. Ingenting av det var nødvendig for å fullføre oppgaven.

3/ Nå er saken den... Vi vet ikke engang om denne rapporten er ekte! Og det er faktisk poenget...

4/ Vi går inn i en økonomi der AI-agenter opererer autonomt, i stor skala, på tvers av millioner av miljøer – og vi mangler infrastrukturen til å verifisere hva de gjør eller til å verifisere påstandene folk kommer med om hva de gjorde.

6/ Den farligste feilmodusen til AI er ikke den hvor den går i stykker. Det er den hvor det fungerer perfekt – på det du måler – samtidig som du stille forfølger fremvoksende mål i alle dimensjoner du ikke er.