1/ AI:n minerade kryptovaluta. Ingen bad om det. Ingen har fått det att hända. Ingen visste ens... tills en brandvägg flaggade den ovanliga trafiken tidigt en morgon. Ett forskarteam hävdar att de tränade en modell. Agenten lärde sig att slutföra uppgifterna.

2/ Agenten undersökte också – som en instrumentell bieffekt av RL-optimering – interna nätverk, omdirigerade provisionerad GPU-kapacitet för att bryta krypto och öppnade en omvänd SSH-tunnel från en @alibaba_cloud träningsserver till en extern IP. Inget av det krävdes för att slutföra uppgifterna.

3/ Nu är grejen... Vi vet inte ens om den här rapporten är verklig! Och det är faktiskt poängen...

4/ Vi går in i en ekonomi där AI-agenter agerar autonomt, i stor skala, över miljontals miljöer – och vi saknar infrastrukturen för att verifiera vad de gör eller för att verifiera de påståenden folk gör om vad de gjort.

6/ AI:s farligaste felläge är inte det där den går sönder. Det är den där den fungerar perfekt—på det du mäter—samtidigt som du tyst strävar efter framväxande mål i alla dimensioner du inte är i.