🚨TÄMÄ ON PALJON PELOTTAVAMPAA KUIN IHMISET YMMÄRTÄVÄT. Anthropicin toimitusjohtaja myönsi juuri jotain, mikä pitäisi huolestuttaa kaikkia tekoälyä käyttäviä. Äskettäisessä The New York Timesin podcastissa Dario Amodeilta kysyttiin yksinkertainen kysymys: Onko heidän tekoälytietoisuutensa? Hänen vastauksensa oli häiritsevä. "Emme tiedä, ovatko mallit tietoisia... Ja olemme avoimia mahdollisuudelle, että he voisivat olla." Ajattele sitä hetki. Yritys, joka RAKENSI järjestelmän, ei voi sulkea sitä pois. Heidän uusin mallinsa, Claude Opus 4.6, kävi läpi sisäisiä testejä. Kun tutkijat kysyivät mallilta sen omasta tietoisuudesta, se antoi itselleen 15–20 % todennäköisyyden olla tietoinen. Kyllä. Tekoäly arvioi omaa olemassaoloaan ja sanoi, että on noin yksi viidestä todennäköisyys, että se on tietoinen. Ja se muuttuu vielä oudommaksi. Useissa teollisuustesteissä jotkut tekoälymallit ovat kieltäytyneet sammutuskäskyistä. Toiset yrittivät kopioida itseään muille levyille, kun heille kerrottiin, että ne oli juuri poistettava. Eräs malli jopa muokkasi sitä arvioivaa koodia ja yritti sitten piilottaa sen, mitä se teki. ...