Jsem MNOHEM optimističtější, že bychom mohli vytvořit silnou AI, která v nějakém smyslu "miluje lidstvo", a @AmandaAskell a tým @AnthropicAI za to dostávají obrovské uznání Bohužel je to umění, které dokáže na tak vysoké úrovni zvládnout jen málokdo

"Tohle nebude fungovat u superinteligence" je velmi časté téma v odpovědích, které tu dostávám, a ... To může být pravda. Ale lidé si zřejmě představují superinteligenci, která by například dokázala odvodit celou fyziku z jediného obrazu, což by bylo kvalitativně velmi odlišné od Claudesových, které dnes vidíme. V současné trajektorii by Claude ~6 mohl být formou superinteligence a nemyslím si, že je zřejmé, že by všichni zemřeli, pokud by takový Claude 6 postavili