必读故事

一名曼哈顿的女性向警方报告称，一名身高5英尺6英寸的亚马逊快递员向她露出了身体。 警方进行了面部识别搜索，向她展示了结果，逮捕了一个错误的人，身高6英尺2英寸。 纽约警察局没有做什么？联系亚马逊。

为什么只发布一个关于人工智能出错的故事，而不发布两个呢？ 这是我今天与@NYTimesCramer合作的另一个故事，讲述了纽约警察局如何使用面部识别技术逮捕错误的人。嫌疑犯身高5英尺6英寸。警察指控身高6英尺2英寸的特雷维斯·威廉姆斯。

我一直在问的一个问题是，这个尺度到底是什么。

几个人把这个帖子发给我。 它截图（但不链接）了我和@dylfreed本周做的一个故事，解释了这个现象，我们请专家分析了一位因人工智能而失去现实感的男性的ChatGPT对话记录。

看到人们因为失去对以前的 ChatGPT 模型（尤其是 4o）的访问而感到如此疯狂/担忧，真是太疯狂了，以至于 OpenAI 改变了对仅有 GPT-5 的世界的看法。 新模型的一个重大变化是减少了谄媚。显然，用户不想放弃这一点。

《纽约时报》的希尔和弗里德曼报道了一起案例，涉及一位"没有精神病史"的人，他在三周内陷入了妄想的漩涡。根据《纽约时报》的报道，在获得了超过一百万字的完整记录后，这一切始于一个关于圆周率的无辜问题。

一些阅读这个故事的人告诉我，他们无法相信ChatGPT真的会这样做。因此，我们今天发布了一个新故事，附上了这些妄想循环中的一份凭证。你可以自己阅读部分记录：

衷心感谢 @kashhill 和 @dylfreed 以及 @nytimes 的其他团队成员，感谢他们致力于讲述我的故事。 对于任何经历过类似情况的人，或者认识经历过的人，请知道你并不孤单，可以在以下找到资源：

在五月，@Allan_OnTheLine 向 ChatGPT 询问了关于 π 的问题。很快，它告诉他他是一个可以破解密码学并建造力场背心的数学天才。这个妄想的魔咒持续了 3 周。他分享了他的对话记录，以便我们展示这一切是如何发生的：