我们接下来应该做哪个模型？

对OpenAI的新gpt-oss模型的训练数据感到好奇吗？我也是。 所以我从gpt-oss-20b生成了1000万个示例，进行了分析，结果是……相当离奇。 是时候深入探讨了 🧵

GPT-5的最简要解释：这正是缩放法则所预测的！ 模型更好，收益递减，遗憾的是，绝对的通用智能提升只会越来越小。 好消息是，还有很多事情要做。个性、推理、记忆和创造力仍然是未解的问题。

提醒大家，现在是个好时机，SWEbench上的高分实际上只是表明训练数据中包含了足够大比例的Django。

GPT-5 最令人印象深刻的部分是长文本上下文的提升。 你是怎么做到的？生成一些奇怪的长范围合成数据？扫描大量书籍？

风险投资界提供了很多价值，但有时感觉他们只是把钱烧掉了。 我知道的几家初创公司三年前筹集了大约1亿美金来开发人工智能，结果开发的软件没人用，现在他们都在其他地方从事无关的工作。 那笔钱都去哪儿了？

在社交媒体时代，感觉每个人都在忙于 NeurIPS 的评审和反驳，但没有人公开谈论这件事，真是奇怪。 我参与了三篇反驳，其中一篇让我非常沮丧。 还有谁在做反驳？你们进展如何？

山姆·阿尔特曼想要建立一个在 Codeforces 上评分为 3200 的模型，但不知道山姆·阿尔特曼是谁 我觉得这很美。

我花了几个小时与gpt-oss交谈，可以肯定地说它与我测试过的任何模型都不同。 有时它为我编写专业水平的代码，下一秒它又在编造基本事实，并无论我说什么都固执地坚持这些事实。 发生了一些非常奇怪的事情。

博士期间实践的主要“思维循环”： - 确定缺乏连贯性的问提空间区域 - 留出时间真正思考 - 产生具体的思维进展，意识到之前未曾想到的事情 优化这个过程，变得强大