热门话题
#
Bonk 生态迷因币展现强韧势头
#
有消息称 Pump.fun 计划 40 亿估值发币,引发市场猜测
#
Solana 新代币发射平台 Boop.Fun 风头正劲

steve hsu
物理学家、AI 创始人、Manifold 播客
"即使是前沿模型也难以超越预训练的先验,无论新的证据多么引人注目。"
我们训练博士生来做到这一点!变换器能在不改变其权重的情况下做到这一点吗?


steve hsu8月8日 07:29
大型语言模型的链式思维推理是一种幻影吗?
……我们的结果揭示了链式思维推理是一种脆弱的幻影,当它被推向超出训练分布的范围时就会消失。这项工作提供了对链式思维推理失败的原因和时机的更深入理解,强调了实现真正且可推广推理的持续挑战。
……我们的发现表明,链式思维推理在应用于分布内或接近分布内的数据时效果显著,但在适度的分布变化下变得脆弱且容易失败。在某些情况下,大型语言模型生成流畅但逻辑不一致的推理步骤。结果表明,看似结构化的推理可能是一种幻影,源于训练数据中记忆或插值的模式,而非逻辑推理。
……综合这些发现表明,大型语言模型并不是原则性的推理者,而是推理类文本的复杂模拟器。

12.28K
纽约时报:据一位高级白宫官员透露,特朗普总统预计将在周四签署一项备忘录,要求大学向联邦政府提交招生数据,以验证其是否遵守2023年最高法院结束种族意识政策的裁决。
这项总统行动还要求教育部长琳达·麦克马洪增加对学校提供的数据的准确性检查,并对提交不及时或不准确信息的大学采取行动。
该备忘录还将要求教育部重新设计其收集高等教育数据的流程,称为综合高等教育数据系统,其中包括有关招生、入学和经济援助的详细信息。根据一份事实说明,这些信息将更易于公众获取。

steve hsu8月6日 07:05
纽约时报:哥伦比亚大学和布朗大学将在特朗普交易中披露招生和种族数据
特朗普的存在威胁促使他们发布这些数据。多年前,加州大学系统的一个教职工委员会审查了这种数据,并制作了下面的图表。如果你查看这些数据,你将理解美国在近50年中实施的平权行动的可怕本质。
纽约时报:... 根据他们的和解协议,哥伦比亚大学和布朗大学将不得不维持“基于优点的招生政策”,这些协议以法律约束的语言规范了行政部门的更广泛目标。
这两所大学“在其所有项目的招生中,绝不以任何方式非法偏袒基于种族、肤色或国籍的申请者,”两份协议以相同的语言声明。“不允许任何种族招生的代理。”
... “司法部将结束一个可耻的系统,在这个系统中,某人的种族比他们的能力更重要,”代理助理检察长查德·米泽尔在三月表示。“每所大学都应该知道,招生中的非法歧视将被调查并消除。”
与哥伦比亚大学和布朗大学的和解中使用的语言强调了特朗普政府自二月以来在最高法院招生案件中提出的有争议的主张。
它坚持认为,这一决定超越了招生,并禁止在大学生活中考虑种族。


6.97K
纽约时报:哥伦比亚大学和布朗大学将在特朗普交易中披露招生和种族数据
特朗普的存在威胁促使他们发布这些数据。多年前,加州大学系统的一个教职工委员会审查了这种数据,并制作了下面的图表。如果你查看这些数据,你将理解美国在近50年中实施的平权行动的可怕本质。
纽约时报:... 根据他们的和解协议,哥伦比亚大学和布朗大学将不得不维持“基于优点的招生政策”,这些协议以法律约束的语言规范了行政部门的更广泛目标。
这两所大学“在其所有项目的招生中,绝不以任何方式非法偏袒基于种族、肤色或国籍的申请者,”两份协议以相同的语言声明。“不允许任何种族招生的代理。”
... “司法部将结束一个可耻的系统,在这个系统中,某人的种族比他们的能力更重要,”代理助理检察长查德·米泽尔在三月表示。“每所大学都应该知道,招生中的非法歧视将被调查并消除。”
与哥伦比亚大学和布朗大学的和解中使用的语言强调了特朗普政府自二月以来在最高法院招生案件中提出的有争议的主张。
它坚持认为,这一决定超越了招生,并禁止在大学生活中考虑种族。


23.72K
另一个💀图表 - 例如,看看过去大约12个月的平均一阶导数🤔
🐒 <-- 说得很大声的家伙关于AI政策,但在计算一阶导数时却很挣扎。美国!美国!没关系!


steve hsu8月5日 18:32
支持ATOM!开源AI很好!
下面是另一张💀图表。情况比这张图表所显示的要糟糕得多,因为大多数中国模型的下载可能并不是在HuggingFace上进行的。大约50%的AI开发者在中国,且他们的下载几乎都是由中国实验室制作的开放模型(说实话,Llama并没有竞争力),全球层面的交叉点已经发生。
36.37K
支持ATOM!开源AI很好!
下面是另一张💀图表。情况比这张图表所显示的要糟糕得多,因为大多数中国模型的下载可能并不是在HuggingFace上进行的。大约50%的AI开发者在中国,且他们的下载几乎都是由中国实验室制作的开放模型(说实话,Llama并没有竞争力),全球层面的交叉点已经发生。

Nathan Lambert8月4日 22:08
美国需要更加认真地对待开放模型。今年夏天,美国通过Llama在开放模型采用方面的早期领先地位已被中国模型超越。
通过美国真正开放模型(ATOM)项目,我们希望建立支持并表达这一问题的紧迫性。

44.24K
热门
排行
收藏
链上热点
X 热门榜
近期融资
最受认可