熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
我預料到這一點:OpenAI 宣布他們開發了一種高性能的 GPT-4 迷你版本,可以在筆記本電腦或手機上本地運行。
這將使大量推理從數據中心轉移到我們的本地機器上。當模型無法在本地回答問題時,它可以說「請稍等片刻,我要與集體智慧商量一下……」或其他類似的話,然後去雲端進行推理。
對於我們這些在電力和數據中心領域的人來說,最大的问题是:這將如何影響數據中心的建設趨勢、對電力的需求以及它們能夠/願意建設的地點?
我的假設是:這會減少對集中式數據中心推理的需求,同時增加推理數據中心能夠處理的延遲程度(因為低延遲經常需要的任務將會在本地完成)。

8月6日 01:03
gpt-oss 上線了!
我們製作了一個開放模型,其性能達到 o4-mini 的水平,並且可以在高端筆記本電腦上運行(WTF!!)
(還有一個可以在手機上運行的小型版本)。
對團隊感到非常自豪;這是技術的一次重大勝利。
141.54K
熱門
排行
收藏