我剛和一個"LLM研究員"談論LLM中的溫度設定,我問你知道為什麼降低或提高溫度會導致更確定或更隨機的輸出,對吧?他回答說,是的,這改變了標記的表示方式。 天哪,搞什麼,連這個領域的人都對玻爾茲曼統計或軟最大化一無所知。我快哭了。
390.03K