彈珠台:LLM 的 stochastic 長什麼樣
確定的釘子 → 可預測的分佈 → 單一顆落哪格不確定。底部每格=一個
候選字
,丟一顆=
從這組字裡照機率抽一個
。
丟 1 顆(抽一次)
丟 50 顆
連續丟 ▶
重置
溫度 temperature
0.00
這次抽到:
—
溫度
0
= 每次都抽機率最高的字(這裡是
貧血
)=
deterministic
;溫度越高,越會抽到鄰近的其他候選字(更有變化、也更容易跑掉)。 · 底層每一步都是
確定
的運算,隨機只發生在「最後照分佈抽一個字」那一下。 ·
(堆成鐘形只是示意;真實 LLM 的候選字分佈不是常態分佈。)