彈珠台:LLM 的 stochastic 長什麼樣

確定的釘子 → 可預測的分佈 → 單一顆落哪格不確定。底部每格=一個候選字,丟一顆=從這組字裡照機率抽一個
0.00
這次抽到:
溫度 0 = 每次都抽機率最高的字(這裡是 貧血)= deterministic;溫度越高,越會抽到鄰近的其他候選字(更有變化、也更容易跑掉)。  ·  底層每一步都是確定的運算,隨機只發生在「最後照分佈抽一個字」那一下。  ·  (堆成鐘形只是示意;真實 LLM 的候選字分佈不是常態分佈。)