機率映射(Probability Mapping)
摘要
機率映射(probability mapping)指將模型輸出的實數值(real-valued outputs)轉換為機率分佈(probability distribution)的運算,其目的在於使模型輸出具備可解釋性(interpretability)與不確定性表示(uncertainty representation)。
在機器學習(machine learning)中,模型中間層的輸出通常位於未約束的實數空間 ,此類數值本身不具機率意義。機率映射負責建立從數值空間到機率空間的轉換,使輸出滿足非負性(non-negativity)與總和為一(normalization)等機率條件,從而能與統計推論(statistical inference)及基於機率的優化方法結合。
因此機率映射位於表徵空間(representation space)與決策空間(decision space)之間,其角色是將模型表示轉換為具語義意義的機率結構,作為後續損失計算(loss computation)與決策機制(decision mechanism)的基礎。
基本形式
Sigmoid 映射(sigmoid mapping)將單一實數映射至 區間:
其輸出通常被解釋為某事件發生的機率,因此廣泛用於二元分類(binary classification)、邏輯迴歸(logistic regression)與神經網路輸出層。
Softmax 映射(softmax mapping)則將一組實數向量轉換為多類別機率分佈:
其輸出滿足所有類別機率總和為 ,並反映不同類別的相對可能性。由於 softmax 透過指數函數放大較大輸出,因此能強化類別間的區分性(class separability)。
機率映射通常與交叉熵(cross-entropy)等損失函數形成耦合結構:
模型輸出 → 機率映射 → 損失計算
在此流程中,機率映射負責將模型表示轉換為可進行統計比較的機率形式,使模型得以透過梯度下降(gradient descent)進行優化。
不確定性與決策角色
機率映射的核心意義在於對不確定性進行顯式建模。模型不再直接輸出離散決策,而是先形成對不同事件的機率估計,再透過最大機率(argmax)或閾值(threshold)產生最終預測。
不同機率映射函數隱含不同結構假設。Sigmoid 對應獨立二元事件建模,而 softmax 則對應多類別競爭關係,因此兩者反映不同的機率空間結構。
從更一般的角度來看,機率映射可視為將連續數值轉換為機率分佈的標準化操作,其角色是將模型內部表示轉換為可推論、可比較且可決策的機率形式,因此在深度學習(deep learning)、貝葉斯方法(Bayesian methods)與強化學習(reinforcement learning)中皆屬核心組件。


