Shiloh Dynasty-切片采樣02（Gibbs）（-L1- remix）歌詞

作詞 : -L1-
作曲 : -L1-
吉布斯采樣常用于統(tǒng)計推斷（尤其是貝葉斯推斷）之中。
這是一種隨機化算法，與最大期望算法等統(tǒng)計推斷中的確定性算法相區(qū)別。
與其他MCMC算法一樣，吉布斯采樣從馬爾科夫鏈中抽取樣本，
可以看作是Metropolis–Hastings算法的特例，
可以由馬爾科夫鏈和概率轉移矩陣的性質推出其采樣分布最終收斂于聯(lián)合分布。
該算法的名稱源于約西亞·威拉德·吉布斯，
由斯圖爾特·杰曼與唐納德·杰曼兄弟于1984年提出。
吉布斯采樣適用于條件分布比邊緣分布更容易采樣的多變量分布。
在統(tǒng)計學和統(tǒng)計物理學中，
gibbs抽樣是馬爾可夫鏈蒙特卡爾理論（MCMC）中用來獲取一系列近似等于指定多維概率分布（比如2個或者多個隨機變量的聯(lián)合概率分布）觀察樣本的算法。吉布斯采樣算法識別模體的基本原理通過隨機采樣不斷更新模體模型及其在各條輸入序列中出現(xiàn)的位置，優(yōu)化目標函數，當滿足一定的迭代終止條件或者達到最大迭代次數時就得到了最終所求的模體。吉布斯采樣算法是一種啟發(fā)式學習方法，它假定每一條序列只包含一個特定長度的模體實例，在各條序列上隨機選取一個模體的起始位置，這樣便得到了初始訓練集，然后通過更新步驟和采樣步驟迭代改進模體模型 [1] 。假設我們需要從聯(lián)合分布 中抽取 的 個樣本，記第i個樣本為 。吉布斯采樣的過程則為：
確定初始值 ；
假設已得到樣本 ，記下一個樣本為 ，于是可將其看作一個向量，
對其中某一分量 ，
可通過在其他分量已知的條件下該分量的概率分布來抽取該分量。
對于此條件概率，我們使用樣本 ，中已得到的分量 到 以及上一樣本
中的分量 到 ，即 。重復上述過程 k次。如果僅考慮其中部分變量，
則可以得到這些變量的邊緣分布。
此外，我們還可以對所有樣本求某一變量的平均值來估計該變量的期望。