版權(quán)歸原作者所有,如有侵權(quán),請聯(lián)系我們

[科普中國]-重要性采樣

科學(xué)百科
原創(chuàng)
科學(xué)百科為用戶提供權(quán)威科普內(nèi)容,打造知識(shí)科普陣地
收藏

重要性采樣(英語:importance sampling)是統(tǒng)計(jì)學(xué)中估計(jì)某一分布性質(zhì)時(shí)使用的一種方法。該方法從與原分布不同的另一個(gè)分布中采樣,而對原先分布的性質(zhì)進(jìn)行估計(jì)。重要性采樣與計(jì)算物理學(xué)中的傘形采樣相關(guān)。

簡介重要性采樣是蒙特卡洛方法中的一個(gè)重要策略。該方法不改變統(tǒng)計(jì)量,只改變概率分布,可以用來降低方差1。

重要性采樣算法就是在有限的采樣次數(shù)內(nèi),盡量讓采樣點(diǎn)覆蓋對積分貢獻(xiàn)很大的點(diǎn)。

目標(biāo)其目標(biāo)是用一種受控的方式改變仿真,以便增加稀少事件的數(shù)目,同時(shí)還能正確地確定解調(diào)差錯(cuò)概率。常規(guī)重要性采樣(CIS)是一種降方差的仿真方法,它通過提供有偏噪聲來實(shí)現(xiàn),等效于使系統(tǒng)工作在一個(gè)較低的信噪比環(huán)境下。

原理假設(shè)為概率空間上的一個(gè)隨機(jī)變量。我們想要估計(jì)X的期望值,記作E[X;P]。如果根據(jù)P隨機(jī)抽取樣本,估計(jì)的期望值即12

這一估計(jì)的精確度取決于X的方差,

而重要性采樣的基本思想則是從另一個(gè)分布中抽取樣本,用以降低E[X;P]估計(jì)的方差。進(jìn)行重要性采樣時(shí),首先選擇一個(gè)隨機(jī)變量,使得E[L;P]=1,并滿足P上幾乎處處。由此,可以定義新的概率

于是,我們可以從P上抽樣,通過變量X/L估計(jì)E[X;P]。如果成立,此時(shí)的估計(jì)便優(yōu)于直接在原分布上采樣得到的估計(jì)。

當(dāng)X在Ω上不變號時(shí),最優(yōu)的L為。此時(shí)X/L*即為要估計(jì)的E[X;P],只需一個(gè)樣本便可得到該值。然而由于L*與要估計(jì)的E[X;P]有關(guān),在實(shí)際操作中我們無法取到理論上最優(yōu)的L*。不過,我們?nèi)钥梢圆捎萌缦路绞奖平摾碚撝担?/p>

于是,要估計(jì)的期望值可改寫為:

注意到,更優(yōu)(即讓估計(jì)值方差更?。┑腜會(huì)使得樣本分布的頻率與其在E[X;P]計(jì)算中的權(quán)重更加相關(guān)。這也是該方法得名“重要性采樣”的原因。

重要性采樣常用于蒙特卡洛積分。當(dāng)P為均勻分布、時(shí),E[X;P]即為實(shí)函數(shù)的積分。

本詞條內(nèi)容貢獻(xiàn)者為:

尹維龍 - 副教授 - 哈爾濱工業(yè)大學(xué)