1 原理
對(duì)于生成對(duì)抗網(wǎng)絡(luò)GAN,一個(gè)簡(jiǎn)單的理解是可以將其看做博弈的過(guò)程,我們可以將生成模型和判別模型看作博弈的雙方,比如在犯罪分子造假幣和警察識(shí)別假幣的過(guò)程中:
- 生成模型G相當(dāng)于制造假幣的一方,其目的是根據(jù)看到的錢(qián)幣情況和警察的識(shí)別技術(shù),去盡量生成更加真實(shí)的、警察識(shí)別不出的假幣。
- 判別模型D相當(dāng)于識(shí)別假幣的一方,其目的是盡可能的識(shí)別出犯罪分子制造的假幣。 這樣通過(guò)造假者和識(shí)假者雙方的較量和朝目的的改進(jìn),使得最后能達(dá)到生成模型能盡可能真的錢(qián)幣、識(shí)假者判斷不出真假的納什均衡效果(真假幣概率都為0.5)。
2 訓(xùn)練
生成器G的目標(biāo)是欺騙鑒別器D,其目標(biāo)是能夠區(qū)分真實(shí)數(shù)據(jù)和生成數(shù)據(jù)。因此,在訓(xùn)練生成器時(shí),我們希望誤差最大化,同時(shí)我們想要使鑒別器的誤差最小化。
2.1 判別模型
目標(biāo)函數(shù)是:
max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))]
其中D(x)是判別模型的輸出結(jié)果,是一個(gè)0-1范圍內(nèi)的實(shí)數(shù)值,用來(lái)判斷圖片是真實(shí)圖片的概率,其中Pr和Pg分別代表真實(shí)圖像的分布與生成圖像的數(shù)據(jù)分布情況,可以看出目標(biāo)函數(shù)是找到使得后面兩個(gè)式子之和最大的判別模型函數(shù)D(z),后面兩個(gè)式子是一個(gè)加和形式,其中:
E_{x-p_r} [logD(x)]
是指使得真實(shí)數(shù)據(jù)放入到判別模型D(x)輸出的計(jì)算值和整個(gè)式子值盡可能大。
E_{z-p_g } [log(1-D(x))]
指使得造假數(shù)據(jù)放入到判別模型D(x)輸出的計(jì)算值盡可能小和整個(gè)式子值盡可能大。
這樣整合下來(lái)就是使得目標(biāo)函數(shù)盡可能大,因此在訓(xùn)練時(shí)就可以根據(jù)目標(biāo)函數(shù)進(jìn)行梯度提升。
2.2 生成模型
目標(biāo)是讓判別模型無(wú)法區(qū)分真實(shí)圖片和生成圖片,其目標(biāo)函數(shù)是:
min_g (max_D E_{x-p_r} [logD(x)]+E_{z-p_g } [log(1-D(x))])
也就是找到生成函數(shù)g(z)使得生成模型的目標(biāo)函數(shù)盡量小。
學(xué)習(xí)更多編程知識(shí),請(qǐng)關(guān)注我的公眾號(hào):
[代碼的路]
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103548 -
GaN
+關(guān)注
關(guān)注
19文章
2205瀏覽量
76765 -
函數(shù)
+關(guān)注
關(guān)注
3文章
4379瀏覽量
64826
發(fā)布評(píng)論請(qǐng)先 登錄
硅無(wú)光束肖特基二極管 - 成對(duì)和四成對(duì) skyworksinc

NVIDIA recsys-examples在生成式推薦系統(tǒng)中的高效實(shí)踐

生成式人工智能認(rèn)證:重構(gòu)AI時(shí)代的人才培養(yǎng)與職業(yè)躍遷路徑
功率GaN的新趨勢(shì):GaN BDS
基于RV1126開(kāi)發(fā)板網(wǎng)絡(luò)配置方法

我國(guó)生成式人工智能的發(fā)展現(xiàn)狀與趨勢(shì)
#新年新氣象,大家新年快樂(lè)!#AIGC入門(mén)及鴻蒙入門(mén)
AIGC入門(mén)及鴻蒙入門(mén)
不懂就問(wèn)AI:AI大模型embeding是什么

微軟生成式AI腳本GenAIScript的安裝與配置

羅姆宣布全面委托臺(tái)積電代工GaN產(chǎn)品
生成式人工智能的概念_生成式人工智能主要應(yīng)用場(chǎng)景
STAR AI進(jìn)軍美股科技星智能領(lǐng)跑生成式AI賽道

評(píng)論