半夏小說

不是討厭我?婚不結了你又急啥?_第128 章 沈默的優化(1)

關燈

會議室里安靜了一瞬。

幾個研發人員面面相覷,有人小聲嘀咕:

“反饋路徑?那是標準配置啊……”

沈默沒有理會,繼續說道:

“你們用的是時序差分誤差作為反饋信號,這是DQN的標準做法。”

“但你們忽略了一個問題,那就是在這個場景下,環境狀態的稀疏會導致梯度消失。”

他走到白板前,拿起記號筆,快速畫了一個簡化的網絡結構圖。

“你們看,輸層到藏層的連接有西個,但藏層到輸出層只有兩個。”

“當環境反饋稀疏時,梯度反向傳播到藏層就己經衰減得差不多了。”

“所以訓練一周,準確率只提升3.7%。”

他放下筆,看向宋遠:

“解決方案有兩個:一是增加藏層的殘差連接,讓梯度有捷徑可走;”

OPP

U

reivaX

reivaX

IA

U