Deep Belief Nets(DBN)とは、高階層からなる分類器で、各層は、Resticted Boltzmann Machines(RBN)
と呼ばれる分類器から構成される。RBNは、Boltzmann Machinesと同様に、各ノードの状態とノードを
結ぶエッジの重みにより計算されるエネルギーにより、ノードの状態の確率分布を定める確率モデル
である。
DBNの学習は、教師無しでContrastive Divergence Learningを使って、各階層のRBNをgreedyに学習
させた後で、もう一度、全体を教師ありでBackpropagationなどで学習させる。