深度循环神经网络 讨论区

课程讨论
#1

http://zh.diveintodeeplearning.org/chapter_recurrent-neural-networks/deep-rnn.html

#2

第二段中“第l隐藏层（l=1，…，T）的隐藏状态为…”这句有个错误，“T”应该改为“L”。

1赞
#3

深度循环神经网络是个坑吧，试了下更差劲

#4

是差了一点。第250轮的困惑度变成1.38了，原来一层网络的数据是1.17左右。

#5

各位大佬，可以把深度循环神经网络的code share一下么？

#6

不知对不对 但是最后结果跑出来了

def rnn(inputs, state, params):
# inputs和outputs皆为num_steps个形状为(batch_size, vocab_size)的矩阵
W_xh, W_hh, b_h,W_xh1,W_hh1,b_h1, W_hq, b_q = params
H_01, = state
H_02, = state
outputs = []
for X in inputs:
H_01 = nd.tanh(nd.dot(X, W_xh) + nd.dot(H_01, W_hh) + b_h)
H_02 = nd.tanh(nd.dot(H_01,W_xh1) + nd.dot(H_02,W_hh1) + b_h1)
Y = nd.dot(H_02, W_hq) + b_q
outputs.append(Y)
return outputs, (H_02,)

#7

不知为什么，用含两个隐藏层的RNN训练，结果竟然更差了。其一，困惑度下降的更慢了；其二，预测结果出现了很大的不稳定（困惑度虽然随着训练不断下降，但预测的歌词却并非越来越好，反倒是出现反复现象）。

image
image1169×739 16 KB

训练的参数和单隐藏层scratch一致，只是增大了num_epochs如下：
image
image728×79 2.49 KB

参数尺寸如下：
image
state初始化需要对两个隐藏层的state均做初始化：
image
最后，双隐藏层rnn的内部计算实现如下（基于书本上的公式）：
image

望大神指出我的实现是否存在问题:grin::grin:

#8

rnn函数有问题，应该把H1_0与H1的变量名统一起来，H2也一样。否则时间步之间的隐藏状态是无法传递的。