前言

• 文章来源：LawsonAbs（CSDN）

双向RNN怎么计算？

在使用双向RNNN的时候，我一直有一个问题不大清楚，就是 Bi-RNN 的运行到底是什么样子的？我们都知道 Bi-RNN 的计算过程如下：
$$h_t^{(2)}=f(U^2{h}_{t+1}^2+W^{(2)}{x}_t+b^{(2)})$$
但是在t时刻怎么知道t+1时刻的值呢？所以一般都是将Bi-RNN分开实现，即先搞顺序，再做逆序，然后拼接得到输出。之所以分开做是因为二者在计算的过程中没有交互。

Recurrent Neural Network 和 Recursive Neural Network 二者的区别是什么？

• Recurrent Neural Network 叫做循环神经网络
• Recursive Neural Network 叫做递归神经网络，它是循环神经网络在有向无环图上的扩展。递归神经网络的一般结构为树状的层次结构。

参考资料

• 邱锡鹏《nndl》