几种模型

​ 机器学习的重要任务，是根据 一些已观察到的证据（训练样本）来对感兴趣的未知变量（分类，回归的值）进行估计和推测。之前也提到了两种不同的模型：生成式模型(观察与未知变量的联合模型)；判别式模型(位置变量的后验概率模型)。

​ 概率图模型则是一类用图来表达变量相关关系的概率模型。

​ 讲线面几个马尔科夫模型之前，先提一下几个概念(都是自己的理解，不怎么严谨)。

​ 马尔科夫过程：它指的是一个随机变量序列按时间先后关系依次排开的时候，第N+1时刻的分布特性，与N时刻以前的随机变量的取值无关。拿天气来打个比方。如果我们假定天气是马尔可夫的，其意思就是我们假设今天的天气仅仅与昨天的天气存在概率上的关联，而与前天及前天以前的天气没有关系。其它如传染病和谣言的传播规律，就是马尔可夫的。我个人对这个东西的理解就是，一个变量只跟某个或者某些变量相关，这个过程就成为马尔科夫过程，把过程中的每个环节用一个节点来表示，这个依赖的链条就叫做马尔科夫链。

​ 如果某种过程模型可以用这个过程来描述，那么就说这个过程或者系统有马尔科夫性质。

​ 而下面提到的两种模型，一个使用有向图来描述变量之间马尔科夫过程，一个是用无向图来描述。

隐马尔可夫模型

​ 隐马尔可夫模型是一种用于时序数据的建模工具，在语音识别、自然语言处理(都是有先后顺序的)领域非常有用。好像有时也去掉第一个字，就叫马尔科夫模型。

​ 隐马尔可夫模型参照下面这张图：

​ 其中有两部分变量：

• 状态变量 { y 1 , y 2 … y n } \lbrace y_1,y_2\dots y_n\rbrace {y1​,y2​…yn​}，在模型中，某个状态变量$y_i$是一个有N个状态的变量: { s 1 , s 2 … s N } \lbrace s_1,s_2\dots s_N\rbrace {s1​,s2​…sN​}，状态$y_i$可以在这N个状态之间切换。在某个时间点$t$是一个确定的状态。

• 观测变量 { x 1 , x 2 … x n } \lbrace x_1,x_2\dots x_n\rbrace {x1​,x2​…xn​}，在模型中，某个观测变量$x_i$是一个有M个状态的变量: { o 1 , o 2 … o M } \lbrace o_1,o_2\dots o_M\rbrace {o1​,o2​…oM​}，状态$x_i$可以在这M个状态之间切换。

• 图中的箭头表示依赖关系。可以看出，某个时间点$t$的观察变量是依赖于状态变量的，因为有什么样的状态，你才能有什么样的观测值。

• 另外的一个依赖关系就是$t+1$时刻的状态只依赖于$t$时刻的状态值，和其他的变量均无关，这种依赖关系也被称为马尔科夫链。

• 因为状态值$y$是不可见的，只能通过观测值$x$去进行估计和推断，索引被称为隐变量，模型也就称为隐马尔科夫模型。

• 根据上面的模型，所有状态的联合分布为：
  $$P(x_1,y_1\dots ,x_n,y_n)=P(y_1)P(x_1|y_1)\prod _{i=2}^{n}P(y_i|y_{i-1})P(x_i|y_i)$$

​ 一个马尔科夫模型还需要确认下面几个信息，才能计算出上面的概率：

• 状态转移概率，也就是状态$y$从$s_i$转移到$s_j$的概率，这肯定是一个$N\ast N$(N为状态的数目)的矩阵，记为：
  $$\begin{gathered} A=[a_{ij}{]}_{N\ast N} \\ {a}_{ij}=P(y_{t+1}=s_j|y_t=s_i) \end{gathered}$$

• 输出观测概率，也就是状态值确定，该状态值对应的各种观测值出现的概率，为一个$N\ast M$的矩阵，记为：
  $$\begin{gathered} B=[b_{ij}{]}_{N\ast M} \\ {b}_{ij}=P(x_t=o_j|y_t=s_i) \end{gathered}$$

• 初始状态概率，也就是最初每个状态出现的概率，为一个$1\ast N$的向量，记为；
  $${\pi }_i=P(y_1=si)$$

• 上面三个参数行程一个三元组：$\lambda =[A,B,\pi ]$就可以唯一确定一个隐马尔可夫模型。

​ 在实际应用中，隐马尔可夫模型用于下面三个领域：

• 给定模型$\lambda$，如何产生最符合模型的观测变量 { x 1 , x 2 … x n } \lbrace x_1,x_2\dots x_n\rbrace {x1​,x2​…xn​}，一般是用来预测，预测下一个观测变脸$x_n$
• 给定模型$\lambda$，有一组观测变量 { x 1 , x 2 … x n } \lbrace x_1,x_2\dots x_n\rbrace {x1​,x2​…xn​}，去推测隐变量$y$。在语音识别中，讲语音作为观测变量，文字作为隐藏变量。用模型去推断隐藏变量。
• 有一组观测变量 { x 1 , x 2 … x n } \lbrace x_1,x_2\dots x_n\rbrace {x1​,x2​…xn​}，学习到一个模型$\lambda$去描述这组变量，目标就是让这组变量出现的概率最大。$\lambda$模型一般都无法直接给定，都需要根据一些观测变量和隐藏变量去学习一个模型，这时候就是这种情况。

马尔科夫随机场

​ 上面的图是一个有向无环图，而马尔科夫随机场是用无向图来描述随机变量。比如：

​ 这个无向图中的每个节点是一个变量，以前讲贝叶斯网的时候提到过，当时是每个变量都是一个属性。而这个随机场中的变量可以代表其他的意思，统称为变量，可以是一个属性，可以是一个样本等等。在这个随机场模型中，有几个概念：

• 团。如果图的子集中，任意的两个节点都有边连接，就称这个子集为一个“团”。任意的两个节点，只有一条表相连，就是一个团。上图中的 { x 2 , x 5 , x 6 } \lbrace x_2,x_5,x_6\rbrace {x2​,x5​,x6​}为一个团。而 { x 1 , x 2 , x 3 , x 5 } \lbrace x_1,x_2,x_3,x_5\rbrace {x1​,x2​,x3​,x5​}则不是团，因为$x_2,x_3$之间没有边相连。

• 极大团。如果一个团，从图中任意拿一个节点过来增加到团中，都让这个团不再是团了，那么这个团就是极大团。有点绕，仔细看看。

• 在马尔科夫随机场模型中，多个变量的联合概率分布能基于团分解为多个因子的乘积，每个因子仅与一个团有关。首先定义几个参数：

  • 模型中的团用Q表示，这个团中包含的变量为$x_Q$
  • 模型中团的集合用C表示。
  • 上面说到的基于一个团的因子计算为${\psi }_Q(x_Q)$，其中${\psi }_Q$称为势函数。
  • 那么这个随机场模型的联合概率计算公式就为：

  $$P(x)=\frac{1}{Z}\prod _{Q\in C}{\psi }_Q(x_Q)$$

  • Z为规范化因子：$Z={\sum }_x{\prod }_{Q\in C}{\psi }_Q(x_Q)$

• 在变量比较多的时候，团的数量会比较多，而团一般都被包含在一个极大团中，所以这个公式可以被改成：
  $$P(x)=\frac{1}{Z^{\ast }}\prod _{Q\in C^{\ast }}{\psi }_Q(x_Q)$$
  $Z={\sum }_x{\prod }_{Q\in C^{\ast }}{\psi }_Q(x_Q)$

  也就是说需要为每个极大团定义一个势函数。

  势函数用于描述团中间的变量的关系，如果团是一个只有两个变量。那么书中提到的例子：

其中团$(x_A,x_B)$的势函数定义为：
$${\psi }_{AC}(x_A,x_B)=\{\begin{array}{l}1.5,if{x}_A=x_B\\ 0.1,otherwise\end{array}$$
团$(x_B,x_C)$的势函数定义为：
$${\psi }_{BC}(x_B,x_C)=\{\begin{array}{l}0.2,if{x}_B=x_C\\ 1.3,otherwise\end{array}$$
那么说明，这个模型偏好A和B相同，而B和C不同，会使得整个模型的联合分布概率比较高。

更一般地，定义团中的势函数是使用下面的方式：
$$\begin{gathered} {\psi }_Q(x_Q)=e^{-H_Q(x_Q)} \\ {H}_Q(x_Q)=\sum _{u,v\in Q,u\ne v}{\alpha }_{uv}{x}_u{x}_v+\sum _{v\in Q}{\beta }_v{x}_v \end{gathered}$$

• 用无向图怎么来描述马尔科夫链呢，书中提到的是用分离集的概念，参考下图。

• 图中的一个顶点$v$通过他的邻接顶点集$n(v)$与图中的其他顶点相对独立。
• 两个非邻接变量条件独立。
• 我自己的理解是想将极大团形成一个马尔科夫链。

条件随机场（CRF：Conditional Random Field）

​ 上面两种都是计算所有变量的联合分布概率，为生成式的模型。条件随机场是计算后验概率，为判别式模型。也就是说是计算条件概率$P(y|x)$。

​ 书上提出的条件随机场必须满足条件：
$$P(y_v|x,y_{V/v})=P(y_v|x,y_{n(v)})$$
​ 其中$n(v)$表示节点v的邻接点。我理解这个东西和上面的马尔科夫随机场是一个意思，都是满足马尔科夫性，也就是每个点的标记$y$只和邻接点有关。只是一个通过这个模型使用上面的计算联合概率，条件随机场是计算条件概率。

​ 然后就是给出了条件概率的计算方式：
$$P(y|x)=\frac{1}{Z}(\sum _j\sum _{i=1}^{n-1}{\lambda }_j{t}_j(y_{i+1},y_i,x,i)+\sum _k\sum _{i=1}^n{\mu }_k{s}_k(y_i,x,i)$$

• $t_j(y_{i+1},y_i,x,i)$表示相邻两个节点的转移特征函数，在语义识别的场景里就是两个挨着的单词的概率，我自己理解就是某个单词(第i个单词)后面接另外单词的概率。
• $s_k(y_i,x,i)$为特征函数，用于描述观测变量对标记变量的影响，我理解就是观测到某个值，这个值属于某种标记y的概率，也就是马尔科夫模型里的$B$。
• $\lambda$和$\mu$为参数。

​ 书中给出了一个例子：
$$t_j(y_{i+1},y_i,x,i)=\{\begin{array}{l}1,if{y}_{i+1}=[P],y_i=[V]and{x}_i="knock"\\ 0,otherwise\end{array}$$
​ 也就是说，如果第$i$个单词为knock且为动词，下一个单词为P：代词的概率为1。其他的概率为0.
$$s_k(y_i,x,i)=\{\begin{array}{l}1,if{y}_i=[V]and{x}_i="knock"\\ 0,otherwise\end{array}$$
​ 是说knock观测值为动词的概率为1，为其他的词性概率为0.

模型推断

​ 书中后面提到了用概率图模型去进行推断的一些基本知识，因为本人主要是想做图像相关的算法，这块估计用的少，再加上实在是看不动了，就先不管了，后续有需要再说吧。