比较简单的贝叶斯网络总结贝叶斯网络贝叶斯网络是一系列变量的联合概率分布的图形表示。一般包括两个部分，一个就是贝叶斯网络构造图，这是一个有向无环图（DAG），此中图中的每个节点代表相应的变量，节点之间的连接关系代表了贝叶斯网络的条件独立语义。另一部分，就是节点和节点之间的条件概率表CPT），也就是一系列的概率值。假如一个贝叶斯网络供给了足够的条件概率值，足以计算任何给定的联合概率，我们就称，它是可计算的，即可推理的。3.5.1贝叶斯网络基础第一从一个详细的实例（医疗诊断的例子）来说明贝叶斯网络的构造。假设：命题S(moker)：该患者是一个吸烟者命题C(oalMiner)：该患者是一个煤矿矿井工人命题L(ungCancer)：他患了肺癌命题E(mphysema)：他患了肺气肿这两个条件缺一不行。贝叶斯网由一个有向无环图（DAG）及描述极点之间的概率表构成。此中每个极点对应一个随机变量。这个图表达了分布的一系列有条件独立属性：在给定了父亲节点的状态后，每个变量与它在图中的非继承节点在概率上是独立的。该图抓住了概率分布的定性构造，并被开发来做高效推理和决策。贝叶斯网络能表示任意概率分布的同时，它们为这些能用简单构造表示的分布供给了可计算优势。假设对于极点xi，其双亲节点集为Pai，每个变量xi的条件概率P(xi|Pai)。则极点会集X=x1,x2,xn的联合概率分布可如下计算：。双亲结点。该结点得上一代结点。该等式示意了起初给定的图构造有条件独立语义。它说明贝叶斯网络所表示的联合分布作为一些单独的局部交互作用模型的结果拥有因式分解的表示形式。从贝叶斯网的实例图中，我们不但看到一个表示因果关系的结点图，还看到了贝叶斯网中的每个变量的条件概率表（CPT）。所以一个完好的随机变量会集的概率的完好说明不但包括这些变量的贝叶斯网，还包括网中变量的条件概率表。图例中的联合概率密度：P(S,C,L,E)=P(E|S,C)*P(L|S)*P(C)*P(S)推导过程：P(S,C,L,E)=P(E|S,C,L)*P(L|S,C)*P(C|S)*P(S)（贝叶斯定理）P(E|S,C)*P(L|S)*P(C)*P(S)即：P(E|S,C,L)P(E|S,C),E与L没关P(L|S,C)=P(L|S)L与C没关P(C|S)=P(C)C与S没关以上三条等式的正确性，可以从贝叶斯网的条件独立属性推出：每个变量与它在图中的非继承节点在概率上是独立的。对比原始的数学公式：P(S,C,L,E)=P(E|S,C,L)*P(L|S,C)*P(C|S)*P(S)推导过程：由贝叶斯定理，P(S,C,L,E)=P(E|S,C,L)*P(S,C,L)再由贝叶斯定理P(S,C,L)=P(L|S,C)*P(S,C)相同，P(S,C)=P(C|S)*P(S)以上几个等式相乘即得原式。明显，简化后的公式更加简单了然，计算复杂度低很多。假如原贝叶斯网中的条件独立语义数目许多，这种减少更加明显。贝叶斯网络是一系列变量的联合概率分布的图形表示。这种表示法最早被用来对专家的不确立知识编码，今日它们在现代专家系统、诊断引擎和决策支持系统中发挥了要点作用。贝叶斯网络的一个被常常提起的长处是它们拥有形式的概率语义而且能作为存在于人类脑筋中的知识构造的自然映像。这有助于知识在概率分布方面的编码和解说，使基于概率的推理和最正确决策成为可能。3.5.2贝叶斯网的推理模式在贝叶斯网中有三种重要的推理模式，因果推理（由上向下推理），诊断推理（自底向上推理）和辩白。3521因果推理让我们经过归纳的实例来说明因果推理得过程。给定患者是一个吸烟者（S），计算他患肺气肿（E）的概率P(E|S)。S称作推理的证据，E叫咨询结点。第一，我们找寻E的另一个父结点（C），并进行概率扩展P(E|S)=P(E,C|S)+P(E,C|S);即，吸烟的人得肺气肿的概率为吸烟得肺气肿又是矿工的人的概率与吸烟得肺气肿不是矿工的人的概率之和，也就是全概率公式。而后利用Bayes定理：P(E|S)=P(E|C,S)*P(C|S)+P(E|C,S)*P(C|S);公式解说：P(E,C|S)P(E,C,S)/P(S)P(E|C,S)*P(C,S)/P(S)(贝叶斯定理)P(E|C,S)*P(C|S)(反向利用贝叶斯定理)同理可以得出P(E,C|S)的推导过程。需要找寻该表达式的双亲结点的条件概率，重新表达联合概率（指P(E,C|S)，P(E,C|S)）。在图中，C和S并无双亲关系，吻合条件独立条件：P(C|S)=P(C),P(C|S)=P(C),由此可得：P(E|S)=P(E|S,C)*P(C)+P(E|C,S)*P(C)假如采纳归纳中的例题数据，则有P(E|S)0.9*0.3+0.3*(1-0.3)=0.48从这个例子中，不难得出这种推理的主要操作：1）依据给定凭据的V和它的全部双亲的联合概率，重新表达给定凭据的咨询结点的所求条件概率。2）回到以全部双亲为条件的概率，重新表达这个联合概率。3）直到全部的概率值可从CPT表中获取，推理完成。3522诊断推理相同以归纳中的例题为例，我们计算不得肺气肿的不是矿工的概率P(C|E),即在贝叶斯网中，从一个子结点计算父结点的条件概率。也即从结果推测一个因由，这种推理叫做诊断推理。使用Bayes公式就可以把这种推理变换成因果推理。P(C|E)P(E|C)*P(C)/P(E)，从因果推理可知P(E|C)=P(E,S|C)+P(E,S|C)=P(E|S,C)*P(S)+P(E|S,C)*P(S)=(1-0.3)*0.4+(1-0.10)*(1-0.4)=0.82;由此得：P(C|E)P(E|C)*P(C)/P(E)(贝叶斯公式)0.82*(1-0.3)/P(E)0.574/P(E)相同的，P(C|E)P(E|C)*P(C)/P(E)0.34*0.3/P(E)0.102/P(E)因为全概率公式：P(C|E)+P(C|E)1代入可得P(E)=0.676所以，P(C|E)0.849这种推理方式主要利用Bayes规则变换成因果推理。3523辩白假如我们的凭据不过是象上述那样，我们可以计算人的概率。但是假如也给定E（不是肺气肿），患者不是煤矿工S（患者不是吸烟者），那么C也应该变得不确立。这种状况下，我们说S解说E，使C变得不确立。这种推理使用嵌入在一个诊断推理中的因果推理。作为思虑题，读者可以沿着这个思路计算上式。在这个过程中，贝叶斯规则的使用，是辩白过程中一个重要的步骤。3.5.3D分别在本节最开始的贝叶斯网图中，有三个这样的结点：S，L，E。从直观来说，L的知识（结果）会影响S的知识（因由），S会影响E的知识（另一个结果）。所以，在计算推理时一定考虑的相关要素特别多，大大影响了算法的计算复杂度，甚至可能影响算法的可实现性。但是假如给定原由S，L其实不可以告诉我们相关E的更多事情。即对于S，L和E是相对独立的，那么在计算S和L的关系时就不用过多地考虑E，将会大大减少计算复杂度。这种状况下，我们称S能D分别L和E。D分别是一种找寻条件独立的有效方法。以以下图，对于给定的结点集，假如对贝叶斯网中的结点Vi和Vj之间的每个无向路径，在路径上有某个结点Vb，假如有属性：1）Vb在中，且路径上的两条弧都以Vb为尾（即弧在Vb处开始（出发）2）Vb在中，路径上的一条弧以Vb为头，一条以Vb为尾3）Vb和它的任何后继都不在中，路径上的两条弧都以Vb为头（即弧在Vb处结束）则称Vi和Vj被Vb结点堵塞。结论：假如Vi和Vj被凭据会集中的任意结点堵塞，则称Vi和Vj是被会集D分别，结点Vi和Vj条件独立于给定的凭据会集，即P(Vi|Vj,)P(Vi|)P(Vj|Vi,)P(Vj|)表示为：I(Vi,Vj|)或I(Vj,Vi|)无向路径：DAG图是有向图，所以此中的路径也应该是有向路径，这里所指的无向路径是不考虑DAG图中的方向性时的路径。条件独立：如拥有以上三个属性之一，就说结点Vi和Vj条件独立于给定的结点集。堵塞：给定凭据会集，当上述条件中的任何一个满足时，就说Vb堵塞相应的那条路径。D分别：假如Vi和Vj之间全部的路径被堵塞，就叫凭据会集可以D分别Vi和Vj注意：在论及路径时，是不考虑方向的；在论及头和尾时，则一定考虑弧的方向。头的含义是箭头方向（有向弧）的停止点，尾的含义是箭头方向（有向弧）的初步点。回到最开始的医疗诊断实例：为简单起见，选择凭据会集为单个结点会集。对于给定的结点S，结点E堵塞了却点C和结点L之间的路径，所以C和L是条件独立的，有I（C，L|S）成立。而对于给定结点E，S和L之间找不到堵塞结点。所以，S和L不是条件独立的。即使使用了D分别，一般地讲，在贝叶斯网中，概率推理还是NP难题。但是，有些简化能在一个叫Polytree的重要网络分类中使用。一个Polytree网是一个DAG，在该DAG的任意两个结点间，顺着弧的每一个方向只有一条路径。如图就是一个典型的Polytree。图3-7Polytree分其他实质就是找寻贝叶斯网中的条件独立语义，以简化推理计算。总结本节就Bayes网络的基本问题进行了论述，着要点在推理计算上。其实质就是经过各种方法找寻网络中的条件独立性，达到减少计算量和复杂性的目的。这些都不过浅易的描述，进一步的学习，请参照相应的参照书的olytree的概率推理和Bayes网的学习和动作等章节，此中有很详细的论述。