ASP源码.NET源码PHP源码JSP源码JAVA源码DELPHI源码PB源码VC源码VB源码Android源码
当前位置:首页 >> 数据库 >> 其他数据库 >> 从朴素贝叶斯分类器到贝叶斯网络(上)

从朴素贝叶斯分类器到贝叶斯网络(上)(1/5)

来源:网络整理     时间:2015-12-31     关键词:

本篇文章主要介绍了"从朴素贝叶斯分类器到贝叶斯网络(上)",主要涉及到方面的内容,对于其他数据库感兴趣的同学可以参考一下: 一、贝叶斯公式(一些必备的数学基础) 贝叶斯(Thomas Bayes)是生活在十八世纪的一名英国牧师和数学家。因为历史久远,加之他没有太多的着述留...

一、贝叶斯公式(一些必备的数学基础)

       贝叶斯(Thomas Bayes)是生活在十八世纪的一名英国牧师和数学家。因为历史久远,加之他没有太多的着述留存,今天的人们对贝叶斯的研究所知甚少。唯一知道的是,他提出了概率论中的贝叶斯公式。但从他曾经当选英国皇家科学学会会员(类似于院士)来看,他的研究工作在当时的英国学术界已然受到了普遍的认可。

       事实上,在很长一段时间里,人们都没有注意到贝叶斯公式所潜藏的巨大价值。直到二十世纪人工智能、机器学习等崭新学术领域的出现,人们才从一堆早已蒙灰的数学公式中发现了贝叶斯公式的巨大威力。为了方便后续内容的介绍,这里我们先来简单复习一下概率论中的一些基本知识。

       事件A在另外一个事件B已经发生条件下的发生概率,称为条件概率,记为P(A|B)。

       两个事件共同发生的概率称为联合概率。A与B的联合概率表示为 P(AB) 或者P(A,B)。

       进而有,P(AB) = P(B)P(A|B)=P(A)=P(B|A)。这也就导出了最简单形式的贝叶斯公式,即

P(A|B)=P(B|A)*P(A)/P(B)

       以及条件概率的链式法则

P(A1,A2,...,An) = P(An|A1,A2,...,An-1)P(An-1|A1,A2,...,An-2)...P(A2|A1)P(A1)

概率论中还有一个全概率公式

从朴素贝叶斯分类器到贝叶斯网络(上)

由此可进一步导出完整的贝叶斯公式

从朴素贝叶斯分类器到贝叶斯网络(上)

二、朴素贝叶斯分类器(Na?ve Baysian classifier)

       分类是机器学习和数据挖掘中最基础的一种工作。假设现在我们一组训练元组(Training tuples),或称训练样例,以及与之相对应的分类标签(Class labels)。每个元组都被表示成n维属性向量X=(x1, x2, ..., xn)的形式,而且一共有K个类,标签分别为C1, C2, ..., Ck。分类的目的是当给定一个元组X时,模型可以预测其应当归属于哪个类别。

相关图片

相关文章