贝叶斯定律

贝叶斯定律：假设H[，1]，H[，2]…互斥且构成一个完全事件，已知它们的概率P(H[，i]，i=1，2，…，现观察到某事件A与H[，1]，H[，2]…相伴随而出现，且已知条件概率P(A/H[，i])，求P(H[，i]/A)。

心理学研究中常被引用的例子

参加常规检查的40岁的妇女患乳腺癌的概率是1%。如果一个妇女有乳腺癌，则她有80%的概率将接受早期胸部肿瘤X射线检查。

如果一个妇女没有患乳腺癌，也有96%的概率将接受早期胸部肿瘤X射线测定法检查。在这一年龄群的常规检查中某妇女接受了早期胸部肿瘤X射线测定法检查。问她实际患乳腺癌的概率是多大？设H[，1]=乳腺癌，H[，2]=非乳腺癌。

A=早期胸部肿瘤X射线检查（以下简称“X射线检查”），已知P(H[，1])=1%，P(H[，2])=99%，P(A/H[，1])=80%，P(A/H[，2])=96%，求P(H[，1]/A)。根据贝叶斯定理，P(H[，1]/A)=(1%)(80%)/[(1%)(80%)+(99%)(96%)]=0078。

心理学家所关心的是，一个不懂贝叶斯原理的人对上述问题进行直觉推理时的情形是怎样的，并将他们的判断结果与贝叶斯公式计算的结果做比较来研究推理过程的规律。因此有关这类问题的推理被称为贝叶斯推理。

贝叶斯

出生于伦敦，毕业于爱丁堡大学，英国数学家。贝叶斯做过神甫，1742年成为英国皇家学会会员，1761年4月7日逝世，贝叶斯在数学方面主要研究概率论，他首先将归纳推理法用于概率论基础理论，并创立了贝叶斯统计理论。

引入：

定义： （英语：Bayes' theorem）是概率论中的一个定理，描述在已知一些条件下，某事件的发生几率。比如，如果已知某癌症与寿命有关，使用贝叶斯定理则可以透过得知某人年龄，来更加准确地计算出他罹患癌症的几率。———— wiki解释

贝叶斯公式：

事件B发生的条件下，事件A发生的概率为：

事件A发生的条件下，事件B发生的概率为：

由此可得：

得贝叶斯公式如下：

贝叶斯公式：

上式可以理解为：

所以贝叶斯的底层思想为：

如果掌握了一个事情的全部信息，就可以计算出一个客观概率(古典概率、正向概率)，但是绝大多数决策面临的信息都是不全的，在有限信息的条件下，尽可能预测一个好的结果，也就是在主观判断的基础上，可以 先估计一个值（先验概率），然后根据观察的新信息不断修正（可能性函数） 。

问题 ：有两个一模一样的碗，1号碗里有30个巧克力和10个水果糖，2号碗里有20个巧克力和20个水果糖。然后把碗盖住。随机选择一个碗，从里面摸出一个巧克力。 这颗巧克力来自1号碗的概率是多少？

求解问题：

已知信息：

应用贝叶斯：

问题 ：假设艾滋病的发病率是0001，即1000人中会有1个人得病。现有一种试剂可以检验患者是否得病，它的准确率是099，即在患者确实得病的情况下，它有99%的可能呈现阳性。它的误报率是5%，即在患者没有得病的情况下，它有5%的可能呈现阳性。 现有一个病人的检验结果为阳性，请问他确实得病的可能性有多大？

求解问题：

已知信息:

应用贝叶斯定理:

造成这么不靠谱的误诊的原因，是我们无差别地给一大群人做筛查，而不论测量准确率有多高，因为正常人的数目远大于实际的患者，所以误测造成的干扰就非常大了。 根据贝叶斯定理，我们知道提高先验概率，可以有效的提高后验概率。 所以解决的办法倒也很简单，就是先锁定可疑的样本，比如10000人中检查出现问题的那10个人，再独立重复检测一次，因为正常人连续两次体检都出现误测的概率极低，这时筛选出真正患者的准确率就很高了，这也是为什么许多疾病的检测，往往还要送交独立机构多次检查的原因。

问题 ：最初的垃圾邮件过滤是靠静态关键词加一些判断条件来过滤，效果不好，漏网之鱼多，冤枉的也不少。2002年，Paul Graham提出 使用"贝叶斯推断"过滤垃圾邮件 。因为 典型的垃圾邮件词汇在垃圾邮件中会以更高的频率出现 ，所以在做贝叶斯公式计算时，肯定会被识别出来。之后用最高频的15个垃圾词汇做联合概率计算，联合概率的结果超过90%将说明它是垃圾邮件。

不过这里还涉及到一个问题，就是单个关键词的概率（单个条件）无论如何再高，这封邮件仍然有可能不是垃圾邮件，所以在此处应用贝叶斯定理时，我们显然要用到多个条件，也就是计算这个概率：

Paul Graham 的做法是，选出邮件中 P（垃圾邮件|检测到“X”关键词） 最高的 15个词 ，计算它们的 联合概率 。（如果关键词是第一次出现，Paul Graham 就假定这个值等于 04 ，也即认为是negative normal）。

后续更新……

参考文章1：(知乎)小白之通俗易懂的贝叶斯定理（Bayes' Theorem）

参考文章2：()贝叶斯公式/贝叶斯法则/贝叶斯定理

1、贝叶斯法则通俗解释是：通常，事件A在事件B(发生)的条件下的概率，与事件B在事件A的条件下的概率是不一样的；然而，这两者是有确定的关系,贝叶斯法则就是这种关系的陈述。

2、贝叶斯定理是关于随机事件A和B的条件概率（或边缘概率）的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。

对一个较复杂的事件A，如果能找到一伴随A发生的完备事件组B1、B2```，而计算各个B的概率与条件概率P(A/Bi)相对又要容易些，这是为了计算与事件A有关的概率，可能需要使用全概率公式和Bayes公式。

1、全概率公式为概率论中的重要公式，它将对一复杂事件A的概率求解问题转化为了在不同情况下发生的简单事件的概率的求和问题。

内容：如果事件B1、B2、B3…Bn 构成一个完备事件组，即它们两两互不相容，其和为全集；并且P（Bi)大于0，则对任一事件A有

P(A)=P(A|B1)P(B1) + P(A|B2)P(B2) + + P(A|Bn)P(Bn)。

或者：p(A)=P(AB1)+P(AB2)++P(ABn))，其中A与Bn的关系为交)。

2、贝叶斯定理是关于随机事件A和B的条件概率（或边缘概率）的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。

早在18世纪，英国学者贝叶斯(1702～1761)曾提出计算条件概率的公式用来解决如下一类问题：假设H[1],H[2]…,H[n]互斥且构成一个完全事件，

已知它们的概率P(H[i]),i=1,2,…,n,现观察到某事件A与H[1],H[2]…,H[n]相伴随机出现，且已知条件概率P(A|H[i])，求P(H[i]|A)。

扩展资料

先验概率区别

1、先验概率不是根据有关自然状态的全部资料测定的，而只是利用现有的材料(主要是历史资料)计算的；后验概率使用了有关自然状态更加全面的资料，既有先验概率资料，也有补充资料；

2、先验概率的计算比较简单，没有使用贝叶斯公式；而后验概率的计算，要使用贝叶斯公式，而且在利用样本资料计算逻辑概率时，还要使用理论概率分布，需要更多的数理统计知识。

——全概率公式

——先验概率

——贝叶斯定理

贝叶斯定理由英国数学家贝叶斯( Thomas Bayes 1702-1761)发展，用来描述两个条件概率之间的关系，比如P(A|B)和P(B|A)。按照乘法法则，可以立刻导出：P(A∩B)= P(A)P(B|A)=P(B)P(A|B)。如上公式也可变形为：P(A|B)=P(B|A)P(A)/P(B)，那么贝叶斯公式的意义是什么？

1、 贝叶斯的统计学中有一个基本的工具叫贝叶斯公式、也称为贝叶斯法则，尽管它是一个数学公式，但其原理毋需数字也可明了。如果你看到一个人总是做一些好事，则那个人多半会是一个好人。这就是说，当你不能准确知悉一个事物的本质时，你可以依靠与事物特定本质相关的事件出现的多少去判断其本质属性的概率。用数学语言表达就是：支持某项属性的事件发生得愈多，则该属性成立的可能性就愈大。

2、 贝叶斯公式又被称为贝叶斯定理、贝叶斯规则是概率统计中的应用所观察到的现象对有关概率分布的主观判断（即先验概率）进行修正的标准方法。

3、 所谓贝叶斯公式，是指当分析样本大到接近总体数时，样本中事件发生的概率将接近于总体中事件发生的概率。但行为经济学家发现，人们在决策过程中往往并不遵循贝叶斯规律，而是给予最近发生的事件和最新的经验以更多的权值，在决策和做出判断时过分看重近期的事件。

4、 面对复杂而笼统的问题，人们往往走捷径，依据可能性而非根据概率来决策。这种对经典模型的系统性偏离称为“偏差”。由于心理偏差的存在，投资者在决策判断时并非绝对理性，会行为偏差，进而影响资本市场上价格的变动。但长期以来，由于缺乏有力的替代工具，经济学家不得不在分析中坚持贝叶斯法则。

关于贝叶斯公式的意义是什么内容的介绍就到这了。

贝叶斯法则通俗解释是：通常，事件 A 在事件 B （发生）的条件下的概率，与事件 B 在事件 A 的条件下的概率是不一样的；然而，这两者是有确定的关系，贝叶斯法则就是这种关系的陈述。

贝叶斯定理由英国数学家贝叶斯发展，用来描述两个条件概率之间的关系，比如 P ( A|B ）和 P ( B|A )。按照乘法法则，可以立刻导出： P ( AnB )= P ( A ) P ( B|A )= P ( B）P ( A|B )。如上公式也可变形为：P ( A|B )= P （A）P( B|A )= P ( B ) P ( A|B )。

贝叶斯公式的用途在于通过己知三个概率来推测第四个概率。它的内容是：在 B 出现的前提下，A 出现的概率等于 A 出现的前提下 B 出现的概率乘以 A 出现的概率再除以 B 出现的概率。通过联系 A 与 B，计算从一个事件发生的情况下另一事件发生的概率，即从结果上溯到源头（也即逆向概率）。

通俗地讲就是当你不能确定某一个事件发生的概率时，你可以依靠与该事件本质属性相关的事件发生的概率去推测该事件发生的概率。用数学语言表达就是：支持某项属性的事件发生得愈多，则该事件发生的的可能性就愈大。这个推理过程有时候也叫贝叶斯推理。

一、全概率公式

全概率公式为概率论中的重要公式，它将对一复杂事件A的概率求解问题转化为了在不同情况下发生的简单事件的概率的求和问题。

内容：如果事件B1、B2、B3…Bi构成一个完备事件组，即它们两两互不相容，其和为全集；并且P（Bi)大于0，则对任一事件A有

P(A)=P(A|B1)P(B1) + P(A|B2)P(B2) + + P(A|Bi)P(Bi)。

或者：p(A)=P(AB1)+P(AB2)++P(ABi))，其中A与Bi的关系为交)。

二、贝叶斯公式

贝叶斯定理由英国数学家贝叶斯 ( Thomas Bayes 1702-1761 ) 发展，用来描述两个条件概率之间的关系，比如 P(A|B) 和 P(B|A)。按照乘法法则，可以立刻导出：P(A∩B) = P(A)P(B|A)=P(B)P(A|B)。如上公式也可变形为：P(A|B)=P(B|A)P(A)/P(B)。

全概率公式和Bayes公式：

概率论的一个重要内容是研究怎样从一些较简单事件概率的计算来推算较复杂事件的概率，全概率公式和Bayes公式正好起到了这样的作用。

对一个较复杂的事件A，如果能找到一伴随A发生的完备事件组B1、B2```，而计算各个B的概率与条件概率P(A/Bi)相对又要容易些，这是为了计算与事件A有关的概率，可能需要使用全概率公式和Bayes公式。