贝叶斯简介
简介
本章节开始介绍贝叶斯定理,贝叶斯公式于 1763 年发表,是英国数学家贝叶斯发展起来的,用来描述两个条件概率之间的关系,比如 P(A|B) 和 P(B|A)。按照乘法规则,可以立刻导出:P(A∩B)=P(A) * P(B|A) = P(B) * P(A|B)。 如上公式可以变形成为: P(A|B) = P(B|A) * P(A) / P(B)。
定义
贝叶斯的统计学中有一个基本的工具叫贝叶斯公式,也称贝叶斯法则,尽管它是一个数学公式,但其原理毋需数字也可明了。如果你看到一个人总是做一些好事,则那个人多半会是一个好人。这就是说,当你不能准确知悉一个事物的本质时,你可以依靠与事物特定本质相关的事件出现的多少去判断其本质属性的概率。用数学语言表达就是:支持某项属性的事件发生得愈多,则该属性成立得可能性就愈大。
贝叶斯公式又被称为贝叶斯定理。贝叶斯规则是概率统计中得应用所观察到得现象对有关概率分布得主观判断(即先验概率)进行修正的标准方法。
所谓贝叶斯公式,是指当分析样本大到接近总体数时,样本中事件发生的概率将接近与总体中事件发生的概率。但行为经济家发现,人们在决策过程中往往并不遵循贝叶斯规律,而是给予最近发生的事件和最新的经验以更多的权值,在决策和做出判断时过分着重近期的事件。面对复杂而笼统的问题,人们往往走捷径,依据可能性而非根据概率来决策。这种对经典模型的系统性偏离称为“偏差”。由于心理偏差的存在,投资者在决策判断时并非绝对理性,会行为偏差,进而影响资本市场上价格的变动。但长期以来,由于缺乏有力的代替工具,经济学家不得不在分析中坚持贝叶斯法则。
原理
贝叶斯法则
通常,事件 A 在事件 B(发生)的条件下的概率,与事件 B 在事件 A 的条件下的概率是不一样的;然而,这两者是有确定的关系,贝叶斯法则就是这种关系的陈述。
作为一个规范的原理,贝叶斯法则对于所有的概率的解释是有效的;然而,频率主义者和贝叶斯主义者对于在应用中概率如何被赋值有着不同的看法:频率主义者根据随机事件的发生频率,或者总统样本里面的个数来赋值概率;贝叶斯主义者要根据未知的命题来赋值概率。一个结果就是,贝叶斯主义者有更多的机会使用贝叶斯法则。
贝叶斯法则是关于随机事件 A 和 B 的条件概率和边缘概率的。
其中 P(A|B)是在 B 发生的情况下 A 发生的可能性。
在贝叶斯法则中,每个名词都有约定成俗的名称:
P(A)是 A 的先验概率或边缘概率。之所以被称为“先验”是因为它不考虑任何 B 方面的因素。
P(A|B)是已知发生后 A 的条件概率,也由得自 B 得取值而被称为 A 得后验概率。
P(B|A)是已知发生后 B 的条件概率,也由得自 A 得取值而被称为 B 得后验概率。
P(B)是 B 得先验概率或边缘概率,也作标准化常量。
按这些术语,Bayes 法则可表达为:
后验概率 = (似然度 * 先验概率) / 标准化常量 也就是说,后验概率与先验概率和似然度得乘积成正比。
另外,比例 P(B|A)/P(B)也有时候被称作标准似然度,Bayes 法则可表达为:后验概率 = 标准似然度 * 先验概率。
贝式定理
对于变量有两个以上得情况,贝式定理亦成立。例如:
这个式子,可以由套用多次两个变量得贝氏定理及条件概率得定义导出。
寄语
本章主要是介绍了贝叶斯公式是什么,以及贝叶斯公式得概念,希望对大家可以有所帮助。贝叶斯现在在我们成活中得很多地方都可以见到了,随着人工智能,机器学习得发展,贝叶斯网络得应用,也越来越广泛。下面一章,小落叶将为大家介绍有关贝叶斯网络得知识。如果有喜欢小落叶的,可以给小落叶一点支持,谢谢大家!!!!
评论