分享

贝叶斯学习法--我们几乎每天都在使用的数学工具

 llssmm44 2020-06-12

​​
​英国数学家托马斯·贝叶斯是个很神奇的人,他的经历类似梵高。生前没有得到重视,死后,他写的一篇关于归纳推理的论文被朋友翻了出来,并发表了。这一发表不要紧,结果
这篇论文的思想直接影响了接下来两个多世纪的统计学,是科学史上著名的论文之一。

学习方法系列丨贝叶斯学习法,我们几乎每天都在使用的数学工具

关于贝叶斯学习法的10条心得:

1、贝叶斯定理(Bayes’s Rule):如果有k个相互独立事件 A1,A2···,Ak 并且,P (A1) + P(A2) + ... + p(Ak)= 1 和一个可以观测到的事件 B,那么有:

学习方法系列丨贝叶斯学习法,我们几乎每天都在使用的数学工具

这个就是贝叶斯公式,相当简洁。
公式中有几个关键概念:P(A)为先验概率,即在观察事件B之前得到的事件A的假设概率P(A|B) 为后验概率,即在观察事件B后得到新数据后计算该假设A的概率P(B|A)为似然度,即在该假设A下得到这一观察数据 B 的概率P(B)为标准化常量,即在任何假设下得到这一观察数据 B 的概率
用一句人话表达则是:后验概率 = 先验概率×似然度

2、贝叶斯公式,是根据事物的历史信息推断它的本质或者走向的一种逻辑思考方法和数学方法。

3、通过互换,可以把一个复杂的问题变成几个简单的问题,这就是贝叶斯公式的本质。
在数学上经常要用这样的思路解决问题,看似绕了一个弯,实则是架起了几个桥梁,让本来没有直接通路的两个点,绕几段路能够联通。
3、一个15个月大的婴儿学习事物因果关系的速度,会比年龄比她大的孩子更快。
4、不断地猜测、试探、调整猜测,观点随着事实发生改变。就是婴儿的学习方法,这叫“贝叶斯方法”。
5、贝叶斯方法:

  • 先评估一下自己的信念,设定 P(信念);
  • 等待新证据;
  • 证据出来以后,用贝叶斯公式更新自己的信念,计算 P(信念|证据);
  • 继续等待新证据……

6、贝叶斯工具的用法:

  • 第一明确你的问题
  • 第二列出几种可能的情形,给予他们一样的权重
  • 第三尊重新的信息,给每个新信息赋予1到5不同的分数,对应哪种情形就把分加到那种情形上。
  • 持续一段时间,你会得到答案。

7、贝叶斯公式就是让我们永远保持谦卑、不断学习下去的最好“动力公式”。

8、贝叶斯的世界观


贝叶斯公式告诉我们,“先验”的作用固然很大,但我们依然需要保持开放心态,让观点随事实发生改变,用“似然”修改神经元的连接权重,用“后验概率”决定最终的判断。

9、用一句话总结,贝叶斯学习的精神就是观点要随着事实发生改变。

10、举个较为常见的例子:
某人参加体检,某项疾病筛查结果呈阳性,已知该疾病患病率是0.0004,仪器的准确率是99%。此人在普查中被查出阳性(从医学角度来说,一般,阳性代表有病或者有病毒,阴性代表正常),请问他的患病概率是多少?
把患病者记为事件A,属于健康人记为事件B,检查结果为阳性记为事件C,利用贝叶斯公式,可得:P(A|C)= P(A) *P(C|A)/( P(A) *P(C|A)+ P(B) *P(C|B))
代入数值,即可得出P(A|C)约等于0.0035,说明即使一次结果呈阳性,患病概率也较低,是否有些反直觉?

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多