正文
实际使用会议助手时,我们往往先看到结果,再想了解背后的情况。例如,系统把一条记录标为“可能改期”,我们想知道这条提示究竟有多大参考价值。
贝叶斯推断,就可以帮助我们把已有信息与新观察结合起来,更新判断。
先构造一组完全假设的条件。设 A 表示“会议确实改期”,B 表示“系统出现改期提醒”。在当前讨论的会议范围里,我们假设:
改期比例为 1%;已经改期时,出现提醒的概率为 90%;没有改期时,仍出现提醒的概率为 5%。
这些比例都是教学设定,不是某个真实模型的评测成绩。最后一项表示误报,也就是没有改期,却被提醒信号标了出来。
看到 90%,很容易把它理解成“出现提醒就有 90% 的概率改期”。但这个数说的是 P(B|A):在已经改期的条件下,系统多常出现提醒。我们现在要找的,却是 P(A|B)。
为了把方向看清楚,可以把比例展开成 10000 条假想会议记录。
其中 1% 改期,也就是 100 条。按设定的提醒比例,这部分有 90 条出现提醒,10 条没有提醒。
另外 9900 条没有改期。虽然误报比例只有 5%,乘上较大的基数以后,也会得到 495 条提醒。
于是,全部出现提醒的记录共有 90+495=585 条,其中真正改期的只有 90 条。目标概率是:
P(A|B) = 90 / 585 = 2/13 ≈ 15.4%。
这里用假想记录把比例展开,便于计数;并不是说真实随机抽取 10000 条,数量就必然正好如此。实际抽样结果还会波动。
15.4% 比原先的 1% 高了很多,说明提醒确实提供了有用信息;但它也没有达到 90%。造成这种差别的关键,是未改期会议原本远多于改期会议。
这就涉及“基础率”:在看到这条提醒之前,目标情况在相关范围中有多常见。只盯着识别或提醒能力,忽略基础率,就可能严重误解一条提示的含义。贝叶斯公式与基础率问题
现在再把刚才的计数过程写成公式:
P(A|B) = P(B|A)P(A) / P(B),要求 P(B)>0。
在我们的二分类设定中,A 与“非 A”覆盖全部情况,因此分母可以展开成:
P(B) = P(B|A)P(A) + P(B|非 A)P(非 A)。
代入数值,分子为 0.9×0.01=0.009,分母为 0.009+0.05×0.99=0.0585,再相除就得到约 0.1538。
分母把所有可能出现提醒的路径加起来,使结果成为在“已出现提醒”条件下的概率。不能只计算分子,就把 0.009 当成目标答案;那个数描述的是会议既改期又出现提醒的联合概率。
贝叶斯推断中,还有三个需要对应到例子的名称。
先验,是在考虑这次新观察之前,对假设所分配的概率。 本例中的 P(A)=1%,就是看到当前提醒以前,结合讨论范围已有的判断。先验不等于完全没有信息,也不意味着可以随意填一个自己喜欢的数。
似然,描述在某个假设成立时,当前观察会怎样出现。 本例 P(B|A)=90%,以及 P(B|非 A)=5%,就用于比较提醒信号在两种情况下有多常见。
当我们把已观察到的 B 固定下来,转而比较不同假设时,可以把这些条件概率看作假设的似然。它们不是“各个假设成立的概率”,也不要求作为两个假设的分配加起来等于 1。
后验,是结合这次观察以后,更新得到的假设概率。 本例中约 15.4% 的 P(A|B),就是改期事件的后验概率。先验、似然与后验的关系
用一句话概括,这个更新过程是在模型假设下,按“先验乘似然”,再调整成总概率合适的结果。它既考虑原来有哪些可能,也考虑新证据更支持哪一种可能。
如果基础率改变,结果也会改变。
仍然假设提醒机制保持不变,但讨论范围变成一个频繁改期的项目,其中改期比例为 20%。此时计算得到:
0.9×0.2 / (0.9×0.2 + 0.05×0.8) ≈ 81.8%。
同样是 90% 的提醒能力与 5% 的误报比例,后验却从约 15.4% 变为约 81.8%。不是公式变了,而是背景条件改变了。
这也提醒我们,只有两个假设,并不意味着先验应该各占一半。把它们设成 50% 与 50%,同样是在加入一项具体判断,并不是自动获得了“没有假设”的中立起点。
实践中可以说明先验来自哪些历史资料、哪些经验或建模约定,再看看换用几组合理先验时,结论会改变多少。如果结论非常敏感,就应当把这种不确定性保留下来,而不是只报告一个小数点很多的结果。
所以,应用一组概率时,需要问清楚它来自哪些项目、哪个时间段以及什么数据。不能把其他团队的比例搬过来,就当成本项目已经核实的事实。
实际的贝叶斯问题,也不总是判断某一条记录是否改期。我们还可以把一个未知参数作为假设对象,例如系统真正的误报比例是多少。此时先验和后验可能是一整条分布,而不只是一个数。
本篇先用两个离散情况理解更新机制。更复杂的模型需要描述更多假设、数据关系和计算方法,贝叶斯推断也不等于按一次计算器就解决所有不确定性。
如果后来又取得一个新信号,可以继续更新,但必须弄清它与原证据的关系。
例如,两个网页都出现同一条改期通知,可能只是互相转载。不能不加检查,就把它们当成两份独立证据,让信心翻倍。若要直接把两个信号在各假设下的似然相乘,需要相应的条件独立假设;有依赖关系时,则要使用恰当的联合或条件关系计算。连续更新与条件独立的前提
这里也能理解,为什么“资料看起来很多”不一定带来同等多的新信息。重复同一来源,与取得独立核实的会议记录,在推断中的作用可能不同。
计算结果的可靠性,还依赖先验、似然和假设本身是否合理。如果真实误报率已经改变,仍按旧数值计算,就会得到一个形式精确、却不适合当前环境的后验。
先验也需要允许证据发挥作用。在普通的这类更新中,如果一开始把某个假设的先验定为零,在分母有定义时,它乘上似然后仍然是零。把“暂时没见过”直接当成“绝无可能”,可能使模型无法通过后来的证据调整这个判断。
概率判断与操作决定也不是同一个问题。15.4% 是否值得优先核查,还与核查成本、遗漏改期的影响以及已有依据有关。相同的后验概率,放在不同任务中,可能对应不同处理方式;它本身没有指定唯一行动。
程序可以把更新后的判断作为任务数据保存,也不意味着大语言模型的参数随之发生训练更新。
对会议助手来说,贝叶斯推断可以帮助理解提醒信号,安排需要进一步检查的记录;真正要写进通知的时间,仍然应该与适当来源核对。概率更新不能替代日历记录,也不会赋予系统额外操作权限。
大语言模型说“我有九成把握”,也不自动表示它完成了上述推断。要把一个数当成可解释的概率,需要知道它的定义、数据依据及检验方式。
下一篇会把视角从一个事件扩展到一组可能结果:这些结果怎样组成分布,期望描述了什么,方差又怎样帮助我们理解变化程度。
当前学习编号:03.05 贝叶斯推断。
下一学习编号:03.06 分布、期望与方差。后续还有其他学习编号。
关联分支:基础率与适用范围对应 04.12 类别不平衡、04.13 分布偏移与分布外数据;概率解释与验证对应 23.04 分类、回归与概率校准指标、03.09 抽样误差与置信区间。
证据使用对应 15.19 相似度、相关性与真实性的区别;不确定环境中的决策另见 28.02 部分可观察决策过程 POMDP。这些支系会在各自编号中单独展开。