03.04-Agent学习记录-概率与条件概率

前面几篇认识了向量、矩阵与张量,以及一些运算关系。接下来转向另一个经常出现在模型与 Agent 中的概念:概率。

舒翱移动端 / 全栈 / Agent 应用

正文

会议通知程序查到一条标题含有“变更”的记录,我们会自然地想,这场会议是不是改期了?但“标题里出现变更”与“会议确实改期”,并不是同一件事。也可能只是地点变更,或者标题沿用了旧名称。

如果想用数据说明两者的关系,就需要把“在什么范围里,什么事情发生的可能性”说清楚。

先准备一个完全假设的例子。我们有 100 条会议记录,已经人工核对过是否改期,也检查了标题有没有“变更”字样。数据如下:

会议情况 有“变更”字样 没有“变更”字样 合计
已改期 8 12 20
未改期 2 78 80
合计 10 90 100

这些数字只为讲解构造,不代表某个真实日历的统计结果。我们再约定,从这 100 条记录中随机抽取一条,每条被抽中的机会相同。

现在,“抽到哪一条记录”有 100 种可能结果。全部可能结果组成的范围,叫样本空间;其中满足某个条件的结果集合,叫事件。比如,“抽到一场已改期会议”就是一个事件。

概率用来为事件分配可能性,数值在 0 到 1 之间。 在这个等机会抽取的有限例子里,一个事件的概率,可以用满足条件的记录数除以总记录数。

把“已改期”记作 A,那么 P(A)=20/100=0.2,也就是 20%。P 是概率的常见记号,括号里写我们关心的事件。

这里的 20%,准确地说,是按约定从这批记录抽取时,抽到已改期会议的概率。不能跳过数据来源与抽取方式,直接把它当成任何团队今后会议的改期概率。

在这批记录中,“未改期”正好是 A 的补事件,也就是剩下的全部情况,概率为 1−20%=80%。能够直接相减,是因为这里的两类互不重叠,又覆盖了全部记录;任意选两个不同名称的事件,并不一定有这样的关系。

等机会这个前提也很重要。如果程序更常抽取某些记录,就不能只按条数计算。更不能因为一件事只有“成功”和“失败”两种结果,就推断二者各占 50%;可能结果的名称数,并没有说明它们的概率大小。

接下来,假设我们已经知道抽到的标题有“变更”字样。现在再问它是否改期,范围就发生了变化。

我们不再看全部 100 条,而只看有字样的 10 条。其中 8 条确实改期,所以相应概率是 8/10=80%。

把“标题有变更字样”记作 B,刚才算的就是 P(A|B),读作“在 B 已知的条件下,A 的概率”。竖线右边是已知条件,左边是仍然关心的事件。

条件概率的关键,是在条件所限定的范围内,重新计算目标事件所占的概率。

它的一般公式是:

P(A|B) = P(A∩B) / P(B),要求 P(B)>0。

A∩B 表示两件事同时成立,符号 ∩ 可以读成“且”。在这张表里,同时改期且标题有字样的记录占全部的 8%,标题有字样的占 10%,因此 0.08/0.10=0.8。条件概率的定义与计算

从 8% 的联合概率变为 80% 的条件概率,并不是会议被我们看过以后才改变。变化的是已经掌握的信息与计算时的范围。这个条件也不要求在时间上先发生,它表达的是“把什么作为已知”,而不是一条事件先后顺序。

分母不能为零,是因为没有概率质量的条件,不能直接用这个除法定义来计算。对于更一般的情况,还需要更完整的数学处理;本篇先理解表格中的正概率条件。

同样两个事件,如果把方向换过来,结果又不同。

P(B|A) 问的是:已知会议改期,标题有“变更”字样的概率是多少?这时分母换成全部已改期的 20 条,结果是 8/20=40%。

80% 与 40% 没有矛盾。前者从有字样的记录里找改期会议,后者从改期会议里找有字样的标题。条件不同,问题就不同。

在实际分析中,这种反向混淆很常见。“真正改期的会议中,多少能被某个标记找出来”,不等于“被标记的会议中,多少真的改期”。下一篇贝叶斯推断,会继续处理这种从观察结果反过来判断的关系。

还可以问一个同时发生的问题:抽到的会议既改期,标题又有字样,概率是多少?

表格直接给出 8/100=8%。它也可以写成 P(A|B)×P(B),即 80%×10%。注意,不能不加条件地把 P(A) 与 P(B) 相乘;20%×10%=2%,在这里并不是正确答案。

只有满足独立关系时,才有 P(A∩B)=P(A)P(B)。

两个事件独立,表示知道其中一个发生,不改变另一个的概率。 在条件概率有定义时,可以用 P(A|B)=P(A) 来表达。我们的例子里,80% 明显不同于 20%,所以这两个事件并不独立。事件独立与乘法关系

抽取方式也会影响独立性。从这 100 条里连续抽两条且不放回,如果第一条已经是改期记录,剩余 99 条里就只有 19 条改期,下一条的概率变成 19/99。把处理分成两次执行,并不能证明两次结果独立。

独立还容易与“互斥”混淆。互斥表示两个事件不能同时发生。例如,对同一条记录,按本例口径定义的“已改期”和“未改期”不能同时成立。

这与独立不同。既然已知它已经改期,“未改期”的概率就变成零,当然不是保持原来的 80%。对于两个概率都大于零的事件,互斥意味着它们不独立。这里需要保留“都大于零”的条件,不能把这个判断无条件推广到所有事件。

如果问的是“改期,或者标题有字样”,范围又会扩大。直接把 20 条和 10 条相加,会把同时满足的 8 条算两次;减去重复部分,得到 22 条,概率为 22%。

这些计算提醒我们,看到“且”“或”“在……条件下”时,要先辨认问题,再选择对应计算。符号的作用,是把这些关系记清楚,而不是替代对问题的理解。

条件概率也没有自动给出因果关系。标题有字样与改期可能相关,但不能据此证明改标题导致会议时间变化。它们也可能共同来自一次日历更新,或者受到记录习惯等其他因素影响。

数据范围变化,结果也可能变化。客户会议与内部例会的命名方式不同,昨天与今天的改期比例也可能不同。如果把一种环境中的概率直接搬到另一种环境,就需要重新检查这些条件。

从真实数据估计概率时,还会遇到样本有限的问题。我们构造的表格比例很整齐,真实统计却可能受抽样误差、漏标或选择偏差影响。观察到某类情况暂时为零,也不能直接断言它以后永远不会发生。

对单条会议而言,概率也不是提前确定的结论。即使一组具有相似条件的记录中有 80% 改期,当前这条仍需要查看日历依据。概率描述了不确定性,并没有让每一条记录都带着可直接确认的事实答案。

在 Agent 中,这种区分尤其有用。模型可以利用信号安排核查顺序,但“值得优先核查”和“已经确认改期”,对应不同状态。模型说自己很有把握,也不自动等于得到了经过统计验证的概率。

先把事件、条件和分母想清楚,后面的分类指标、模型概率和评估数字就更容易读懂。下一篇继续用一个提醒信号的例子,看看已有比例与新观察怎样结合,形成贝叶斯推断。


当前学习编号:03.04 概率与条件概率。
下一学习编号:03.05 贝叶斯推断。后续还有其他学习编号。

关联分支:概率判断与指标对应 23.04 分类、回归与概率校准指标、23.13 重复试验、稳定性与置信区间;数据条件对应 04.12 类别不平衡、04.13 分布偏移与分布外数据、03.09 抽样误差与置信区间。

模型输出中的概率,另见 11.02 Logits 与 Softmax、11.04 Top-k 与 Top-p。这些支系会在各自编号中单独展开。

系列阅读

本篇学习编号:03.04 概率与条件概率。

上一篇: 03.03 矩阵秩与低秩分解 。

下一篇: 03.05 贝叶斯推断 。

延伸阅读

返回全部文章

搜索项目和文章

输入关键词,查找项目或文章。

使用 Tab 选择结果,按 Esc 关闭。