不精确概率学习笔记(二):决策哲学与选择函数 [imprecise-probability-decision-philosophy-and-choice-functions]

这篇笔记是不精确概率暑期学校笔记的第二篇,这篇主要讲决策过程中的选择哲学。Choice function 这部分可以看成 desirable gambles 思路从二元比较向一般集合选择的一种推广:desirable gambles 更自然地描述“两个选项之间谁更好”,choice function 则直接面对“一堆选项里哪些不应该被排除”这个问题。后面有一串公理和性质,我不太感兴趣,而且其中不少都有很直观的几何解释,所以这篇还是简单讲讲思路,数学内容只补最必要的一点。(为了完成每个月更新一篇的flag,今天突击了一下,差点忘了今天是九月最后一天了,数学部分的细节是GPT写的,直觉由我提供)

不精确概率中的逻辑

一个 claim 总要有相应的逻辑链条:概念从哪里出发,为什么这样定义,以及如何 defend 自己的 claim。只要整个思维过程足够严密、完整即可。不精确概率的发展本身也一直带有很强的概率哲学和决策理论色彩。

有的研究从理性选择、公理或者偏好关系出发,再推出概率或不精确概率的表示;也有的研究先给出概率集合、lower prevision 等不确定性模型,再讨论它们诱导出怎样的决策规则。并不存在唯一一种必须遵循的叙述顺序,这篇笔记还是从我自己做决策的感觉出发。

假如现在有几个选项,最终作出决策时,脑袋里首先出现的往往不是一个非常具体的数值,而是某种偏好关系。问题在于,这种偏好未必足够完整,甚至未必能够把所有选项稳定地排成一个全序。例如,我可能明确认为 A 比 C 好,也明确认为 B 比 C 好,但对于 A 和 B,由于信息不足,我并没有足够理由认为其中一个一定比另一个好。

这其实比“比较以后产生矛盾”更贴近不精确概率的思路:重点不一定是人的偏好发生了循环,而是在证据不充分的时候,我们可能根本没有资格比较某些选项。部分偏好关系因此是很自然的,而不必强迫所有东西都排成一列。

那么,自然地就想找一些数学对象,把这些“已经能够作出的比较”和“暂时无法作出的比较”表示出来。这里需要稍微修正一个直觉:引入不精确概率并不是为了让 belief 变得更加精确,恰恰相反,它允许我们在信息不足时不强行制造额外的精确性。

比如,与其硬指定唯一的概率分布 p,不如只认为真实的概率模型属于某个集合 P。这个集合通常叫 credal set。不同的 p 代表在当前信息下仍然没有被排除的不同精确信念。类似地,也可以用 lower prevision、sets of desirable gambles 等对象描述这种不完整的信念。它们之间存在很多表示关系,所以“不精确概率”本身更像一个大口袋,装了很多种数学模型,而不是某一种唯一的数学模型,这是优点也是缺点:优点是能包罗万象,好多东西都可以说,噢,这是不精确概率的方法,只不过研究者自己不说自己在做IP;缺点也是太general了,领域内部自己人的taste差别很大,所以我觉得对我来讲,把IP用到具体的领域是个更靠谱的选择。

选择函数

先说 gamble。严格一点,gamble 不是“策略”本身,而是一个从可能状态映射到收益或效用的函数;一个策略或者 act 在给定模型下通常会诱导出一个 gamble。假设状态空间是 X,一个 gamble f 可以简单理解为:如果最终状态是 x,就得到 f(x)。

现在给我一个有限的候选集合 A,choice function 做的事情不是寻找“所有成立的 gamble”,而是从 A 中返回当前决策规则不能拒绝的那些选项。因此最简单的写法是:

\varnothing\neq C(A)\subseteq A.

与它完全等价的说法是定义 rejection function:

R(A)=A\setminus C(A).

所以 choice function 本质上在回答:“面对 A 这一组候选项,我有哪些选项仍然保留?”它天然可以返回多个元素,并不要求最后只剩唯一一个。

于是面对一个候选集合 A,那些没有被其他选项严格击败的 gamble 就可以保留下来:

C_D(A)=\{f\in A:(\forall g\in A)\;g-f\notin D\}.

所以,与其说 choice function 是“加细的 desirable function”,更准确的说法是:desirability 给出了非常自然的二元比较,而 choice function 把这种思想推广到了集合值、非二元的选择问题。一般的 coherent choice function 甚至可以表示成一组 coherent desirable sets 所对应选择规则的组合,而不必只依赖一个 D。

从几何角度看

我比较喜欢从几何上想这个问题。

首先考虑一个精确概率分布 p,并暂时把 gamble 的数值直接理解成 utility。两个选项 g 和 f 谁好,可以比较它们差值的期望:

E_p[g-f]=\sum_{x\in X}p(x)(g(x)-f(x)).

如果这个量大于 0,就认为在 p 下 g 比 f 好。

固定 p 以后,期望算子其实就是一个线性泛函。因此所有期望严格为正的方向构成:

H_p=\{h:E_p[h]>0\}.

这就是线性空间中的一个开半空间。于是精确概率下的很多选择问题,几何上确实就是“某个向量落在一个半空间的哪一边”。

另外还有一个甚至不需要概率的底线:如果 g 在每一种状态下都严格比 f 好,那么无论信念具体是什么,都没有什么理由选择 f 而拒绝 g。这就是最简单的 dominance 思想,也是 desirable gambles 的 coherence 条件背后的基本直觉之一。

那么,如果概率本身也不精确,只知道 p 属于 credal set P,会发生什么?

这时候不能简单说成“两个情况的交界”,因为不同 decision rule 对 P 的使用方式并不一样。这里最典型的是 maximality 和 E-admissibility。Troffaes 对不精确概率下不同 decision criteria 有比较系统的整理,而后来的 choice-function 文献则把这些规则统一放到了 choice function 框架里。

Maximality 的想法很直接:只有当存在另一个 g,使得 credal set 中所有概率模型都认为 g 的期望比 f 大时,才有充分理由把 f 排除:

C_{\mathrm M}(A)=\{f\in A:\nexists g\in A\text{ such that }(\forall p\in P)\ E_p[g]>E_p[f]\}.

从几何上看,如果令 h=g-f,那么“g 在所有 p 下都比 f 好”等价于 h 同时落在所有对应的正期望半空间里面:

h\in\bigcap_{p\in P}H_p.

所以这里会自然出现半空间的交、凸锥以及支配关系。这也是为什么 desirable gambles 和 choice function 的不少理论看起来非常几何。

但还有另一种很常见的规则叫 E-admissibility。它的标准不同:只要至少存在一个当前仍然可能的概率模型 p,使得 f 在这个 p 下是期望最优的,就保留 f:

C_{\mathrm E}(A)=\{f\in A:(\exists p\in P)\ f\in\operatorname*{arg\,max}_{g\in A}E_p[g]\}.

这两种规则并不一样。Maximality 要排除 f,需要找到一个 g,在所有 p 下统一击败 f;E-admissibility 则要求 f 至少能够在某一个 p 下成为最优选项。因此通常 E-admissibility 留下的集合会包含于 maximality 留下的集合。

这个区别我觉得挺能体现不精确概率的味道:概率集合本身并不会自动告诉你应该怎么决策,还需要再指定一个 decision rule。 Choice function 正好提供了一个很一般的语言,可以把这些不同规则统一描述成“给定 A,最后保留哪些选项”。E-admissibility 和 maximality 都只是其中的特殊情况。

所以我原来那句“choice function 从所有可能策略中,基于当前概率分布认知情况,排除掉所有的废物情况”大体直觉没错,但更准确一点应该说:

choice function 根据当前采用的偏好模型或决策准则,从候选集合中排除能够被判定为不可接受的选项,并返回所有尚未被拒绝的选项。

而且 choice function 本身并不一定非要来自概率模型。更一般的理论是反过来的:先把 choice behaviour 或 preference 当成基本对象,再研究什么条件下它能够表示成 sets of desirable gambles、lower previsions 或 probability models。De Bock 和 de Cooman 的表示结果就是在做这件事情。

得到 choice function 以后也不一定还要“再选一个”。如果 C(A) 有多个元素,这可以直接理解为:在目前的信息和决策准则下,这几个选项之间还没有充分理由进一步区分。如果现实任务强制要求最后只能执行一个,那么才需要加入额外的信息、tie-breaking rule,或者更强的决策原则。

其他涉及 coherence、Archimedeanity、mixing 等公理的内容我暂时略过。这些东西当然不是纯形式游戏:它们决定了一个 choice function 最终能够被表示成什么,例如 strict preference orders、lexicographic probabilities、coherent lower previsions 或 linear previsions。不过如果只是想抓住 choice function 在 IP 中的位置,我觉得上面的几何图景已经够用了。

总结

我目前接触到的不精确概率文献里,有相当一部分工作的 taste 确实偏向决策:先把 option 或 gamble 放进一个线性空间,用集合表示不完整的信息,然后通过 coherence 等公理研究这些集合以及相应的选择规则。

线性空间当然方便,而且快。期望是线性的,概率约束经常给出半空间,多个模型叠起来就是半空间的交,因此很多问题很自然地变成凸集、凸锥以及线性规划问题。

但是数学表示采用线性结构,并不意味着现实机制本身是线性的。实际问题当然大量是非线性的,只不过我们经常先把复杂的现实过程简化,再把最终结果表示成 gamble 或 utility-valued option。到了这一层以后,才获得可以利用的线性结构。换句话说,很多时候并不是假装现实世界是线性的,而是在寻找一个适当的表示,使其中真正需要处理的一部分变得线性。

我学通信原理的时候,一位教通信的老师说过,世界中存在着噪声,但噪声也给了我们饭碗,因为如果没有噪声,收发信号就没什么技术含量了。世界是复杂的。从复杂的世界中抽象出简单、但仍然对实际有指导意义的数学模型,就是一件很有趣的事情。把未知问题已知化,把能够线性化的部分线性化,在不能完全比较的时候承认“我现在还不知道”,同时又尽可能利用已经获得的信息。

对复杂问题正确地抓住主要矛盾进行思考,我想这就是科学的难处和乐趣。