能自己把信封博弈琢磨出来,只能说题主绝对是天才。这是博弈论里核心概念之一,叫共同知识。上学期做本科博弈论助教时恰好就这个知识点为课程写过补充讲义,就借来答题了。略长,而且大多是口语表述,不严格,证明也基本全部省略。如果有进一步需求可以到脚注和参考文献里找。其中许多材料来自 @长泽雅美 和@阿虎,他们在EGT方面有专业知识,表示感谢! 似乎CS领域关心这一问题知友很多,特地推荐Halpern和Moses文章Knowledge and Common Knowledge in a Distributed Environment,有很不错的介绍。如果是经济学方面知友,推荐Maschler,Solan和Zamir教材Game Theory第九章,也很不错。进阶和休闲读物请参见正文最后一段。最后,再次表达对题主的崇拜,很厉害!
大家可能记得一道智力题:一座小岛上有很多户人家,每一家养了一条狗,其中有些狗是疯狗。每一家人都能看到别人家狗的状况,但不知道自己家狗的状况,也不会与其它人家交流。假设如果有一户人家知道自己家养的是疯狗,那就要在当天晚上把狗打死。由于每户人家都不了解自己的情形,所以一开始不会有人家打死自己的狗。现在,从外面的世界来了一位旅行者,他/她当着全村人民的面说:“这个村子里有疯狗。”接下来的情况很有意思,假设村民都相信这句话,都是理性的,每天做一次判断。那么,如果原来村子里有条疯狗,那么这些疯狗会在第天晚上被一起打死。
大致分析如下:如果村里只有一条疯狗,那么,疯狗的主人将马上意识到自己的狗疯了,并且将狗打死。如果村里有两条疯狗,每一疯狗的主人都可以看到岛上还有一条疯狗。所以第一天晚上无事发生。但是,在第二天,疯狗的主人会意识到:另外一条疯狗的主人也知道村里至少有一条疯狗,而他/她没有选择打死自己的狗,这说明村里至少还有一条疯狗。由于村里只有两条疯狗,所以其它的狗都是正常的,所以可以推出最后,两条疯狗将在第2天晚上被一起打死。类似的分析可以容易地推广到更大的。
解这道题关键就在共同知识。以为例,在旅客到来之前,每个人都知道岛上有疯狗,因为每个人都至少可以看见一条疯狗,但没有人行动,因为每个人都不知道其他人是否知道岛上有疯狗。旅客到来之后,由于宣告当着所有人的面做出,每个人都看到其他人听到了宣告,这意味着他们知道其他人知道岛上有疯狗,也知道其他人知道自己知道其他人知道岛上有疯狗,依此类推。也即“岛上有疯狗”这一命题已经成为了公共知识。当时,我们需要用到第2层知识,当我们面对的是一般的时,我们需要用到第层知识。
类似题目非常多,以下再列举两道,其中都渗透了共同知识的思想[1]。一排学生,有的戴白帽子,有的戴红帽子,此时老师来一句,你们中有人戴了白帽子,是否每个学生都能猜出自己所戴帽子的颜色?另一个谜题是:两个儿子预期父亲会把数量为的钱装在两个信封里,一人得到一个,取值在1到6之间。现在他们打开信封,一个发现里面有10000元,一个发现里面有100000元,他们彼此不知道金钱数额。现在,父亲分别问他们:你愿意出1块钱来换对方手里的信封吗?毫无疑问,第一轮两个人都愿意换。如果父亲接下来一直问这个问题,大家可以想想,他们会一直愿意换吗?如果不是,哪一轮会开始出现否定答案?
我们接下来再给出一个更令人震惊的例子,即是楼主的问题,来自Rubinstein(1989)。
假设有两个将军,分别是A和B,要向敌方部队发起进攻(也可以想象成是两支基金要对一种主权货币发起进攻,等等),两军分驻两地,面对两支对方部队。对方兵力的分布有两种可能,如果判断错误,攻击会没有效果。同时,由于己方兵力不足,必须要同时发起攻击,否则会损兵折将。A将军知道敌方兵力的分布,而B将军只有一个先验概率。这意味着我们面对一个如下图所示的博弈,其中,第一行代表策略A进攻a,第二行代表A进攻b,第一列代表B进攻a,第二列代表B进攻b。每一格中第一个数字是A将军将获得的效用,第二个数字是B将军将获得的效用。
现在,为了取得最好的进攻效果,将军A需要把敌方主力在a这一点告诉将军B,由于那时还没有电话,他只能派出一个通信兵。通信兵在抵达将军B的驻地之后,会将敌方信息告知B。B会向通信兵说明自己已经知道了这个信息,并将这个信息返回给A,依此类推。由于通信兵在中途可能被敌方抓到,所以每次传递的信息都有的可能无法顺利到达对方。为弄明白这意味着什么,我们先回忆一下前面提到的共同知识这个概念。如果将军A、B都知道对方驻地,并且他们都知道对方知道对方驻地,他们都知道对方知道自己知道对方知道对方驻地,依此类推,我们就称地方驻地在a这一点是A和B之间的共同知识。在博弈的一开始,敌方兵力在b这一点只是A的私人知识,B根本就不知道。如果通信兵已经完成了从A到B的旅行,那么这一点就成为A和B的共有知识,A知道,B知道,但A不知道B知道。当通信兵又从B返回A时,此时A确知B已经知道了这一点,但B并不知道A是否知道自己已经知道了。因此,只有让通信兵在两个地方之间跑无限趟,我们才能把这个知识变为共同知识。
如果敌方驻地真是共同知识,那么,两位将军之间可以很容易地达成协调,但现在并非如此。因为通信兵每次旅行都有一个正概率被俘获,所以他/她能够顺利旅行无数次的可能性收敛到0,这意味着“敌方驻地为a”这一点以概率1不是共同知识。Rubinstein证明了下列命题:这个博弈唯一的纳什均衡是双方都不进攻,协调失败[2]。这实际上说明:任意阶的共有知识都不能完全替代共同知识。共同知识在很多时候是严格紧的要求,不能再放松,否则就有可能出现类似邮件博弈的情形。
为了严格处理共同知识,我们需要先定义知识。为定义知识,我们需要先定义我们的认知世界,这一贡献来自哲学家Hintikka。博弈论的发展和哲学,尤其是分析哲学的发展密不可分,以后我们会越来越多地看到这一点。在Hintikka的模型中,人的认知可以用下面的二元组[3] 来描述,其中,是世界所有可能状态的集合,P是认知函数,是从到的映射,它把每一个世界的真实状态映射成世界全体状态的一个子集。我们可以直观方式来理解这个模型。假设现在世界状态集合中有以下元素:A食品是转基因,A食品是非转基因,A食品对身体无害,A食品对身体有害。当状态“A食品是转基因”出现时,一位生物科学家的P会映射出子集{A食品是转基因,A食品对身体无害},而一位反转派的P则会映射出子集{A食品是转基因,A食品对身体有害}。有可能还有一类人比较“糊涂”。他们对转基因一无所知,甚至根本没听过,那就谈不上了解了。由于没有任何信息,此时他/她的P会映射出{A食品是转基因,A食品对身体无害,A食品对身体有害},他/她无法排除任何一种可能。
我们不可能对不做任何限制,这不仅违反直观,也导致我们无法做任何推断。以下三个公理是必须的,部分学者也用这几个公理来定义理性。
公理1意味着无论世界真实状态为何,人总是不会愚蠢到将真实状态排除出自己的认知。也可以解释成,人可以被迷惑,但不会荒唐到完全不顾真实。同时,这个公理也意味着对。公理2和3稍微有些抽象,我们可以做直观一些的理解。考虑公理2,如果世界的真实状态是,但人无法区分开和,这意味着必须包含了如果世界状态是时所有可能的认知。如果不是这样,假设中有一个元素不属于,那一旦出现,我们应当能够区分和,因为后者中至少有一个元素在前者中找不到。既然和可以被区分开,自然和也可以被区分开。运用类似的想法我们可以说明公理3的合理性,而将公理2以及公理3合并,我们可以得到以下结论:如果。
Hintikka模型的威力在于我们可以通过划定一组分割来说明人的知识结构,也即下列命题成立:满足公理1-3当且仅当被划分成一些彼此不相交的子集,这些子集的并构成,同时对于,等于划分中从属的子集。充分性是显然的,为说明必要性,只需要注意到如果,给出了一组等价关系[4]。于是,我们下面用划分来指代个体的认知结构。
我们现在可以定义知识。需要说明的一点是,我们迄今为止仍没有为知识/知道给出一个令大部分人满意的解释,因此,我们使用的模型只是一些可能说明“知识是什么”的模型中的一种,并非最终的答案。亚里士多德提出了知识的JTB准则:知识是被证成的真信念(Justified True Belief,简称JTB。此处的证成可以理解为“有力地辩护”,但具体何为证成仍是甚为复杂的问题,至今仍是分析哲学研究的问题)。以物理学为例,在LIGO探测突破之前,我们相信引力波存在,这是信念。我们有相对论做支持,这是证成。现在,我们又实际探测到了引力波,于是这是真的,引力波在JTB准则下成为了知识。在2000多年的时间里,亚里士多德的理论一直被奉为圭臬。但是,盖梯尔在1963年提出了一个著名的反例,也叫做盖梯尔问题。想象一个人计划烧掉一个谷仓,他/她认为只需要一根火柴就可以做到这一点,于是点燃了火柴。谷仓确实被烧掉了,但仅凭火柴未必是足够的,因为当时谷仓的角落还有几大桶汽油。这个例子满足JTB中的所有要素,但这个人拥有的真是知识吗?还是只是碰对运气的信念?这个问题迄今为止仍未完全解决。类似的情景在生活中经常出现,想象一位欣喜赴约的女孩,到达约定地点时发现男孩早已在哪儿等待,她由此推断出男孩儿非常在乎她。这是个信念,也确实是真的,男孩儿确实在乎她,但男孩早到其实是因为他记错了时间。这时信念也满足JTB,但这真是知识吗?我们并不清楚。我们只能先假设一些比较合理的公理,然后在此基础上发展理论。
前面提到,我们可以证明:理性三公理意味着我们总是可以把包含世界全体状态的集合划分成一些互不相交但合为全集的子集。在此基础上,我们正式阐述何谓知识。假设世界全体状态集合为,世界中有个个体。我们定义事件为世界全体状态集合的一个子集 。我们同时定义个体在状态下知道事件当且仅当。如果每个人都是理性的,则每人可对应到的一种划分。我们将第个个体划分记为[5],记其中子集为,这定义了第个个体的认知结构,则以上定义也可重写为,。于是我们定义了知道算子,这是从到的一个映射[6]。利用定义,,我们可定义,意味着知道,这同时意味着是的知识。
这个定义相当抽象,让我们再举一个例子来阐明这样建模道理何在。想象一位正在规划未来人生的青年,他所面临的全集包含以下元素{语文好,数学好,英语好,适合研究文学,适合研究历史,适合研究物理,适合研究经济学}。现在取数学好,如果是一个人生规划非常明确的青年,那他的应该很小,比如说数学好{适合研究物理}。如果对未来感觉非常迷茫或者不确定,那这个就会很大,比如说数学好{适合研究物理,适合研究经济学}。当然,也有可能他/她脑子里只有一团浆糊,对未来完全没有愿景,此时集合根本没有划分,所有的元素都混在一起。给定理性三公理,我们可以定义精细划分和粗糙划分的概念。面对同样的世界状态,精细划分中包含的集合相对较小,粗糙划分中对应的集合更大,即有。又由于每一个体都是理性的,所以实际上我们有。这意味着虽然每个人的知识水平不同,有的掌握得更清晰,有的掌握得更糊涂,但他们都不会糟糕到弄错世界状态,只是在对应的划分精细程度上有区别。同样是蜘蛛,有的人知道这是动物,有的人知道这是节肢动物,有的人能精确到节肢动物门蛛形纲。能够把世界看得更细,意味着知识更深入,也意味着集合划分的精细程度可以刻画知识水平。在更加抽象的意义上,对于任何一个问题,我们都可以划出是和否两种状态。如果一个人知道这一问题,这意味着他/她能够把这两个元素分开,划到不同的子集中;如果他/她不知道,这两个元素就划不开[7]。
假设现在已经有了一个划分,我们可能会疑惑为何如此定义知识算子,背后的意义是什么?首先我们注意到一点:既然是一个划分,这意味着其中的每个集合都不交。又因为每一划分都对应于认知函数,所以个体可以完美地区分两个分。注意到我们定义在状态下知道为,,这意味着只要世界状态确实是,事件必定会实现,必定一词由集合的包含关系保障。举一例子,假如世界状态是我很快乐,{我很快乐,我很兴奋,我很感动},这就意味着我自己区分不出这三种状态。我们再定义两个集合,一个是我心情很好,包含四个元素:我很快乐、我很兴奋、我很虔诚、我很感动。另一个是我情绪很激动,包含我很快乐、我很兴奋、我很激动、我很生气。那么,在状态我很快乐的情况下,我是知道自己心情很好的。因为可能和快乐混淆的另外三种情感都包含在心情很好这一事件中;但我不知道我是否情绪激动,因为在状态下,我也有可能是感动,而这并不包含在情绪激动这个事件中。所谓知识,就是再怎么错,这个事也是这个理儿的意思。我们有时候可能在蜘蛛是不是昆虫上犯迷糊,这是在两个纲之间发生了混淆,但我们肯定知道蜘蛛属于节肢动物门。因此,我们可以说我们“蜘蛛属于节肢动物门”,这是对的,但不能说我们“蜘蛛属于节肢动物门蛛形纲”,因为我们可能会把蜘蛛和昆虫搞混。
注意到算子把的一个子集映成另一个子集,因此我们可以作高阶知识的定义。就意味着知道知道,依此类推。这就把我们嘴巴上说的知道用集合论的语言严格地表达了出来。可以证明知识算子具有下面6个性质。这些性质和理性的定义一脉相承。其中第2点对应注8[8]。
这些性质的证明都不困难,直接验证即可。需要特别说明的是,把第六点拿掉,前五点本身也可构成知识的定义(第六点本身也只是个推论)。这一贡献来自天才的分析哲学家Kripke,也叫做Kripke S5系统。这个系统和我们前面定义的知识算子等价:我们既可以验证知识算子满足这5个命题;也可以证明这5个命题能够诱导出一个映射,其形式恰好就是我们前面定义的知识算子[9]。从直观上来说,这五个命题分别有各自现实意义。第一点意味着个体知道世界的全体状态是。第二点意味着如果一个人知道,那么会实现,因为其中包含了世界的真实状态,这也可以通俗地理解为“知识是真的”。第三点意味着如果一个人同时知道事件和事件,那他/她也会知道事件。第四点意味着如果一个人知道,那他/她也知道自己知道。第五点意味着如果一个人不知道,那么他/她知道自己不知道。这五个公理共同规范了我们观念中的知识概念,同时诱导出了一个定义在上的知识算子。而第六点性质则意味着如果已知,所有为蕴含的事实也是知识。
我们接下来介绍无穷阶次知识这一概念。前述记号保持不变,个个体,事件,第个个体记为。我们首先逐个询问个个体:你知道吗?如果知道,记下;如果不知道,记下。我们接下来再从第一个个体开始,询问他/她个问题:你知道知道/不知道吗?如果回答知道,我们记下,如果回答不知道,我们记下,依此类推。在第二层询问中,我们可以记下个答案。同样的询问可以继续进行下去,比如说,我们可以问第2个人:你知道第4个人知道第5个人知道第3个人知道吗?把这样的答案一层层一层层地垒起来,我们就得到了无穷阶次的知识。从这里可以很自然地得到共同知识比较严格的定义。保持以上记号,则我们称是世界状态下的共同知识,当且仅当对任意有限长序列,。这意味着,是共同知识,当且仅当有关的问题在无穷阶次知识的每一层都得到肯定的回答。这个定义初看起来和我们平时谈论的形式没有任何区别,但它已经算是严格表述了。Aumann证明了共同知识可以由如下条件得到判定:记是所有参与者中最粗糙划分,即,那么是世界状态下的共同知识的充要条件是[10]。
Aumann的定理可以按如下方法直观理解:是所有划分中最粗糙的,也就是说在每个世界状态下,都会给出在这个状态下最糊涂的人的判断。如果糊涂到这个程度还能知道,这就意味着所有人都应该知道。又因为所有人都知道是最糊涂的,或者说是最笨的,集中了所有最糊涂的判断,所以他们也应该知道其他人也能够知道,如此推断下去即可以构造符合要求的无穷阶次知识。除了Aumann的方法,我们还可以用Milgrom的方法来定义共同知识。Milgrom的方法和我们前面理解知识的方法是一致的:公理化。记“在状态下是共同知识”这一事实为,我们有下列四条公理。
第一条公理意味着共同知识能够实现,第二条公理意味着如果是共同知识,那么所有人都知道是共同知识。反复运用这两条公理可以直接得到共同知识的直观含义。假设实现了,根据公理2,假如是个共同知识,那么所有人都应该知道是个共同知识,而这又意味着“所有人都知道是个共同知识”这个事实的实现,运用公理1可知这也应该是个共同知识,于是再次运用公理2可以得到“所有人都知道所有人都知道是个共同知识”这一事实,依次类推即可得到无穷阶次的性质。第三条性质意味着如果是共同知识,那么所有可以从推出来的命题也应该是共同知识。第四条性质则意味着在全体参与者面前发生的事情是公共知识。像我们一开始提到的疯狗谜题,其中旅行者在人们面前喊出的“岛上有疯狗”这个事实满足公理4,所以就是共同知识。这里的“在全体参与者面前发生”也未必要是真正的面对面。一个微信群、一篇文章的评论区或者一个BBS,上面的内容对于全体参与者来说都是共同知识。Milgrom进一步证明了:这四个公理可诱导出唯一的共同知识算子,且这个算子恰好就是Aumann给出的[11]。
最后,我们简单叙述在有限参与者的静态博弈中构成纳什均衡的知识条件。所谓知识条件,指的是为了使得纳什均衡实际上被执行,能被玩出来,博弈参与者需要知道些什么。在两人博弈中,如果双方都知道(这里的知道可以形式化成算子)对方的支付函数、对方的策略集以及对方是理性的,并且知道对方对自己行为的猜测,那么他们彼此的猜测构成一个纳什均衡。在三人或更多参与者的博弈中,我们要求参与者都知道彼此的支付函数、策略集以及彼此都是理性的,且每个人对其他人策略的猜测都是共同知识。以上两个条件都是充分但不必要的,不满足这些条件也有可能形成纳什均衡。但它们都是紧的,每一点放松都会造成反例[12]。动态完全信息博弈中的知识条件由Battigalli和Siniscalchi给出,但这已经超出了课程范围[13]。动态博弈中更多相关结果可在Perea的教科书Rationality in Extensive Form Games中找到。
如果对博弈论的这个分支,博弈论的知识理论(Epistemological Game Theory,EGT)感兴趣,希望挖掘更加深入的知识, Perea的教科书Epistemic Game Theory: Reasoning and Choice是不错的选择。另一本很困难的读物是Brandenburger的The Language of Game Theory: Putting Epistemics into the Mathematics of Games,是领域内经典论文集。此外,共同知识本身也可以用来分析很多生活中的现象,这方面一本非常出色的著作来自Michael Suk-Young Chwe,一位著名的韩裔理论经济学家。他写作的Rational Ritual: Culture, Coordination, and Common Knowledge旁征博引,用共同知识分析了许多不同领域的问题,比如非洲的聚会民俗、美国南方的舞会、法国大革命中的仪式、超级碗的中场广告,以及休谟的环形监狱,等等。这是直观了解共同知识的很好的途径。
注解:
[1]这两个例子都来自Geanakoplos(1992)。谜题的完整表述以及严格解法均可在原文中找到。如果对讲义中命题或具体阐述有进一步的兴趣,可以在脚注中找到相应信息。
[2]如果对证明有兴趣,请参见Rubinstein(1989)。
[3]我们此处假设是有限集合。当是无限集时, 的结构可能会非常复杂,需要添加更多限制。
[4]如果对完整证明有兴趣,请参见Rubinstein(1998)书中命题3.1的证明。
[5]这是集合的集合。当后面我们提及精细/粗糙的概念时,我们实际上是在讨论一个域流。当很复杂时,讨论也是很困难的。
[6]这个知识算子本身的“有效性”和“合理性”等讨论已经属于分析哲学/数理逻辑的范畴。如果有兴趣,可以参见Kripke(1959)。
[7]这种说法是非正式的。如果允许和各种性质相联系的集合,我们就得到了所谓的“万有公理”。如果我们还承认其它一些公理,这将导出悖论。一个非正式的讨论见《陶哲轩实分析》3.2。
[8]关于这一公理长期以来一直存在争议,分析哲学家已经构造出了一些反常的例子。在目前使用的模型中,如果把这一公理拿掉,剩下的4条公理构成S4系统,这构成信念的定义。基于信念我们同样可以构造无穷阶次的共识。假设是可数的完备可分度量空间,且是上Borel集生成的域中赋有弱收敛拓扑的全体概率测度,我们可以将信念层次写成以下形式:令代表博弈参与者对世界状态的信念,则代表了对信念的信念,代表对上一阶信念的信念,就构成了一个无穷阶次的信念空间。需要满足一致性,亦即由高阶信念诱导出的分布(边缘分布)与低阶信念一致。Brandenburger和Dekel证明了这样的信念空间是存在的,并且,令,我们总是可以构造出一个向量作为参与者的type,且全体满足一致性的构成的空间与微分同胚。这意味着type完整地反映了全体可能的信念。当是不可数集合时,我们需要一个空状态才能实现这一点,同时全体参与者的划分集合都应该是可测集,此时知道也被定义为“赋予概率1”。Heifetz和Samet证明了这样一个满足一致性的无穷阶次的知识空间是不存在的。
[9]如果对证明有兴趣,可以参考Maschler,Solan和Zamir(2013),这是习题9.2。有兴趣的可以在这本书的末尾得到简单的提示。
[10]如果对证明有兴趣,请参见Aumann(1976)。
[11]如果对证明有兴趣,请参见Milgrom(1981)。
[12]如果对证明和相应的反例有兴趣,请参见Aumann和Brandenburger(1995)。在这篇论文中,他们将混合策略理解为对对手策略集的猜测。此外,得到多人情形中的相关命题需要Harsanyi的共同先验假设(又称一致性假设),对这一假设的严格讨论很复杂,如果有兴趣,请参见Morris(1995)。
[13]如果对结论和证明有兴趣,请参见Battigalli和Siniscalchi(2002)。
参考文献:
Aumann R. Agreeing to disagree[J]. The Annals of Statistics, 1976: 1236-1239.
Aumann R. Backward induction and common knowledge of rationality[J]. Games and Economic Behavior, 1995, 8(1): 6-19.
Aumann R, Brandenburger A.
Epistemic conditions for Nash equilibrium[J]. Econometrica: Journal of the Econometric Society, 1995: 1161-1180.
Battigalli P, Siniscalchi M.
Strong belief and forward induction reasoning[J]. Journal of Economic Theory, 2002, 106(2): 356-391.
Brandenburger A, Dekel E.
Common knowledge with probability 1[J]. Journal of Mathematical Economics, 1987, 16(3): 237-245.
Brandenburger A, Dekel E.
Hierarchies of beliefs and common knowledge[J]. Journal of Economic Theory, 1993, 59(1): 189-198.
Brandenburger A. The language of game theory: putting epistemics into the mathematics of games[M]. World Scientific, 2014.
Chwe M S Y. Rational ritual: Culture, coordination, and common knowledge[M]. Princeton University Press, 2013.
Geanakoplos J. Common knowledge[C]//Proceedings of the 4th conference on Theoretical aspects of reasoning about knowledge. Morgan Kaufmann Publishers Inc., 1992: 254-315.
Gettier E L.
Is justified true belief knowledge?[J]. Analysis, 1963, 23(6): 121-123.
Halpern J Y, Moses Y.
Knowledge and common knowledge in a distributed environment[J]. Journal of the ACM (JACM), 1990, 37(3): 549-587.
Heifetz A, Samet D.
Knowledge spaces with arbitrarily high rank[J]. Games and Economic Behavior, 1998, 22(2): 260-273.
Hintikka J. Knowledge and belief[J]. 1962.
Kripke A. Completeness theorem in modal logic[J]. The Journal of Symbolic Logic, 1959, 24(01): 1-14.
Maschler M, Solan E. Zamir S.
Game Theory[J]. 2013.
Milgrom P. An axiomatic characterization of common knowledge[J]. Econometrica: Journal of the Econometric Society, 1981: 219-222.
Morris S. The common prior assumption in economic theory[J]. Economics and Philosophy, 1995, 11(02): 227-253.
Perea A.
Epistemic game theory: reasoning and choice[M]. Cambridge University Press, 2012.
Perea A. Rationality in extensive form games[M]. Springer Science & Business Media, 2013.
Rubinstein A. Modeling bounded rationality[M]. MIT press, 1998.
Rubinstein A.
The Electronic Mail Game: Strategic Behavior under "Almost Common Knowledge."[J]. American Economic Review, 1989, 79(3): 385-91.