打开主菜单

在概率论中,吾妻不等式(Azuma's inequality)是关于差有界的鞅的不等式,给出了值的集中情况,以吾妻一兴英语Kazuoki Azuma(Azuma Kazuoki)命名[1]

目录

陈述编辑

 (或上鞅),且 几乎必然成立。则对任意正整数 与正实数 

 

 是下鞅时,对称地有:

 

 是鞅,同时使用以上两个不等式并利用布尔不等式可得:

 

Doob鞅使用吾妻不等式得到McDiarmid不等式[2],常见于随机算法的分析中。

吾妻不等式的简单例子编辑

 是一列独立且同分布的随机变量,代表了抛硬币的结果(+1代表正面,-1代表反面,正反面出现的概率相等)。

定义 ,这是一个鞅,而且满足 ,允许使用吾妻不等式。具体来说,我们得到

 

如果令 正比于 ,则这个不等式告诉我们,尽管 最大可能值随 线性增大,但是概率随 指数衰减

如果令 ,得到:

 

这意味着超过 的概率随 而趋于0。

备注编辑

谢尔盖·伯恩施坦于1937年证明了一个类似的但条件更弱的不等式[3]。见伯恩施坦不等式

Hoeffding对独立变量证明了这个结果,而不是鞅的差,并且也注意到做一些小调整,这个结果对鞅的差也是成立的[4]

另见编辑

参考资料编辑

  1. ^ Azuma, K. (1967). "Weighted Sums of Certain Dependent Random Variables" (PDF). Tôhoku Mathematical Journal. 19 (3): 357–367. doi:10.2748/tmj/1178243286. MR 0221571.
  2. ^ McDiarmid, C. (1989). "On the method of bounded differences". Surveys in Combinatorics. London Math. Soc. Lectures Notes 141. Cambridge: Cambridge Univ. Press. pp. 148–188. MR 1036755.
  3. ^ Bernstein, Sergei N. (1937). На определенных модификациях неравенства Чебишева [On certain modifications of Chebyshev's inequality]. Doklady Akademii Nauk SSSR (俄语). 17 (6): 275–277. (vol. 4, item 22 in the collected works)
  4. ^ Hoeffding, W. (1963). "Probability inequalities for sums of bounded random variables". Journal of the American Statistical Association. 58 (301): 13–30. doi:10.2307/2282952. JSTOR 2282952. MR 0144363.