切尔诺夫界、鞅

之前老师讲过两个不等式

  1. 马尔科夫不等式

    P(Xt)E(X)tP(X \ge t) \le \frac{E(X)}{t}

  2. 切比雪夫不等式

    Y=[XE(X)]2Y = [X-E(X)]^2

    P(Yt2)E(Y)t2=D(X)t2P(Y \ge t^2) \le \frac{E(Y)}{t^2} = \frac{D(X)}{t^2}

随机变量偏离它的期望一个给定的值的概率,被称为偏差的尾概率(tail probability)。尾概率的计算方式除了利用已知条件直接计算以外,还有很多『模板』可以使用,就包括:

  1. 马尔科夫(Markov)不等式
  2. 切比雪夫(Chebyshev)不等式
  3. 切尔诺夫(Chernoff)界

简单来说尾概率就是 P(X>t)P(X > t) 的范围主要由计数计算概率法和利用数字特征计算的方法。

这篇文章将详细介绍切尔诺夫界,以及鞅的相关概念和应用。

  • 切尔诺夫界:『独立随机变量的和』的分布的尾概率的一般的界,通过矩生成函数得到,有『切尔诺夫型』、『指数形式』尾概率界等。
  • 鞅:对不能抽象为『独立随机变量的和』的应用场景,鞅可以得到随机变量偏离期望的程度的界。

切尔诺夫界

矩生成函数

定义:随机变量 XX 的矩生成函数是关于实数 tt 的函数:

MX(t)=E[etX]M_X(t) = E\left[e^{t X}\right]

麦克劳林级数可知

E[etX]=E[k=0(tX)kk!]=k=0tkk!E(Xk)(1)\begin{aligned} E\left[e^{t X}\right] &= E\left[ \sum_{k=0}^{\infty} \frac{(tX)^k}{k!} \right] \\ &= \sum_{k=0}^{\infty}\frac{t^k}{k!}E\left(X^k\right) \end{aligned} \tag{1}

(1)(1) 式对 ttnn 阶导,并令 t=0t = 0,可以得到 XX 的各阶矩。

MX(n)(t)=E(Xn)+11tE(Xn+1)+12t2E(Xn+2)+MX(n)(0)=E(Xn)\begin{aligned} M_X^{(n)}(t) &= E(X^n) + \frac{1}{1}tE(X^{n+1}) + \frac{1}{2}t^2E(X^{n+2}) + \cdots \\ M_X^{(n)}(0) &= E(X^n) \end{aligned}

(另外一种更简单的证明在《概率与计算》上,直接利用期望和微分运算可以交换的性质。)

矩生成函数有下面几个性质:

  1. 矩生成函数相同,则随机变量分布相同。令 XXYY 是两个随机变量,如果对某个 δ>0\delta > 0,对于所有的 t(δ,δ)t \in (-\delta, \delta)MX(t)=MY(t)M_X(t) = M_Y(t),那么 XXYY 有相同的分布。

  2. 随机变量的各阶矩相同,则这两个随机变量分布相同。

  3. 独立随机变量的和的矩生成函数等于各自生成函数的积。

    E[et(X+Y)]=E[etXetX]=E[etX]E[etY]E[e^{t(X+Y)}] = E[e^{tX} \cdot e^{tX}] = E[e^{tX}] \cdot E[e^{tY}]

两点分布和二项分布的矩生函数

投掷一枚硬币,结果用 XX 表示,正面朝上的概率为 pp;投掷 n 次的总结果用 YY 表示。

MX(t)=E(etX)=pet1+(1p)et0=1p+pet(2)\begin{aligned} M_X(t) &= E(e^{tX}) \\ &= p \cdot e^{t\cdot 1} + (1-p) \cdot e^{t\cdot 0} \\ &= 1-p+pe^t \end{aligned} \tag{2}

我们可以利用 (2)(2) 计算 XX 的一阶矩(均值)和二阶矩,从而得到方差。

E(X)=MX(1)(0)=(pet)t=0=pE(X) = M_X^{(1)}(0) = \left(pe^t\right)|_{t=0} = p

E(X2)=MX(2)(0)=(pet)t=0=pE(X^2) = M_X^{(2)}(0) = \left(pe^t\right)|_{t=0} = p

D(X)=E(X2)E2(X)=pp2=p(1p)D(X) = E(X^2) - E^2(X) = p - p^2 = p(1-p)

再来计算 YY 的矩生成函数,YY 是由 nn 个独立同分布的 XX 得来的。两个独立随机变量之和的生成函数等于这两个随机变量的矩生成函数之积:

MY(t)=E(etY)=E(etinXi)=E(etXin)=E(etXi)n=[MX(t)]n=(1p+pet)n(3)\begin{aligned} M_Y(t) &= E(e^{tY}) \\ &= E\left(e^{t\sum_i^{n}{X_i}}\right) \\ &= E\left({e^{tX_i}}^n\right) \\ &= E\left({e^{tX_i}}\right)^n \\ &= [M_X(t)]^n \\ &= (1-p+pe^t)^n \end{aligned} \tag{3}

MY(1)(t)=n(1p+pet)n1pet=npet(1p+pet)n1M_Y^{(1)}(t) = n(1-p+pe^t)^{n-1} \cdot pe^t = npe^t(1-p+pe^t)^{n-1}

求导:

MY(2)(t)=npet(1p+pet)n1+npet(n1)(1p+pet)n2pet=npet(1p+pet)n1+n(n1)p2e2t(1p+pet)n2\begin{aligned} M_Y^{(2)}(t) &= npe^t(1-p+pe^t)^{n-1} + npe^t \cdot (n-1)(1-p+pe^t)^{n-2} \cdot pe^t \\ &= npe^t(1-p+pe^t)^{n-1} + n(n-1)p^2e^{2t} \cdot (1-p+pe^t)^{n-2} \\ \end{aligned}

取在 t=0t=0 处的值:

E(Y)=[npet(1p+pet)n1]t=0=np(1p+p)=npE(Y) = [npe^t(1-p+pe^t)^{n-1}]|_{t=0} = np(1-p+p) = np

E(Y2)=[npet(1p+pet)n1+n(n1)p2e2t(1p+pet)n2]t=0=np+n(n1)p2\begin{aligned} E(Y^2) &= [npe^t(1-p+pe^t)^{n-1} + n(n-1)p^2e^{2t} \cdot (1-p+pe^t)^{n-2}]_{t=0} \\ &= np + n(n-1)p^2 \end{aligned}

计算方差:

D(Y)=E(Y2)E2(Y)=[np+n(n1)p2](np)2=np+n2p2np2n2p2=np(1p)\begin{aligned} D(Y) &= E(Y^2) - E^2(Y) \\ &= [np + n(n-1)p^2] - (np)^2\\ &= np + n^2p^2 - np^2 - n^2p^2 \\ &= np(1-p) \end{aligned}

切尔诺夫界的导出

定理:X1,,XnX_1, \cdots, X_n独立泊松实验P(Xi=1)=piP(X_i=1) = p_iX=i=1nXiX=\sum_{i=1}^nX_iμ=E(X)\mu = E(X),则对任意 δ>0\delta > 0,有:

P[X(1+δ)μ]<[eδ(1+δ)1+δ]μP[X \ge (1+\delta)\mu] < \left[\frac{e^\delta}{(1+\delta)^{1+\delta}}\right]^{\mu}

泊松实验并不是符合泊松分布的随机变量,而是 0-1 随机变量。在泊松试验中,随机变量的分布不必相等,伯努利试验是泊松试验的一种特殊情形,其中独立的 0-1 随机变量有相同的分布。可以看到定理中为每个实验用了不同 pip_i 表示其分布。

μ=50\mu=50 时,右式图像大概如此(使用 https://www.desmos.com/calculator 绘制,只看 δ>0\delta>0 部分):

20190423192002-2019-4-23-19-20-5

直观理解为:XX 的值超过其均值百分比 δ\delta 的概率不会超过后面那一长串,而且后面那个式子在 δ=0\delta = 0 时为 11,在 δ=\delta = \infty 时为 00,直观上很容易理解,也很好记。

切尔诺夫界提供了估计尾概率 P(X>t)P(X>t) 的新工具,虽然我们之前已经有了类似的工具(Markov、Chebyshev),但是这个结果更加精确。

先给出定理,再给出证明经常是一个很好的教学模式,我们接下来证明这个定理。

  1. 计算 XX 的矩生成函数

    MX(t)=i=1nMXi(t)(4)\begin{aligned} M_X(t) &\xlongequal{独立性} \prod_{i=1}^{n} M_{X_i}(t) \\ \end{aligned} \tag{4}

    其中

    MXi(t)=P(Xi=1)et1+P(Xi=0)et0=piet+(1pi)e0=1pi+pietepi(et1),1+xexR\begin{aligned} M_{X_i}(t) &= P(X_i=1)e^{t\cdot 1} + P(X_i=0)e^{t\cdot 0} \\ &= p_ie^t + (1-p_i)e^0 \\ &= 1-p_i + p_ie^t \\ &\le e^{p_i(e^t-1)}, 这里用到了 1 + x \le e^x 在 R 上恒成立的条件 \end{aligned}

    将放缩应用于 (4)(4) 式,得到一个比较好的形式:

    MX(t)=i=1nMXi(t)i=1nepi(et1)=exp{(et1)i=1npi}=exp{(et1)μ},μ=E(X)=p1++pn\begin{aligned} M_X(t) &\xlongequal{独立性} \prod_{i=1}^{n} M_{X_i}(t) \\ & \le \prod_{i=1}^{n} e^{p_i(e^t-1)} \\ &= \exp\{(e^t-1)\sum_{i=1}^np_i\} \\ &= \exp \{(e^t-1)\mu\}, 这里用到了 \mu = E(X) = p_1 + \cdots + p_n \end{aligned}

  2. 要计算 P(Xt)P(X \ge t),等价于计算 P(h(X)h(t))P(h(X) \ge h(t))(在 hh 是增函数时)。应用 Markov 不等式 P[h(X)h(t)]E[h(X)]h(t)P[h(X) \ge h(t)] \le \frac{E[h(X)]}{h(t)}

    P(X>t)=P(eλX>eλt),λ>0E(eλX)eλt,eλXMarkovexp{(eλ1)μ}expλt\begin{aligned} P(X > t) &= P(e^{\lambda X} > e^{\lambda t}),注意 \lambda >0 满足增函数 \\ &\le \frac{E(e^{\lambda X})}{e^{\lambda t}} , 对随机变量 e^{\lambda X} 应用 Markov 不等式 \\ &\le \frac{\exp \{(e^\lambda-1)\mu\}}{\exp {\lambda t}} \end{aligned}

    这里要尽量求出小的上界,因此取一个极小值:

    P(X>t)minλ>0exp{(eλ1)μ}expλt\begin{aligned} P(X > t) &\le \min_{\lambda > 0} \frac{\exp \{(e^\lambda-1)\mu\}}{\exp {\lambda t}} \end{aligned}

  3. 针对 tt 进行优化,得出结论

    t=(1+δ)μt = (1+\delta)\mu(为什么,因为概率内部取的是大于号 X>tX >t,所以求偏离均值以上更有用,这样后面的 λ\lambda 取特殊值才能保证是大于 0 的),有

    P[X>(1+δ)μ]minλ>0exp{(eλ1)μ}exp{λ(1+δ)μ}λ=ln(δ+1),δ>0eδμ(1+δ)(1+δ)μ=[eδ(1+δ)(1+δ)]μ(5)\begin{aligned} P[X > (1+\delta)\mu] &\le \min_{\lambda > 0} \frac{\exp \{(e^\lambda-1)\mu\}}{\exp \{\lambda (1+\delta)\mu\}} \\ &令 \lambda = \ln(\delta+1),既然小于所有中最小的,肯定也小于特例, \delta >0 \\ & \le \frac{e^{\delta\mu}}{(1+\delta)^{(1+\delta)\mu}} \\ &= \left[\frac{e^{\delta}}{(1+\delta)^{(1+\delta)}}\right]^\mu \\ \end{aligned} \tag{5}

切尔诺夫界得证,在第 2 步中如果令 λ<0\lambda < 0,并在第 3 步令 λ=ln(1δ)\lambda = \ln (1-\delta)δ(0,1)\delta \in (0, 1)) 还会得到另外一个形式:

P[X(1δ)μ][eδ(1δ)(1δ)]μ(6)P[X \le (1-\delta)\mu] \le \left[\frac{e^{\delta}}{(1-\delta)^{(1-\delta)}}\right]^\mu \\ \tag{6}

(5)(5) 和式 (6)(6) 总结起来就是:

{P[X>(1+δ)μ][eδ(1+δ)(1+δ)]μ,δ>0P[X(1δ)μ][eδ(1δ)(1δ)]μ,δ(0,1)(7)\begin{cases} P[X > (1+\delta)\mu] \le \left[\frac{e^{\delta}}{(1+\delta)^{(1+\delta)}}\right]^\mu, \delta > 0 \\ P[X \le (1-\delta)\mu] \le \left[\frac{e^{\delta}}{(1-\delta)^{(1-\delta)}}\right]^\mu, \delta \in (0, 1) \tag{7} \end{cases}

切尔诺夫界的常用形式

(7)(7) 虽然精确,但是计算较复杂,我们可以得出一个可以忍受的、不太精确但是计算量较小的尾不等式:

{P[X>(1+δ)μ][eδ(1+δ)(1+δ)]μexpμδ23,δ(0,1)δ1P[X(1δ)μ][eδ(1δ)(1δ)]μexpμδ22,δ(0,1)(8)\begin{cases} P[X > (1+\delta)\mu] \le \left[\frac{e^{\delta}}{(1+\delta)^{(1+\delta)}}\right]^\mu \le \exp {\frac{-\mu\delta^2}{3}}, \delta \in (0, 1)(注意这里条件更强,限制 \delta 必须小于 1,下同) \\ P[X \le (1-\delta)\mu] \le \left[\frac{e^{\delta}}{(1-\delta)^{(1-\delta)}}\right]^\mu \le \exp {\frac{-\mu\delta^2}{2}}, \delta \in (0, 1) \tag{8} \end{cases}

又是先给结论再证明,真的不知道前辈们是怎么想出这个结论的,一定是数学思维超级好!

要证明 [eδ(1+δ)(1+δ)]μexpμδ23,δ>0\left[\frac{e^{\delta}}{(1+\delta)^{(1+\delta)}}\right]^\mu \le \exp {\frac{-\mu\delta^2}{3}}, \delta >0,取对数,等价于证明:

μln[eδ(1+δ)(1+δ)]μδ23\mu \ln \left[\frac{e^{\delta}}{(1+\delta)^{(1+\delta)}}\right] \le {\frac{-\mu\delta^2}{3}}

f(δ)=()/μf(\delta) = (左边 - 右边)/\mu,要证明 f(δ)0f(\delta) \le 0,由于 f(0)=0f(0) = 0,只需要证明 f(δ)<0f'(\delta) < 0。求导即可。

f(δ)=δ(1+δ)ln(1+δ)+δ23=δ23+δ(1+δ)ln(1+δ)\begin{aligned} f(\delta) &= \delta - (1+\delta)\ln (1+\delta) + {\frac{\delta^2}{3}} \\ &= \frac{\delta^2}{3} + \delta - (1+\delta)\ln(1+\delta) \\ \end{aligned}

f(δ)=23δ+1ln(1+δ)(1+δ)11+δ=23δln(1+δ)\begin{aligned} f'(\delta) &= \frac{2}{3}\delta + 1 - \ln (1+\delta) - (1+\delta)\frac{1}{1+\delta} \\ &= \frac{2}{3}\delta-\ln (1+\delta) \end{aligned}

要证明 f(δ)>0f'(\delta)>0,需要进一步求导,得到:

f(δ)=2311+δf''(\delta) = \frac{2}{3} - \frac{1}{1+\delta}

f(δ)f''(\delta) 是增函数,由于规定 δ(0,1)\delta \in (0, 1),所以 f(13,16)f'' \in (-\frac{1}{3}, \frac{1}{6}),因此 ff' 先减后增,要证明 f<0f' < 0,只需求证两个端点 f(0)f(0)f(1)f(1) 即可。

同样的可以证明第二种情况。

最终我们还可以将两者综合运用,得到一个更好的式子,『偏离均值』=『偏离均值之下』或者『偏离均值之下』。

P[Xμδμ]P[X(1δ)μ]+P[X(1+δ)μ]=expμδ22+expμδ23=a+b2b=2expμδ23(9)\begin{aligned} P[|X-\mu|\ge \delta\mu] & \le P[X \le (1-\delta)\mu] + P[|X \ge (1+\delta)\mu] \\ &= \exp {\frac{-\mu\delta^2}{2}} + \exp {\frac{-\mu\delta^2}{3}} \\ &= a +b \\ &\le 2b \\ &= 2\exp {\frac{-\mu\delta^2}{3}} \\ \tag{9} \end{aligned}

可以看到限制 δ<1\delta < 1 之后,我们得到了分母带 3 的那个结论,我们可以进一步限制 t>2eμt > 2e\mu,得到更简洁的结论。

P(X>t)<2t(10)P(X > t) < 2^{-t} \tag{10}

证明:设 t=(1+δ)μt = (1+\delta)\mu,对于 t2eμt \ge 2e\muδ+1=tμ2e\delta+1 = \frac{t}{\mu} \ge 2e。因此,

P[X(1+δ)μ](eδ(1+δ)1+δ)μ(eδ+1(1+δ)1+δ)μ=(e1+δ)(1+δ)μ2(1+δ)μ=2t\begin{aligned} P[X \ge (1+\delta)\mu] &\le \left(\frac{e^\delta}{(1+\delta)^{1+\delta}}\right)^\mu \\ &\le \left(\frac{e^{\delta+1}}{(1+\delta)^{1+\delta}}\right)^\mu \\ &= \left(\frac{e}{1+\delta}\right)^{(1+\delta)\mu} \\ & \le 2^{-(1+\delta)\mu} \\ &= 2^{-t} \end{aligned}

切尔诺夫界的简单应用

成功实验的总次数

独立同分布重复均匀硬币硬币 Bernoulli 实验 nn 次,Xi=1X_i=1 表示第 ii 次实验成功,XX 表示成功实验的总次数。X=i=1nXiX = \sum_{i=1}^n X_iE(X)=nE(Xi)=n2E(X) = nE(X_i) = \frac{n}{2}

这里有更强的条件,如上文所述,伯努利试验是泊松实验的特殊形式。

使用 (9)(9) 式,我们可以得到:

P[Xμδμ]2exp{μδ23}P[Xn212μ]2exp{μ12}=2exp{n24}\begin{aligned} P[|X-\mu|\ge\delta\mu] &\le 2 \exp \{\frac{-\mu\delta^2}{3}\} \\ P[|X-\frac{n}{2}|\ge\frac{1}{2}\mu] &\le 2 \exp \{-\frac{\mu}{12}\} = 2\exp \{ -\frac{n}{24} \} \\ \end{aligned}

我们得到的这个不等式的意思是:成功实验的总次数 XX 均值为 n2\frac{n}{2}XX 的实际取值偏离均值 50% 的概率不超过 2exp{n24}2\exp \{ -\frac{n}{24} \}

算法重复遍数

曾经我们讲过拉斯维加斯算法,它的特点是:

  1. 得到的解一定是正确的,
  2. 运行时间不确定,运行时间与运行一次能够得到解得的概率 pp 有关。

之前举的是 LASYSELECT 的例子,算法的目的是从 SS 中选出第 k 小的元素,算法运行一遍得到解的概率为 pp重复调用算法知道得到问题的解所需要的运行次数我们设为随机变量 XXXX 服从几何分布。

E(X)=1pE(X) = \frac{1}{p}

我们现在求一个对算法运行次数的估计范围,运行次数在这个范围内的概率足够大,以至于我们可以认为算法运行次数基本就是此范围。

老师课件中此处有错误,下面是我的证明。

由切尔诺夫界:

E(Xμδμ)<2exp{μδ2/3}=p0,μ=1pE(|X-\mu|\ge \delta \mu) < 2 \exp \left\{-\mu\delta^2/3\right\} = p_0, \mu = \frac{1}{p}

解得:

δ0=3p(lnp0ln2)\delta_0 = \sqrt{-3p(\ln p_0- \ln 2)}

结论:算法运行遍数以 1p01-p_0 的概率介于 (1δ0)μ(1-\delta_0)\mu(1+δ0)μ(1+\delta_0)\mu 之间。

参数估计

某基因突变的概率为 pp(未知),我们要用统计规律来估计 pp,进行 nn 次实验,测得突变 XX 次,q=X/nq = X/n,我们要判断:qpq\approx p 可不可信?

我们要的结论是 P(p[qδ,q+δ])<1γP(p \notin [q-\delta, q+\delta]) < 1-\gamma,也就是说 pp 在区间 [qδ,q+δ][q-\delta, q+\delta] 之外的概率足够小,比如 0.010.01γ=0.99\gamma = 0.99)。其中 [qδ,q+δ][q-\delta, q+\delta] 称为置信区间,γ\gamma 称为置信水平。

我们要做的是将实验次数 nn 和置信水平 γ\gamma 关联起来。

分成两半:

P(p[qδ,q+δ])=P(p<qδ)+P(p>q+δ)\begin{aligned} P(p \notin [q-\delta, q+\delta]) = P(p<q-\delta) + P(p>q+\delta) \end{aligned}

p<qδp<X/nδX>(p+δ)nX>(1+δ/p)pnp<q-\delta \Leftrightarrow p < X/n - \delta \Leftrightarrow X > (p+\delta)n \Leftrightarrow X > (1+\delta/p)pn

p>q+δp>X/n+δX<(1δ/p)pnp>q+\delta \Leftrightarrow p > X/n + \delta \Leftrightarrow X < (1-\delta/p)pn

均值 μ=E(X)=pn\mu = E(X) = pn,因此有:

P(p[qδ,q+δ])=P[Xμ>(δ/p)μ]2exp{μ(δ/p)23}=2exp{nδ23p}2exp{nδ23}\begin{aligned} P(p \notin [q-\delta, q+\delta]) &= P[|X-\mu|>(\delta/p)\mu] \\ &\le 2\exp\{-\frac{\mu(\delta/p)^2}{3}\} \\ &= 2\exp\{ -\frac{n\delta^2}{3p}\} \\ &\le 2\exp\{ -\frac{n\delta^2}{3}\} \\ \end{aligned}

  1. 令其为 1γ1-\gamma,解得 δ0\delta_0,得到置信区间
  2. 知道置信区间,直接计算出置信水平
  3. 直到置信区间和置信水平,可以得到实验所需次数

注:老师课上推到的时候没有把大于和小于两种情况合并,所以结果是 exp{nδ22}+exp{nδ23}\exp\{ -\frac{n\delta^2}{2}\} + \exp\{ -\frac{n\delta^2}{3}\},差别不会很大。

【作业】 π\pi 值估计精度与抽样次数 nn 之间的关系

20190424014117-2019-4-24-1-41-19

算法重述:

有一个半径为 rr 的圆及其外切四边形,向正方形随机投掷 nn 个点,设有 XX 个点落入圆内(XX 就是我们要考虑的随机变量),投掷点落入圆内的概率为 (πr2)/(4r2)=π4(\pi r^2)/(4r^2) = \frac{\pi}{4}。我们用 X/nX/n 逼近 π/4\pi/4,即 X/n=π/4X/n = \pi/4,于是 π(4X)/n\pi \approx (4X)/n

这与【参数估计】的例子是完全一样的,这里相当于重证一遍。

每一次投掷,落入圆形区域记为成功,概率为 pp,显然 p=π/4p = \pi/4。连续 nn 次实验,得到的对 pp 的估计值记为 q=X/nq = X/n

需要对不等式 P(p[qδ,q+δ])<1γP(p \notin [q-\delta, q+\delta]) < 1-\gamma 进行求解。

分成两半:

P(p[qδ,q+δ])=P(p<qδ)+P(p>q+δ)\begin{aligned} P(p \notin [q-\delta, q+\delta]) = P(p<q-\delta) + P(p>q+\delta) \end{aligned}

上个问题中我们是合并求解的,现在把左半部分和右半部分分开求解,得到更精确的结论。

左半部分:

p<qδp<X/nδX>(p+δ)nX>(1+δ/p)pnp<q-\delta \Leftrightarrow p < X/n - \delta \Leftrightarrow X > (p+\delta)n \Leftrightarrow X > (1+\delta/p)pn

因为 μ=pn\mu = pn,所以:

P(X>(1+δ/p)pn)=P(X>(1+δ/p)μ)exp{μ(δ/p)23}=exp{pn(δ/p)23}=exp{nδ23p}P(X > (1+\delta/p)pn) = P(X > (1+\delta/p)\mu) \le \exp \{-\frac{\mu(\delta/p)^2}{3}\} = \exp \{-\frac{pn(\delta/p)^2}{3}\} = \exp \{-\frac{n\delta^2}{3p}\}

注意,这里是与老师唯一的区别,我们知道 p=π4p = \frac{\pi}{4},所以不必再放缩消去 pp,从而也会得到更加精确的结论。

右半部分:

p>q+δp>X/n+δX<(1δ/p)pnp>q+\delta \Leftrightarrow p > X/n + \delta \Leftrightarrow X < (1-\delta/p)pn

同样地,有:

P(X<(1δ/p)pn)=P(X<(1δ/p)μ)exp{μ(δ/p)22}=exp{pn(δ/p)22}=exp{nδ22p}P(X < (1-\delta/p)pn) = P(X < (1-\delta/p)\mu) \le \exp \{-\frac{\mu(\delta/p)^2}{2}\} = \exp \{-\frac{pn(\delta/p)^2}{2}\} = \exp \{-\frac{n\delta^2}{2p}\}

最终把它们加起来,有:

P(p[qδ,q+δ])=P(p<qδ)+P(p>q+δ)exp{nδ23p}+exp{nδ22p}=exp{4nδ23π}+exp{4nδ22π}\begin{aligned} P(p \notin [q-\delta, q+\delta]) &= P(p<q-\delta) + P(p>q+\delta) \\ &\le \exp \{-\frac{n\delta^2}{3p}\} + \exp \{-\frac{n\delta^2}{2p}\} \\ &= \exp \{-\frac{4n\delta^2}{3\pi}\} + \exp \{-\frac{4n\delta^2}{2\pi}\} \end{aligned}

现在要的是『抽样次数 n』与『求解精度 δ\delta』之间的关系。

我们固定置信度为 γ=0.95\gamma = 0.95,得到 nnδ\delta 之间的隐函数关系:

exp{4nδ23π}+exp{4nδ22π}=10.95=0.05\exp \{-\frac{4n\delta^2}{3\pi}\} + \exp \{-\frac{4n\delta^2}{2\pi}\} = 1 - 0.95 = 0.05

绘制图像如下:

20190424022331-2019-4-24-2-23-32 20190424022452-2019-4-24-2-24-54

可以看到,随着 nn 的增加,置信区间缩小,精度越来越好,从网格中可以看出 n=300n=300 时精度达到了 0.10.1

【作业】快排的随机性

20190424024326-2019-4-24-2-43-28

这道题来自《概率与计算》习题 4.20,答案参见这里

(a)

D(s)D(s) 表示 QuickSort 排序时所发生的动作对应的树的高度。我们用 N(s)N(s) 表示排序 ss 个数对应的结点。对于树中有两个孩子 N(a)N(a)N(sa)N(s-a) 的结点 N(s)N(s),我们有下面的递归等式:

D(s)=max{D(a),D(sa)}+1D(s) = \max \{D(a),D(s-a)\}+1

其中 D(1)=1D(1) = 1D(s)D(s) 是关于 ss 的单调不减的函数。每次迭代 D(s)D(s) 表示一个结点,此结点有两个孩子 D(a)D(a)D(sa)D(s-a)。由题,一个结点 N(s)N(s),带有两个孩子结点 N(a)N(a)N(sa)N(s-a),如果满足 max{a,sa}2s/3\max \{a, s-a\} \le 2s/3,也就是说 max{D(a),D(sa)}D(2s/3)\max \{D(a), D(s-a)\} \le D(2s/3)。因此对于一个好结点,我们有 D(s)D(2s/3)+1D(s) \le D(2s/3)+1。这样,在任何路径上,从根结点到叶子结点的好结点的数量最多为 log3/2n=log2(2/3)log2n\log_{3/2}n = \log_2(2/3)\cdot\log_2n,取 log2(2/3)0.631\log_2(2/3) \approx 0.631 为所要求的 c1c_1 即可。

(b)

不超过,至少 <-> 超过,至多 <-> 切尔诺夫

c2=36c_2 = 36(也就是说,从树根到叶子的路径上所含结点的数量至少为 35)、δ=9/20\delta = 9/20。通过 (a)(a) 我们知道任意从根到叶子结点的路径上好结点的数量不超过 c1log2nc_1\log_2 n,其中 c10.631c_1 \approx 0.631,可以推出坏结点的数量至少是 35log2n35\log_2 n。令 XiX_i 表示一个指示随机变量,Xi=1X_i=1 表示第路径上第 ii 个结点是坏的,否则 Xi=0X_i=0。我们要估计的概率就是 P[X=i=136log2nXi35.369log2n]P[X=\sum_{i=1}^{36\log_2 n}X_i \ge 35.369 \log_2 n]。注意一个结点是好的当且仅当选中的基准元素大于等于第 s/3s/3 小的元素,或者小于等于第 2s/32s/3 小的元素。因此我们有 P(Xi=1)2/3,P(Xi=0)1/3P(X_i=1) \le 2/3, P(X_i=0)\ge 1/3E(Xi)(2/3)36log2n=24log2nE(X_i) \le (2/3) \cdot 36\log_2 n = 24 \log_2 n。另外,根据切尔诺夫界,我们有:

μH=24log2n\mu_H = 24 \log_2 n,我们有:

P[X35.369log2n]P[X34.8log2n]=P[X(1+δ)μH]exp{μHδ2/3}=exp{8150lnnln2}n2.337<n2\begin{aligned} P[X \ge 35.369 \log_2 n] &\le P[X \ge 34.8 \log_2 n] \\ &= P[X \ge (1+\delta) \cdot \mu_H] \\ &\le \exp \{-\mu_H\delta^2/3\} \\ &= \exp \{-\frac{81}{50}\cdot\frac{\ln n}{\ln 2}\} \\ &\le n^{-2.337} \\ & < n^{-2} \end{aligned}

因此我们得到了所要求的概率 11/n21- 1/n^2

©

注意到树中从根到叶子结点的路径一共有 nn 条。用 AiA_i 表示事件:在第 ii 条路径上结点的总数超过 c2log2nc_2\log_2 nc2c_2 在 (b) 中确定为 36)。我们已经证明 P(Ai)1/n2P(A_i) \le 1/n^2。因此根据 union-bound,从根到叶子结点的最长的路中的结点数大于 c2log2nc_2\log_2 n 的概率为 P(i=1nAi)P(\cup_{i=1}^nA_i),至多是 i=1nP(Ai)=1n\sum_{i=1}^nP(A_i) = \frac{1}{n}。得证。

(d)

T(n)T(n) 表示 Quicksort 排序 nn 个数时用的时间,我们有:

T(n)=T(a)+T(na)+O(n)T(n) = T(a) + T(n-a) + O(n)

其中 O(n)O(n) 是基准元素和其他 n1n-1 个元素进行比较时的时间开销。因为 Quicksort 算法的递归深度至多等于相应的树的从根到叶子结点的路上的结点数量,因为以 11n1-\frac{1}{n} 的概率为 O(logn)O(\log n),通过使用递归树方法,分析可得以 11n1-\frac{1}{n} 的概率 T(n)=O(nlogn)T(n) = O(n\log n)

鞅的应用

随机变量序列 X0,X1,X2,X_0, X_1, X_2, \cdots,如果满足

E(XiX0,X1,,Xi1)=Xi1,i1E(X_i|X_0,X_1,\cdots,X_{i-1}) = X_{i-1}, \forall i \ge 1

则称 X0,X1,X2,X_0, X_1, X_2, \cdots 是一个鞅。

【习题】按照定义证明

20190424035759-2019-4-24-3-58-0

根据定义,只需证明

E(YiY0,Y1,,Yi1)=Yi1,i1E(Y_i|Y_0,Y_1,\cdots,Y_{i-1}) = Y_{i-1}, \forall i \ge 1

E(YiY0,Y1,,Yi1)=E(2i(1Xi)Y0,Y1,,Yi1)=2i2iE[XiY0,Y1,,Yi1]\begin{aligned} E(Y_i|Y_0,Y_1,\cdots,Y_{i-1}) &= E(2^i(1-X_i)|Y_0,Y_1,\cdots,Y_{i-1}) \\ &= 2^i - 2^iE[X_i|Y_0,Y_1,\cdots,Y_{i-1}] \end{aligned}

根据已知条件:

E(XiXi1)=(Xi1+1)/2\begin{aligned} E(X_i|X_{i-1}) &= (X_{i-1}+1)/2 \end{aligned}

因为 YiY_i 给定就相当于 XiX_i 给定,所以:

E(YiY0,Y1,,Yi1)=2i2iE[XiX0,X1,,Xi1]=2i2iE[XiXi1]=2i2iXi1+12=2i(11Yi12i1+12)=Yi1\begin{aligned} E(Y_i|Y_0,Y_1,\cdots,Y_{i-1}) &= 2^i - 2^iE[X_i|X_0,X_1,\cdots,X_{i-1}] \\ &= 2^i - 2^iE[X_i|X_{i-1}] \\ &= 2^i - 2^i\frac{X_{i-1}+1}{2} \\ &\xlongequal{带回去} 2^i\left(1-\frac{1-\frac{Y_{i-1}}{2^{i-1}}+1}{2}\right) \\ &= Y_{i-1} \end{aligned}

【习题】应用-分析时间复杂度

20190424044506-2019-4-24-4-45-8

步骤 4 处每次执行 goto 的条件为,从剩余的 n-(k-1) 个数中选取出的数小于之前抽取的数。

这是一个 Las Vegas 算法,假设每一次执行:

  • 成功的概率为 pp,所用的时间为 O(n)O(n)
  • 不成功的概率为 1p1-p,所用的时间为 O(Ji)O(J_i)ii 表示第几次执行,其中 JiJ_i 为第一个满足 yk<yk1y_k < y_{k-1}kkJJ 的期望为 E(Ji)E(J_i)

由几何分布的性质,所需的运行次数 XX 的期望值为:

E(X)=1pE(X) = \frac{1}{p}

算法运行所需的总时间等于不成功时所需要的时间加上最后一次成功时所需要的时间:

T=i=1X1O(Ji)+O(n)T = \sum_{i=1}^{X-1}O(J_i) + O(n)

因此算法运行的时间复杂度的期望为:

这里,补习概率论知识,随机变量作 sum 的下标时该怎么办。

E(i=0NXi)=nP(N=n)E(i=0nXi)E\left(\sum_{i=0}^N X_i\right) = \sum_n P(N=n) \, E\left(\sum_{i=0}^n X_i\right)

E(T)=E[i=1X1O(Ji)+O(n)]=E[i=1X1O(Ji)]+O(n)=xP(X=x)E(i=1x1O(Ji))+O(n)JE(J)=xP(X=x)(x1)O[E(J)]+O(n)=O[E(J)]xP(X=x)(x1)+O(n)=O[E(J)][E(X)1]+O(n)=O[E(J)](1p1)+O(n)\begin{aligned} E(T) &= E\left[\sum_{i=1}^{X-1}O(J_i) + O(n)\right] \\ &= E\left[\sum_{i=1}^{X-1}O(J_i)\right] + O(n) \\ &= \sum_{x} P(X=x)E\left(\sum_{i=1}^{x-1}O(J_i) \right) + O(n) \\ & 每一轮运行 J 的均值都是一样的,记为 E(J) \\ &= \sum_{x} P(X=x)(x-1)O\left[E(J) \right] + O(n) \\ &= O\left[E(J) \right]\sum_{x} P(X=x)(x-1) + O(n) \\ &= O\left[E(J) \right][E(X)-1] + O(n) \\ &= O[E(J)](\frac{1}{p}-1) + O(n) \\ \end{aligned}

下面计算概率值:

  1. 所有可能的排序中只有 1 种是正确的(不考虑元素相等的情况),成功的概率 p=1n!p = \frac{1}{n!}
  2. 『第 ii 元素才开始打破有序性,前 (i1)(i-1) 个元素均有序』的概率为 P(J=i)P(J = i),前 (i2)(i-2) 个元素只有 1 种排法,第 (i1)(i-1) 个元素有两种排法,其中一种排法不管第 ii 个元素选择什么都会打破有序性,另外一种排法要打破有序性必须第 ii 个元素只有 (ni)(n-i) 种排法,第 (i+1)(i+1) 个及后面的元素排法任意,P(J=i)=[(ni+1)!+(ni)(ni)!]n!<2(ni+1)!(n)!P(J = i) = \frac{[(n-i+1)! + (n-i)(n-i)!]}{n!} < \frac{2(n-i+1)!}{(n)!}。因此 E(J)=j=2nP(J=j)j<j=2n2(nj+1)!n!jj=2n2(n2+1)!n!jj=2nj=(n1)(n+2)2E(J) = \sum_{j=2}^{n}P(J=j) j < \sum_{j=2}^{n}\frac{2(n-j+1)!}{n!}j \le \sum_{j=2}^{n}\frac{2(n-2+1)!}{n!}j \le \sum_{j=2}^{n}j = \frac{(n-1)(n+2)}{2}

最后得到平均时间复杂度为:

E(T)=O(j=2njCnj(n!1)+n)O[O(n)(n!1)+n]=O[(n+1)!]\begin{aligned} E(T) &= O\left( \sum_{j=2}^n\frac{j}{C_n^j}(n!-1) + n \right) \\ &\le O\left[ O(n)(n!-1) + n \right] \\ &= O[(n+1)!] \end{aligned}

虽然刚开始做出来了,后来却发现老师要求使用鞅的知识,所以看了一下课本,在《概率与计算》中有一道习题 12.12 和这个是一样的,不过并没有找到答案。

同样用 JiJ_i 表示每次运行算法不成功时用去的时间,XX 表示成功时的总尝试次数。在这个式子的基础上:

T=i=1X1O(Ji)+O(n)T = \sum_{i=1}^{X-1}O(J_i) + O(n)

往瓦尔德方程的路子上靠,我们可以尝试去证明 XXJ={J1,J2}J = \{J_1, J_2\cdots\} 的一个停时。

不同的 JiJ_i 之间是相互独立的,有 E(Ji)=E(Ji1)E(J_i) = E(J_{i-1}),所以 J1,J_1, \cdots 是一个鞅。而且 X=xX=xX1=x1X-1=x-1) 仅依赖于 J1,,JxJ_1, \cdots, J_{x},所以 X1X-1 是鞅 JJ 的一个停时。

所以有:

E[i=1X1O(Ji)]=E(X1)E(J)E[\sum_{i=1}^{X-1}O(J_i)] = E(X-1)\cdot E(J)

其余证明过程不变。

文章作者: upupming
文章链接: https://blog.upupming.site/2019/04/30/chernoff-bound-and-martingle/
版权声明: 本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 upupming 的博客