close

Вход

Забыли?

вход по аккаунту

(М.Л. Сердобльская, 2014)

код для вставкиСкачать
СХОДИМОСТЬ С ВЕРОЯТНОСТЬЮ ЕДИНИЦА
Рассмотрим последовательность случайных величин ξn : Ω 7→ R, n = 1, 2, . . . .
Будем говорить, что последовательность {ξn }n=1,∞ сходится к случайной величине ξ : Ω 7→ R с вероятностью единица или, что то же самое, почти наверное, если
множество
n
o
ω : ξ(ω) = lim ξn (ω)
(1)
n→∞
имеет вероятность единица.
Лемма 1. Пусть ε > 0 и последовательность множеств {An (ε)}n=1,∞ задаётся как
An (ε) = ω : |ξn (ω) − ξ(ω)| < ε ,
n = 1, 2, . . . .
(2)
Последовательность случайных величин {ξn }n=1,∞ сходится к случайной величине ξ с вероятностью единица тогда и только тогда, когда для любого ε > 0
P lim inf An (ε) = 1.
(3)
n→∞
Доказательство. Для краткости записи введём обозначения
n
o
A = ω : ξ(ω) = lim ξn (ω) ,
n→∞
∞
[
def
A∗ (ε) = lim inf An =
n→∞
∞
\
An (ε).
N=1 n=N
Напомним определение сходимости числовой последовательности {ξn (ω)}n=1,∞
к значению ξ(ω): для любого ε > 0 найдётся натуральный номер N = N (ε) такой,
что для всех n > N (ε) выполнено неравенство |ξn (ω) − ξ(ω)| < ε. Тогда (как обычно,
заменяя требование «для любого» операцией пересечения, а условие существования – операцией объединения) множество (1) можно переписать как
∞ \
∞
∞ \
∞
\
\ [
\ [
A=
ω : |ξn (ω) − ξ(ω)| < ε =
An (ε) =
A∗ (ε).
ε>0 N=1 n=N
ε>0 N=1 n=N
(4)
ε>0
Если последовательность {ξn }n=1,∞ сходится к случайной величине ξ с вероятностью единица, т. е. P (A) = 1, то в силу соотношений
\
P A∗ (ε) > P
A∗ (ε) = P (A) = 1
ε>0
мы получаем, что P A∗ (ε) = 1 для любого ε > 0.
Наоборот, пусть P A∗ (ε) = 1 для любого ε > 0. Очевидно, что в определении
предела последовательности условие, что в неравенстве |ξn (ω) − ξ(ω)| < ε величина
ε > 0 произвольна, можно заменить на |ξn (ω) − ξ(ω)| < εm для любого m = 1, 2, . . .
где {εm }m=1,∞ – некоторая последовательность положительных чисел, монотонно
сходящаяся к нулю, например εm = 1/m, m = 1, 2, . . . . Другими словами, множество A можно записать как
A=
∞ [
∞ \
∞
\
ω : |ξn (ω) − ξ(ω)| < εm =
m=1 N=1 n=N
1
∞
\
m=1
A∗ (εm ),
εm =
1
.
m
Заметим, что из такого представления вытекает, что множество тех элементарных
исходов, при которых ξn (ω) → ξ(ω), всегда принадлежит сигма-алгебре событий F .
Поскольку εm+1 < εm , неравенство |ξn (ω) − ξ(ω)| < εm+1 влечёт неравенство
|ξn (ω) − ξ(ω)| < εm , и это можно записать как An (εm+1 ) ⊂ An (εm ). Отсюда последовательно выводим включения
∞
\
An (εm+1 ) ⊂
n=N
∞
\
An (εm ),
n=N
∞ \
∞
[
An (εm+1 ) ⊂
N=1 n=N
∞ \
∞
[
An (εm ),
N=1 n=N
таким образом,
A∗ (εm+1 ) ⊂ A∗ (εm ),
m = 1, 2, . . . .
Следовательно,
∞
\
A∗ (εm ) = lim A∗ (εm )
m→∞
m=1
и, если P A∗ (εm ) = 1 для любого m, в силу непрерывности вероятности
P (A) = P
\
∞
m=1
A∗ (εm )
= lim P A∗ (εm ) = 1.
m→∞
Лемма доказана.
Переходя в (2) и (3) к дополнительным событиям, получаем другой вариант леммы 1.
Лемма 2. Последовательность случайных величин {ξn }n=1,∞ сходится к случайной величине ξ с вероятностью единица тогда и только тогда, когда для любого
ε>0
P lim sup A¯n (ε) = 0,
A¯n (ε) = ω : |ξn (ω) − ξ(ω)| > ε ,
n = 1, 2, . . . . (5)
n→∞
Здесь мы учли, что
lim inf An (ε) = lim sup An (ε),
n→∞
n→∞
An (ε) = ω : |ξn (ω) − ξ(ω)| > ε ,
n = 1, 2, . . . ,
и, чтобы не загромождать формулы, положили An (ε) = A¯n (ε).
Из леммы 2 вытекает следующее утверждение.
Утверждение 1. Сходимость почти наверное влечёт сходимость по вероятности:
п. н.
P
ξn → ξ =⇒ ξn → ξ,
n→∞
Доказательство. Проведём доказательство от противного. Пусть последовательность {ξn }n=1,∞ не сходится по вероятности к случайной величине ξ. Это озна
чает, что найдётся число ε0 > 0 такое, что P |ξn − ξ| > ε0 не стремится к нулю при
n → ∞. Это, в свою очередь, означает, что найдётся число δ > 0 и подпоследовательность {ξnk }k=1,∞ такие, что
P |ξnk − ξ| > ε0 > δ,
k = 1, 2, . . .
2
или, в обозначениях из (5), P A¯nk (ε0 ) > δ для всех k = 1, 2, . . . . Отсюда с учётом (6) получаем
P lim sup A¯nk (ε0 )
n→∞
= lim P
N→∞
[
∞
A¯nk (ε0 )
k=N
> δ > 0.
Это означает, что для подпоследовательности {ξnk }k=1,∞ и, следовательно, для всей
последовательности {ξn }n=1,∞ неверно, что они сходятся к случайной величине ξ
с вероятностью единица.
Далее нам потребуется ещё одно утверждение, и для его доказательства мы
вспомним определение и общие свойства верхнего предела последовательности множеств. Верхний предел последовательности множеств {Bn }n=1,∞ определяется как
def
lim sup Bn =
n→∞
∞ [
∞
\
Bn
N=1 n=N
и условие ω ∈ lim sup Bn эквивалентно тому, что ω принадлежит счётному количеству множеств из B1 , B2 , . . . (некоторой подпоследовательности в {Bn }n=1,∞ ). Кроме того, очевидно,
∞
∞
[
[
Bn ⊂
Bn ,
N = 1, 2, . . . ,
n=N+1
n=N
отсюда
def
lim sup Bn =
n→∞
∞
∞ [
\
Bn = lim
N→∞
N=1 n=N
∞
[
Bn ,
(6)
n=N
Отметим также, что
P
[
∞
n=1
Bn
6
∞
X
(7)
P (Bn )
n=1
(если ряд в правой части сходится). В самом деле,
P (B1 ∪ B2 ) = P (B1 ) + P (B2 ) − P (B1 ∩ B2 ) 6 P (B1 ) + P (B2 ),
отсюда последовательно выводим аналогичное неравенство для объединения любого
конечного числа множеств:
P (B1 ∪ B2 ∪ B3 ) 6 P (B1 ∪ B2 ) + P (B3 ) 6 P (B1 ) + P (B2 ) + P (B3 ),
P (B1 ∪ B2 ∪ · · · ∪ BM ) 6
M
X
P (Bn )
(8)
n=1
для любого M = 1, 2, . . . . Теперь посмотрим, как получить такую же оценку для
бесконечного (счётного) объединения множеств. Нетрудно заметить, что бесконечное объединение можно представить так:
∞
[
n=1
Bn =
∞ [
M
[
M =1 n=1
3
Bn .
(9)
Чтобы доказать равенство множеств, выведем два простых следствия. Возьмём
S∞
ω ∈ n=1 Bn , тогда найдётся номер n0 , при котором
n0
[
ω ∈ Bn0 ⊂
Bn ⊂
S∞
M =1
SM
n=1
Bn . Если ω ∈
ω∈
M
[0
Bn ⊂
n=1
поэтому ω ∈
S∞
n=1
Bn ,
M =1 n=1
n=1
следовательно, ω ∈
M0 , при котором
∞ [
M
[
∞
[
S∞
M =1
SM
n=1
Bn , то найдётся номер
Bn ,
n=1
Bn , и равенство множеств (9) доказано. Кроме того, очевидно,
n=1
M
+1
[
∞
[
∞ [
M
[
M
[
Bn ⊂
Bn ,
M = 1, 2, . . . ,
n=1
следовательно,
Bn =
n=1
Bn = lim
M →∞
M =1 n=1
M
[
Bn ,
n=1
т. е. мы получили счётное объединение как предел “частичных” объединений в полной аналогии с определением ряда как предела последовательности частичных сумм.
По свойству непрерывности вероятности с учётом написанных выше оценок для вероятностей конечных объединений мы имеем
[
[
M
∞
∞
M
X
X
P (Bn ) =
P (Bn ).
P
Bn = lim P
Bn 6 lim
n=1
M →∞
M →∞
n=1
n=1
n=1
Следующее утверждение известно как лемма Бореля–Кантелли.
Лемма 3. Если
∞
X
P (Bn ) < ∞,
n=1
то с вероятностью единица происходит только лишь конечное число событий из
B1 , B2 , . . . .
Доказательство. Утверждение леммы можно, перейдя к дополнительному событию, переформулировать следующим образом: бесконечное количество событий
из B1 , B2 , . . . происходит с вероятностью ноль, т. е.
P lim sup Bn = 0.
n→∞
С учётом (6) и оценки (7) получаем
[
∞
∞
X
P lim sup Bn = lim P
P (Bn ) = 0,
Bn 6 lim
n→∞
N→∞
n=N
N→∞
n=N
где собственно равенство нулю вытекает из условия сходимости ряда.
4
Усиленный закон больших чисел. Напомним, что если случайные величины
ξ1 , ξ2 , . . . попарно некоррелированы, cov(ξi , ξj ) = 0 при любых i 6= j, и дисперсии
этих случайных величин ограничены в совокупности, Dξk 6 C для всех k = 1, 2, . . . ,
то при n → ∞
n
1X
P
(ξk − M ξk ) → 0.
n
k=1
Это утверждение носит название закон больших чисел (в форме Чебышёва) и вытекает из неравенства Чебышёва:
X
X
n
n
1 n
1 X
1
nC
P (ξk − M ξk ) > ε 6 D
ξk = 2
Dξk 6 2 2 → 0,
n → ∞.
n
n
n
n ε
k=1
k=1
k=1
В частности, если M ξk = µ для всех k = 1, 2, . . . , то
n
1X
P
ξk → µ.
n
k=1
Усилим условия теоремы, и докажем, что тогда мы будем иметь более сильную
сходимость, а именно сходимость с вероятностью единица. Эта теорема носит название усиленный закон больших чисел.
Теорема 1. Если случайные величины ξ1 , ξ2 , . . . некоррелированы, cov(ξi , ξj ) = 0
при любых i 6= j , одинаково распределены и M ξk = µ, Dξk = σ 2 < ∞ для всех
k = 1, 2, . . . , то
n
1 X п. н.
ξk → µ.
n
k=1
Доказательство. Сделав замену ξk 7→ ξk − µ, мы далее будем считать, что
µ = 0. Поскольку доказательство довольно длинное, изложим его план.
1. Покажем, что для любых натуральных n, n1 , n2 таких, что n1 6 n 6 n2 , и для
всех ω ∈ Ω справедливо двойное неравенство
n
1 X
6 αn1 (ω) + βn1 ,n2 (ω),
(10)
ξ
(ω)
k
n
k=1
где αn1 и βn1 ,n2 – некоторые специальным образом подобранные случайные величины, с вероятностью единица принимающие неотрицательные значения.
2. Положим n1 = m2 и n2 = (m + 1)2 и переобозначим для краткости αm2 как
αm и βm2 ,(m+1)2 – как βm . После этого покажем, что для любого фиксированного
ε > 0 при больших m
1
1
P (αm > ε) 6 O
,
P (βm > ε) 6 O
,
(11)
m2
m2
т. е. вероятность можно оценить сверху некоторой величиной, которая имеет порядок
O(1/m2 ) при m → ∞. Поэтому
∞
X
∞
X
P (αm > ε) < ∞,
m=1
m=1
5
P (βm > ε) < ∞,
а отсюда по лемме Бореля–Кантелли следует, что
P lim sup ω : αm > ε = 0,
P lim sup ω : βm > ε = 0.
m→∞
(12)
m→∞
3. В силу леммы 2 из соотношений (12) вытекает, что
п. н.
αm → 0,
п. н.
βm → 0,
m → ∞,
другими словами, найдутся множества M1 , M2 ⊂ Ω такие, что при m → ∞
αm (ω) → 0 при всех
βm (ω) → 0 при всех ω ∈ M2
ω ∈ M1 ,
и при этом P (M1,2 ) = 1. Тогда на множестве M = M1 ∩ M2 мы имеем для m → ∞
αm (ω) + βm (ω) → 0 при всех
ω∈M
и при этом P (M ) = 1, поскольку
1 > P (M ) = P (M1 ∩ M2 ) = P (M1 ) + P (M2 ) − P (M1 ∪ M2 ) = 2 − P (M1 ∪ M2 ) > 1.
4. Для каждого натурального n подберём m = m(n) так, чтобы было выполнено
двойное неравенство m2 6 n 6 (m + 1)2 . Понятно, что такое всегда возможно
(числа m могут быть одними и теми же для разных n, но для нас это неважно).
При таких n1 = m2 и n2 = (m + 1)2 в силу оценки (10) мы имеем в пределе n → ∞,
который эквивалентен m → ∞, искомую сходимость с вероятностью единица:
n
1 X
6 αm (ω) + βm (ω) → 0 для всех ω ∈ M,
ξ
(ω)
P (M ) = 1.
k
n
k=1
Тем самым теорема будет доказана.
Теперь приступим к доказательству. Понятно, что нам в сущности осталось только подобрать случайные величины αn1 и βn1 ,n2 так, чтобы были верны неравенства (10) и оценки (11) при n1 = m2 и n2 = (m + 1)2 . Всюду далее в неравенствах
типа (10) для значений случайных величин мы будем опускать зависимость от ω,
поскольку эти неравенства будут верны для любого ω ∈ Ω.
1. Начнём с очевидного неравенства
X
X
n
1 n1 1 X
1 n
,
6
n1 6 n.
(13)
ξ
+
ξ
ξ
k
k
k
n
n
n
k=1
k=n1 +1
k=1
Далее для n1 6 n запишем
X
n1
1 n1 1 X
def
= αn
6
ξ
ξ
k
k
1
n
n1
k=1
k=1
и тем самым определим случайную величину αn1 > 0.
Для определения случайной величины βn1 ,n2 > 0 запишем следующую цепочку
неравенств, считая, что n1 6 n 6 n2 :
n
n
1 X
1 X
6
6
ξ
ξ
k
k
n1
n
k=n1 +1
k=n1 +1
6
1
6 max n1 +16r6n n1
r
X
k=n1 +1
1
max ξk 6
n1 +16r6n2 n1
r
X
k=n1 +1
Подставляя все полученные оценки в (13), получаем
X
1 n
6 αn + βn ,n ,
n1 6 n 6 n2 .
ξ
k
1
1
2
n
def
ξk = βn1 ,n2 .
k=1
Итак, мы нашли случайные величины αn1 и βn1 ,n2 такие, что выполнены неравенства (10).
2. Для получения оценок (11) применим неравенство Чебышёва (напомним, что
M ξk = 0, Dξk = σ 2 ): для любого ε > 0
X
X
n
n1
1 n1 1
1 1
1 X
σ2
P (αn1 > ε) = P . (14)
ξk > ε 6 2 D
ξk = 2 2
Dξk =
n1
ε
n1
n1 ε
n1 ε2
k=1
k=1
Далее, событие
βn1 ,n2
1
=
max n1 +16r6n2 n1
k=1
r
X
def
k=n1 +1
ξk > ε
происходит тогда и только тогда, когда найдётся номер r из интервала значений
n1 + 1 6 r 6 n2 , при котором
r
1 X
> ε,
ξ
k
n1
k=n1 +1
что, как обычно, можно перформулировать в терминах объединения множеств:
n1
r
[
1 X
ω : βn1 ,n2 > ε =
ω : ξk > ε .
n
1
r=n +1
k=n1 +1
1
Отсюда
P βn1 ,n2 > ε) = P
6
n1
[
r=n1 +1
n
1
X
P
r=n1 +1
1
ω : n1
1
n1
r
X
k=n1 +1
r
X
k=n1 +1
ξk > ε
6
ξk > ε ,
где мы воспользовались неравенством (8). Снова применим неравенство Чебышёва:
r
r
X
1 X
1
(r − n1 )σ 2
1
P ξk > ε
6 2D
ξk =
,
n1
ε
n1
n21 ε2
k=n1 +1
k=n1 +1
следовательно,
P βn1 ,n2 > ε) 6
n1
X
r=n1
(r − n1 )σ 2
σ2
=
n21 ε2
n21 ε2
+1
nX
2 −n1
m=1
7
σ 2 (n2 − n1 )(n2 − n1 + 1)
m = 2 2
.
n1 ε
2
Итак,
P βn1 ,n2 > ε) 6
σ 2 (n2 − n1 )(n2 − n1 + 1)
.
2ε2
n21
(15)
Теперь подставим в (14) и (15) значения n1 = m2 и n2 = (m + 1)2 , тогда
(n2 − n1 )(n2 − n1 + 1)
(2m + 1)(2m + 2)
=
2
n1
m4
и, переобозначив αm2 как αm и βm2 ,(m+1)2 – как βm , получаем из (14) и (15)
P (αm
P βm
1
σ2 1
,
> ε) 6 2 · 2 = O
ε m
m2
σ 2 (2m + 1)(m + 1)
1
> ε) 6 2 ·
=O
.
ε
m4
m2
Оценки (11) доказаны и, рассуждая далее, как написано в п. 3, 4 нашего плана, мы
завершаем доказательство теоремы.
8
1/--страниц
Пожаловаться на содержимое документа