Zagadnienia

1.1 Zadania

1. Zbieżność według rozkładu – zbieżność miar probabilistycznych w przestrzeniach metrycznych

Celem tego rozdziału jest wprowadzenie pewnego nowego typu zbieżności zmiennych losowych, tzw. zbieżności według rozkładu. Zacznijmy od pewnych intuicji związanych z tym pojęciem. Jak sama nazwa wskazuje, zbieżność ta odnosi się do rozkładów zmiennych losowych. Zatem, aby ją zdefiniować (na początek, dla rzeczywistych zmiennych losowych), potrzebujemy metody pozwalającej stwierdzić czy dwa rozkłady prawdopodobieństwa na R są ,,bliskie”. Jeśli tak na to spojrzeć, to automatycznie narzuca się użycie tzw. całkowitej wariacji miary. Ściślej, definiujemy odległość dwóch miar probabilistycznych μ, ν na R jako całkowitą wariację ich różnicy:

μ-ν=sup⁡∑n=1∞μ⁢An-ν⁢An,

gdzie supremum jest wzięte po wszystkich rozbiciach prostej rzeczywistej na przeliczalną liczbę zbiorów borelowskich Ann=1∞. I teraz mówimy, że Xn zbiega do X jeśli PXn-PX→0 gdy n→∞.

To podejście jest jednak zbyt restrykcyjne i zbieżność według rozkładu wprowadzimy w inny sposób. W całym niniejszym rozdziale, E,ρ jest przestrzenią metryczną, B⁢E oznacza klasę podzbiorów borelowskich E oraz

C⁢E=f:E→R⁢⁢⁢ciągłe i ograniczone.

Definicja 1.1

Niech Pnn będzie ciągiem miar probabilistycznych na B⁢E (rozkładów prawdopodobieństwa na E). Mówimy, że ciąg Pn jest zbieżny według rozkładu do P (lub słabo zbieżny do P), jeżeli dla każdej funkcji f∈C⁢E mamy ∫Ef⁢d⁢Pn→∫Ef⁢d⁢P. Oznaczenie: Pn⇒P.

Dowód poprawności definicji: Musimy udowodnić, że jeśli Pn⇒P oraz Pn⇒P′, to P=P′. Innymi słowy, musimy wykazać następujący fakt.

Stwierdzenie 1.1

Załóżmy, że P, P′ są takimi rozkładami w E, że dla każdej funkcji f∈C⁢E, ∫Ef⁢d⁢P=∫Ef⁢d⁢P′. Wówczas P=P′.

Przytoczmy pomocniczy fakt z Topologii I.

Lemat 1.1

Niech F będzie domkniętym podzbiorem E. Wówczas dla każdego ε>0 istnieje f∈C⁢E jednostajnie ciągła spełniająca 0≤f≤1 oraz

f⁢x=1jeśli ⁢x∈F,0jeśli ⁢ρ⁢x,F≥ε.

Dowód Stwierdzenia 1.1:

Wystarczy udowodnić, że dla każdego domkniętego F⊂E zachodzi P⁢F=P′⁢F (teza wynika wówczas prosto z lematu o π-λ układach). Dla każdego n i ε=1/n, Lemat 1.1 daje funkcję fn o odpowiednich własnościach. Widzimy, iż dla każdego x∈E, fn⁢x→1F⁢x, zatem

P⁢F=∫E1F⁢d⁢P←∫Efn⁢d⁢P=∫Efn⁢d⁢P′→P′⁢F.

∎

Przykłady:

Załóżmy, że an jest ciągiem punktów z Rd oraz a∈Rd. Wówczas an→a wtedy i tylko wtedy, gdy δan⇒δa. Istotnie, an→a wtedy i tylko wtedy, gdy dla każdej funkcji f∈C⁢E mamy f⁢an→f⁢a, czyli ∫Rdf⁢d⁢δan→∫Rdf⁢d⁢δa.
Załóżmy, że Pn jest ciągiem miar probabilistycznych na R, zadanym przez

Pn⁢k/n=1/n,⁢k=1, 2,⁢…,⁢n.

Wówczas Pn⇒P, gdzie P jest rozkładem jednostajnym na 0,1. Istotnie, dla dowolnej funkcji f∈C⁢R,

∫Rf⁢d⁢Pn=∑k=1nf⁢k/n⋅1n→∫01f⁢x⁢d⁢x=∫Rf⁢d⁢P.

Ważna uwaga: Z tego, że Pn⇒P nie wynika, że dla dowolnego B∈B⁢E mamy Pn⁢B→P⁢B. Np. weźmy a∈R oraz ciąg an liczb rzeczywistych taki, że an>a oraz an→a. Jak już wiemy, δan→δa, ale

δan((-∞,a])=0not→1=δa((-∞,a]).

Twierdzenie 1.1

Niech Pn, P (n=1, 2,…) będą miarami probabilistycznymi na B⁢E. Następujące warunki są równoważne.

a) Pn⇒P.

b) Dla każdej funkcji f∈C⁢E jednostajnie ciągłej, ∫Ef⁢d⁢Pn→∫Ef⁢d⁢P.

c) Dla każdego domkniętego F⊂E, lim supn→∞⁡Pn⁢F≤P⁢F.

d) Dla każdego otwartego G⊂E, lim infn→∞⁡Pn⁢G≥P⁢G.

e) Dla każdego A∈B⁢E takiego, że P⁢∂⁡A=0, mamy limn→∞⁡Pn⁢A=P⁢A.

Dowód:

a) ⇒ b) – oczywiste.

b) ⇒ c) Ustalmy ε>0 i niech Fε=x∈E:ρ⁢x,F≤ε. Na mocy Lematu 1.1 istnieje fε∈C⁢E jednostajnie ciągła, przyjmująca wartości w 0,1, równa 1 na F oraz 0 na Fεc. Mamy

Pn⁢F=∫Ffε⁢d⁢Pn≤∫Efε⁢d⁢Pn→∫Efε⁢d⁢P=∫Fεfε⁢d⁢P≤P⁢Fε.

Zatem lim supn⁡Pn⁢F≤P⁢Fε, i z dowolności ε wynika, co trzeba.

c) ⇒ a) Wystarczy udowodnić, że dla każdej funkcji f∈C⁢E,

lim supn⁡∫Ef⁢d⁢Pn≤∫Ef⁢d⁢P,

(1.1)

gdyż po zastąpieniu f przez -f dostaniemy lim infn⁡∫Ef⁢d⁢Pn≥∫Ef⁢d⁢P, a więc w rzeczywistości mamy równość, gdyż lim inf≤lim sup.

Zauważmy, że jeśli f∈C⁢E, to istnieją a>0 oraz b∈R takie, że a⁢f+b przyjmuje wartości w przedziale 0,1. Co więcej, jeśli wykażemy (1.1) dla a⁢f+b, to nierówność będzie także zachodzić dla f. Innymi słowy, możemy bez straty ogólności założyć, że 0<f⁢x<1 dla każdego x∈E.

Ustalmy taką funkcję f i weźmy dodatnią liczbę całkowitą k. Rozważmy zbiory

Ai=x∈E:i-1k≤f⁢x<ik,⁢i=1, 2,⁢…,⁢k.

Oczywiście ⋃i=1kAi=E oraz zbiory A1,⁢A2,⁢…,⁢Ak są parami rozłączne. Ponadto,

L:=∑i=1ki-1kP(Ai)≤∫EfdP=∑i=1k∫AifdP≤∑i=1kikP(Ai)=:R.

Zauważmy, że

Ai={x:i-1k≤f(x)}∖{x:ik≤f(x)}=:Fi-1∖Fi,

i ∅=Fk⊂Fk-1⊂…⁢F1⊂F0=E jest zstępującym ciągiem zbiorów domkniętych. Zatem P⁢Ai=P⁢Fi-1-P⁢Fi, i=1, 2,⁢…,⁢k, i podstawiając dostajemy

⁢L⁢=∑i=1ki-1k⁢P⁢Fi-1-P⁢Fi=∑i=0k-1ik⁢P⁢Fi-∑i=1ki-1k⁢P⁢Fi⁢⁢=-k-1k⁢P⁢Fk+1k⁢∑i=1k-1P⁢Fi=1k⁢∑i=1k-1P⁢Fi⁢

oraz

⁢R⁢=∑i=1kik⁢P⁢Fi-1-P⁢Fi=∑i=0k-1i+1k⁢P⁢Fi-∑i=1kik⁢P⁢Fi⁢⁢=-P⁢Fk+1k⁢∑i=0k-1P⁢Fi=1k+1k⁢∑i=1k-1P⁢Fi.

Przeprowadzamy analogiczne oszacowania dla ∫Ef⁢d⁢Pn: w szczególności mamy

∫Ef⁢d⁢Pn≤1k+1k⁢∑i=1k-1Pn⁢Fi,

skąd wynika, na mocy c),

lim supn⁡∫Ef⁢d⁢Pn≤1k+1k⁢∑i=1k-1lim supn⁡Pn⁢Fi≤1k+1k⁢∑i=1k-1P⁢Fi≤1k+∫Ef⁢d⁢P.

Wystarczy tylko zbiec z k do nieskończoności.

c) ⇔ d): oczywiste po przejściu do dopełnień zbiorów.

c) ⇒ e) Załóżmy, że A∈B⁢E spełnia warunek P⁢∂⁡A=0. Ponieważ ∂⁡A=A¯∖int⁢A oraz int⁢A⊆A¯, mamy P⁢A¯=P⁢int⁢A=P⁢A. Z drugiej strony, korzystając z c) oraz d), mamy

⁢P⁢A¯⁢≥lim supn⁡Pn⁢A¯≥lim supn⁡Pn⁢A⁢⁢≥lim infn⁡Pn⁢A≥lim infn⁡Pn⁢int⁢A≥P⁢int⁢A,

a zatem wszędzie mamy równości: to oznacza tezę podpunktu e).

e) ⇒ c) Weźmy dowolny domknięty zbiór F⊆E. Dla każdego ε>0 zbiór Fε=x:ρ⁢x,F≤ε jest domknięty. Ponadto, zbiór ε>0:P⁢x:ρ⁢x,F=ε>0 jest co najwyżej przeliczalny; zatem istnieje ciąg εn liczb dodatnich malejący do 0 taki, że P⁢x:ρ⁢x,F=εn=0 dla każdego n. Ponieważ ∂⁡Fε⊆x:ρ⁢x,F=ε, mamy więc P⁢∂⁡Fεn=0 dla każdego n, a zatem, korzystając z e), przy ustalonym k,

lim supn⁡Pn⁢F≤lim supn⁡Pn⁢Fεk=P⁢Fεk.

Zbiegając z k→∞, mamy εk→0 oraz P⁢Fεk→P⁢F, na mocy tego, iż F jest domknięty.

∎

Stwierdzenie 1.2

Załóżmy, że Pn, P są rozkładami prawdopodobieństwa w Rd (n=1, 2,⁢…), o dystrybuantach Fn, F, odpowiednio. Wówczas Pn⇒P wtedy i tylko wtedy, gdy Fn⁢x→F⁢x dla każdego punktu x, w którym F jest ciągła.

Dowód:

⇒ Weźmy punkt x=x1,⁢x2,⁢…,⁢xd ciągłości dystrybuanty F i niech A=y∈Rd:yi≤xi,⁢i=1, 2,⁢…,⁢d. Zauważmy, iż P⁢∂⁡A=0; w przeciwnym razie F miałaby nieciągłość w punkcie x (istotnie, mielibyśmy

limk→∞F(x1-1k,x2-1k,…,xd-1k)=limk→∞P({y∈Rd:yi≤xi-1k})<P(A)=F(x)).

Zatem na mocy podpunktu e) Twierdzenia 1.1, Fn⁢x=Pn⁢A→P⁢A=F⁢x.

⇐ Najpierw udowodnimy

Lemat 1.2

Załóżmy, że E jest przestrzenią metryczną, K⊆B⁢E jest π-układem takim, że każdy zbiór otwarty jest sumą skończoną lub przeliczalną zbiorów z K. Jeśli Pn, P (n=1, 2,⁢…) są miarami probabilistycznymi na B⁢E takimi, że dla każdego A∈K mamy Pn⁢A→P⁢A, to Pn⇒P.

Udowodnimy, że dla każdego zbioru otwartego G⊆E, lim inf⁡Pn⁢G≥P⁢G. Ustalmy więc zbiór otwarty G oraz ε>0. Z założeń lematu istnieje skończony ciąg A1,⁢A2,⁢…,⁢Ak elementów K taki, że

A1∪A2∪…∪Ak⊆G,⁢ oraz ⁢⁢P⁢G∖A1∪A2∪…∪Ak<ε.

Mamy P⁢G∖A1∪A2∪…∪Ak=P⁢G-P⁢A1∪A2∪…∪Ak, skąd, na mocy wzoru włączeń i wyłączeń,

⁢P⁢G⁢<ε+P⁢⋃i=1kAi=ε+∑i=1kP⁢Ai-∑1≤i<j≤kP⁢Ai∩Aj+…⁢⁢=ε+∑i=1klimn→∞⁡Pn⁢Ai-∑1≤i<j≤klimn→∞⁡Pn⁢Ai∩Aj+…⁢⁢=ε+limn⁡Pn⁢⋃i=1kAi≤ε+lim infn⁡Pn⁢G.

Wystarczy skorzystać z tego, że ε>0 było dowolne.

∎

Wracamy do dowodu stwierdzenia. Dla każdego i=1, 2,⁢… istnieje co najwyżej przeliczalnie wiele hiperpłaszczyzn H⊂Rd prostopadłych do osi O⁢Xi, o dodatniej mierze P; niech S oznacza dopełnienie sumy wszystkich takich hiperpłaszczyzn (sumujemy także po i). Jak łatwo zauważyć, S jest gęstym podzbiorem Rd oraz każdy punkt z S jest punktem ciągłości F. Zbiór

K=a,b=a1,b1⁢a2,b2⁢…⁢ad,bd:a,b∈S,⁢ai<bi⁢ dla każdego ⁢i

jest π-układem i każdy zbiór otwarty jest sumą skończoną lub przeliczalną zbiorów z K. Mamy

⁢⁢Pn⁢a,b⁢⁢=∑εi∈0,1-1d-ε1+ε2+…+εd⁢Fn⁢b1+ε1⁢b1-a1,…,bd+εd⁢bd-ad⁢⁢→∑εi∈0,1-1d-ε1+ε2+…+εd⁢F⁢b1+ε1⁢b1-a1,…,bd+εd⁢bd-ad⁢⁢=P⁢a,b.

Wystarczy skorzystać z poprzedniego lematu.

∎

Definicja 1.2

Załóżmy, że Xn, X (n=1, 2,⁢…) są zmiennymi losowymi o wartościach w E oraz μ jest miarą probabilistyczną na B⁢E.

(i) Mówimy, że ciąg Xn jest zbieżny według rozkładu do X, jeśli PXn⇒PX. Oznaczenie: Xn⇒X lub XnD→X.

(ii) Mówimy, że ciąg Xn jest zbieżny według rozkładu do μ, jeśli PXn⇒μ. Oznaczenie Xn⇒μ lub XnD→μ.

Uwagi:

W definicji zbieżności według rozkładu, zmienne Xn mogą być określone na różnych przestrzeniach probabilistycznych.
Równoważnie, Xn zbiega do X według rozkładu wtedy i tylko wtedy, gdy dla każdej funkcji f∈C⁢E,

limn→∞⁡E⁢f⁢Xn=E⁢f⁢X. (1.2)

Ponadto, na mocy podpunktu b) Twierdzenia 1.1, można się ograniczyć w (1.2) do funkcji jednostajnie ciągłych.
Słaba zbieżność odnosi się wyłącznie do rozkładów zmiennych losowych. Na przykład, rozważmy ciąg Xn, zadany na przestrzeni probabilistycznej ([0,1],B([0,1]),|⋅|) wzorem

X2⁢n-1=10,1/2,⁢⁢⁢⁢X2⁢n=11/2,1,⁢⁢n=1, 2,⁢….

Jak łatwo zauważyć, Xn nie jest ani zbieżny prawie na pewno, ani według prawdopodobieństwa. Natomiast z punktu widzenia słabej zbieżności, jest to ciąg stały: PXn=12⁢δ0+12⁢δ1. Ciąg ten zbiega słabo do X1 oraz do X2.

Stwierdzenie 1.3

Załóżmy, że E jest przestrzenią ośrodkową oraz X, Xn, Yn (n=1, 2,⁢…) są zmiennymi losowymi o wartościach w E, przy czym dla każdego n, zmienne Xn oraz Yn są określone na tej samej przestrzeni probabilistycznej. Jeśli Xn⇒X oraz ρ⁢Xn,YnP→0, to Yn⇒X.

Biorąc Xn=X, dostajemy stąd natychmiast następujący fakt.

Wniosek 1.1

Jeśli Xn zbiega do X według prawdopodobieństwa, to zbiega także według rozkładu.

Dowód Stwierdzenia 1.3

Niech F będzie dowolnym domkniętym podzbiorem przestrzeni E i ustalmy ε>0. Zbiór Fε=x:ρ⁢x,F≤ε jest domknięty i mamy

PYn(F)=P(Yn∈F,ρ(Xn,Yn)≤ε)+P(Yn∈F,ρ(Xn,Yn)>ε)≤P(Xn∈Fε)+P(ρ(Xn,Yn)>ε).

Zatem

lim supn⁡PYn⁢F≤lim supn⁡PXn⁢Fε+0≤PX⁢Fε

i przechodząc z ε do 0 dostajemy lim supn⁡PYn⁢F≤PX⁢F. Z dowolności F oraz podpunktu c) Twierdzenia 1.1 wynika teza.

∎

Definicja 1.3

Niech P będzie pewnym zbiorem miar probabilistycznych na B⁢E. Mówimy, że ten zbiór jest ciasny (jędrny) jeśli dla każdego ε>0 istnieje zwarty podzbiór K przestrzeni E taki, że P⁢K≥1-ε dla każdego P∈P.

Przykład:

Załóżmy, że Xii∈I jest rodziną zmiennych losowych o wartościach rzeczywistych, takich, że dla pewnego α>0, a:=supi∈I⁡E⁢Xiα<∞. Wówczas rodzina rozkładów PXii∈I jest ciasna. Istotnie, ustalmy ε>0 i L>0. Na mocy nierówności Czebyszewa, dla każdego i∈I,

PXi⁢-L,L=PXi≤L=1-PXi>L≥1-E⁢XiαLα≥1-aLα=1-ε,

o ile a/Lα=ε; wystarczy więc wziąć K=-a/ε1/α,a/ε1/α.

Twierdzenie 1.2 (Prochorow)

(i) (Twierdzenie odwrotne) Jeśli P jest zbiorem ciasnym, to z każdego ciągu elementów P można wybrać podciąg zbieżny.

(ii) (Twierdzenie proste) Jeśli E jest przestrzenią polską (tzn. ośrodkową i zupełną) i P ma tę własność, że z każdego ciągu można wybrać podciąg zbieżny, to P jest zbiorem ciasnym.

Potrzebne nam będą następujące trzy fakty: z Topologii, Analizy Funkcjonalnej oraz Teorii Miary.

Stwierdzenie 1.4

Załóżmy, że K jest przestrzenią metryczną zwartą. Wówczas C⁢K jest ośrodkowa.

Twierdzenie 1.3 (Riesz)

Załóżmy, że φ:C⁢K→R jest dodatnim funkcjonałem liniowym ciągłym, tzn.

(i) φ⁢a⁢f+b⁢g=a⁢φ⁢f+b⁢φ⁢g dla dowolnych a,⁢b∈R, f,⁢g∈C⁢K.

(ii) Istnieje stała L taka, że φ⁢f≤L⁢supx∈K⁡f⁢x dla wszystkich f∈C⁢K.

(iii) Dla dowolnej nieujemnej funkcji f∈C⁢K mamy φ⁢f≥0.
Wówczas istnieje dokładnie jedna miara skończona λ na B⁢K taka, że φ⁢f=∫Kf⁢x⁢λ⁢d⁢x dla dowolnej funkcji f∈C⁢K.

Stwierdzenie 1.5 (Regularność)

Załóżmy, że μ jest miarą skończoną na B⁢E. Wówczas dla każdego A∈B⁢E istnieje ciąg Fn zbiorów domkniętych zawartych w A oraz ciąg Gn zbiorów otwartych zawierających A, takie, że μ⁢Fnn→∞→μ⁢A oraz μ⁢Gnn→∞→μ⁢A.

Dowód twierdzenia odwrotnego

Załóżmy, że P jest ciasny. Wobec tego, dla każdego m=1, 2,⁢… istnieje zwarty podzbiór Km przestrzeni E taki, że P⁢Km≥1-1m dla wszystkich P∈P. Bez straty ogólności możemy założyć, że ciąg Km jest wstępujący (zastępując ten ciąg, w razie potrzeby, przez ciąg K1,⁢K1∪K2,⁢K1∪K2∪K3,⁢…).

Niech Pm będzie ciągiem miar z P. Dla większej przejrzystości dowodu, podzielimy go na kilka części.

1. Na mocy Stwierdzenia 1.4, dla każdego m=1, 2,⁢…, C⁢Km jest przestrzenią ośrodkową. Niech fmrr=1, 2,⁢… będzie jej przeliczalnym gęstym podzbiorem. Dla każdego m,⁢r, ciąg ∫Kmfmr⁢d⁢Pnn jest ograniczonym ciągiem liczbowym; można z niego wybrać podciąg zbieżny. Stosując metodę przekątniową widzimy, iż istnieje podciąg n1,n2,… taki, że dla wszystkich m,⁢r, ciąg ∫Kmfmr⁢d⁢Pnii jest zbieżny.

2. Pokażemy, że dla każdego m=1, 2,⁢… i każdej funkcji f∈C⁢Km, ciąg ∫Kmf⁢d⁢Pnii jest zbieżny. Ustalmy ε>0 oraz r takie, że supx∈Km⁡f⁢x-fmr⁢x≤ε/3. Mamy

⁢∫Kmf⁢d⁢Pni-∫Kmf⁢d⁢Pnj⁢≤∫Kmf⁢d⁢Pni-∫Kmfmr⁢d⁢Pni⁢⁢+∫Kmfmr⁢d⁢Pni-∫Kmfmr⁢d⁢Pnj⁢⁢+∫Kmfmr⁢d⁢Pnj-∫Kmf⁢d⁢Pnj.

Dwa skrajne składniki po prawej stronie szacują się przez ε/3; na przykład, mamy

⁢∫Kmf⁢d⁢Pni-∫Kmfmr⁢d⁢Pni⁢⁢≤∫Kmf-fmr⁢d⁢Pni⁢⁢≤supK⁡f-fmr⁢Pni⁢Km≤ε/3.⁢

środkowy składnik nie przekracza ε/3 o ile i, j są dostatecznie duże; wynika to z definicji podciągu ni.

3. Oznaczmy φm⁢f=limi→∞⁡∫Kmf⁢d⁢Pni, dla f∈C⁢Km. Jest oczywiste, że φ spełnia założenia Twierdzenia Riesza. Zatem istnieje miara λm na B⁢Km taka, że φm⁢f=∫Kmf⁢d⁢λm dla wszystkich f∈C⁢Km, m=1, 2,⁢…. Rozszerzmy tę miarę na B⁢E, kładąc λm⁢A=λm⁢A∩Km.

4. Udowodnimy, że dla każdego A∈B⁢E ciąg λm⁢A spełnia warunek Cauchy'ego. ściślej, wykażemy, że

0≤λm1⁢A-λm2⁢A≤1m2⁢⁢ dla ⁢m1>m2≥1.

(1.3)

Najpierw załóżmy, że F jest zbiorem domkniętym i niech ε>0. Niech fε będzie nieujemną funkcją jednostajnie ciągłą pochodzącą z Lematu 1.1. Mamy

⁢0⁢≤∫Km1∖Km2fε⁢d⁢Pni=∫Km1fε⁢d⁢Pni-∫Km2fε⁢d⁢Pni⁢⁢≤supE⁡fε⁢Pni⁢Km1-Pni⁢Km2≤1-Pni⁢Km2≤1m2.

Zbiegając teraz z i do nieskończoności dostajemy

0≤∫Km1fε⁢d⁢λm1-∫Km2fε⁢d⁢λm2=∫Efε⁢d⁢λm1-∫Efε⁢d⁢λm2≤1m2.

Weźmy teraz ε→0; ponieważ fε→1A, otrzymujemy (1.3) dla zbiorów domkniętych, na mocy twierdzenia Lebesgue'a. Aby otrzymać tę nierówność w przypadku ogólnym, posłużymy się regularnością. Dla dowolnego A∈B⁢E istnieją ciągi Fk′ oraz Fk′′ zbiorów domkniętych zawartych w A, takie, że λm1⁢Fk′→λm1⁢A oraz λm2⁢Fk′′→λm2⁢A. Korzystając z (1.3) dla zbioru domkniętego Fk=Fk′∪Fk′′ i zbiegając z k→∞ otrzymujemy żądaną nierówność.

5. Wiemy, na mocy poprzedniej części, że ciąg λm⁢Am jest zbieżny dla każdego A∈B⁢E. Oznaczmy jego granicę przez λ⁢A. Wykażemy, że λ jest miarą probabilistyczną oraz Pni⇒λ. Pierwsza własność wyniknie z następujących trzech faktów.

a) λ⁢E=1.

b) λ⁢A1∪A2=λ⁢A1+λ⁢A2 dla A1,⁢A2∈B⁢E takich, że A1∩A2=∅.

c) Jeśli A1⊇A2⊇… oraz ⋂k=1∞Ak=∅, to λ⁢Ak→0.

Dowód a) Mamy 1≥Pni⁢Km=∫Km1⁢d⁢Pni≥1-1m. Zbiegając z i do nieskończoności dostajemy 1≥λm⁢E≥1-1m, i teraz dążąc z m do nieskończoności otrzymujemy λ⁢E=1.

Dowód b) Jasne na mocy definicji λ i tego, że λm jest miarą dla każdego m.

Dowód c) Na mocy (1.3), mamy 0≤λ⁢A-λm⁢A≤1m dla wszystkich A∈B⁢E oraz m=1, 2,⁢…. Zatem, dla dowolnego k,

λ⁢Ak=λ⁢Ak-λm⁢Ak+λm⁢Ak≤1m+λm⁢Ak.

Zbiegając z k→∞ widzimy, że lim supk→∞⁡λ⁢Ak≤1/m, co na mocy dowolności m daje lim supk⁡λ⁢Ak=0, czyli limk→∞⁡λ⁢Ak=0.

Pozostało już tylko sprawdzić, że Pni⇒λ. Dla usalonej f∈C⁢E, mamy

⁢∫Ef⁢d⁢Pni-∫Ef⁢d⁢λ≤⁢∫Kmcf⁢d⁢Pni+∫Kmf⁢d⁢Pni-∫Kmf⁢d⁢λm⁢⁢+∫Ef⁢d⁢λm-∫Ef⁢d⁢λ=I+I⁢I+I⁢I⁢I.

Na mocy ciasności, I≤supE⁡f⋅1m. Ponadto, z definicji λm, I⁢I→0 gdy m→∞. Wreszcie,

I⁢I⁢I=∫Ef⁢d⁢λ-λm≤supE⁡f⁢λ⁢E-λm⁢E≤supE⁡f⋅1m.

Zatem I+I⁢I+I⁢I⁢I→0 gdy m→∞. Dowód jest zakończony.

∎

Dowód prostego twierdzenia Prochorowa jest znacznie łatwiejszy i pozostawiamy go jako ćwiczenie (patrz zadanie 13).

Na zakończenie, zaprezentujemy następujące dwa fakty (bez dowodu).

Twierdzenie 1.4 (Skorochod)

Załóżmy, że E jest przestrzenią ośrodkową oraz Pn, P (n=1, 2,⁢…) są miarami probabilistycznymi na B⁢E. Jeśli Pn⇒P, to istnieją zmienne losowe Xn, X (n=1, 2,⁢…), określone na tej samej przestrzeni probabilistycznej Ω,F,P takie, że PXn=Pn, PX=P (n=1, 2⁢⁢…) oraz Xn→X prawie na pewno.

Twierdzenie 1.5

Załóżmy, że E jest przestrzenią ośrodkową i niech M oznacza klasę wszystkich miar probabilistycznych na E. Dla P,⁢Q∈M definiujemy

π⁢P,Q=inf⁡ε>0:∀A∈B⁢E⁢⁢Q⁢A≤P⁢Aε+ε,⁢P⁢A≤Q⁢Aε+ε.

Wówczas π jest metryką w M (jest to tzw. metryka Levy-Prochorowa) oraz zbieżność w sensie tej metryki pokrywa się ze zwykłą zbieżnością miar probabilistycznych.

1.1. Zadania

1. Udowodnić, że ciąg Exp⁢n/n+1 jest zbieżny według rozkładu do Exp1.

2. Dany jest ciąg Xn zmiennych losowych zbieżny według rozkładu do zmiennej losowej X. Udowodnić, że ciąg sin⁡Xn jest zbieżny według rozkładu do zmiennej sin⁡X.

3. Czy zmienne losowe posiadające gęstość mogą zbiegać według rozkładu do zmiennej o rozkładzie dyskretnym? Czy zmienne losowe o rozkładach dyskretnych mogą zbiegać do zmiennej o rozkładzie ciągłym?

4. Niech X1,⁢X2,⁢… będą zmiennymi losowymi, przy czym dla n≥1 rozkład zmiennej Xn określony jest następująco:

PXn=jn=2⁢jn⁢n+1,⁢⁢j=1, 2,⁢…,⁢n.

Udowodnić, że ciąg Xn jest zbieżny według rozkładu. Wyznaczyć rozkład graniczny.

5. Niech B⁢n,p oznacza rozkład Bernoulliego o n próbach z prawdopodobieństwem sukcesu p, a Pois⁢λ - rozkład Poissona z parametrem λ. Wykazać, że jeśli n⁢pn→λ, to B⁢n,pn⇒P⁢o⁢i⁢s⁢λ.

6. Zmienne losowe X1,⁢X2,⁢… zbiegają według rozkładu do zmiennej X stałej p.n. Wykazać, że ciąg Xn zbiega do X według prawdopodobieństwa.

7. Niech gn, g oznaczają odpowiednio gęstości rozkładów prawdopodobieństwa μn, μ na RN. Udowodnić, że jeśli gn→g p.w., to μn⇒μ.

8. Niech S będzie przeliczalnym podzbiorem RN, zaś μn, μ - miarami probabilistycznymi skupionymi na S. Wykazać, że jeśli dla każdego x∈S mamy μn⁢x→μ⁢x, to μn⇒μ.

9. Ciąg dystrybuant Fn zbiega punktowo do dystrybuanty ciągłej F. Wykazać, że zbieżność jest jednostajna.

10. Dane są ciągi Xn, Yn zmiennych losowych, określonych na tej samej przestrzeni probabilistycznej, przy czym Xn zbiega według rozkładu do X, a Yn zbiega według rozkładu do zmiennej Y stałej p.n.. Udowodnić, że Xn+Yn zbiega według rozkładu do X+Y. Czy teza pozostaje prawdziwa bez założenia o jednopunktowym rozkładzie Y?

11. Dany jest ciąg Xn zmiennych losowych przyjmujących wartości w przedziale 0,1. Udowodnić, że jeśli dla każdego k=0, 1, 2,⁢… mamy E⁢Xnkn→∞→1k+1, to Xn jest zbieżny według rozkładu.

12. Załóżmy, że Xn jest ciągiem niezależnych zmiennych losowych o rozkładzie Cauchy'ego z parametrem a>0, tzn. z gęstością

g⁢x=aπ⁢a2+x2.

Udowodnić, że 1n⁢maxk≤n⁡Xk⇒1T, gdzie T ma rozkład wykładniczy. Wyznaczyć parametr tego rozkładu.

13. Załóżmy, że E jest przestrzenią polską oraz P jest rodziną miar probabilistycznych na B⁢E, taką, że z każdego ciągu jej elementów można wybrać podciąg zbieżny.

(i) Udowodnić, że

∀ε>0⁢∀δ>0⁢∃x1,⁢x2,⁢…,⁢xn∈E⁢∀P∈P⁢⁢⁢P⁢⋃k=1nB⁢xk,δ≥1-ε,

gdzie B⁢x,δ=y∈E:ρ⁢x,y<δ.

(ii) Wywnioskować z (i) proste twierdzenie Prochorowa (wskazówka: w przestrzeni metrycznej zupełnej zbiór domknięty i całkowicie ograniczony - tzn. dla każdego ε>0 posiadający skończoną ε-sieć - jest zwarty).

14. Załóżmy, że ciąg Xn zbiega według rozkładu do X. Niech h:R→R będzie taką funkcją borelowską, że PX∈punkty nieciągłości ⁢h=0.

(i) Udowodnić, że h⁢Xn⇒h⁢X.

(ii) Udowodnić, że jeśli h jest dodatkowo ograniczona, to E⁢h⁢Xnn→∞→E⁢h⁢X.

15. Załóżmy, że ciąg Xn zbiega według rozkładu do X. Udowodnić, że

(i) E⁢X≤lim infn⁡E⁢Xn.

(ii) jeśli X1,⁢X2, są dodatkowo jednostajnie całkowalne, to E⁢Xn→E⁢X.

(iii) jeśli X, X1, X2, … są calkowalne, nieujemne i E⁢Xnn→∞→E⁢X, to X1,⁢X2,⁢… są jednostajnie całkowalne.

16. Dane są dwa ciągi Xn oraz Yn zmiennych losowych, zbieżnych według rozkładu do X oraz Y, odpowiednio.

(i) Czy Xn,Yn zbiega według rozkładu do X,Y?

(ii) Jaka jest odpowiedź w (i) jesli dodatkowo przy każdym n zmienne Xn oraz Yn są niezależne?

Treść automatycznie generowana z plików źródłowych LaTeXa za pomocą oprogramowania wykorzystującego LaTeXML.

Wykład z Rachunku Prawdopodobieństwa II

Zagadnienia

1. Zbieżność według rozkładu – zbieżność miar probabilistycznych w przestrzeniach metrycznych

Definicja 1.1

Stwierdzenie 1.1

Lemat 1.1

Dowód Stwierdzenia 1.1:

Twierdzenie 1.1

Dowód:

Stwierdzenie 1.2

Dowód:

Lemat 1.2

Definicja 1.2

Stwierdzenie 1.3

Wniosek 1.1

Dowód Stwierdzenia 1.3

Definicja 1.3

Twierdzenie 1.2 (Prochorow)

Stwierdzenie 1.4

Twierdzenie 1.3 (Riesz)

Stwierdzenie 1.5 (Regularność)

Dowód twierdzenia odwrotnego

Twierdzenie 1.4 (Skorochod)

Twierdzenie 1.5

1.1. Zadania