Załóżmy, że Ω,F,P jest przestrzenią probabilistyczną. Funkcja X:Ω→C jest zmienną losową, jeśli jest zmienną losową przy utożsamieniu C=R2 - innymi słowy, jeśli X1,X2=Re⁢X,Im⁢X jest zmienną losową w R2. Jeśli X1 oraz X2 są całkowalne (co jest równoważne temu, że E⁢X=E⁢X12+X22<∞), to definiujemy E⁢X=E⁢X1+i⁢E⁢X2. Bez trudu dowodzimy, iż mają miejsce następujące fakty.

(i) Mamy E⁢X≤E⁢X.

(ii) Zachodzi twierdzenie Lebesgue'a o zmajoryzowanym przejściu do granicy pod znakiem wartości oczekiwanej.

(iii) Dla dowolnych z1,⁢z2∈C i dowolnych zespolonych zmiennych losowych X,⁢Y takich, że E⁢X,⁢E⁢Y istnieją, mamy

Przechodzimy do definicji głownego pojęcia tego rozdziału.

Uwaga: Z twierdzenia o zamianie zmiennych wynika, iż φX⁢t=E⁢ei⁢t,X.

Bezpośrednio z definicji widzimy, że funkcja charakterystyczna zmiennej losowej zależy tylko od rozkładu tej zmiennej.

Własności funkcji charakterystycznych.

1) Załóżmy, że X jest d-wymiarową zmienną losową. Wówczas φX jest dobrze określona na całym Rd, ponadto φX⁢0=1 oraz

2) Załóżmy, że X jest d-wymiarową zmienną losową. Wówczas φX jest jednostajnie ciągła na Rd; istotnie, dla h∈Rd,

gdy h→0.

3) Załóżmy, że X jest d-wymiarową zmienną losową. Wówczas φX jest dodatnio określona, tzn. dla wszystkich a1,⁢a2,⁢…,⁢an∈C oraz t1,⁢t2,⁢…,⁢tn∈Rd,

Istotnie, mamy

Powstaje naturalne pytanie: kiedy funkcja φ:Rd→C jest funkcją charakterystyczną pewnego rozkładu? Odpowiedź jest zawarta w następującym twierdzeniu.

4) Załóżmy, że X jest d-wymiarową zmienną losową, A jest macierzą n×d oraz b∈Rn. Wówczas

W szczególności, φ-X⁢t=φX⁢-t=φX⁢t¯. Oznacza to, iż jeśli PX=P-X (rozkład zmiennej jest symetryczny), to φX jest rzeczywista.

5) Załóżmy, że X jest rzeczywistą zmienną losową taką, że E⁢Xk<∞ dla pewnej liczby całkowitej dodatniej k. Wówczas φX ma k-tą pochodną ciągłą i

W szczególności, φXk⁢0=ik⁢E⁢Xk.

Weźmy najpierw k=1. Mamy

Zauważmy, że limh→0⁡h-1⁢ei⁢h⁢X-1=i⁢X oraz

zatem z twierdzenia Lebesgue'a wynika teza. Dla k>1 dowód jest analogiczny, opierający się na indukcji.

Zachodzi następujący ogólniejszy fakt: jeśli X=X1,⁢X2,⁢…,⁢Xd jest d-wymiarową zmienną losową taką, że E⁢Xk<∞, to φX ma ciągłe pochodne cząstkowe k-tego rzędu i

6) Jeśli zmienne X1, X2, …, Xn są niezależne, to

Istotnie, mamy, iż ei⁢t,X1,⁢ei⁢t,X2,⁢…,⁢ei⁢t,Xd są niezależne, skąd

(I) Załóżmy najpierw, że X jest d-wymiarową zmienną losową o rozkładzie skokowym i niech SX oznacza zbiór atomów. Bezpośrednio z definicji mamy, iż

W szczególności:

1) Jeśli PX=δa, a∈Rd, to φX⁢t=ei⁢t,a. Co więcej, jeśli a=0, to φX≡1.

2) Załóżmy, że PX=Poisλ, λ>0. Mamy

3) PX=Bn,p. Niech X1,⁢X2,⁢…,⁢Xn będą niezależnymi zmiennymi losowymi o tym samym rozkładzie PXi=1=p=1-PXi=0. Ponieważ X1+X2+…+Xn ma ten sam rozkład co X, to

(II) Załóżmy teraz, że X jest d-wymiarową zmienną losową o rozkładzie ciągłym z gęstością g. Z definicji mamy, iż

W szczególności:

4) Jeśli PX jest rozkładem jednostajnym na przedziale a,b, to

Jeśli b=-a, to φX jest funkcją rzeczywistą i φX⁢t=sin⁡t⁢bt⁢b.

5) Jeśli PX=N⁢m,σ2, m∈R,⁢σ>0, to

oraz

(w szczególności, dla standardowego rozkładu normalnego, dostajemy φ⁢t=e-t2/2).

Istotnie, weźmy X jak wyżej. Zmienna X-m/σ ma standardowy rozkład normalny i

Zatem wystarczy udowodnić wzór (*) dla rozkładu N⁢0,1. Załóżmy więc, że X ma ten rozkład i zauważmy najpierw, że φX jest funkcją rzeczywistą, gdyż rozkład X jest symetryczny. Zatem

oraz

Dodatkowo, jak wiemy, φX⁢0=1: stąd φX⁢t=e-t2/2.

Ogólniej, jeśli X ma d-wymiarowy rozkład normalny z gęstością

(gdzie A to pewna macierz d×d symetryczna i dodatnio określona, a m jest pewnym wektorem z Rd), to

Dowód tego faktu przeprowadzimy nieco później.

Przejdziemy teraz do twierdzenia o jednoznaczności: okazuje się, że funkcja charakterystyczna wyznacza rozkład jednoznacznie.

Zanim podamy dowód, najpierw sformułujmy wniosek.

W dowodzie twierdzenia o jednoznaczności będziemy potrzebować następującego pomocniczego faktu.

Rozkłady Gaussa (rozkłady normalne) w Rd. Załóżmy, że X ma rozkład normalny w Rd, o wartości ozekiwanej m i macierzy kowariancji Λ. Udowodnimy, że

Istotnie, niech Y1, Y2, …, Yd będą niezależnymi zmiennymi losowymi o standarowym rozkładzie normalnym na R i niech Z=B⁢Y+m, gdzie B jest macierzą d×d i m∈Rd. Mamy

Zauważmy, że B⁢BT jest macierzą symetryczną, nieujemnie określoną. Co więcej, każda macierz symetryczna d×d nieujemnie określona da się ta zapisać; stąd, dla dowolnej nieujemnie określonej symetrycznej macierzy Λ o wymiarach d×d i dowolnego wektora m∈Rd, funkcja

jest funkcją charakterystyczną dokładnie jednego rozkładu prawdopodobieństwa w Rd. Rozkłady tej postaci nazywamy rozkładami Gaussa w Rd. Zauważmy, że niektóre rozkłady Gaussa nie mają gęstości.

Bezpośrednio z definicji dostajemy następujące wnioski.

Przechodzimy do kolejnego bardzo ważnego faktu, łączącego zbieżność według rozkładu ze zbieżnością funkcji charakterystycznych.

Na zakończenie zaprezentujemy twierdzenie o odwróceniu, pozwalające odczytać gęstość rozkładu za pomocą jego funkcji charakterystycznej. Analogiczny fakt dla zmiennych dyskretnych jest treścią zadania 10 poniżej.

1. Rozstrzygnąć, czy podane niżej funkcje są funkcjami charakterystycznymi i jeśli tak, podać odpowiedni rozkład.

2. Niech ϕ1, ϕ2, …, ϕn będą funkcjami charakterystycznymi pewnych rozkładów. Udowodnić, iż dowolna kombinacja wypukła tych funkcji jest funkcją charakterystyczną pewnego rozkładu.

3. Dany jest ciąg Xn niezależnych zmiennych losowych o tym samym rozkładzie. Zmienna losowa N jest od nich niezależna i ma rozkład Poissona z parametrem λ. Wyznaczyć funkcję charakterystyczną zmiennej X1+X2+…+XN.

4. Niech ϕ będzie funkcją charakterystyczną pewnego rozkładu. Rostrzygnąć, czy

są funkcjami charakterystycznymi.

5. Zmienne X,⁢Y są niezależne, przy czym X oraz X+Y mają rozkłady normalne. Udowodnić, że Y ma rozkład normalny lub jest stała p.n..

6. Zmienne losowe X,⁢Y są niezależne, przy czym X ma rozkład jednostajny U⁢0,1, a Y ma rozkład zadany przez

Wyznaczyć rozkład zmiennej X+Y.

7. Zmienne losowe X1,⁢X2,⁢…,⁢Xn są niezależne i mają ten sam rozkład, przy czym zmienna X1+X2+…+Xn ma rozkład normalny N⁢0,1. Wyznaczyć rozkład zmiennych Xi.

8. Zmienna losowa X ma rozkład jednostajny U⁢-1,1. Czy istnieje niezależna od niej zmienna Y taka, że rozkłady zmiennych X+Y oraz 12⁢Y są takie same?

9. Funkcja charakterystyczna zmiennej losowej X ma drugą pochodną w zerze. Udowodnić, że E⁢X2<∞.

10. Zmienna losowa X przyjmuje wartości całkowite. Udowodnić, że

11. Udowodnić, że dla p>2 funkcja ϕ⁢t=e-tp nie jest funkcją charakterystyczną żadnego rozkładu.

12. Udowodnić, że ϕ⁢t=e-t jest funkcją charakterystyczną rozkładu Cauchy'ego w R, tzn. rozkładu o gęstości

13. Niech X1, X2, … będą niezależnymi zmiennymi losowymi o rozkładzie jednostajnym na przedziale -1,1. Zdefiniujmy

gdzie α∈0,2 jest ustalone. Udowodnić, że ciąg

jest zbieżny według rozkładu i wyznaczyć funkcję charakterystyczną rozkładu granicznego.

14. Udowodnić, że jeśli Pn (n=1, 2,⁢…) są rozkładami Gaussa w Rd i Pn⇒P, to P jest rozkładem Gaussa.

15. Rzucamy monetą, dla której prawdopodobieństwo wypadnięcia orła wynosi p, aż do momentu, gdy uzyskamy n orłów (łącznie, niekoniecznie pod rząd). Niech Xp oznacza liczbę rzutów. Udowodnić, że 2⁢p⁢Xp jest zbieżny według rozkładu gdy p→0.