Zagadnienia

7. Modele nieliniowe

Zastosowanie metody najmniejszych kwadratów w modelach nieliniowych. Opis metody. Przykłady: Modelowanie popytu konsumpcyjnego - funkcje Tórnquista. (1 wykład)

7.1. Zadanie aproksymacyjne

Dane jest m+1 n-elementowych ciągów

Y=Yt,⁢⁢⁢Xi=Xt,i,⁢⁢⁢i=1,…,m,⁢⁢⁢t=1,…,n,

oraz dana jest rodzina funkcji F⁢η1,…,ηK,x1,…,xm:D×Rm⟶R, D⊂RK.

Zadanie:
Wyznaczyć współczynniki b=b1,…,bK, b∈D⊂RK, które minimalizują błąd przybliżenia Y przez Y^

Y^t=Ft⁢b=F⁢b1,…⁢bK,Xt,1,…,Xt,m,⁢⁢⁢t=1,…,n.

Czyli należy rozwiązać zadanie optymalizacyjne:

ξ2=∑t=1nξt2⟶min,⁢⁢⁢ gdzie ⁢ξ=Y-Y^.

W ogólnym przypadku, gdy nie znamy własności funkcji F, to nie wiemy czy powyższe zadanie posiada rozwiązanie i czy jeśli posiada rozwiązanie to jest ono jedynym rozwiązaniem. Gdy F jest różniczkowalne to można sformułować warunki konieczne, takie jak na przykład poniższy.

Lemat 7.1

Jeżeli F jest różniczkowalne ze względu na b i bm⁢i⁢n należący do wnętrza zbioru D minimalizuje ξ2 to wektor reszt ξ=ξ⁢bm⁢i⁢n jest ortogonalny do wektora pochodnych

∑t=1nξt⁢∂⁡Ft∂⁡bi⁢bm⁢i⁢n=0⁢⁢⁢⁢ dla ⁢⁢⁢⁢i=1,…,K.

Dowód.
Przy założeniach lematu suma kwadratów reszt S⁢K⁢R⁢b=ξ⁢b2 jest różniczkowalna. Zatem w punkcie, w którym przyjmuje najmniejszą wartość jej pochodne cząstkowe muszą się zerować. Biorąc pod uwagę, że ξt⁢b=Yt-Ft⁢b otrzymujemy dla każdego i

0=∂⁡S⁢K⁢R∂⁡bi⁢bm⁢i⁢n=2⁢∑t=1nξt⁢∂⁡ξt∂⁡bi=-2⁢∑t=1nξt⁢∂⁡Ft∂⁡bi⁢bm⁢i⁢n.
□

7.2. Założenia modelu i estymacja parametrów

Przyjmijmy dla modelu nieliniowego założenia wzorowane na modelu liniowym.
NZ1. Liniowa zależność od czynnika losowego

Yt=F⁢β,Xt+εt,

gdzie β=β1,…,βKT wektor parametrów, a F funkcja różniczkowalna po β.

NZ2. Ścisła egzogeniczność.

E(ϵ|X)=0.

NZ3. Liniowa niezależność pochodnych.

∀b∈D(P(rkDF∗(b)=K)=1,

gdzie D⁢F∗ oznacza macierz n×K pochodnych cząstkowych wektora F∗=F1,…,FnT, Ft⁢b=F⁢b,Xt,

D⁢F∗⁢bt,i=∂⁡Ft∂⁡bi⁢b=∂⁡F∂⁡bi⁢b,Xt.

NZ4. Sferyczność błędu

E(εεT|X)=σ2Idn,

gdzie σ>0 deterministyczny parametr modelu.

Naturalne jest aby estymatorem NMNK wektora β nazywać rozwiązanie zadania aproksymacyjnego z poprzedniego podrozdziału.

Definicja 7.1

K-wymiarowa zmienna losowa B jest estymatorem NMNK wektora β∈D, gdy B przyjmuje wartości w D i prawie na pewno

∑t=1n(Yt(ω)-F(B(ω),Xt(ω))2=min{∑t=1n(Yt(ω)-F(b,Xt(ω))2:b∈D}.
Lemat 7.2

Niech D będzie podzbiorem otwartym RK. Jeśli B jest estymatorem NMNK wektora β to

B-β=D⁢F∗⁢BT⁢D⁢F∗⁢B-1⁢D⁢F∗⁢BT⁢ε+R2⁢B,

gdzie R2⁢B wektor reszt rozwinięcia Taylora Ft w B

R2⁢B=F∗⁢B-F∗⁢β+D⁢F∗⁢B⁢β-B.

Dowód.
Mamy dwie równości wynikające z NZ1 i definicji składnika resztowego ξ

Y=F∗⁢β+ε,
Y=F∗⁢B+ξ.

Zatem

F∗⁢B-F∗⁢β=ε-ξ.

Czyli

D⁢F∗⁢B⁢B-β=ε-ξ+R2⁢B.

Z NZ3 wynika, że macierz D⁢F∗⁢BT⁢D⁢F∗⁢B jest prawie na pewno odwracalna, zatem macierz K×n

P⁢B=D⁢F∗⁢BT⁢D⁢F∗⁢B-1⁢D⁢F∗⁢BT

jest dobrze zdefiniowana poza, być może, zbiorem P-miary zero.
Zauważmy, że z definicji P otrzymujemy

P(B)DF∗(B)=(DF∗(B)TDF∗(B))-1DF∗(B)TDF∗(B)=IdK, pn.,

a z lematu 7.1

P⁢B⁢ξ=D⁢F∗⁢BT⁢D⁢F∗⁢B-1⁢D⁢F∗⁢BT⁢ξ=0.

Zatem

B-β=P⁢B⁢D⁢F∗⁢B⁢B-β=P⁢B⁢ε-ξ+R2⁢B=P⁢B⁢ε+R2⁢B.
□
Uwaga 7.1

Jak widać z powyższego warunek ścisłej egzogeniczności (NZ2) nie implikuje nieobciążoności estymatora NMNK.

7.3. Przykłady

Opisane w poprzednich podrozdziałach trudności związane ze stosowaniem nieliniowej metody najmniejszych kwadratów powodują, że nieliniowe modele stosuje się tylko wtedy gdy dobrze opisują fakty stylizowane związane z modelowanym zjawiskiem. Tak jak na przykład funkcje Törnquista, których przebieg ilustruje hipotezy dotyczące reakcji konsumentów na zmiany dochodów, albo funkcja logistyczna, która znalazła zastosowanie w modelowaniu długookresowego wzrostu liczby ludności i w reprezentacji rozwoju sprzedaży nowych produktów na określonym rynku.

7.3.1. Funkcja Törnquista I typu

Funkcja Törnquista I typu wyraża zależność między popytem na dobra podstawowe (Y), a dochodami konsumentów (X)

Y=α⁢XX+β,⁢⁢⁢α,β>0.

Popyt rośnie wraz ze wzrostem dochodów i stabilizuje się na poziomie równym α. Wykres ma asymptotę poziomą. Z drugiej strony popyt spada do zera wraz ze spadkiem dochodów ale nie znika dla niezerowych dochodów.

Rys. 7.1. Wykres funkcji Törnquista I typu.

7.3.2. Funkcja Törnquista II typu

Funkcja Törnquista II typu wyraża zależność między popytem na dobra wyższego rzędu (Y), a dochodami konsumentów (X)

Y=α⁢X-γX+β,⁢⁢⁢α,β,γ>0.

Popyt rośnie wraz ze wzrostem dochodów i stabilizuje się na poziomie równym α. Wykres ma asymptotę poziomą. Z drugiej strony popyt spada do zera wraz ze spadkiem dochodów i zanika dla dochodów niższych od granicznej wartości γ.

Rys. 7.2. Wykres funkcji Törnquista II typu.

7.3.3. Funkcja Törnquista III typu

Funkcja Törnquista III typu wyraża zależność między popytem na dobra i usługi luksusowe (Y), a dochodami konsumentów (X)

Y=α⁢X⁢X-γX+β,⁢⁢⁢α,β,γ>0.

Popyt rośnie w sposób nieograniczony wraz ze wzrostem dochodów i dla dużych X można go przybliżyć funkcją liniową

Y=α⁢X-γ+β.

Wykres posiada asymptotę ukośną. Z drugiej strony popyt spada do zera wraz ze spadkiem dochodów i zanika dla dochodów niższych od granicznej wartości γ.

Rys. 7.3. Wykres funkcji Törnquista III typu.

7.3.4. Funkcja logistyczna

Funkcja logistyczna wyraża zależność trendu wzrostowego Y od czasu t

Y⁢t=α1+β⁢exp⁡-γ⁢t,⁢⁢⁢α,β,γ>0.

Posiada ona następujące własności:
∙ Jest ściśle rosnąca i przyjmuje wartości z przedziału 0,α

limt→-∞⁡Y⁢t=0,⁢⁢⁢⁢limt→+∞⁡Y⁢t=α.

∙ Dla t=0 mamy Y⁢0=α1+β.
∙ Ma punkt przegięcia w t∗=γ-1⁢ln⁡β. Trend ma w okolicach tego punktu największe przyrosty.
∙ Jest rozwiązaniem równania różniczkowego o zmiennych rozdzielonych zwanego równaniem Robertsona

Y′=γα⁢Y⁢α-Y,

spełniającym warunek początkowy

Y⁢0=α1+β.
Rys. 7.4. Wykres funkcji logistycznej.

Treść automatycznie generowana z plików źródłowych LaTeXa za pomocą oprogramowania wykorzystującego LaTeXML.

Projekt współfinansowany przez Unię Europejską w ramach Europejskiego Funduszu Społecznego.

Projekt współfinansowany przez Ministerstwo Nauki i Szkolnictwa Wyższego i przez Uniwersytet Warszawski.