∆ευτέρα, 9 Νοεµβρίου 2009. Σύνδεση πληρότητας και επάρκειας Αν µια σ.σ. Τ είναι επαρκής και πλήρης και ταυτοχρόνως α.ε. για µια παράµετρο θ, τότε είναι και αµερόληπτη εκτιµήτρια ελάχιστης διασποράς (α.ε.ε.δ.) για το θ. Γενικός Ορισµός Πληρότητας. Η τ.µ. Y µε συνάρτηση κατανοµής fY ( y,θ ) ή η οικογένεια κατανοµών
F = { fY ( y,θ ) ,θ ∈ Θ} καλείται πλήρης, αν ∀g : ℝ k → ℝ , η σχέση E g (Y ) = 0 συνεπάγεται τη σχέση g (Y ) = 0, ∀y ∈ ℝ k − N 0 , όπου P (Y ∈ N 0 ) = 0, ∀θ ∈ Θ
Άσκηση Έστω X 1 , X 2 ,..., X v τ.δ., από κατανοµή Bernoulli (p). Να βρεθεί επαρκής και πλήρης σ.σ. για το p. Λύση: (1) v
Επάρκεια:
∆είχτηκε ότι T = ∑ X i επαρκής σ.σ. i =1
Πληρότητα: Άθροισµα Bernoulli είναι διωνυµική T ~ Binomial ( v, p ) v v −t hT ( t , p ) = p t (1 − p ) t Έστω ότι υπάρχει συνάρτηση g ( t ) : E g ( t ) = 0 E g ( t ) =
v
v t v −t g t ( ) ∑ t p (1 − p ) = t =0 t v v p v = (1 − p ) ∑ g ( t ) =0 ⇒ t 1 − p t =0
∑ g ( t ) hT ( t , p ) = t =0
t
v
v p v g ( t ) (1 − p ) ∑ t =0 t 1 − p t v v p g ( t ) ∑ =0 ⇒ t 1 − p t =0 0 1 v v p v p v p g ( 0) + g (1) 1 + ... + g ( v ) v =0⇒ 0 1− p 1 − p 1 − p g ( 0 ) = g (1) = ... = g ( v ) = 0 ⇒ g ( t ) = 0, ∀t , άρα η Τ είναι και πλήρης. v
Άσκηση Να εξετασθεί εάν η οικογένεια F = { f ( x;θ ) ,θ ∈ Θ} είναι πλήρης ή όχι, στις ακόλουθες περιπτώσεις: 1
Για να επιλύσουµε ασκήσεις αυτού του τύπου, ακολουθούµε την εξής διαδικασία: α) βρίσκουµε επαρκή σ.σ. (Τ), κυρίως µε το παραγοντικό κριτήριο Neyman, β) βρίσκουµε απαραίτητα την κατανοµή της Τ (σ.π. ή σ.π.π.). γ) ελέγχουµε την πληρότητα της Τ.
1
1 I ( a < x < θ ) , για a ∈ ℝ, a < x < θ ,θ ∈ ( a, +∞ ) . θ −a 1 f ( x;θ ) = I (θ < x < β ) , για θ < x < β , β ∈ ℝ β −θ 1 f ( x;θ ) = I ( −θ < x < θ ) , για −θ < x < θ ,θ ∈ ℝ . 2θ
f ( x;θ ) =
i) ii)
iii)
Λύση: i) E g ( x ) = 0 ⇒ θ
θ
θ
1 1 E g ( x ) = ∫ g ( x ) dx =0, ∀θ ⇒ g ( x ) dx =0 ⇒ (2) ∫ g ( x ) dx =0, ∀x ∫ θ −a θ −a a a a 3 Παραγωγίζουµε ως προς θ ( ): θ ∂ g ( x ) dx =0 ⇒ g (θ ) = 0, ∀θ ⇒ g ( x ) = 0, ∀x ∈ ( a,θ ) άρα η ∂θ ∫a 1 f ( x;θ ) = I ( a < x < θ ) είναι πλήρης. θ −a ii) E g ( x ) = 0 ⇒ β
β
1 1 E g ( x ) = ∫ g ( x ) dx = g ( x ) dx =0 ⇒ ∫ β − θ β − θ θ θ θ
θ
β
∫θ g ( x ) dx =0 ⇒
θ
d − ∫ g ( x ) dx =0 ⇒ ∫ g ( x ) dx =0 ⇒ g ( x ) dx =0 ⇒ g (θ ) = 0, ∀θ < β ⇒ ∫ d θ β β β g ( x ) = 0, ∀x ∈ ( β ,θ ) άρα η f ( x;θ ) =
1 I (θ < x < β ) είναι πλήρης. β −θ
Αντιπαράδειγµα: Έστω g ( x ) = x ⇒ E g ( x ) = E ( x ) =
iii)
θ
∫
−θ
x
1 dx = 2θ
θ
θ
1 x2 ∫−θ xdx = 2θ 2 = 0 , αλλά αυτό δεν συνεπάγεται ότι g ( x ) = x ≡ 0! άρα η −θ 1 f ( x;θ ) = I ( −θ < x < θ ) , για −θ < x < θ ,θ ∈ ℝ , δεν είναι πλήρης. 2θ
1 2θ
2
3
Καθ’ όσον
1
θ −a
≠0
Εφαρµόζουµε το Θεµελιώδες Θεώρηµα του Απειροστικού Λογισµού: Αν f συνεχής σε διάστηµα ∆ και α είναι επίσης σηµείο του ∆, τότε η συνάρτηση x
F ( x ) = ∫ f ( t ) dt , x ∈ ∆ είναι µία παράγουσα της f στο ∆ και ισχύει a
2
d F ( x) = f ( x) dx
Άσκηση (SOS) Αν X 1 , X 2 ,..., X v τ.δ., από οµοιόµορφη κατανοµή ( 0,θ ) , να βρεθεί επαρκής και πλήρης σ.σ. για το θ. Λύση: Επάρκεια v 1 f ( X ;θ ) = f ( X 1 , X 2 ,..., X v ,θ ) = ∏ I ( 0 < X i < θ ) = (4 ) i =1 θ − 0
θ
−v
v
∏ I (0 < X i =1
i
(
)
< θ ) = I ( 0 < X i < θ ) = 1, ∀i = 1,..., v ⇒ I 0 < X ( v ) < θ = 1 ⇒
(
)
f ( X ;θ ) = θ − v I 0 < X ( v ) < θ , οπότε T ( X ) = X ( v )
Πληρότητα Ζητούµε τη σ.π.π. της Τ. Μπορούµε να την υπολογίσουµε µέσω της αθροιστικής της Τ:
(
)
FT ( t ) = P (T ≤ t ) = P X ( v ) ≤ t = P ( X 1 , X 2 ,..., X v ≤ t ) = P ( X 1 ≤ t ) P ( X 2 ≤ t ) ...P ( X v ≤ t ) =
v
∏ P( Xi ≤ t ) = i =1
f X (t ) =
1
θ
v
∏ FX i ( t ) = FX ( t )
v
i =1
t
1 1 t , t ∈ ( 0,θ ) ⇒ FX ( t ) = ∫ dx = ( t − 0 ) = , άρα 0
θ
θ
θ
v
t FT ( t ) = FX ( t ) = , και θ v dF ( t ) dt − v v −1 fT ( t ) = = = θ vt dt θ dt v
E g ( t ) =
θ
∫ g ( t )θ 0
θ −v
v −1
vt dt = vθ
−v
∫ g (t ) t
v −1
dt = 0
0
Παραγωγίζουµε ως προς θ: g (θ )θ v −1 = 0 ⇒ g (θ ) = 0, ∀θ > 0 ⇒ g ( t ) = 0, ∀0 < t < θ , άρα η T ( X ) = X ( v ) είναι και πλήρης. Άσκηση Έστω X 1 , X 2 ,..., X v τ.δ., από κατανοµή µε σ.π.π. f ( x;θ ) = Να δειχθεί ότι η T = X (1) , X (1) = min { X 1 , X 2 ,..., X v }
θ
,θ > 0, x > θ x2 είναι επαρκής και πλήρης
σ.σ. για το θ. Απόδειξη: Από το παραγοντικό κριτήριο Neyman, έχουµε: 4
Όταν το στήριγµα (πεδίο ορισµού) της σ.π. (ή σ.π.π.) εξαρτάται από την παράµετρο, εισάγουµε στην από κοινού πιθανότητα του κριτηρίου Neyman και τη δείκτρια συνάρτηση.
3
f ( X ,θ ) = f ( X 1 , X 2 ,..., X v ,θ ) =
θ ∏ x I (θ < x < ∞ ) =
v
v
∏ f ( xi ,θ ) =
i =1
i =1
θv
i
2
i
v
∏ xi
∏ I (θ < x < ∞ ) i
v
2 i =1
i =1
v
Πρέπει να ισχύει:
∏ I (θ < x < ∞ ) = 1 ⇒ I (θ < x < ∞ ) = 1, ∀x ⇒ i
i
i
i =1
θ < xi < ∞, ∀xi ⇒ θ < x(1) και θv
−1
v 2 f ( X ,θ ) = v I θ < x(1) < ∞ = h ( X ) g T ( X ) ,θ , µε h ( X ) = ∏ xi και 2 i =1 ∏ xi i =1
(
)
(
)
g T ( X ) ,θ = θ v I θ < X (1) < ∞ , άρα η T = X (1) είναι επαρκής.
Βρίσκουµε την κατανοµή της T = X (1) : Παίρνουµε την αθροιστική της Τ:
(
)
(
)
FT ( t ) = FX (1) ( t ) = P (T ≤ t ) = P X (1) ≤ t = 1 − P X (1) > t = v
1 − P ( X 1 , X 2 ,..., X v > t ) = 1 − P ( X 1 > t ) P ( X 2 ) ⋅ ⋅ ⋅ P ( X v > t ) = 1 − ∏ P ( X i > t ) = i =1
v
v
1 − ∏ 1 − P ( X i ≤ t ) = 1 − ∏ 1 − FX ( t ) = 1 − 1 − FX ( t ) i =1
v
i =1
FX ( t ) = P ( x ≤ t ) =
t
θ
t
θ
t
−1 −2 −1 −1 ∫θ x 2 dx = θ θ∫ x dx = θ − x θ = θ −t + θ = 1 − t v
v
θ θv θ Άρα FT ( t ) = 1 − 1 − 1 − = 1 − = 1 − v t t t d d θv vθ v v − v −1 FX ( t ) = = v +1 fT ( t ) = f X (1) ( t ) = 1 − v = −θ ( −v ) t dt (1) dt t t
Για να είναι η Τ πλήρης, θα πρέπει αν για κάθε g ( t ) : E g ( t ) = 0 ⇒ g ( t ) = 0 ∞
∞
vθ v Έστω E g ( t ) = 0 ⇒ ∫ g ( t ) fT ( t ) dt = 0 ⇒ ∫ g ( t ) v+1 dt = 0 ⇒ t θ θ ∞
vθ ∂
v
∫θ g ( t ) t
∫ g (t ) t
−( v +1)
−( v +1)
∞
dt = 0 ⇒
∫θ g ( t ) t
dt = 0 ⇒ g (θ )θ
−( v +1)
−( v +1)
∂
dt = 0 ⇒ − ∫ g ( t ) t
−( v +1)
dt = 0 ⇒
∞
= 0, ∀θ > 0 ⇒ g ( t ) = 0, ∀t > θ , άρα η T = X (1)
∞
είναι και πλήρης. Παρατηρήσεις 4
Επειδή θα χρειαστούµε να βρίσκουµε την κατανοµή της επαρκούς Τ και, επειδή v
συνηθέστερη επαρκής είναι η T ( X ) = ∑ X i , είναι χρήσιµο να παρατεθεί εδώ i =1
µία κατάσταση αντιστοιχίας από συνηθισµένες κατανοµές και X i προς τις v
T ( X ) = ∑ Xi . i =1
v
η T = ∑ X i ~ Γ ( v ,θ )
Αν X 1 , X 2 ,..., X v τ.δ., ~ exp (θ ) ,
i =1 v
η T = ∑ X i ~ Poisson(νλ)
Αν X 1 , X 2 ,..., X v τ.δ., ~ Poisson(λ),
i =1 v
η T = ∑ X i ~ ∆ιωνυµική (ν,p)
Αν X 1 , X 2 ,..., X v τ.δ., ~ Bernoulli (p),
i =1 v
η T = ∑ X i ~ ∆ιωνυµική (νN,p)
Αν X 1 , X 2 ,..., X v τ.δ., ~ ∆ιωνυµική (N,p),
i =1 v
η T = ∑ X i ~ N(νµ,νσ2) και
Αν X 1 , X 2 ,..., X v τ.δ., ~ N(µ,σ2),
i =1
σ2 η X ~ N µ, . v
Κατανοµή Γ (Gamma) x 1 a −1 − β Γ ( a, β ) : f ( x ) = x e Γ(a) β a
( Ι) E ( X ) = a β , V ( X ) = a β 2
1 β a a −1 − β x a a Γ a, : f ( x ) = x e (ΙΙ) E ( X ) = , V ( X ) = 2 β β Γ(a) β 1 1 − xθ 1 −x −x Γ (1,θ ) : f ( x ) = x 0e θ = e = e θ = exp (θ ) Γ (1)θ 1!θ θ r r −1 − x −1 − x 1 1 r 2 2 2 Γ ,2 : f ( x ) = x e = x e 2 = Xr2 ( I ) = r r r r 2 Γ 22 Γ 22 2 2 r 1 Γ , : f ( x ) = Xr2 ( II ) 2 2 Γ ( a ) = ( a − 1)! αν ο α είναι ακέραιος.
∞
Γ ( a ) = ∫ t a −1e −t dt
αν α δεν είναι ακέραιος.
0
X = Γ (1,2 ) : f ( x ) = exp ( 2 ) 2 2
v
Αν X 1 , X 2 ,..., X v τ.δ., ~ exp (θ ) , τότε: T = ∑ X i ~ Γ ( v,θ ) = Xv2θ i =1
5
Οι κατανοµές: Εκθετική – Γάµα - X 2 συνδέονται. Εκθετική: exp ( β ) =
1
β
−
e
x
β
, E(X ) = β , V (X ) = β2
1 1 1 Εκθετική: exp = β e− β x , E ( X ) = , V ( X ) = 2 β β β Η Gamma (1,θ ) είναι η exp (θ ) 1 1 −x −x Gamma (1,θ ) : f ( x ) = x1−1e θ = e θ = exp (θ ) 1 Γ (1)θ θ r Η Gamma , 2 = Xr2 ( I ) 2 r 1 Η Gamma , = Xr2 ( II ) = exp ( 2 ) 2 2 v
Αν X 1 , X 2 ,..., X v τ.δ., ~ exp ( 2 ) , τότε: T = ∑ X i ~ Γ ( v, 2 ) = X22v i =1
Xv2 : f ( x ) =
v −1 − x 2 2
1 x e v v 2 Γ 2 2
6