MONTE CARLO SAMPLING
MONTE CARLO SAMPLING
2
MONTE CARLO SAMPLING: ( طريقة مانتو كارلوا1-1)
We considered before how a simple random sample
observations could be selected from a finite and existent population using tables of random digits . We now discuss methods of generating observations from theoretical distributions which are usually called Monte Carlo Sampling .methods. We firstly present a key result from a theorem
:(Theorem(1 Let X be a continuous random variable with C.D.F. F(x). Then the random variable Z=F(x) is uniformly distribution over the −1 (has the C.D.F. F(x).(The transformation x = F (z) interval(0,1
.(z=F(x) is called the probability integral transformation
:proof* Since F(x) is anon decreasing function of the argument x ,the −1 inverse function F (x) defined for any value of z between 0 and −1 : 1 as the smallest value of x = F (z) satisfying F(x) ≥ z .Now
p(Z ≤ z) = p { F(X) ≤ z}
= p { X ≤ F−1 (z)} = F{ F−1 (z)} =z
For 0<z<1 Which is the C.D.F. of the uniform distribution over(0,1). ,(Conversely, if Z is uniformly distributed over (0,1 P(X ≤ x) = P { F−1 (Z) ≤ x} = P { Z ≤ F(x)} = F(x)
MONTE CARLO SAMPLING
3
.Since Z has a c.d.f. z(0<z<1).This completes the proof
:(Example (1-1-1 Consider a random variable X having an exponential
distribution with c.d.f. F(x) = 1 − exp(−λx), x > 0 with F(x)=0
Z = F(X) = 1 − exp( −λX) elsewhere . Then the random variable
Uniformly distributed over (0,1) . Also, since
F−1 ( x ) = −λ −1 log(1 − x) ,it follows that if Z is a random variable X = F−1 (Z) = −λ −1 log(1 − Z) uniformly distributed over (0,1), then
.has the given exponential distribution The importance of theorem ( ) is clear. If we are able to option a stream of independent observation z1 ,z 2 ,..., on a random variable Z which is uniformly distributed over (0,1), we can generate a stream of observations x1 , x 2 ,..., from a continuous population −1 −1 with a given c.d.f F(x) by setting x1 = F (Z1 ), x 2 = F (Z2 ),... This
.method is known as the inverse transformation method Observations for discrete random variable can also be generated using observations on Z. Thus suppose that X is a discrete random variable which may assume the values x1 , x 2 ,..., x k with corresponding probabilities p1 ,p 2 ,...,p k where k
∑p i =1
i
= 1.
Consider the use of the transformation
MONTE CARLO SAMPLING
4
0 < Z ≤ P1 P1 < Z ≤ P1 + P2
if if
K −1
∑P < Z ≤ P + P
2
1
1
if
I =1
x1 X = x 2 M x k
:We see that i
i −1
j=1
j=1
) p(X = x i ) = p( ∑ p j < Z ≤∑ p j i −1
i
j=1
j=1
= ∑ p j − ∑ p j = pi
.As desired أهم تطبيق للنظرية السابقة ) (1هو توليد متغيرات عشوائية “ " pseudoمن توزيعات معينة باستخدام الحاسب اللي .بمعني آخر ،نحصل على عينة عشوائية من توزيع معين بدالة توزيع تجميعي . (F(xإذا لدينا nأعداد عشوائية ،لتكن y1 , y2 ,… , ynتم توليدها على الحاسب اللي من توزيع منتظم فى الفترة ) (1 ,0وتبعا لذلك فإن x1 , x2 , … xnتحسب كالتي : i = 1,2,..., n
) . x i = G( y i
والتي تقابل توليد عينة عشوائية من توزيع له . (F(xبالطبع في كثير من المثلة فإن (F(xتكون تناظرية وعلى ذلك يمكن استخدام
) x i = F −1 ( y i
.أيضا يمكن استخدام المعادلة للمتغيرات
العشوائية من النوع المتقطع .
مثال):(2-1-1 إذا كان Xمتغيراً عشوائياً بحيث أن (X ~ BIN(1,1/2فإن دالة التوزيع التجميعي تكون على
الشكل :
MONTE CARLO SAMPLING x<0 0≤ x <1 1≤ x
والدالة (G(yسوف تكون على الشكل :
0 ≤ y ≤ 1/ 2
5 F( x ) = 0 = 1/ 2 =1
G ( y) = 0
1 < y ≤ 1. 2
=1
عموما لتوليد مشاهدات ل ي متغير عشوائي Xمن النوع المتقطع و ليكن فضاء المتغير Xهو { = A . {…, b1 , b2 , b3فى هذه المناقشة سوف نفترض وجود ستة قيم فقط فى الفضاء Rوأن 0 > . b1 < b2 < …. < b6ليكن (pi = P(X = bi) = f(biحيث
i =1,2,3,...,6
.هذه
الحتمالت موضحة مع (F(xفى شكل ) .( 4-8لتوليد أ ي مشاهدة من ، Xنقوم بتوليد عدد عشوائي Y = yحيث Yيتبع التوزيع المنتظم فى الفترة ) . ( 1 ,0إذا كانت وإذا كانت
p1 < y ≤ p1 + p 2
< y ≤ p1 + .... + p 6 = 1
y ≤ p1
فإن X = b1
فإن X = b2وهكذا حتى الوصول
p1 + ... + p 5فإن . X = b6فعلى على سبيل المثال : P[ p1 < Y ≤ p1 + p 2 ] = p1 + p 2 − p1 = p 2
وهو الحتمال الصحيح عندما . X = b2تبعا لهذه الطريقة يمكننا الحصول على الحتمالت المطلوبة عندما . X = b6 , … , X = b2 , X = b1
MONTE CARLO SAMPLING
6
مثال ):(3-1-1 متغير عشوائي له دالة الكثافة الحتمالية التاليةX:إذا كان 6 1/6
5
4
3
2
1/6
1/6
1/6
1/6
1
X
P(X=x) 1/6
المطلوب توليد بيانات تتبع هذا التوزيع بحيث: , x=1,2,3,4,5,6
f(x)=1/6 =e.w 0
الحل: 1 ⇒ X =1 6 1 1 1 ≤Z< + ⇒X=2 6 6 6 2 3 ≤Z< ⇒X=3 6 6 3 4 ≤Z< ⇒X=4 6 6 4 5 ≤Z< ⇒X=5 6 6 5 6 ≤Z< ⇒X=6 6 6
<0≤Z
حيث Zتتبع التوزيع المنتظم (U(0,1
مثال ):(4-1-1 إذا كان (Y ~ UNIF (0, 1أشرح كيف يمكن توليد مشاهدة لها داله كثافة الحتمال التالية : 1
0 ≤ x ≤1
1
− 1 −2 (x ) + (1 − x ) 2 4
= )f (x
= . elsewhere 0
الحل : يمكن كتابة الدالة على الشكل :
MONTE CARLO SAMPLING , 0 ≤a ≤ 1
7
) f ( x ) = a f1 ( x ) + (1 − a ) f 2 ( x
حيث :
f1 ( x ) +( 1 - a) f 2 ( x )] dx =1 .
حيث دالة كثافة
الحتمال ) f1 ( x
[a
∞
∫ = dx
∞-
∞ )∫ f (x ∞−
تكون على الشكل : 1
0 ≤ x <1
2 x
= ) f1 (x
بدالة توزيع تجميعي على الشكل : F1 ( x ) = x
0 ≤ x <1
.=1
x ≥1
بوضع
Y = F1 ( X ) = X
فإن
X = F1−1 ( Y ) = Y 2
.أيضا دالة كثافة الحتمال
)f 2 (x
تكون على
الشكل : 0 < x <1
1 − 1 (1 − x ) 2
= )f 2 (x
2 = 0 elsewhere .
بدالة توزيع تجميعي على الشكل : 1
0 ≤ x ≤1
F2 ( x ) = (1 − x ) 2 =0 =1
x <0 x ≥1
بوضع : فـإن :
1 Y = F2 ( X ) = (1 − X ) 2
أ ي أن الدالة يمكن كتابتها على الشكل :
X = F2−1 ( X ) =1 − Y 2
1
1
− 1 1 − 1 f ( x ) = ( x 2 ) + ((1 − x ) 2 ). 2 2 2
الن نلقى عملة ونكتب X = Y2إذا كان الناتج وجه بينما = ) Y2) X-1إذا كان الناتج كتابة.
مثال):(5-1-1
MONTE CARLO SAMPLING
8
إذا كان Yمتغيراً عشوائياً حيث ( Y ~ UNIF (0,1أشرح كيف يمكن استخدام Yللحصول
على متغير عشوائي بدالة كثافة احتمال : 0< x<1
−1 1 1 f ( x ) = 3 ((x − ) 2 + 1 − 2x 2 ) , 2 8
= . elsewhere 0
الدالة يمكن كتابتها على الشكل : 1
1
− − 12 1 3 3 = )f (x ( x − ) 2 + (1 − 2 x ) 2 + ( 2 x −1) 2 4 2 8 8
2 3 3 f1 ( x ) + f 2 ( x ) + f 3 ( x ). 8 8 8
الحتمال ) f1 ( x
حيث دالة كثافة
=
تكون على الشكل : 1 f1 ( x ) = 12 ( x − ) 2 2
0 < x <1
= 0 elswhere.
بدالة توزيع تجميعي على الشكل : 1 1 F1 ( x ) = 4( x − ) 3 + 2 2 =0 x <0 =1 x ≥1 .
0 < x <1
بوضـع : Y 1 1/ 3 1 1 1 ) − + Y = F1 ( X ) = 4(X − )3 + 4 8 فـإن 2 2 2
أيضا دالة كثافة
الحتمال ) f 2 ( x 1 2
( = )X = F −1 ( y
تكون على الشكل : 1
< 0<x
−
1
−
f 2 ( x ) = (1 − 2 x ) 2 =| 1 − 2 x | 2 = 0 elsewhere .
لهذه الدالة نأخذ لن :
1 ) (1 − Y 2 2
=X
حيث Xهنا متغيرا عشوائيا له دالة كثافة الحتمال
)f 2 (x
وذلك
MONTE CARLO SAMPLING
9
1 P ( X ≤ x ) = P( (1 − Y 2 ) ≤ x ) 2 1 =1 − (1 − 2 x ) 2 .
. f 2 ( x ) تمثل دالة التوزيع المقابلة لدالة كثافة الحتمال : على الشكل f 3 ( x ) = ( 2 x −1)
1 − 2
=1 - 2 x
−1 2
f 3 ( x ) الحتمال
وأخيرا دالة كثافة
1 < x <1 2
= 0 elsewhere .
هي
F3 ( x ) = ( 2 x
1 −1) 2
وذلك لنه يمكن إثبات أن دالة التوزيع
X=
1 (1 + Y 2 ) 2
لهذه الدالة نأخذ
. f 3 ( x ) لمتغير عشوائي له الدالة A ( نلقى عملة ثل ث مرات وبفرض أن8-8 ) وعلى ذلك لتوليد مشاهدة تتبع دالة كثافة الحتمال فى الحادثة الحصول على وجهين وكتابة فىB الحادثة ظهور ثلثة وجوه أو ثلثة كتابة ) فى أ ي ترتيب ( و الحادثة الحصول على أثنين كتابة ووجهC أى ترتيب و : كالتاليX ) فى أ ي ترتيب ( وعلى ذلك نعرف المتغير العشوائي 1
1 Y 1 3 X = − + 2 4 8
X=
1 (1 + Y 2 ) 2
X=
1 (1 − Y 2 ) 2
A إذا وقعت B إذا وقعت C إذا وقعت
:(Example(1-1-6 Suppose that a random sample of 10 observation is required from the standard exponential distribution with p.d.f. f(x)=exp(-x),x>0. using the first five columns of digits we obtain the observations shown below which serve as a sample of independent observations from the uniform distribution over(0,1).The associated observations from the exponential distribution can be generated using the transformation X=-
10
MONTE CARLO SAMPLING
log(1-Z) ,or since 1-Z is itself uniformly distributed , by using X=- log Z
z1 = 0.55463
x1 = − log(0.55463) = 0.589
z 2 = 0.15389
x 2 = − log(0.15389) = 1.872
z 3 = 0.85941
x 3 = − log(0.85941) = 0.151
z 4 = 0.61149
x 4 = − log(0.61149) = 0.492
z 5 = 0.05219
x 5 = − log(0.05219) = 2.953
z 6 = 0.41417
x 6 = − log(0.41417) = 0.881
z 7 = 0.28357
x 7 = − log(0.28357) = 1.260
z8 = 0.17783
x 8 = − log(0.17783) = 1.727
z 9 = 0.40950
x 9 = − log(0.40950) = 0.893
z10 = 0.82995
x10 = − log(0.82995) = 0.186
GENERATION OF OBSERVATIONS FROM (1-2) SOME STANDARD DISTRIBUTION In this section we discuss how the Monte Carlo sampling method may be used to draw random samples of observation from some of the more important statistical distributions. In some cases we shall see that the inverse transformation method which relies on a simple analytical form being available for the c.d.f. of the underlying distribution is not applicable ,so other
MONTE CARLO SAMPLING
11
techniques have to be used. Throughout the discussion we shall let Z denote a random variable having the uniform distribution .(over(0,1
Exponential Distribution(1-2-1) Let X be arandom variable having the exponential .distribution with p.d.f x −1 θ exp( − ), θ f (x) = e.w o
0<x<∞
The c.d.f. is F(x) = 1 − exp(− x / θ), 0 < x < ∞ and is zero elsewhere .
−1 Z = F(X) = 1 − exp( − x / θ) . X = −θ log(1 − Z) = F (Z) Sitting ,we option
Thus using the inverse transformation method ,values for X may be generated from values for the uniform random variable Z using X = −θ log(1 − Z) ,or since 1-Z is it self uniformly distributed, from
X = −θ log(Z)
:Weibull Distribution(1-2-2) Let X be random variable having the Weibull distribution .with p.d.f β β−1 β β ÷x exp { −(x / θ) } ,0 < x < ∞ f (x) = θ o elsewhere
MONTE CARLO SAMPLING
12
F(x) = 1 − exp { ( − x / θ)β } ,0 < x < ∞
The c.d.f. is
elsewhere. Setting
and is zero
Z = F(X) = 1 − exp { ( −X / θ)β } ,
we option or since
1
X = −θ (log Z) β (1-Z) has the same distribution as Z we use
X = −θ { log(1 − Z)} β 1
:Proof* X β F(X) = 1 − exp − ÷ , θ
0<X<∞
β X Z = 1 − exp − ÷ θ β X 1 − Z = exp − ÷ θ β X ln ( 1 − Z ) = − ÷ θ β
X − ln ( 1 − Z ) = ÷ θ 1 ( − ln ( 1 − Z ) ) β = Xθ ÷ 1 β
θ ( − ln ( 1 − Z ) ) = X 1 β
θ(− ln Z) = X
Gamma Distribution with Integer Shape Parameter(1-2-3) Let X be random variable having the gamma distribution exp ( − x / θ ) x β−1 ,0 < x < ∞ Γ(β)θβ f (x) = o ,x < 0
MONTE CARLO SAMPLING
13
Where the parameter is a positive integer. Instead of using the inverse transformation method which requires the inverse −1
function F ,we use the result that the random variables X may be thought of as the sum of exponentially distributed random x θ−1 exp(− ) θ .Thus if Z1, Z2 ,..., Zβ variables each with p.d.f.
represent a set of independent random variables uniformly distributed over ( 0,1 ) , then we may set β β X = ∑ ( −θ log Zi ) = − θ log ∏ Zi ÷ i =1 i=1 We require β observations from the uniform distribution over
( 0,1 ) to generate a single observation form this special gamma . distribution
:Proof f (x) = =0
1 x x β−1 exp(− ), 0 < x < ∞ β Γ(β)θ θ elsewhere
يمكن التعبير عنهX بدل من استخدام النظرية فإننا سوف نستخدم النتيجة أن. قيمة صحيحةβ حيث :كمجموع متغيرات عشوائية تتبع التوزيع السي وكل متغير له توزيع أسي على الشكل 1 x f (x) = exp(− ) θ θ Μ X (t) = (1 − tθ) −1 Μ
β
β
∑ xi
(t) = ∏ (1 − tθ) −1
i =1
i =1
= (1 − tθ) −β
.والتي تمثل الدالة المولدة لتوزيع جاما
:Beta Distribution (1-2-4)
MONTE CARLO SAMPLING
14
:توزيع بيتا : متغير عشوائي يتبع توزيع بيتا بدالة كثافة احتماليةX ليكن Γ(α + β)x α−1 (1 − x)β−1 Γ(α)Γ(β) f (x) = 0 elsewhere Z1 : Uniform
,0 < x < 1
Z2 : Uniform 1 α
Y1 = Z1 ,Y2 = Z2
1 β
Y1α = Z1 ,Y2β = Z2 f (y1 , y 2 ) = f (z1,z 2 ) | J | | J |=
δz1 δy1 δz 2 δy1
δz1 δy 2
αy1α−1 0 = δz 2 0 βy 2β−1 δy 2
= αy1α−1β y 2β−1 0 < y1 < 1, 0 < y 2 < 1
:سوف نأخذ التحويلة التالية
MONTE CARLO SAMPLING
15 X=
Y1 , W = Y1 + Y2 Y1 + Y2
y1 = xw y 2 = w − y1 = w − wx = w(1 − x) dy1 dy1 dx dx J= dy 2 dy 2 dx dx w x = −w 1 − x = w(1 − x) + xw = w − wx + wx = w h(x | 0 < W < 1) 1
=
∫ g(x, w)dw 1
0 1
0
0
→ (1 − 1)
∫ ∫ g(x, w)dxdw
sin ce : 1
1
0
0
∫ g(x, w)dw = ∫ αβx
α−1
(1 − x)β−1 w α+β−1dw 1
= αβ x
α−1
(1 − x)
β−1
w α+β α+β 0
αβ x α−1 (1 − x)β−1 = α+β sin ce : 1
1
→ (1 − 2)
1
∫
αβ x α−1 (1 − x)β−1 ∫0 g(x, w)dxdw = ∫0 α+β
=
αβ β(α, β) αβΓ(α )Γ(β) = α+β (α + β)Γ(α + β)
0
→ (1 − 3)
MONTE CARLO SAMPLING
16
:(1-1) ( والتعويض في3-1) ( ( و2-1 من αβ x α−1 (1 − x)β−1 ( α + β ) Γ ( α + β ) h(x | 0 < w < 1) = ( α + β ) αβΓ(α)Γ(β) =
1 x α−1 (1 − x)β−1 ,0 < x < 1 β ( α, β )
:(Example (1-2-1 Suppose that we require a sample of four independent observations from the beta distribution with parameters α = 2 and
β = 14
Use the following stream of uniform observations on z : 0.706, 0.392, 0.020, 0.882, 0.670, 0.922, 0.441, 0.717, 0.577, 0.799, 0.055, 0.628 These are arranged in pairs and the transformations applied in .the above steps Z1
0.706
0.020
0.670
0.441
0.577
0.055
Z2
0.392 0.840
0.882 0.141
0.922 0.819
0.717 0.664
0.799 0.760
0.628 0.235
0.024
0.605
0.722
0.264
0.408
0.156
0.864
0.746
1.541
0.928
1.168
0.391
0.972
0.189
Re ject
0.716
Re ject
0.601
1
Y 1 = Z1 2 Y 2 = Z 24 Y 1 +Y 2 X =
Y1 Y 1 +Y 2
:normal Distribution (1-2-5)
:التوزيع الطبيعي
: (0,1) متغيرين عشوائيين مستقلين يتبعان توزيع منتظم في الفترةX1 ,X 2 إذا كان لدينا
MONTE CARLO SAMPLING
17 X1 = −2ln Z1 cos(2πZ2 ) X 2 = −2ln Z1 sin(2πZ2 ) x12 = −2ln z1 cos 2 (2 πz 2 ) x 2 2 = −2ln z1 sin 2 (2 πz 2 )
x12 + x 2 2 = −2ln z1 cos 2 (2 πz 2 ) + sin 2 (2 πz 2 ) = −2ln z1 x12 + x 2 2 − = ln z1 2 x12 + x 2 2 exp − = z1 2 x 2 sin 2πz 2 = = tan ( 2πz 2 ) x1 cos 2πz 2 tan −1
x2 = 2 πz 2 x1
x tan −1 2 ÷ x1 z2 = 2π
J=
δz1 δx1 δz 2 δx1
δz1 δx 2
− x 1e
−
q 2
− x1e −
=−
q 2
−x 2 1 −1 1 1 = 1 ÷ ÷ 2 2 δz 2 2π x 2 x1 2 π x 2 x1 1+ ÷ 1+ ÷ δx 2 x 1 x1
x12 + x 2 2 = q
=
−x 2e
−
−
q 2
x2 1 2 2 π ( x1 + x 2 2 )
−
q 2
−x 2e x1 1 2 2 π ( x1 + x 2 2 )
1 x12 + x 2 2 −q 1 −q exp( ) = − exp ( ) 2π ( x12 + x 2 2 ) 2 2π 2
MONTE CARLO SAMPLING
18
w1 = ρx1 + (1 − ρ2 )x 2 w 2 = x1 ρ
÷ ÷ 2 1− ρ
1 0 1 ÷ ÷ 2 ÷ 0 1 1 − ρ 0 0
1 ρ
1 ρ = ÷ ρ 1 ⇒ var(w1 ) = 1 var(w 2 ) = 1 ρw1 ,w 2 = ρ
مثال ):(2-2-1 إذا كان لدينا عينه عشوائية من خمس مشاهدات من توزيع طبيعي , ρ = .7
, var(X 2 ) = 9
, var(X1 ) = 4
,E(X 2 ) = 20
E(X1 ) = 10
المطلوب توليد بيانات حيث: .305 .279
.577
455. 927.
Z: .186 .345
976.
231. 779.
الحل: 1 2
X1 = (−2log 0.186) cos { 2π(0.927)} = 1.390 1 2
X 2 = (−2log 0.186) sin { 2π(0.927)} = 1.197 1 2
W1 = (0.7)(1.390) + (1 − .49) (1.197) = 1.828 W2 = X1 = 1.390 V1 = 10 + 4(1.828) = 13.656 V2 = 20 + 9(1.390) = 24.170
وبالمثل لباقي القيم تصبح بالصورة:
MONTE CARLO SAMPLING
19
V1 13.656 12.733 10.574 6.920 12.478 V = 24.170 21.854 18.497 12.067 24.773 2
):Binomial Distribution (1-2-6
توزيع ذ ي الحدين: ليكن Xمتغير عشوائي يتبع توزيع ذ ي الحدين n P(X = x) = ÷p x (1 − p) n − x , x = 0,1,2,...,n x and X i = 0
where X i = 1 with probablity p
n
X = ∑ Xi i =1
with probablity (1 − p),i = 1,...,n we set Xi = 1 if 0 < Z ≤ p and X i = 0 if p < Z ≤ 1
):Poisson Distribution (1-2-7 عمليه بواسون يوجد عدد كبير من الضواهر التي تتغير خلل الزمن . tفإذا كان عدد التغيرات خلل الفتره الزمنيه ) (t,0هو ) t) Xفيكون ( t ) Xعباره عن داله في الزمن ويتبع توزيع احتمال معين .في هذه الحاله لنكون بصدد متغير عشوائي واحد Xبل لكل t>0يكون لدينا متغير ( t )Xوهذه المجموعه مـن المتغيرات العشوائيه تدعى بالعملية العشوائية. فإذا كانت tتأخذ قيما متصله فأن العمليه تسمى عمليه تصادفيه بزمن متصل ويرمز لها بالرمز
)(X (t ), t ≥ 0
وتسمى العمليه التصادفيه بعمليه بواسون أذا كان قانون احتمالها يتبع توزيع بوسوان . أ ي ان المتغير العشوائي ) t )Xيمثل عدد حالت النجاح ) التغيرات ( في الفتره ) ( t,0يتبع توزيع بواسون . هناك ظواهر كثيره يكون عدد التغيرات فيها ) X ( tيتبع توزيع بواسون .فإذا كنا نراقب او نلحظ وقوع احدا ث يمكن ان تقع في أ ي وقت من الزمن مثل اذا كنا نراقب -: #عدد الطائرات ( t ) Xالتي تحيط في الطائره من خلل الفتره الزمنيه ) . (t,0 #عدد السيارات ) ) t Xالتي تصل الى محطة بنزين من خلل الفتره الزمنيه ) . (t,0 #عدد البواخر ) t )Xالتي تصل الى ميناء من خلل الفتره الزمنيه ) . ( t,0
MONTE CARLO SAMPLING
20
#عدد حواد ث السيارات ) t ) Xالتي تقع على الطريق خلل الفترة الزمنية ) . ( t,0 #عدد العملء ) t ) Xالذين يصلون الى شبابيك احد البنوك خلل الفترة الزمنية ) ) . t,0 #عدد المكالمات التلفونيه ) t ) Xالتي تصل الى سنترال من خلل الفترة الزمنية ) . ( t,0 #عدد الجزيئات التي تصدر من معدن مشبع خلل الفتره الزمنيه ) . ( t,0 الداله ال حتماليه لعدد الحواد ث ) x ( tالتي تقع في الفتره الزمنيه ) ( t,0هي exp( −λt)(λt) x = )f (t , x = 0,1,... !x
مثال ):(3-2-1 إذا كانت البواخر تصل الى ميناء ما بمعدل 3بواخر في الساعه فما احتمال أن تصل باخرتان خلل 40 دقيقه ؟ الحل: 3 معدل وصول البواخر في الدقيقه 60
=λ
الفترة الزمنية t=40دقيقة فإذا كان Xهي عدد البواخر فإن Xيتبع توزيع بواسون بمعلمة 3 )=2 60 e−2 2x = )f (x , x = 0,1,2,3... !x e−2 22 = )p(X = 2 = .27 !2 (λt = 40
توزيع الفترات بين الحواد ث:
إذا كان عدد الحواد ث (X(tالتي تقع في الفترة ( (t,0متغيرا عشوائيا متقطعا يتبع توزيع بواسون
بمعلمة ) λtمتوسط عدد الحواد ث في وحدة الزمن( فإن أطوال الفترات الزمنية التي تفصل بين لحظات وقوع الحواد ث تمثل متغيرا عشوائيا متصل له توزيع اسي .بفرض أن Tطول الفترة من بداية الزمن إلى الحادثة الولى يمكن الحصول على توزيع Tمن توزيع .(X(t إذا لم تقع حادثة في الفترة) (t,0فهذا يعني أن T>tأ ي أن :
MONTE CARLO SAMPLING
21
)P(T>t)=P(X(t)=0 =e- λt f (T) = λe -λt
فإذا كانت T1تمثل طول الفترة من البدايه الى الحادثة الولى T2تمثل طول الفترة من الحادثة الولى الى الحادثة الثانية T3تمثل طول الفترة من الحادثة الثانية الى الحادثة الثالثة فإن المتغيرات …,T1,T2هي متغيرات عشوائية مستقلة يتبع كل منها توزيع اسي بدللة كثافة احتمال
f (t) = λe −λt
اذا كان T1 + T2 ,... + Tnالزمن من البداية الى ظهور الحادثة nأ ي أنه يمثل مجموع nمن المتغيرات العشوائية المستقلة كل منها يتبع توزيع اسي بمعلمة λوعلى ذلك T1 + T2 ,... + Tnيتبع توزيع جاما
بمعالم λو . n
):Geometric Distribution(1-2-8 إذا كان: , x = 1,2,.... w −1
p
x −1
)f ( x) = (1− p
x
) F ( x ) = ∑ p ( w ) = ∑( 1 − p w ≤x
w =1
w
x −1
) = p ∑( 1 − p w =0
لحساب هذا المجموع سوف نستفيد من العلقات التالية: 1 − a k +1 1−a
k
= ∑a w
w =0
)1− ( 1 − p F( x ) = p )1−(1− p
x −1+1
)1 − ( 1− p ][ x =p =1 − ( 1 − p ) , x ≥1 1 − 1 +p x
( ) ) , Z = F( x ) )= p( Z ≥ (1− p x
)= p Z ≤1 − ( 1 − p x
a =1 − p k = x −1
MONTE CARLO SAMPLING
22
منتظم
(
P( X ≤ x) = P Z ≤ 1− (1 − p)
( ) = P ( 1 − Z ≥ ( 1 − p) ) = P ( Z ≥ ( 1 − p) ) = P Z −1 ≤ −( 1 − p)
x
Z
منتظم1 − Z
)
x
x
x
Q P ( X = x ) = P ( X ≤ x ) − P ( X ≤ x − 1)
( = P ( ( 1 − p)
) − p( Z ≥ ( 1− p) ) ≤ Z < ( 1 − p) )
= p Z ≥ ( 1 − p)
( 1 − p) e
x ln ( 1− p )
x
x
x −1
x
x −1
≤Z ≤Z
x ln ( 1 − p ) ≤ ln z x≤
ln Z ln ( 1 − p )
x =p s f
. s أصغر رقم صحيح يساو ي أو أكبر منs حيث
let Z = 0.2 1 p= 2 ln Z =S ln ( 1 − p ) ∴p S f =
s أقل رقم صحيح أكبر أو يساو ي
−1.609 1.609 = = 2.32 −0.693 0.693 s أقل رقم صحيح أكبر من أو يساو ي X=3
MONTE CARLO SAMPLING
23
مثال ):(4-2-1 إذا كانت دالة كثافة الحتمال لمتغير عشوائي xعلى الشكل: x ,0 <x <2 2 = 0,e.w.
= )f ( x
الحل: x
t t2 x x2 F ( x ) = ∫ dt = | = ,0 p x p c 2 2 4 0 4 0 = 0, x ≤ 0 = 1, x ≥ 2 let x2 = F( x ) = Z 4 2 4Z = x ⇒ x = 2 Z
نقوم بتوليد بيانات
Z1 , Z2 ,....., Z n
نتبع التوزيع منتظم ) u ( 0,1وبالتعويض x = 2 Zنحصل على القيمة العشوائية التي مشاهدتها تتبع x f ( x ) = ,0 < x < 2 2 التوزيع
مثال ):(5-2-1 إذا كان Xمتغيراً عشوائياً بدالة كثافة احتمال )توزيع لوجستي( على الشكل: ∞ < , −∞ < x
e− x
) (1+ e
−x 2
= )f ( x
= 0 elsewhere
الحل: دالة التوزيع للمتغير xعلى الشكل:
MONTE CARLO SAMPLING
24
dt
x
e− t
) (1+ e
t 2 −2
dt
∫
= ) F( x
∞− x
) ∫ e (1+ e −t
−t
=
∞−
x
) − ( 1 + e− t −1
∞−
1 ∞ , −∞ p x p ) ( 1 + e− x
= ) F( x
) x = F −1 ( z 1 ) ( 1 + e− x
= ) Z = F( x
1 z 1 1 − 1 = e − x ⇒ ln − 1÷ = − x z z
= ) Z −1 = ( 1 + e − x
1 ÷x = − ln − 1 z
مثال ):(6-2-1
المطلوب توليد )محاكاة( عينة عشوائية من الحجم n=10تتبع توزيع كوشي؟ الحل: دالة التوزيع التجميعي لتوزيع كوشي هي : 1 −1 π tan x + ( ) π 2
= )F(x
ولد ي بيانات تتبع هذا التوزيع: ∞
1 1 ∫ = ) F( x dt π −∞ 1 + t 2 x
∞−
1 ) = tan −1 ( t π
MONTE CARLO SAMPLING
25
∞ −∞ p x p 1 −1 π tan x + ( ) π 2 1 π z = tan −1 ( x ) + π 2 π zπ = tan −1 ( x ) + 2 π −1 )(1-2 z π − ) ÷ = tan ( x 2 π ÷ x = tan πz − )(1-1 2 نقوم بتوليد Z1, Z2 ,....., Znمن توزيع منتظم في الفترة ) ( 0,1ثم نعوض في المعادلة )( 1 − 1 =
على أن nمن المشاهدات تتبع التوزيع في ) ( 1 − 2 مثال ):(6-2-1
إذا كانت دالة كثافة الحتمال لمتغير عشوائي على الشكل: x f ( x ) = ,0 < x < 2 2 =0 e.w
الحل: x
x
t t2 x2 = F ( x ) = ∫ dt = 2 40 4 0 0, x < 0 2 x F ( x ) = ,0 ≤ x < 2 4 1, x ≥ 2 x2 = ) z = F( x 4 2 4z = x x=2 z
26
MONTE CARLO SAMPLING