Giáo trình Xác suất thống kê và quá trình ngẫu nhiên (Phần 1)

( )X 1 2 1 2 X 1 2 2 1f x ,x ; t , t f x , x ; t t= − . * Tương tự, hàm tự tương quan RX(t,s) và hàm tự hiệp phương sai CX(t,s) chỉ phụ thuộc vào hiệu thời gian: ( ) ( ) ( ) ( )X XR t,s E[X t X s ] R t s= = − ; ( ) ( ) ( )( ) ( )X XC t,s Cov X t ,X s C t s= = .− Thực vậy, ( ) ( ) ( )X 2 2 R t,s xydF x, y; t,s xydF x, y; t s= =∫∫ ∫∫ R R − chỉ phụ thuộc vào hiệu t - s. Tương tự cho hàm ( )XC t,s . Những trình bày về dừng theo nghĩa hẹp nêu trên có thể được mở rộng thành dừng theo nghĩa hẹp đồng thời của hai QT: Hai QT ( ){ }X t và ( ){ }Y t được gọi là dừng theo nghĩa hẹp đồng thời nếu các hàm phân bố đồng thời của chúng (xác định theo (5.1.5)) bất biến với phép dịch chuyển thời gian. b) Quá trình dừng theo nghĩa rộng Định nghĩa. Giả sử { }tX X , t I= ∈ là QT cấp hai. Ta nói rằng X là QT dừng theo nghĩa rộng nếu: i) Hàm kỳ vọng là hằng số ( ) ( )X Xt E[X t ] , tµ = =µ ∈I ; ii) Hàm tự tương quan chỉ phụ thuộc vào hiệu thời gian ( ) ( ) ( ) ( )X XR t,s E[X t X s ] R , t s= = τ τ= − trong đó ( )XR τ là hàm nào đó của biến τ . 40 Để tiện lợi, QT dừng theo nghĩa rộng được gọi tắt là QT dừng. Lưu ý rằng nếu xảy ra (i) thì điều kiện (ii) tương đương với ii’) ( ) ( ) ( ) ( ) ( ) ( )X X X XC t,s E[(X t t )(X s s ) C , t s= −µ −µ = τ τ= − là hàm chỉ phụ thuộc vào hiệu t – s. Người ta cũng gọi hàm ( )XR τ , ( )XC τ lần lượt là hàm tự tương quan và tự hiệp phương sai của quá trình dừng X. Các điều kiện (ii) và (ii’) được viết dưới dạng tiện lợi sau đây: ( ) ( ) ( ) ( X X X X R t , t R C t , t C . + τ = τ + τ = τ) ; Phương sai của QT dừng là hằng số: ( ) ( ) ( )2 2X XD[X t ] t C 0=σ = =σ , t I∀ ∈ . Người ta gọi là kỳ vọng chung, Xµ 2Xσ là phương sai chung của QT X. Rõ ràng, mỗi QT dừng theo nghĩa hẹp và là cấp hai sẽ là một QT dừng theo nghĩa rộng. Ngược lại nói chung không đúng (có những ví dụ minh hoạ điều này). Sau đây chúng ta nêu ra một số tính chất của hàm tự tương quan. Định lý 5.1. Cho ( )XR τ là hàm tự tương quan của QT dừng nhận giá trị thực ( ){ }X t , t∈R . Khi đó: i) ( )XR τ là hàm chẵn, tức là ( ) ( )X XR R ,−τ = τ ∀τ∈R . ii) Hàm ( )XR τ đạt cực đại tại 0τ = : ( ) ( )X XR R 0 ,τ ≤ ∀τ∈R . iii) ( )XR τ là hàm xác định không âm theo nghĩa: Với mỗi bộ 2n số thực t1,, tn, b1,,bn bất kỳ luôn xảy ra bất đẳng thức: ( )n i j X i j i, j 1 b b R t t 0 = − ≥∑ . (5.2.14) Chứng minh. i) ( ) ( ) ( ) ( ) ( )X X X X XR R 0 R 0, R ,0 R−τ = − τ = τ = τ = τ . ii) Áp dụng bất Cauchy-Schwarz, ta có ( ) ( ) ( ) ( ) ( ) ( )( ) ( ) X X 1/ 22 2 X R R ,0 E X X 0 E X E X 0 R 0 . τ = τ = τ ≤ τ = iii) ( ) ( ) ( )2n ni i i j i j i 1 i, j 1 0 E b X t b b E[X t X t ] = = ⎛ ⎞≤ =⎜ ⎟⎝ ⎠∑ ∑ = 41 42 ) (n i j X i j i, j 1 b b R t t = = ∑ − . Câu hỏi tự nhiên đặt ra là, vấn đề “ngược lại” phải chăng cũng đúng? Định lý không kèm chứng minh sau đây sẽ là câu trả lời cho vấn đề này. Định lý 5.2. Hàm số ( )R ,τ τ∈R là hàm tự tương quan của một QTNN thực, dừng khi và chỉ khi ( )R τ là hàm xác định không âm. Kiểm tra tính xác định không âm của một hàm số cho trước là điều khá khó khăn. Định lý sau đây (xem [12], tr 404) nêu lên một điều kiện đủ để một hàm cho trước là hàm tự tương quan. Định lý 5.3.(Polya). Hàm chẵn ( )R ,τ τ∈R là hàm tự tương quan của một QTNN thực, dừng nào đó nếu thoả mãn hai điều kiện sau đây: i) ( )R τ là hàm lồi trên ( )0;+∞ ; ii) ( )lim R c ;τ→∞ τ = c - hữu hạn. Ví dụ 5.10. Xét dao động điều hoà với biên độ và tần số hằng số, pha ngẫu nhiên: ( ) ( )X t Asin t + , t= ω Θ ∈R trong đó A, ω là các hằng số, có phân bố đều trên [0;2π]. Chúng ta có: Θ ( )2 0 AE[X(t)] sin t + d 0 2 π = ω θ θ =π ∫ ; ( ) ( )( ) ( ) ( ) X 2 2 R t , t E Asin t + .Asin t + A E cos cos 2 t +2 2 A cos , 2 ⎡ ⎤+ τ = ω τ +Θ ω Θ⎣ ⎦ = ⎡ ωτ − ω Θ+ωτ ⎤⎣ ⎦ = ωτ là hàm số chỉ phụ thuộc vào τ. Vậy X dừng. Hơn nữa chứng minh được (xem [15] tr 90 -91): Cho ω là hằng số, A và Θ là hai BNN độc lập; { }X(t), t∈R xác định ở Ví dụ 5.11 là QT dừng mạnh khi và chỉ khi Θ có phân bố đều trên [0;2π]. Ví dụ 5.11. Xét sóng sin ngẫu nhiên ( ) ( )X t Asin 2 t , t= π ∈R trong đó A là biến ngẫu nhiên có phân bố đều trên [0;1]. Dễ thấy ( )X 1t sin 2 t con2µ = π ≠ st , vậy ( ){ }X t không là QT dừng (theo nghĩa rộng). Chúng ta cũng có thể tính được ( ) ( ) ( ) ( ) ( ) ( )X Xsin 2 t sin 2 s sin 2 t sin 2 sR t,s ; C t,s3 1 π π π π= = 2 . Định nghĩa. QTNN ( ){ }X t , t∈R được gọi là tuần hoàn theo bình phương trung bình (hay MS - tuần hoàn) nếu tồn tại số thực t0 sao cho . 20E[X(t t ) X(t)] 0, t+ − = ∀ ∈R Ta gọi t0 là MS - chu kỳ của quá trình. Từ định nghĩa suy ra ngay rằng, với xác suất 1,với mọi t∈ ¡ 0X(t t ) X(t)+ = . Lưu ý: Không suy ra ( ) ( ){ }0P :X t t , X t, , t 1ζ + ζ = ζ ∀ = . Định lý 5.4. Nếu đối với dừng ( ){ }X t xảy ra đẳng thức ( ) ( )X XR 0 R t= 0 thì ( ){ }X t là MS - tuần hoàn với MS - chu kỳ là t0. Lưu ý rằng hàm tự tương quan của QT dừng có thể có thành phần hằng số khác không, có thể có thành phần tuần hoàn, có thể có thành phần tắt dần nhanh hoặc chậm. Hình 5.3 đưa ra các dạng điển hình của hàm tự tương quan. XR ( )τ XR ( )τ XR ( )τ XR ( )τ Hình 5.3. Các dạnh điển hình của hàm tự tương quan của QT dừng Đối với QT dừng ( ){ }X t , hệ số tương quan (5.2.7) trở thành ( ) ( )( )XX X C , C 0 τρ τ = τ∈R . (5.2.15) c)Dừng đồng thời. Định nghĩa. Ta nói hai QT { }X(t)},{Y(t) là dừng đồng thời nếu mỗi QT { }X(t) ,{ }Y(t) là dừng, hơn nữa hàm tương quan chéo của chúng chỉ phụ thuộc vào hiệu thời gian: 43 XY XYR (t,s) E[X(t)Y(s)] R (t s).= = − Đòi hỏi này được viết lại dưới dạng tiện lợi sau đây: XY XYR (t , t) E[X(t )Y(t)] R ( ).+ τ = + τ = τ (5.2.16) Hàm được gọi là hàm tương quan chéo của hai QT {XYR (τ) }X(t)},{Y(t) . Khi mỗi QT X, Y là dừng, ràng buộc (5.2.16) tương đương với hàm hiệp phương sai chéo chỉ phụ thuộc vào hiệu thời gian: C ( XY XY XY X Yt , t) C ( ) R ( ) .+ τ = τ = τ −µ µ (5.2.17) Khác với hàm tự tương quan, hàm tương quan chéo nói chung không chẵn. Sau đây là một số tính chất của hàm tương quan chéo hai QT dừng đồng thời. Định lý 5.5. Đối với hai QT thực dừng đồng thời { }X(t)},{Y(t) ta có: XY YX(i) R ( ) R ( );−τ = τ XY X Y(ii) R ( ) R (0) R (0) ;τ ≤ (iii) X YXY R (0) R (0)R ( ) 2 .+τ ≤ Chứng minh. Tính chất (i) trực tiếp suy từ định nghĩa. Từ bất đẳng thức Cauchy-Schwarz và từ tính dừng suy ra ( 2 2 2E[X(t )Y(t)]) E[X (t )]E[Y (t)]+ τ ≤ + τ = = 2 2 X YE[X (0)].E[Y (0)] R (0)R (0), chúng ta nhận được (ii). Tính chất (iii) suy ra từ (ii) và bất đẳng thực Cauchy: X Y X Y R (0) R (0)R (0)R (0) . 2 +≤ Một số dạng có thể của hàm tự tương quan chéo thể hiện ở Hình 5.4. Hình 5.4.Hàm tương quan chéo của hai QT thực, dừng đồng thời Một lợi ích của hàm tương quan chéo là nhờ đó ta có thể tính được hàm tự tương quan của tổng hai QT. Định lý 5.6. Đối với hai QT dừng đồng thời { }X(t)},{Y(t) ta có (5.2.18) X Y X Y XY YXR ( ) R ( ) R ( ) R ( ) R ( ).+ τ = τ + τ + τ + τ 44 Chứng minh. Ta có E[X(t ) Y(t )][X(t) Y(t)]+ τ + + τ + = E[X(t )X(t)] E[Y(t )Y(t)] E[X(t )Y(t)] E[Y(t )X(t)]+ τ + + τ + + τ + + τ = X Y XY YXR ( ) R ( ) R ( ) R ( ).τ + τ + τ + τ 5.2.4. Quá trình Gauss QTNN ( ){ }X t , t I∈ được gọi là quá trình Gauss (hay QT chuẩn) nếu các phân bố hữu hạn chiều cuả nó là chuẩn. Nói cách khác, đối với mỗi tập con hữu hạn J = {t1,...,tn} ⊂ I, véc tơ ngẫu nhiên có phân bố chuẩn. 1(X(t ),...,X(t ))n ∈ Theo định nghĩa của VTNN chuẩn, điều kiện này chính là: 1 na ,...,a∀ R , BNN ( ) ( )1 1 n na X t ... a X t+ + có phân bố chuẩn. Để đơn giản cách viết, giả sử ( )iX X ti= , đặt ; 1 1 n n X E[X ] [X ] X ; m E(X) X E ⎛ ⎞ ⎛ ⎞⎜ ⎟ ⎜ ⎟= = =⎜ ⎟ ⎜ ⎟⎜ ⎟ ⎜ ⎟⎝ ⎠ ⎝ ⎠ g g 1 n x x ; x ⎛ ⎞⎜ ⎟= ⎜ ⎟⎜ ⎟⎝ ⎠ g ( )1 nC Cov X ,...,X .= Hàm mật độ đồng thời của các biến ngẫu nhiên cho bởi 1X ,...Xn ( ) ( ) ( ) (T 1 1 n 1 x m C x m 2X ,...,X 1 n n / 2n / 2 1f x ,..., x e 2 det C − )− − −= π . (5.2.19) Đặc biệt, phân bố một chiều và phân bố hai chiều là các phân bố chuẩn. Mật độ đồng thời (5.2.19) hoàn toàn quyết định bởi các phân bố một chiều (vì ) và các phân bố hai chiều (vìi i iim E[X ], C D[X ]= = i ( )ij i jC Cov X ,X= với i ≠j). Vì vậy, nếu QT đã cho là dừng (theo nghĩa rộng) thì các giá trị sẽ bất biến đối với phép dịch chuyển thời gian, và do đó, mật độ đồng thời ở (5.2.19) cũng sẽ bất biến. Từ đó chúng ta có: im , Cij Định lý5.7. Nếu quá trình Gauss là dừng (theo nghĩa rộng) thì nó cũng là QT dừng theo nghĩa hẹp. Hai lớp QTNN đặc biệt quan trọng là QT Poisson và QT Wiener sẽ được giới thiệu ở §5.5. 45 ⇓§5.3. TÍNH CHẤT ERGODIC VÀ TRUNG BÌNH THỜI GIAN 5.3.1. Giới thiệu Ergodic là một tính chất tinh vi, thoạt đầu khó có thể chấp nhận được nó, thế nhưng lại rất hữu ích và được sử dụng rộng rãi. Khái niệm này được định nghĩa theo nhiều dạng khác nhau: theo nghĩa bình phương trung bình hay theo nghĩa hầu chắc chắn; theo kỳ vọng, theo hiệp phương sai hay theo mô men cấp p nào đó; áp dụng cho quá trình dừng hay cho quá trình bất kỳ. Những định lý ergodic được phát hiện đầu tiên vào nửa đầu thế kỷ XX bởi J.Von.Neumann, B.Birkoff (Mĩ), A.Ia. Khinchin (Nga). Nói một cách ngắn gọn, tính chất ergodic đảm bảo rằng: Nếu một tham số thống kê nào đó của QT được tính bằng kỳ vọng, tức là trung bình tổng thể thì tham số đó cũng có thể được tính theo trung bình thời gian đối với một quỹ đạo đơn lẻ. Để hình dung ra tính ergodic, chúng ta xét ví dụ sau đây. Sắp xếp thời gian trong ngày theo phút ta có thể coi { }t I 0,00; 0,01;...;24,00∈ = . Giả sử ở phút thứ t, số gói tin chuyển qua một nút nào đó của một mạng máy tính là N(t). Số gói tin trung bình chuyển qua nút lúc 10 giờ là E[N(10,00)]. Để tính giá trị này, chúng ta ghi lại kết quả quan sát của N ngày, ví như N = 100. Theo luật mạnh số lớn ta có thể xấp xỉ ( ) ( )( )1 1001E[N(10,00)] N 10,00 ... N 10,00100≈ + + trong đó Ni(10,00) là số gói tin chuyển qua nút trong 1 phút vào lúc 10 giờ ở ngày thứ i. Nếu quá trình ( ){ }N t có tính ergodic, chúng ta chỉ cần quan sát trong một ngày nào đó, với thời đoạn khá lớn nào đó - chẳng hạn N = 100 phút – quanh 10 giờ, ví như từ 9 giờ 00 đến 10 giờ 40. Chúng ta chỉ việc lấy số gói tin chuyển qua nút trong 100 phút đó chia cho 100 sẽ được xấp xỉ cho giá trị trung bình cần tìm. Để đơn giản, người ta có thể tiến hành hai thí nghiệm trên theo phương pháp mô phỏng thống kê. Kể cả khi ấy, chúng ta thấy lợi ích lớn lao của việc lấy trung bình theo thời gian. Tiện ích của việc lấy trung bình thời gian lớn đến mức người ta cứ tiến hành phương pháp này, dù rằng quá trình có thể không là ergodic. Chúng ta đưa ra sau đây hai dạng của tính ergodic: ergodic kỳ vọng và ergodic hiệp phương sai, và hầu như chỉ áp dụng cho QT dừng. 46 5.3.2. Ergodic kỳ vọng Định nghĩa. Đối với hàm số f(t), t∈ ¡ cho trước, trung bình thời gian của f(t) xác định bởi T T T 1lim f (t)dt 2T→ +∞ − ∫ , (5.3.1) và được ký hiệu là A[ f(t)]. Toán tử A[ . ] được gọi là toán tử trung bình thời gian. Trường hợp {f(t)} là QTNN, giới hạn đưa ra được hiểu theo bình phương trung bình. Định nghĩa. QTNN dừng nhận giá trị thực ( ){ }X t được gọi là ergodic kỳ vọng nếu kỳ vọng µ của QT bằng trung bình thời gian của một quỹ đạo bất kỳ: ( ) ( )T T T 1E[X t ] lim X t dt, 2T→+∞ − = ∫ (5.3.2) giới hạn theo bình phương trung bình. Đặt ( )TT T 1X X 2T − = ∫ t dt . (5.3.3) TX là giá trị trung bình thời gian trên [- T; T] của { }X(t) . Khi , giới hạn là giá trị trung bình của quỹ đạo trên toàn trục số. Đối với QTNN tổng quát, giới hạn đã nêu là một BNN, tức là phụ thuộc vào T→∞ Tt lim X→∞ Sζ∈ . Tuy nhiên: Đối với QT ergodic, chúng ta có thể lấy trung bình thời gian của một quỹ đạo bất kỳ làm trung bình tổng thể của quá trình : E[X(t)] A[X(t)]= . Định lý 5.8. Giả sử ( ){ }X t là QTNN dừng, nhận giá trị thực với hàm trung bình và hàm tự hiệp phương sai µ ( )XC τ . Điều kiện cần và đủ để ( ){ }X t là QT ergodic kỳ vọng là ( )T XT 0 1lim 1 C d 0 T T→+∞ τ⎛ ⎞− τ τ =⎜ ⎟⎝ ⎠∫ . (5.3.4) Chứng minh. Theo tính chất của tích phân (xem mục 5.4.3) chúng ta có: T T T 1E[X ] E[X(t)]dt . 2T − = =∫ µ Từ đó, ( )TX T→ µ →∞ theo bình phương trung bình khi và chỉ khi ( )2T TD[X ] 0 Tσ = → →∞ . Lại áp dụng tính chất của tích phân và tính dừng của ( ){ }X t chúng ta đi tới 47 ( )( ) ( )( )T T2T T T T 1 1D[X ] E X t dt X s ds 2T 2T− − ⎡ ⎤ ⎡ ⎤σ = = −µ −µ⎢ ⎥ ⎢ ⎥⎣ ⎦ ⎣ ⎦∫ ∫ ( )( ) ( )( )T T2 T T 1 E X t X s dtds 4T − − ⎡ ⎤= −µ −⎣ ⎦∫ ∫ µ ( )T T X2 T T 1 C t s dtd 4T − − = −∫ ∫ s s . Đối với tích phân kép cuối cùng, bằng cách đổi biến u t s , v t= − = + ta đi tới: ( )2T X 2T 1 1 C 2T 2T− ⎛ ⎞τ d− τ τ⎜ ⎟⎝ ⎠∫ . (Nếu các bạn khó khăn trong việc xác định cận của biến tích phân u, v, trước 48 Bây giờ sử dụng tính chẵn của hàm C(τ) ta được u 2 = τ . Cũng có thể dùng lược đồ vi phân để tính tích phân này). ( ) ( )u t s 2 ; v t s 2= − = + , trong tích phân đơn thu được đặt hết hãy dùng phép quay s t T T ( )2T2T T X 0 1D[X ] 1 C d T 2T τ⎛ ⎞σ = = − τ τ⎜ ⎟⎝ ⎠∫ . (5.3.5) Từ đó nhận được kết luận của định lý. Nhận xét. Theo quan điểm của thống kê toán, XT chính là một ước lượng không chệch và vững của kỳ vọng µ . Hơn nữa, theo bất đẳng thức Chebychev (3.5.1), phương sai tính theo (5.3.5) còn cho phép chúng ta tìm khoảng tin cậy cho ước lượng này. Chẳng hạn, độ tin cậy để 2 Tσ ( )T T T TX 4,47 ; X 4,47µ∈ − σ + σ ( )T T T T3 ; X 3 )( Xµ∈ − σ + σ T là lớn hơn 95% (lớn hơn 8/9). Như vậy khi là một ước lượng thoả đánh của kỳ vọng µ . T , Xσ << µ Thực ra, điều kiện ergodic (5.3.2) được đảm bảo bởi điều kiện khá đơn giản theo định lý sau đây. (Có thể xem chứng minh trong [ 8 ], trang 430). Định lý 5.9 (Định lý Slutsky). Quá trình dừng nhận giá trị thực ( ){ }X t với hàm tự tương quan ( )XC là ergodic khi và chỉ khi τ ( )T XT 0 1lim C d 0 T→ +∞ τ τ =∫ . (5.3.6) Hai hệ quả sau đây đưa ra những điều kiện cho tính ergodic rất dễ kiểm tra trong nhiều trường hợp. Hệ quả. a) Nếu tích phân hội tụ thì quá trình ( )X 0 C ∞ τ τ∫ d ( ){ }X t là ergodic kỳ vọng. b) Nếu ( ) ( )2X XR τ →µ τ→∞ hay tương đương ( ) ( )XC 0τ → τ→∞ thì ( ){ }X t là QT ergodic kỳ vọng. Chứng minh. a) là hiển nhiên. Để chứng minh b) giả sử 0ε > cho trước. Khi đó tìm được T0 > 0 để ( )C τ ( ) ( )TT 0X X 0 0 1 1C d C dτ T T τ τ = τ∫ ∫ ( ) ( ) T 0 X 0 X T0 T C 0 T T1 C d T T 2 −ε T + τ τ ≤ + ≤∫ ε với T đủ lớn. Không phải mọi QT dừng đều là ergodic kỳ vọng, xét ví dụ sau đây. Ví dụ 5.12. Xét ( ){ }X t với ( )X t U= , trong đó U là biến ngẫu nhiên với E(U) = m; 0 < D[U] < + ∞. Dễ thấy ( ){ }X t là QT dừng, các quỹ đạo đều là những đường thẳng nằm ngang, ( ) ( )tX Uζ = ζ với mọi Sζ∈ . Bởi vì D[U] > 0 nên biến cố: ( ){ }:U mζ ζ ≠ có xác suất dương, và do đó ( ) ( )TTlim X U( ) m E X t→∞ ζ = ζ ≠ = . Vậy ( ){ }X t không là QT ergodic kỳ vọng. Ví dụ 5.13. Đối với QT dừng ( ){ }X t với ( ) cXC qe− ττ = chúng ta có ( ) ( ) ( )T T c cTX 0 0 1 1 qC d qe d 1 e 0 T T T cT − τ −τ τ = τ= − → →∞∫ ∫ . Theo định lý Slutsky, ( ){ }X t là ergodie kỳ vọng. Ngoài ra, theo (5.3.5) chúng ta tính được phương sai 2Tσ như sau: 2T 2 c T T 0 1D[X ] 1 qe d T 2T − ττ⎛ ⎞σ = = − τ⎜ ⎟⎝ ⎠∫ ( ) 2cTq 1 e1 0 cT 2cT −⎛ ⎞− T= − →⎜ ⎟⎜ ⎟⎝ ⎠ →∞ . Các kết quả kể trên cho QT dừng, thực, thời gian liên tục được mở rộng cho dãy dừng, thực. 49 Định nghĩa. Dãy ngẫu nhiên dừng nhận giá trị thực ( ){ }X n được gọi là ergodic kỳ vọng nếu: ( ) ( ) ( )NN n N 1X X n E[X n ], 2N 1 =− N= →µ = →∞+ ∑ , giới hạn theo bình phương trung bình. Định lý 5.10. Cho dãy ngẫu nhiên dừng nhận giá trị thực ( ){ }X n với hàm tự tương quan CX(n). Dãy ( ){ }X n là ergodic kỳ vọng khi và chỉ khi phương sai 2Nσ của XN ( )N2N N X n N n1D[X ] 1 C n 2N 1 2N 1=− ⎛ ⎞σ = = −⎜ ⎟+ +⎝ ⎠∑ (5.3.7) dần đến không khi N →∞. Đinh lý 5.11 (Định lý Slutsky). Dãy dừng nhận giá trị thực ( ){ }X n là ergodic kỳ vọng khi và chỉ khi ( )N XN n 0 1lim C n 0. N→∞ = =∑ (5.3.8) Nhận xét. Nếu dãy dừng ( ){ }X n là ergodic kỳ vọng thì ( )NN n N 1X X 2N 1 =− = + ∑ n sẽ là ước lượng không chệch và vững của kỳ vọng µ với phương sai được tính theo (5.3.7). Ví dụ 5.14. Xét dãy dừng ( ){ }X n với ( ) nXC n Pa= , (0 < a <1). Khi đó ( ) N n n2 N N n N n 1 PD[X ] Pa a 2N 1 2N 1 P 1 a 0 N . 2N 11 a +∞ =− =−∞ σ = ≤ ≤+ + += → →∞+ − ∑ ∑ Suy ra ( ){ }X n là dãy ergodic kỳ vọng. 5.3.3. Ergodic phương sai (☼) Đối với quá trình dừng, thực ( ){ }X t với kỳ vọng µ , phương sai V của nó không phụ thuộc vào thời gian và được tính bởi ( ) 2 2V D[X t ] E[(X(t) ) ] E[X (t)]= = −µ = 2−µ . a) Trường hợp kỳ vọng đã biết 50 Định nghĩa. Quá trình dừng nhận giá trị thực ( ){ }X t được gọi là ergodic phương sai nếu phương sai V của nó bằng phương sai theo thời gian của một quỹ đạo bất kỳ, cụ thể là: ( )( ) ( )( )T2 2 T T 1V E[ X t ] lim X t dt 2T→+∞ − = −µ = −µ∫ , (5.3.9) giới hạn theo bình phương trung bình. Nói một cách ngắn gọn, đối với QT ergodic phương sai, trung bình tổng thể và trung bình theo thời gian của bình phương các độ lệch (X(t) -µ )2 là như nhau: . ( )( ) ( )( )2 2E[ X t ] A[ X t ]−µ = −µ Lưu ý rằng trong nhiều trường hợp, ta có thể coi quá trình quy tâm hoá ( )({ ) }2X t −µ - ký hiệu là ( )2X −µ - là QT dừng. Như vậy, điều kiện ergodic phương sai của QT ( ){ }X t cũng chính là điều kiện ergodic kỳ vọng của QT ( )({ ) }2X t −µ , đó là ( ) ( )T 2XT 01lim C d 0T −µ→+∞ τ τ =∫ . Bằng cách khai triển dễ thấy 2 2 2 (X ) C ( ) E[(X(t+ ) - ) (X(t) - ) ] -−µ τ = τ µ µ σ4 , điều kiện trở nên đơn giản hơn một chút: Điều kiện cần và đủ để ( ){ }X t là ergodic phương sai là T 2 2 4 2 X XT 0 1lim E[(X(t+ ) ) (X(t) ) ]d = C (0) T→∞ τ −µ −µ τ σ =∫ . (5.3.10) Trong hệ thức (3.5.10) chúng ta cần đến những mô men cấp 4. Tuy nhiên, với quá trình Gauss, vấn đề trở nên đơn giản hơn. Hệ quả. Cho ( ){ }X t là QT dừng Gauss với kỳ vọng µ đã biết. QT ( ){ }X t là ergodic phương sai khi và chỉ khi ( )T 2XT 0 1lim C d 0. T→+∞ τ τ =∫ (5.3.11) Khi đó, ( ){ }X t cũng là quá trình ergodic kỳ vọng. Chứng minh. Đối với quá trình Gauss, áp dụng hệ thức (1.31) ta có 2 2 2 X(X ) C ( ) E[(X(t+ ) - ) (X(t) - ) ] -−µ τ = τ µ µ σ4 X 4 2 4 2X X( 2E [(X(t+ ) - )(X(t) - )]) - 2C ( )= σ + τ µ µ σ = τ Bây giờ chỉ việc áp dụng định lý Slutsky. Phần còn lại suy từ khẳng định ( ) ( ) ( ) 2T T 2 X X 0 0 1 10 C d C d 0, T T T ≤ τ τ ≤ τ τ → →∞∫ ∫ . Nhận xét. Nếu ( ){ }X t là ergodic phương sai thì trung bình thời gian trên 51 52 ] )[ T;T− của bình phương độ lệch ( )( 2X t −µ xác định bởi ( )( )T 2T T 1V X t 2T − = −∫ dtµ sẽ là ước lượng không chệch cho phương sai V = D[X(t)] = CX(0). Phương sai của ước lượng này cho bởi (5.3.5), trong đó CX(τ) cần phải thay thế bởi ( ) ( )2XC −µ τ . b) Trường hợp kỳ vọng chưa biết. Bây giờ chúng ta không quan tâm đến ergodic phương sai nữa, vấn đề là làm thế nào để ước lượng V. Bởi vì µ chưa biết, chúng ta có thể dùng trung bình thời gian XT theo (5.3.2) để ước lượng, rồi sau đó tính ước lượng ( )( ) ( )T T2 2T T T T 1 1Vˆ X t X dt X t dt 2T 2T− − = − = −∫ ∫ 2TX . (5.3.12) Xác định các tính chất thống kê của khá khó khăn. Để khắc phục, chúng ta dựa vào nhận xét sau đây. Nói chúng, là một ước lượng chệch của phương sai V. Tuy nhiên, khi T lớn, độ chệch có thể bỏ qua. Hơn thế, phương sai có thể được xấp xỉ bởi phương sai của V TVˆ TVˆ TVˆ T – là ước lượng của V khi đã biết. Trong nhiều trường hợp, sai số bình phương trung bình là nhỏ hơn với giá trị T lớn. Từ đó, dùng để ước lượng V có thể sẽ tốt hơn dùng V µ 2 T ˆE[(V V) ]− 2 TE[(V V) ]− TVˆ T để ước lượng V kể cả khi µ đã biết. c) Ergodic tự hiệp phương sai Nếu ( ){ }X t có kỳ vọng µ đã biết, chúng ta có thể xét ( ){ }X t −µ . Nếu ( ){ }X t có kỳ vọng chưa biết, chúng ta có thể dùng Xµ T theo (5.3.2) để ước lượng µ và xét ( ){ }TX t X− với lưu ý rằng kết quả là khá chính xác với T lớn. Như vậy, chúng ta có thể giả sử rằng QT là quy tâm, tức là E(X ) = 0. t Đối với cố định, quá trình tích λ∈R ( ) ( ){ }X t X t+ λ có thể coi là dừng với kỳ vọng ( )XC λ . Áp dụng các kết quả ở mục 5.3.2 để ước lượng ( )XC λ , chúng ta có thể dùng trung bình thời gian ( )( ) ( )TX T T 1C Z 2T − λ = ∫ t dt, (5.3.13) với ( ) ( ) ( )Z t X t X t= + λ . Đây là ước lượng không chệch của ( )XC λ , phương sai của nó cho bởi (5.3.5), trong đó ( )XC τ cần phải được thay thế bởi hàm tự hiệp phương sai của quá trình ( ){ }Z t : ( ) ( ) ( ) ( ) ( ) ( )2Z XC E X t+ + X t+ X t+ X t Cτ = ⎡ λ τ τ λ ⎤ −⎣ ⎦ λ . Áp dụng định lý Slutsky ta đi đến kết luận: Quá trình ( ){ }X t là ergodic tự hiệp phương sai nếu và chỉ nếu ( )T ZT 0 1lim C d 0. T→+∞ τ τ =∫ (5.3.14) Nếu bây giờ giả thiết thêm ( ){ }X t là quá trinh Gauss thì ( ) ( ) ( ) ( )2Z X X XC C C Cτ = λ + τ λ − τ + τ . Trong trường hợp này (5.3.5) cho ta ( )( )( ) ( ) ( ) ( )T 2X X X XT 0 2D C C C C d T ⎡ ⎤λ = λ + τ λ − τ + τ τ⎣ ⎦∫ . Nếu ( )XC 0τ → thì ( ) ( )ZC 0τ → τ→∞ , từ đó ta nhận được kết quả sau đây: Hệ quả. Nếu quá trình dừng Gauss nhận giá trị thực có ( )C 0τ → ( )τ→∞ thì nó là QT ergodic tự hiệp phương sai. Tính chất ergodic kỳ vọng và ergodic tự hiệp phương sai hay được sử dụng hơn cả. Chính vì thế, quá trình có hai tính chất này còn được gọi là ergodic suy rộng (xem [13] tr 93). Chúng ta xét thêm một loại ergodic nữa liên quan đến hai quá trình. d) Ergodic hiệp phương sai chéo. Hai QT nhận giá trị thực, dừng đồng thời ( ){ }X t và ( ){ }Y t được gọi là ergodic hiệp phương sai chéo nếu từng QT là ergodic tự hiệp phương sai, hơn nữa hiệp phương sai của chúng ( ) ( )( ) ( )( )XY X YC E[ X t+ Y tτ = τ −µ −µ ] có thể được tính thông qua trung bình thời gian ( ) ( )( ) ( )(TXY X YT T 1C lim X t Y t 2T→+∞ − τ = + τ −µ −µ∫ )dt , (5.3.15) giới hạn theo bình phương trung bình. Giống như đã tiến hành ở mục c), bằng cách quy tâm hoá, chúng ta có thể coi ( ){ }X t và ( ){ }Y t là quy tâm. Trung bình thời gian ( ) ( ) ( )TXY T T 1Cˆ X t+ 2T − τ = τ∫ Y t dt , (5.3.16) là một ước lượng không chệch của ( )XYC τ và phương sai của ước lượng này 53 được tính theo (5.3.5), ở đó ( )XC τ phải được thay bởi ( )XYC τ . Nếu cả ba hàm ( )XC ,τ ( ) ( )Y XYC , Cτ τ đều dần đến 0 khi thì τ→∞ ( ){ }X t và ( ){ }Y t là ergodic hiệp phương sai chéo. (☼) 5.3.4. Các loại ergodic khác Xét một quỹ đạo { }X(t, ), t Rζ ∈ của QT X. Với x∈ ¡ cố định, hàm số 1 X(t, ) u(x X(t, )) 0 X(t, ) x x ζ <⎧− ζ = ⎨ ζ ≥⎩ thể hiện vị trí tương đối của quỹ đạo so với ngưỡng x (Hình 5.5). Đại lượng T T 1 u(x X(t, ))dt 2T − − ζ∫ đặc trưng cho tỷ lệ thời gian trung bình trên đoạn [-T; T] quỹ đạo nằm dưới ngưỡng x. Trên Hình 5.5 đó là ( )1 21 x x x2T ∆ + ∆ + ∆ 3 . 54 Hình 5.5.Những thời đoạn trên [-T; T] ở đó quỹ đạo nằm dưới ngưỡng x. -T T X(t) t 3x∆2x∆1x∆ Cho , chúng ta nhận được trung bình thời gian của hàm T →+∞ u(t X(t, ))− ζ : [ ] T A u(t X(t, )) lim→+∞− ζ = T T 1 u(x X(t, ))dt 2T − − ζ∫ . Định nghĩa. * Giả sử A[ . ] là toán tử trung bình thời gian, u(x) là hàm bước nhảy đơn vị, - hàm delta. Xét QT dừng (x)δ { }X X(t)= với hàm phân bố một chiều . Nếu XF (x) XF (x) A[u(x -X(t, ))]= ζ với mọi và với mọi quỹ đạo x R∈ { }X(t, ), tζ ∈ ¡ thì { }X(t) được gọi là QT ergodic hàm phân bố. * Hơn nữa, giả sử hàm phân bố một chiều có mật độ . Nếu xảy ra đẳng thức XF (x) Xf (x) Xf (x) A[ (x -X(t, ))], x R,= δ ζ ∀ ∈ ∀ζ∈Ω thì { }X(t) được gọi là ergodic hàm mật độ. * Nếu với k > 0, k kE(X (t)) A[X (t, )],= ζ ∀ζ∈Ω thì { }X(t) được gọi là QT ergodic mô men cấp k. Vấn đề trung bình thời gian và ergodic Một cách đầy đủ nhất: Nếu tất cả các đặc trưng xác suất của QT tính thông qua trung bình tổng thể đều có thể được tính thông qua trung bình thời gian của các đặc trung tương ứng thì QT đó được gọi là QT ergodic. Người ta cũng tìm được các điều kiện (gọi là điều kiện egrodic), chủ yếu với quá trình dừng để có được tính chất đó. Tính ergodic là một dạng rất hạn chế của tính dừng và thật là khó khăn để kiểm tra xem trong tình huống vật lý cụ thể nào đó, giả thiết ergodic thoả đáng hay không. Dù sao, chúng ta vẫn thường giả thiết QT là ergodic để đơn giản hoá bài toán. Trong thế giới thực, chúng ta vẫn buộc lòng phải làm việc với chỉ một hàm mẫu của quá trình. Khi ấy, dù muốn hay không, chúng ta vẫn phải tìm giá trị trung bình, hàm tự tương quan chỉ từ một hàm dạng sóng theo thời gian. Từ giả thiết ergodic, chúng ta có thể coi những giá trị tính được là những tham số thống kê của quá trình. Nhiều người cảm thấy khó chấp nhận những lời bàn luận này. Tuy nhiên cần phải nhớ rằng, lý thuyết của chúng ta chỉ phục vụ để mô hình hoá những điều xảy ra trong thế giới thực. 5.3