فصل 3 خصوصیات تصادفی

بعد از چند فصل مقدماتی ، سرانجام می توانیم به موضوع مورد نظر متوسل شویم. در این فصل فرآیندهای تصادفی را تعریف خواهیم کرد و برخی از خصوصیات آنها را مورد بحث قرار خواهیم داد. ما همچنین تعدادی از خصوصیات تصادفی ساده را مرور خواهیم کرد و از R برای درک بهتر رفتار آنها استفاده خواهیم کرد.

3. 1 تعاریف تصادفی

تعریف یک موضوع در یک جمله دشوار است. در مورد آن فکر کنید: چگونه می توانید به طور خلاصه "ریاضیات" یا حتی "آمار" را تعریف کنید؟

یک متغیر تصادفی که در طول زمان تغییر می کند

ما با تکیه بر تعریف "متغیر تصادفی" کمی تقلب می کنیم ، اما با این وجود ، یک تعریف ساده و هفت کلمه ای برای یک موضوع فوق العاده پیچیده داریم!

ما متغیرهای تصادفی را با حروف بزرگ مانند (x ) بیان می کنیم. ما متغیرهای تصادفی تصادفی را با (x_t ) بیان می کنیم ، که به سادگی به معنای "مقدار (x ) در زمان (t ) است.

برای (t = 1 ، 2 ،. ) (این شاخص فرآیند نامیده می شود) ، و تمام متغیرهای تصادفی (x_t ) مستقل هستند. این یک فرآیند تصادفی گسسته است زیرا شاخص گسسته است. فرآیندهای تصادفی با شاخص های مداوم (فواصل مداوم خط واقعی) فرآیندهای تصادفی مداوم در نظر گرفته می شوند (این تمایز شبیه به مواردی است که ما با پشتیبانی از متغیرهای تصادفی گسسته و مداوم انجام می دهیم!).

از آنجا که ما می دانیم که یک برنولی در اصل یک تلنگر سکه است که مقدار 1 را با احتمال (P ) به خود اختصاص می دهد و مقدار 0 را با احتمال (1-p ) می گیرد ، این روند تصادفی فقط یک سری صفرها است وآنهایی کهبرای فرآیند تصادفی ما ، اجازه دهید (P = 1/2 ) داشته باشیم.

یادآوری این نکته حائز اهمیت است که فرآیندهای تصادفی هنوز متغیرهای تصادفی هستند. یعنی (x_t ) (و (x_4 ) ، (x_ ) و (x_ ) ، و تمام مراحل دیگر این روند) یک انتظار ، واریانس ، لحظات ، توابع چگالی ،و غیره در این مورد خاص ، به عنوان مثال ، ما:

[p (x_t = 1) = p (x_t = 0) = frac ]

برای تمام مقادیر (t ) در شاخص (البته ، این نوع عمومی کاملاً ضروری نیست: ما با فرایندهایی کار خواهیم کرد که در آن ما این راه حل های شسته و رفته را برای همه مقادیر نداریم ((t ) در شاخص (به عنوان مثال ، توزیع فرآیند با (t ) تغییر می کند ، در این صورت ممکن است ما (e (x_1) neq e (x_2) ) یا چیزی را در این خطوط) داشته باشیم)واد

3. 2 خاصیت

فرآیند برنولی بسیار ساده است ، بنابراین ما از آن برای کشف برخی از خصوصیات مختلف فرآیندهای تصادفی استفاده خواهیم کرد.

3. 2. 1 ثابت بودن

در صورت عدم تغییر خصوصیات تصادفی آن با گذشت زمان ، یک فرآیند تصادفی به شدت ثابت است. تعریف دقیق تر این است که توزیع مشترک متغیرهای تصادفی در نقاط مختلف به موقع متغیر است. این کمی کلمه ای است ، اما ما می توانیم آن را اینگونه بیان کنیم:

برای همه (k ) ، (n ) و مجموعه فواصل زمانی (t_1 ، t_2 ،. ) در فرآیند تصادفی.

روند برنولی ما یک I. I. D است. روند؛یعنی مقادیر مختلف (x_t ) (در نقاط مختلف زمانی (t )) همه متغیرهای تصادفی مستقل و یکسان توزیع شده هستند. از آنجا که Beoullis مستقل است ، CDF مشترک آنها فقط محصول CDF های حاشیه ای است:

و از آنجا که فرآیند تصادفی دارای توزیع های یکسان (برن (P) ) در هر نقطه زمانی است ، ما داریم:

بنابراین ، برنولی به شدت ثابت است! در واقع ، هر II. D. فرآیند (زیرا ، با تعریف ، متغیر تصادفی دارای توزیع های یکسان و مستقل در نقطه زمانی مختلف است) به شدت ثابت است!

ثابت بودن ضعیف ، به طور طبیعی ، شرایط کمتری نسبت به ثابت ثابت دارد. اگر این سه شرط را برآورده کند ، یک فرآیند تصادفی (x_t ) ضعیف است:

1. میانگین فرآیند ثابت است. یعنی (e (x_t) = mu ) (که در آن ( mu ) ثابت است) برای تمام مقادیر (t ).
2. لحظه دوم (x_t ) یا (e (x_t ^ 2) ) محدود است.
3. ما داریم:

برای همه مجموعه های (T_1 ، T_2 ) و تمام مقادیر (K ). یعنی کواریانس بین دو نقطه فقط با تغییر فاصله بین آنها تغییر می کند (یعنی ، (k )) ، نه همانطور که به موقع حرکت می کنیم. یعنی (cov (x_5 ، x_8) ) باید برابر (cov (x_ ، x _) ) برابر باشد زیرا (x_5 ) به اندازه (x_8 ) به همان اندازه (x_ ) از ((x_8 ) دور است (x_5)x_ ) (سه امتیاز زمانی دور).

ما می توانیم به سرعت بررسی کنیم که آیا روند برنولی ما ضعیف است (ما دوباره از (P ) به عنوان پارامتر Beoulli برای نگه داشتن نماد عمومی استفاده خواهیم کرد):

1. (e (x_t) = p ) ، زیرا هر (x_t ) i. i. d است. (برن (پ) ). بنابراین ، بله ، میانگین در طول زمان ثابت است!
2. از آنجا که (x_t ^ 2 ) فقط مقادیر 1 و 0 را می گیرد ، و این مقادیر وقتی مربع هستند تغییر نمی کنند (1 به 1 و 0 می رود به 0) ، ما (x_t ^ 2 = x_t ) داریم. و بدین ترتیب (e (x_t ^ 2) = e (x_t) = p ). بنابراین ، لحظه دوم (x_t ) در واقع محدود است (حداکثر مقدار (p ) (1 ) است).
3. در نهایت، از آنجایی که مقادیر (X_t) مستقل هستند، برای همه (j

eq k) (Cov(X_j, X_k) = 0) داریم.

بنابراین، یک فرآیند برنولی ضعیف است!

ممکن است کار اضافی زیادی به نظر برسد. آیا ما نشان ندادیم که فرآیند برنولی به شدت ثابت است؟خوب، متأسفانه، ایستایی قوی لزوماً به معنای ایستایی ضعیف نیست، و ایستایی ضعیف لزوماً به معنای ایستایی قوی نیست. بیایید ببینیم آیا می توانیم در هر دو مورد مثال های متقابل بسازیم: چیزی که به شدت ساکن است اما ضعیف نیست، و چیزی که ضعیف ثابت است اما به شدت ساکن نیست.

بیایید یک فرآیند تصادفی جدید (Y_t) تعریف کنیم که وقتی (t) زوج باشد (X_t) را به خود می گیرد و وقتی (t) فرد است به سادگی ثابت (1/2) را می گیرد. ما می توانیم این را به راحتی در R شبیه سازی کنیم (با استفاده از تابع "modulo" (%%) که باقیمانده یک عدد را به عدد دیگری تقسیم می کند):

1. بیایید بررسی کنیم که آیا این فرآیند با اجرای سه شرط ضعیف است یا خیر.
2. (E(Y_t) = 1 / 2) ، از آنجایی که وقتی (t) زوج است، یک (Be(1/2)) داریم و وقتی (t) فرد باشد، به سادگیمقدار (1/2) را داشته باشید.
3. وقتی (t) زوج باشد، یک متغیر تصادفی (Be(1/2)) داریم، و در بالا دیدیم که لحظه دوم محدود است (فقط داریم که (p = 1/2)). وقتی (t) فرد باشد، ثابت (1/2) را داریم و لحظه دوم یک ثابت فقط ثابت مربع ((1/4)) است. بنابراین، لحظه دوم متناهی است.

در نهایت، از آنجایی که مقادیر (Y_t) مستقل هستند، برای همه (j

eq k) (Cov(Y_j, Y_k) = 0) داریم.

بنابراین، (Y_t) واقعاً ضعیف است!

اکنون می توانیم ثابت بودن قوی را آزمایش کنیم. ما می توانیم ساده ترین مورد را بررسی کنیم:

می دانیم که (Y_1) فقط یک ثابت است و (Y_2 sim Be(1/2)) . اینها به وضوح CDFهای مختلفی دارند (یک بررسی سریع بصری این است که (Y_2) احتمال غیر صفر بودن بالاتر از (1/2) دارد در حالی که (Y_1) فقط می تواند (1/2) باشد)، بنابراین می توانیم بگوییم:

بنابراین، (Y_t) به شدت ثابت نیست. توزیع با زمان تغییر می کند (نیمی از زمان فرآیند تصادفی یک متغیر تصادفی برنولی است و نیمی از زمان آن ثابت است!).

در مورد جهت دیگر چطور: فرایندی که به شدت ثابت باشد اما ضعیف ثابت نیست؟ساده ترین نمونه یک فرآیند (x_t ) است که در آن هر مقدار یک i. i. d است. توزیع Cauchy. ما توزیع Cauchy را در اینجا مرور نخواهیم کرد ، اما نکته اصلی این است که لحظه دوم آن محدود نیست (به طور کلی ، این یک توزیع بسیار ناخوشایند است: میانگین ، واریانس و MGF ، به همراه چند ویژگی اصلی دیگر ، همه تعریف نشده اند). بنابراین ، (x_t ) کاملاً ثابت است (این یک فرآیند I. I. D است) ، اما ضعیف ثابت نیست (لحظه دوم محدود نیست ، بنابراین یکی از سه معیار شکست می خورد!).

3. 2. 2 Martingales

از نظر محاوره ای ، یک روند تصادفی یک مارتینگال است اگر "ما انتظار داریم قدم بعدی در جایی که هستیم درست باشد."

از نظر ریاضی ، ما می گوییم که یک فرآیند تصادفی (x_t ) یک مارتینگال است:

[e (x_ | x_1 ،. x_n) = x_n ]

برای هر زمان (n ). ما همچنین نیاز داریم که (e (| x_n |) ) محدود باشد.

بنابراین ، در هر زمان (n ) ، یک فرآیند تصادفی یک مارتینگال است اگر شرط بندی در کل تاریخ مشاهده شده فرآیند تصادفی تا زمان (n ) (این اغلب فیلتراسیون نامیده می شود) ، مقدار مورد انتظار ازمرحله بعدی (x_ ) فقط (x_n ) است (که قبلاً مشاهده شده است ، زیرا ما در زمان هستیم (n )).

آیا روند برنولی ما یک مارتینگال است؟خوب ، از آنجا که هر مرحله مستقل است ، ما داریم:

و از آنجا که (x_ سیم برن (1/2) ) مانند همه مراحل دیگر ، ما داریم:

با این حال ، ما می دانیم که (x_n ) یا (0 ) یا (1 ) خواهد بود ، بنابراین می توانیم بگوییم:

[e (x_ | x_1 ،. x_n) neq x_n ]

و بنابراین روند برنولی ما یک مارتینگال نیست.

آیا می توانیم یک فرآیند تصادفی ساده که یک مارتینگال است ، بسازیم؟بیایید سعی کنیم (y_t ) را تعریف کنیم ، از کجا:

[y_0 = 0 ] [y_t = y_ + epsilon_t ]

که در آن (t = 1 ، 2 ،. ) و ( epsilon_t ) یک سری از i. i. d است. (n (0 ، 1) ) متغیرهای تصادفی (متغیرهای تصادفی استاندارد عادی).

به این پیاده روی تصادفی گاوسی گفته می شود. قسمت گاوسی به معنای "عادی" است و قسمت پیاده روی تصادفی به این معنی است که ، خوب ، این روند به نظر می رسد که به طور تصادفی در حال قدم زدن است! ما می توانیم به راحتی این روند را در r شبیه سازی کنیم:

بیایید با توجه به سابقه (y ) تا زمان (n ) ، انتظار (y_ ) را محاسبه کنیم. ما داریم:

[e (y_ | y_1 ،. y_n) = e (y_ | y_n) ]

زیرا (y_ ) از نظر مشروط بر (y_1 ، y_2 ،. y_ ) با داده (y_n ) مستقل است (یعنی اگر ما مقدار (y_n ) را می دانیم ، مهم نیست که چگونه به آنجا رسیدیم).

ما می توانیم برای (y_ ) وصل شویم:

[e (y_n + epsilon_n | y_n) = y_n ]

زیرا ( epsilon_n simr n (0 ، 1) ) و مقدار مورد انتظار (y_n ) داده شده (y_n ) خوب است ، (y_n ) (قطعه "انتظار محدود" نیز راضی است؛ ما می دانیم که (e (y_n) = 0 ) ، زیرا (y_n ) اساساً مجموع بسیاری از متغیرهای تصادفی عادی استاندارد است که هر یک از آنها انتظار 0 را دارند).

بنابراین ، (y_t ) یک مارتینگال است ، زیرا مقدار مورد انتظار مرحله بعدی گامی است که در حال حاضر در آن قرار داریم (شرط بندی در تاریخ (y_t ) تا لحظه فعلی). به طور شهودی ، این به این دلیل است که در هر مرحله چیزی ( ( epsilon_t )) را با میانگین صفر اضافه می کنیم ، بنابراین مقدار مورد انتظار نقطه زمانی بعدی در این سریال از جایی که اکنون هستیم حرکت نمی کند (ما اضافه می کنیمصفر)!

3. 2. 2. 1 مشکل شکسپیر

ممکن است مارتینگالس در ابتدا بسیار کسل کننده به نظر برسد ، اما به ما این امکان را می دهد تا مشکلات بسیار جالبی را حل کنیم. احتمالاً قبلاً این را شنیده اید:

اگر اجازه دهید میمون به اندازه کافی بلند روی صفحه کلید بنگند ، شکسپیر را می نویسد

ما می توانیم از Martingales استفاده کنیم تا در مورد این فکر کنیم که این میمون چه مدت باید تایپ شود.

بیایید چند فرض کنیم. میمون یک حرف را به طور همزمان تایپ می کند (به آن فکر کنید ، آیا می توان بیش از یک حرف را همزمان تایپ کرد؟) ، و هر حرف را با احتمالات برابر انتخاب می کند ( (1/26 ) برای هر). نگارشی / موارد (حروف بزرگ در مقابل حروف کوچک) در اینجا بی ربط هستند.

بگذارید (t ) متغیر تصادفی باشد که تعداد کلیدهایی را که میمون فشار می دهد تا زمانی که او را تایپ کند (othello ) (از شهرت پادشاه اوتلو) می دهد. (e (t) ) را پیدا کنید.

این قطعاً می تواند یک مشکل مشکل باشد. ما می دانیم که (e (t) ) قطعاً بسیار بزرگ است (میمون باید هفت حرف را در یک ردیف صحیح بدست آورد) ، اما می تواند با دانستن اینکه از کجا با این مشکل شروع کنید چالش برانگیز است: برخی از تله های مخفی ناخوشایند وجود دارد! به عنوان مثال ، در نظر بگیرید که چگونه ، اگر میمون با موفقیت تایپ کنید (othe ) ، او می تواند حرف صحیح بعدی (l ) را تایپ کند ، یا می تواند یک حرف نادرست تایپ کند. با این حال ، همه حروف نادرست به طور برابر ایجاد نمی شوند. اگر او یک غیر (o ) را تایپ کند ، او باید از این کار شروع کند. با این حال ، اگر او (o ) را تایپ کند ، پیشرفت خود را از دست داد (ote ) اما حداقل هنوز هم در نامه پیشرفت ( (o )) انجام داده است. این تغییر بعد از تایپ کردن میمون (اتل ) ؛پس از این ، تمام حروف نادرست به طور برابر ایجاد می شوند. یا میمون ها (o ) را تایپ می کنند و بازی را به پایان می رسانند ، یا یک غیر (o ) را تایپ می کنند و از ابتدا شروع می شود ، که با آنچه در بالا دیدیم متفاوت است. اگر سعی کنیم مشکل را با انواع روشهای متعارف حل کنیم ، این اختلافات جزئی می تواند به سرعت در یک کابوس قرار بگیرد.

در عوض، پس از آن، ما از دو ابزار برای حل این مشکل استفاده خواهیم کرد. اولین مورد، راه اندازی یک سری از قماربازان (بله، قماربازان) است که روی موفقیت میمون شرط بندی می کنند. قبل از اینکه میمون هر حرف جدید را بزند، یک قمارباز جدید وارد بازی می شود و ($1) را به پا می کند. بیایید در مورد اولین قمارباز (که روی حرف اول میمون شرط بندی می کند) فکر کنیم: او ($1) را قرار می دهد و اگر میمون (O) را بزند ($26) را پس می گیرد (اولین حرف در (OTHELLO) ) از جمله ($1) اصلی او (برای ($25) سود). اگر میمون حرف دیگری غیر از (O) بزند، قمارباز دلار خود را از دست می دهد. به این ترتیب، این یک شرط عادلانه است: قمارباز احتمال (1/26) (26) برابر سرمایه خود را دارد و احتمال (25/26) از دست دادن همه چیز (سود قمارباز ) دارد.($25) با احتمال (1/26) و ($1) خود را با احتمال (25/26) از دست می دهد ، بنابراین سود مورد انتظار او (25 cdot (1 / 26) - 1 است.cdot (25/26) = 0)).

قبل از اینکه میمون هر حرفی را بزند، یک قمارباز جدید وارد می شود. به عنوان مثال، اگر میمون به حرف اول (K) بزند، قمارباز اول دلار خود را از دست می دهد و به خانه می رود و یک قمارباز جدید می آید و یک دلار روی میمون می گذارد که روی حرف دوم (O) را می زند.

اگر میمون (O) را بزند جالب می شود. قمارباز فعال ($26) را دریافت می کند و اکنون همه ($26) را روی ضربه زدن (T) به حرف بعدی با همان شانس شرط می گذارد: اگر میمون (T) را بزند،قمارباز اکنون (26^2) دلار دارد، و اگر میمون (T) را نزند، قمارباز همه چیز را از دست می دهد. باز هم، این یک شرط منصفانه است. قمارباز یک احتمال (1/26) سود دارد (26^2 - 26) ((26^2) دلاری که پس می گیرد منهای (26) دلار اصلی) و (25/26) احتمال از دست دادن (26) دلار خود. بنابراین، سود مورد انتظار او هنوز (0) است:

[(1 / 26) cdot (26 ^ 2 - 26) - (25 / 26) cdot 26 = 0]

علاوه بر قماربازی که در (O) برنده شد و اکنون تمام (26) دلارهای خود را روی (T) بعدی می گذارد، یک قمارباز جدید وارد بازی می شود و یک دلار روی (O" می گذارد.) در مرحله بعد زده می شود (یعنی میمون شروع به تایپ (OTHELLO) با حرف بعدی می کند). اگر (O) ضربه بخورد، قمارباز اول (26) دلار خود را از دست می دهد و قمارباز دوم اکنون (26) دلار دارد و به همان روش پیش می رود.<infty) ), we have that:

به نظر می رسد این یک تنظیم پیچیده است، اما، به طرز شگفت انگیزی، مشکل ما را آسان تر می کند. اجازه دهید اکنون (M_n) را به عنوان مجموع بردهای همه قماربازان تا زمان (n) تعریف کنیم. ما می دانیم که (M_n) یک مارتینگل است. برای مثال، اگر میمون ده غیر (O) را پشت سر هم زده باشد، آنگاه (M_ = -10) داریم (10 قمارباز هر کدام یک دلار باخته اند). شرطی سازی روی (M_ = -10) (واقعاً، شرطی کردن تاریخچه فرآیند تا زمان (10) , اگرچه (M_) تنها نقطه ای است که در اینجا به آن نیاز داریم)، مقدار مورد انتظار ما برای (M_) است، خوب، فقط (-10) است. دلیلش این است که قمارباز جدیدی که با حرف (11^) وارد بازی می شود، شرط عادلانه ای انجام می دهد. سود مورد انتظار او صفر است، بنابراین انتظار ما برای کل جدید بردهای همه قماربازان فقط آخرین مقدار در این سری است ((-10) به اضافه صفر دلار مورد انتظار از این قمارباز جدید).

اکنون می توانیم ابزار دوم خود را که قضیه توقف اختیاری Doob است رونمایی کنیم. این بیان می کند که برای یک مارتینگل (X_t) با "زمان توقف" ( au) (زمان توقف درست زمانی است که فرآیند را "توقف" می کنیم) تحت شرایط کلی خاصی ((X_t) محدود است.، یا (T) محدود شده است یا (E(T)

یعنی مقدار مورد انتظار فرآیند در زمان توقف با مقدار مورد انتظار فرآیند در ابتدا یکسان است!

ما می دانیم که (M_t) یک مارتینگل است و (T) یک زمان توقف است (با ضربه زدن به (OTHELLO) می ایستیم)، بنابراین می توانیم Doob's را برای این مشکل اعمال کنیم (ما این کار را انجام نمی دهیم. اثبات رسمی برای شرایط، اما در نظر بگیرید که چرا (E(T)) ممکن است محدود باشد). پس می دانیم که:

ما می دانیم که (E(M_0)) فقط، خوب، صفر است، زیرا این تعداد بردهایی است که قبل از اینکه هر یک از قماربازها واقعاً قمار کنند! بنابراین ما داریم:

بیایید اکنون به (E(M_T)) فکر کنیم. ما می دانیم که در زمان (T) ، درست پس از ضربه زدن به (OTHELLO)، (T) قماربازها یک دلار قرار داده اند، بنابراین یک اصطلاح (-T) در این انتظار وجود دارد. ما همچنین می دانیم که یک قمارباز (بسیار خوش شانس) (26^7) دلار برنده شده است (او هر شرطی را که گذاشته برنده شده است) و (این قسمت مشکل است) ، یک قمارباز (26) دلار (قماربازی که وقتی میمون آخرین (O) را در اتللو زد، روی (O) شرط بندی کرد. بنابراین، ما به سادگی داریم:

[0 = E(26^7 + 26 - T)] [0 = 26^7 + 26 - E(T)] [E(T) = 26^7 + 26]

باور نکردنی! ما توانستیم این مشکل بسیار دشوار را با راه اندازی یک طرح قمار (که مسلماً پیچیده) حل کنیم و از ویژگی جالب مارتینگال استفاده کنیم. علاوه بر این، محلول به قسمت هایی که به راحتی قابل هضم هستند، شکسته می شود!

3. 2. 3 فرآیندهای تصادفی مشترک

و بنابراین روند برنولی ما یک مارتینگال نیست.

بیایید به پیاده روی تصادفی گاوسی خود برگردیم:

[y_0 = 0 ] [y_t = y_ + epsilon_t ]

که در آن (t = 1 ، 2 ،. ) و ( epsilon_t ) یک سری از i. i. d است. (n (0 ، 1) ) متغیرهای تصادفی.

بیایید اکنون یک فرآیند (z_t ) را تعریف کنیم:

[z_0 = 0 ] [z_t = y_t - gamma_t ]

که در آن (t = 1 ، 2 ،. ) و ( gamma_t ) یک سری از i. i. d است. (expo (1) ) متغیرهای تصادفی.

ما به راحتی می توانیم شبیه سازی این دو فرآیند را تجسم کنیم:

اکنون زمان خوبی برای معرفی مفهوم استقلال است زیرا مربوط به فرآیندهای تصادفی است. ما می گوییم که دو فرآیند تصادفی (x_t ) و (y_t ) مستقل هستند اگر برای هر دنباله ای ((t_k ، t_ ،. t _) ) که در آن (k ، n ) عدد صحیح مثبت کمتر از هستند( Infty ) ، ما آن بردار را داریم:

… مستقل از بردار است ...

به صورت محاوره ای ، برای اینکه (x_t ) و (y_t ) مستقل باشند ، باید داشته باشیم که هر زیر مجموعه از (x_t ) مستقل از همان زیر مجموعه (در همان نقاط) از (y_t ) باشد.

منظور از استقلال دو بردار چیست؟برای ورود به علفهای هرز در اینجا ، به یک نظریه اندازه گیری نیاز داریم که فراتر از محدوده این کتاب است. ما می توانیم به این موضوع در مجالس خود فکر کنیم. بردار تصادفی برای (x_t ) در بالا چگالی مفصل دارد:

جایی که (f_ ) فقط به عنوان چگالی مفصل (x_t ) تعریف شده است (توجه داشته باشید که اگر هر (x_t ) i. i. d باشد ، ما می خواهیم که (f_ ) فقط محصول چگالی حاشیه ای باشد (x_t ) در تمام نقاط زمانی جداگانه). به همین ترتیب ، ما چگالی مفصل (y_t ) داریم:

و ، مشابه استقلال با متغیرهای تصادفی حاشیه ای ، می توان گفت که اگر چگالی مفصل هر دو بردار (f_ ) برابر با محصول (f_ ) و (f_ ) باشد ، این بردارها استقلال هستند.

این مطمئناً یک لقمه است! بیایید به مثال ما از (y_t ) ، پیاده روی تصادفی گاوسی و (z_t ) در بالا برگردیم. ما می توانیم یک مورد بسیار ساده را آزمایش کنیم. آیا چگالی مفصل (y_1 ) و (z_1 ) برابر با محصول تراکم حاشیه ای (y_1 ) و (z_1 ) است؟

[f (y_1 ، z_1) stackrel f (y_1) f (z_1) ]

بلافاصله ، می توانیم ببینیم که این مورد نیست ؛ (z_1 ) فقط می تواند ، حداکثر ، (y_1 ) باشد. چگالی (z_1 ) فقط تا (y_1 ) تعریف شده است ، بنابراین نمی توانیم تراکم حاشیه ای را برای بدست آوردن تراکم مشترک ضرب کنیم. (z_1 ) و (y_1 ) مستقل نیستند ، به این معنی که با پسوند ، (z_t ) و (y_t ) مستقل نیستند.

این مثال ممکن است بسیار ساده به نظر برسد ، اما مفهوم استقلال در فرآیندهای تصادفی مهم است.

3. 2. 4 املاک مارکوف

از نظر محاوره ای ، یک فرآیند تصادفی با دارایی مارکوف فقط به جدیدترین حالت خود اهمیت می دهد.

از نظر ریاضی ، روند تصادفی (x_t ) خاصیت مارکوف را برآورده می کند:

[p (x_t | x_1 ، x_2 ،. x_) = p (x_t | x _) ]

یعنی در فیلتراسیون (x_t ) (تمام اطلاعات قبل از زمان (t )) ، (x_ ) تمام اطلاعاتی را که باید در مورد (x_t ) بدانیم به ما می گوید (دیگری را قرار دهیم (دیگری)راه ، (x_t ) به طور مشروط مستقل از (x_1 ، x_2 ،. x_ ) داده شده (x_ )).

روند برنولی ما به وضوح مارکوف است ، زیرا هر مرحله فقط یک I. I. D است. برنولی ، و بدین ترتیب:

[p (x_t | x_1 ، x_2 ،. x_) = p (x_t | x_) = p (x_t) ]

و بنابراین روند برنولی ما یک مارتینگال نیست.

ما همچنین می توانیم پیاده روی تصادفی گاوسی خود را در نظر بگیریم:

[y_0 = 0 ] [y_t = y_ + epsilon_t ]

جایی که ( epsilon_t ) مجموعه ای از i. i. d. (n (0 ، 1) ).

این همچنین مارکوف است. با توجه به (y_ ) ، ما تمام اطلاعات مربوط به (y_t ) را داریم که می توانیم از تاریخ بگیریم. تنها قسمت تصادفی باقی مانده ( epsilon_t ) است که مستقل از (y_t ) است.

3. 2. 5 خاصیت بازتابنده

اکنون می توانیم به یک ویژگی سرگرم کننده از فرآیندهای تصادفی خاص تبدیل شویم. خاصیت بازتابی تقارن را فراخوانی می کند و نتیجه ای بسیار مرتب را به همراه دارد. ما برای فرآیندهای تصادفی مداوم با فرآیند بازتاب برخورد خواهیم کرد.

بگذارید (x_t ) یک فرآیند تصادفی مداوم باشد به گونه ای که برای همه (t ) و (k

برای کشف این ویژگی ، ما یک روند تصادفی جدید را معرفی خواهیم کرد: حرکت براون. این یک فرآیند تصادفی با یک ساختار نسبتاً ساده اما بسیاری از برنامه ها است. بگذارید (x_t ) حرکت قهوه ای باشد. ما آن (x_0 = 0 ) و:

به یاد داشته باشید که این یک فرایند مداوم است ، بنابراین شاخص به سادگی (t geq 0 ) است (یعنی قسمت مثبت خط واقعی). حرکت براون از خصوصیات کلیدی برخوردار است. اول ، افزایش حرکت براون خود متغیرهای تصادفی طبیعی است. به عنوان مثال ، جایی که (s

[x_t - x_s sim n (0 ، t - s) ]

این بصری است ؛از زمان (t - s ) زمان (s ) تا زمان (t ) وجود دارد ، بنابراین ما یک حرکت براون با واریانس (t - s ) داریم (این همچنین توضیح می دهد که چرا (x_t simn (0 ، t) ) ، زیرا (x_t ) اساساً (x_t - x_0 ) است ، و (x_0 ) ثابت 0 است). اکنون یک افزایش دیگر را تصور کنید (x_w - x_v ) که غیر همپوشانی است (یعنی (w ) و (v ) هر دو از (t ) یا هر دو (w ) و هستند.(v ) هر دو کمتر از (s ) هستند ، نکته این است که (w ) و (v ) در فاصله بین (s ) و (t ) نیستند. ما داریم که (x_w - x_v ) مستقل از (x_t - x_s ) است. به طور طبیعی ، اگر فواصل همپوشانی داشته باشند ، این دو وابسته هستند.

ما به وضوح می توانیم ببینیم که این متقارن است ، با تعریف یک حرکت براون. همانطور که در بالا بیان کردیم ، افزایش ها دارای توزیع عادی با میانگین 0 هستند که در حدود 0 متقارن است.

بیایید یک مسیر نمونه ای از حرکت براون را ایجاد کنیم تا نشان دهد خاصیت بازتابی چیست.

توجه داشته باشید که نحوه ایجاد حرکت براونیان شبیه به نحوه تولید پیاده روی تصادفی گاوسی است. تفاوت این است که ، از لحاظ تئوری ، حرکت براون در هر نقطه در (t geq 0 ) تعریف می شود ، و پیاده روی تصادفی گاوسی فقط روی اعداد صحیح صفر و مثبت تعریف می شود. در شبیه سازی ما ، البته ، ما نمی توانیم کاملاً به مداوم (t geq 0 ) برسیم ، بنابراین ما به سادگی سعی می کنیم در همان بازه گسسته ، امتیازات بیشتری را درج کنیم. نتیجه ، در اصل ، این است که ما به پرونده مداوم نزدیک می شویم.

ما از افزایش (01 ) استفاده خواهیم کرد (ما در مورد پیاده روی تصادفی گاوسی از افزایش (1 ) استفاده کردیم). مهم است که انحراف استاندارد را در تماس RNORM ما صحیح بدست آوریم: به یاد داشته باشید که واریانس هر بازه یک حرکت براونین به سادگی فاصله در تمبرهای زمانی است. بنابراین ، ما یک واریانس (01 ) می خواهیم و بنابراین از SQRT (0. 01) برای استدلال انحراف استاندارد در RNORM استفاده می کنیم (به یاد داشته باشید که انحراف استاندارد ریشه مربع واریانس است!).

در اینجا یک بررسی ویدیویی از این روند تصادفی آورده شده است:

برای تماشای این ویدیو در مرورگر خود اینجا را کلیک کنید

اکنون می بینیم که چگونه می توانیم از ویژگی بازتابنده برای حل مشکلات جالب مربوط به حرکت براون استفاده کنیم.

در این نمودار ، ما یک حرکت براون (خط سیاه) انجام می دهیم و اولین بار است که این پیاده روی تصادفی 1 را نقض می کند (در این مثال خاص ، در (1. 13 ) در (t = 4. 28 ) برخورد می کند ؛ به یاد داشته باشید که می توانیم"t کاملاً شبیه سازی مداوم را شبیه سازی کنید ، بنابراین ما فقط از یک بازه با بخش های کوچکتر از طول . 01 استفاده می کنیم) ، ما روند مربوط به خود را منعکس می کنیم (در مورد خط (1. 13 ) ، در اینجا ؛ در کد بالا می بینید که چگونهما بعد از نقض x (1 ) افزایش y را می چرخانیم. خط قرمز ، به طور شهودی ، این بازتاب است (ما همچنین می توانیم به جای اینکه منتظر بمانیم که روند به مقداری برسد ، روند را از ابتدا در حدود 0 منعکس کنیم).

اکنون ، اصل بازتاب بیان می کند که خط سیاه احتمال تحقق آن به عنوان خط قرمز را دارد. یعنی در زمان (t = 0 ) ، این دو مسیر احتمال وقوع یکسان را دارند. برای اثبات در اینجا ، ما می توانیم به تقارن اعتماد کنیم: از آنجاهمان احتمال را داشته باشید (به یاد داشته باشید ، برای یک متغیر تصادفی متقارن (z ) ، ما داریم که (z ) توزیع مشابهی با (-z ) دارد).

این ممکن است مانند یک خاصیت پیچیده و بی فایده به نظر برسد ، اما ما می توانیم از آن برای حل برخی از مشکلات بسیار جالب استفاده کنیم. به عنوان مثال ، این سؤال را برای (x_t ) در نظر بگیرید ، حرکت براون ما در بالا:

به نظر می رسد این یک مشکل چالش برانگیز است. روش های زیادی وجود دارد که می توان این شرط را به دست آورد. از لحاظ تئوریکی ، (x_t ) می تواند 5 در هر زمان نقض کند (قبل از (t = 100 )) و از آنجا سقوط می کند (اگرچه ، البته اگر زمان کمتری برای سقوط وجود داشته باشد ، این احتمال کمتر می شود!). یک واکنش اول ممکن است تلاش برای ادغام در کل زمان باشد. ما به طور بالقوه می توانیم این احتمال را پیدا کنیم که (x_t ) 5 را با هر نقطه نقض می کند ، و سپس احتمال اینکه ، از آن نقطه ، (x_t ) تا زمان (t = 100 ) زیر 0 قرار می گیرد.

با این حال ، ما می توانیم از خاصیت بازتابی استفاده کنیم تا این مشکل به مراتب آسانتر شود. بگذارید فرایندی را تصور کنیم که به 5 ضربه می زند ، و سپس به ما اجازه می دهیم که حدود 5 را برای بقیه دوره منعکس کنیم. همانطور که در بالا دیدیم ، این دو مسیر احتمال وقوع یکسان را دارند.

اکنون ، ما می دانیم که اگر مسیر منعکس شده از بالای 10 صعود کند ، مسیر اصلی از زیر 0 صعود کرده است (به یاد داشته باشید ، ما به محض اینکه مسیر اصلی به 5 رسید ، شروع به بازتاب مسیر کردیم). بنابراین ، ما به این احتمال نیاز داریم که حرکت براون بالاتر از 10 یا (p (x_ geq 10) ) پایان یابد. از آنجا که ما ، طبق تعریف ، که (x_ sim n (0 ، 100) ) داریم ، این یک محاسبه ساده می شود:

جایی که ( phi ) CDF یک متغیر تصادفی عادی استاندارد است. در R ، ما دریافت می کنیم:

ما می توانیم بسیاری از مسیرهای این حرکت براون را شبیه سازی کنیم تا ببینیم پاسخ ما منطقی است (ما از فواصل . 1 در شبیه سازی خود استفاده خواهیم کرد):