সমাধান — অধ্যায় ৭.৯ · Martingale Convergence Theorems ও Applications¶

অধ্যায় ফাইল: part-7-measure-theoretic/07-09-martingale-convergence.md (§৭ অনুশীলনী)। গোটা অংশে $(\Omega,\mathcal F,\mathbb P)$ একটি probability space, $(\mathcal F_n)_{n\ge0}$ একটি filtration, $(X_n)$ adapted ও integrable; $(X_n)$ martingale যদি $\mathbb E[X_{n+1}\mid\mathcal F_n]=X_n$ a.s. (এখানে $\mid$ সর্বদা conditioning), submartingale যদি $\ge$, supermartingale যদি $\le$। $U_n([a,b])$ = $[a,b]$-ব্যবধানের upcrossing সংখ্যা; $X_n^*=\max_{0\le k\le n}\lvert X_k\rvert$; $x^+=\max(x,0)$; $\lVert X\rVert_p=(\mathbb E\lvert X\rvert^p)^{1/p}$।

canonical তথ্য (সংখ্যাগত উত্তর reproducible, seed np.random.default_rng(20260619)): - Pólya urn (শুরু ১ লাল ১ সাদা): রঙ-অনুপাত $X_n\to X_\infty\sim$ Uniform$(0,1)$ a.s.; বহু-run চূড়ান্ত-অনুপাতের mean $\approx0.5007$, std $\approx0.2853$ (তাত্ত্বিক $0.5$ ও $1/\sqrt{12}\approx0.2887$), histogram সমতল deciles। - $L^2$ martingale $M_n=\sum_{i=1}^n\xi_i/i$ ($\xi_i=\pm1$): $\operatorname{Var}(M_{2000})\approx\mathbf{1.6459}\approx\pi^2/6=\mathbf{1.6449}$; বিপরীতে $S_n=\sum\xi_i$-এ $\operatorname{Var}(S_{2000})\approx2000$ (অভিসারী নয়)। - Doob's maximal inequality: $\mathbb P(\max\ge3)\approx\mathbf{0.2770}\le 1/3=\mathbf{0.3333}$ (empirical $<$ bound)। - branching $W_n=Z_n/m^n$: $\mathbb E[W_n]=1$ সব $n$-এ; $m=2$-এ $\mathbb E[Z_{10}]=2^{10}=1024$। - seed সর্বত্র np.random.default_rng(20260619)।

ক · ধারণাগত (conceptual)¶

সমাধান ১ (★)¶

(ক) convergent (অভিসারী)-নয় ⇔ অসীম upcrossing। একটা বাস্তব ধারা $(x_n)$ convergent ঠিক তখনই যখন $\liminf_n x_n=\limsup_n x_n$ (সসীম)। convergent না হলে $\liminf_n x_n<\limsup_n x_n$; তখন দুই বাস্তব সংখ্যার মাঝে অসীম "ফাঁক", আর মূলদ-ঘনত্ব (density of rationals) বলে দুটো মূলদ $a<b$ গোঁজা যায় যাতে $$ \liminf_n x_n\ <\ a\ <\ b\ <\ \limsup_n x_n . $$ $\liminf<a$ মানে $x_n<a$ অসীমবার, আর $\limsup>b$ মানে $x_n>b$ অসীমবার; তাই ধারাটা $a$-র নিচ থেকে $b$-র উপরে অসীমবার ওঠানামা করে — অর্থাৎ এই বিশেষ $[a,b]$-তে $U_\infty([a,b])=\infty$। সংক্ষেপে: convergence (অভিসরণ) ব্যর্থ ⇔ কোনো-একটা মূলদ-জোড়ায় অসীম upcrossing।

(খ) প্রতিটি মূলদ-জোড়ায় সসীম upcrossing। স্থির মূলদ $a<b$ নিই। Doob's upcrossing lemma প্রতিটি $n$-এ $$ \mathbb E[U_n([a,b])]\ \le\ \frac{\mathbb E[(X_n-a)^+]}{b-a}\ \le\ \frac{\mathbb E\lvert X_n\rvert+\lvert a\rvert}{b-a}\ \le\ \frac{\sup_m\mathbb E\lvert X_m\rvert+\lvert a\rvert}{b-a}\ =:\ C_{a,b}<\infty, $$ যেখানে $(x-a)^+\le\lvert x\rvert+\lvert a\rvert$ ও $L^1$-boundedness ব্যবহৃত — বাঁধ $C_{a,b}$ $n$-নিরপেক্ষ। $U_n([a,b])\uparrow U_\infty([a,b])$ অ-হ্রাসমান, তাই MCT (7.4): $$ \mathbb E[U_\infty([a,b])]=\lim_n\mathbb E[U_n([a,b])]\le C_{a,b}<\infty\ \Rightarrow\ U_\infty([a,b])<\infty\ \text{a.s.} $$ সসীম প্রত্যাশা ⇒ random variable a.s. সসীম।

(গ) এক বাক্যে — গণনাযোগ্যতার ভূমিকা। "কোনো-একটা $[a,b]$-তে অসীম upcrossing" ঘটনাটা মূলদ-জোড়াগুলোর উপর একটা গণনাযোগ্য union $\bigcup_{a<b\ \text{rational}}\{U_\infty([a,b])=\infty\}$, আর গণনাযোগ্য-সংখ্যক null set-এর union null থাকে — তাই a.s. সব জোড়ায় একসাথে $U_\infty<\infty$, ফলে a.s. $\liminf=\limsup$, অর্থাৎ $X_n\to X_\infty$ a.s.। (মূলদ-জোড়া অগণনীয় হলে এই null-union-যুক্তি ভেঙে পড়ত।) $\blacksquare$

সমাধান ২ (★★)¶

(ক) "a.s. অভিসরণ" বনাম "নির্দিষ্ট সংখ্যায় অভিসরণ"। Martingale Convergence Theorem দাবি করে: একটা random variable $X_\infty$ আছে যাতে প্রতিটি (a.s.) $\omega$-তে $X_n(\omega)\to X_\infty(\omega)$। এটি বলে প্রতিটি পথ থিতু হয় — কিন্তু কোন মানে থিতু হয় তা $\omega$-এর function, ধ্রুবক নয়। তাই "$X_n\to X_\infty$ a.s." ও "$X_\infty$ একটা non-degenerate random variable" পরস্পর-সঙ্গতিপূর্ণ; স্ববিরোধ কেবল তখন হতো যদি উপপাদ্য দাবি করত $X_\infty\equiv$ ধ্রুবক — যা সে করে না। Pólya-তে $X_\infty\sim$ Uniform$(0,1)$: প্রতিটি run একটা সীমায় পৌঁছায়, কিন্তু run-ভেদে সেই সীমা $[0,1]$-জুড়ে ছড়ানো।

(খ) self-reinforcement ও path-dependence। Pólya urn-এ প্রতি ধাপে যে রঙ ওঠে তার বল বাড়ে, তাই সেই রঙের ভবিষ্যৎ-ওঠার সম্ভাবনাও বাড়ে — একটা ধনাত্মক feedback। শর্তাধীন বৃদ্ধি-হার ঠিক বর্তমান অনুপাতের সমানুপাতী, তাই যেদিকে অনুপাত একবার হেলে, সেদিকেই আত্ম-স্থিতিশীল হয়ে যায়। শুরুর কয়েকটা টান তখন আনুপাতিকভাবে সবচেয়ে প্রভাবশালী (কারণ মোট বল তখন কম, প্রতি টানে অনুপাত বেশি নড়ে), আর সেই প্রাথমিক ভারসাম্যই দীর্ঘমেয়াদি সীমা প্রায় নির্ধারণ করে দেয় — এটাই path-dependence: ইতিহাসই গন্তব্য ঠিক করে, কোনো একক পূর্বনির্ধারিত কেন্দ্র নেই।

(গ) এক বাক্যে — random walk বনাম Pólya। Simple random walk-এর গড় $S_n/n\to0$ deterministic কারণ increment-গুলো iid গড়-শূন্য (একটাই "আকর্ষণ-কেন্দ্র" $0$, SLLN); Pólya-অনুপাতের increment-এর conditional (শর্তাধীন) mean = বর্তমান অনুপাত (martingale, কোনো স্থির আকর্ষণ-কেন্দ্র নেই), তাই সীমা একটা random variable — কাঠামোগত পার্থক্যটা ঠিক "fixed drift-কেন্দ্র" বনাম "self-reinforcing martingale"। $\blacksquare$

সমাধান ৩ (★★)¶

(ক) "ভর হারানো" counterexample ও UI-ভঙ্গ। Lebesgue measure-এ $(0,1)$-তে $X_n=n\,\mathbf 1_{(0,1/n)}$ ধরি। প্রতিটি $x>0$-তে যথেষ্ট বড় $n$-এ $x\notin(0,1/n)$, তাই $X_n(x)\to0$ a.s. (এমনকি সর্বত্র $x>0$) — সীমা $X_\infty=0$। কিন্তু $$ \mathbb E[X_n]=n\cdot\tfrac1n=1\quad\not\to\quad 0=\mathbb E[X_\infty]. $$ "ভর" $1$ কখনো হারায় না — সরু-উঁচু শিখরে $0$-র দিকে পালিয়ে যায়। UI ভাঙে: যেকোনো $K$-তে যথেষ্ট বড় $n$ ($n>K$)-এ $\lvert X_n\rvert=n>K$ on $(0,1/n)$, তাই $$ \sup_n\mathbb E[\lvert X_n\rvert\mathbf 1_{{\lvert X_n\rvert>K}}]=\sup_{n>K}\,n\cdot\tfrac1n=1\ \not\to\ 0\quad(K\to\infty), $$ অর্থাৎ uniform integrability ব্যর্থ। তাই a.s.-সীমা থাকলেও $L^1$-সীমা/গড়-সংরক্ষণ নেই।

(খ) তিন-সমতুল্যতা কেন শক্তিশালী। martingale-এর জন্য UI ⇔ $L^1$-অভিসরণ ⇔ closed ($X_n=\mathbb E[X_\infty\mid\mathcal F_n]$)। a.s.-অভিসরণ কেবল "প্রতিটি পথ থিতু" বলে, কিন্তু গড়/মুহূর্ত সংরক্ষণ নিশ্চিত করে না (অংশ (ক)); UI যোগ করলে অতিরিক্তভাবে (i) $\mathbb E\lvert X_n-X_\infty\rvert\to0$ (Vitali), (ii) $\mathbb E[X_n]\to\mathbb E[X_\infty]$, (iii) $X_n$ ঠিক একটা চূড়ান্ত $X_\infty$-এর শর্তাধীন প্রত্যাশা — অর্থাৎ পুরো martingale-টা একটা single closing variable থেকে "ক্রমবর্ধমান-তথ্যে অনুমান" হিসেবে পুনর্গঠনযোগ্য। এটাই Pólya/Radon–Nikodym/Bayes-প্রয়োগের ভিত্তি।

(গ) এক বাক্যে — bounded ⇒ UI ⇒ closed। একটা bounded martingale-এ $\lvert X_n\rvert\le M$ সব $n,\omega$-তে, তাই $K>M$-এ $\{\lvert X_n\rvert>K\}=\varnothing$ ⇒ tail-integral $=0$ ⇒ তুচ্ছভাবে UI, ফলে সরাসরি $L^1$-অভিসারী ও closed (Pólya-অনুপাত $[0,1]$-bounded — তাই $X_n=\mathbb E[X_\infty\mid\mathcal F_n]$, $X_\infty\sim$ Uniform)। $\blacksquare$

খ · গণনামূলক (computational)¶

সমাধান ৪ (★)¶

(ক) maximal inequality দিয়ে $a^{-2}$-বাঁধ। $M_0=0$, increment $d_k$ গড়-শূন্য, orthogonal, $\mathbb E[d_k^2]=1$ ⇒ $\mathbb E[M_n^2]=\sum_{k=1}^n\mathbb E[d_k^2]=n$ (Pythagoras, 7.5/7.7)। $X_k:=M_k^2$ — যেহেতু $\varphi(x)=x^2$ convex ও $(M_k)$ martingale, conditional Jensen (7.7) দেয় $\mathbb E[M_{k+1}^2\mid\mathcal F_k]\ge(\mathbb E[M_{k+1}\mid\mathcal F_k])^2=M_k^2$, তাই $(X_k)$ একটা অঋণাত্মক submartingale। এতে Doob's maximal inequality $\lambda\,\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\mathbb E[X_n]$, $\lambda=a^2$: $$ \mathbb P\Big(\max_{k\le n}\lvert M_k\rvert\ge a\Big)=\mathbb P\Big(\max_{k\le n}M_k^2\ge a^2\Big)\le\frac{\mathbb E[M_n^2]}{a^2}=\frac{n}{a^2}. $$

(খ) সংখ্যাগত মান ও Chebyshev-তুলনা। $n=2000$, $a=3\sqrt{2000}$: $$ \frac{n}{a^2}=\frac{2000}{9\cdot2000}=\frac19\approx 0.1111 . $$ সাধারণ Chebyshev কেবল একটা নির্দিষ্ট $M_n$-কে বাঁধে: $\mathbb P(\lvert M_n\rvert\ge a)\le n/a^2$ — একই সংখ্যা, কিন্তু শুধু শেষ-মান। maximal inequality ওই একই বাঁধে পুরো পথের সর্বোচ্চ $\max_{k\le n}\lvert M_k\rvert$-কে বাঁধে — অনেক শক্তিশালী, কারণ "কখনো $a$ ছাড়িয়েছে কি না" তথ্যটা "শেষে $a$ ছাড়িয়েছে কি না"-র চেয়ে অনেক বেশি বলে।

(গ) এক বাক্যে — Kolmogorov's inequality। $X_k=M_k^2=S_k^2$-submartingale-এ এই maximal inequality হুবহু Kolmogorov's maximal inequality (7.6) $\mathbb P(\max_{k\le n}\lvert S_k\rvert\ge a)\le\operatorname{Var}(S_n)/a^2$ — partial-sum-এর সর্বোচ্চ-বিচ্যুতি বাঁধে বলে SLLN-প্রমাণে "block-এর লেজ একসাথে ছোট" দেখানো যায়, এটাই তার কর্মঘোড়া-ভূমিকা। $\blacksquare$

সমাধান ৫ (★★)¶

(ক) $M_n=\sum\xi_i/i$ — $L^2$-bounded, তাই অভিসারী। $\mathbb E[\xi_i]=0$, $\operatorname{Var}(\xi_i)=1$, iid। প্রথমে $M_n$ martingale: $\mathbb E[M_{n+1}\mid\mathcal F_n]=M_n+\mathbb E[\xi_{n+1}/(n+1)\mid\mathcal F_n]=M_n+0=M_n$। increment $d_i=\xi_i/i$ orthogonal ($\mathbb E[d_id_j]=\frac1{ij}\mathbb E[\xi_i]\mathbb E[\xi_j]=0$, $i\ne j$, independence), তাই Pythagoras: $$ \mathbb E[M_n^2]=\sum_{i=1}^n\mathbb E[d_i^2]=\sum_{i=1}^n\frac{\operatorname{Var}(\xi_i)}{i^2}=\sum_{i=1}^n\frac1{i^2}\ \xrightarrow[n\to\infty]{}\ \sum_{i=1}^\infty\frac1{i^2}=\frac{\pi^2}6\approx 1.6449 . $$ সুতরাং $\sup_n\mathbb E[M_n^2]=\pi^2/6<\infty$ — $L^2$-bounded, তাই $M_n$ a.s. ও $L^2$-তে অভিসারী (এবং $L^2$-bounded ⇒ $L^1$-bounded, Cauchy–Schwarz)। সিমুলেশনে $\operatorname{Var}(M_{2000})\approx\mathbf{1.6459}$ (canonical) — $\pi^2/6\approx1.6449$-এর খুব কাছে; সামান্য বেশি কারণ $\sum_{i=1}^{2000}1/i^2\approx1.6444$ আর Monte-Carlo-ওঠানামা।

(খ) $S_n=\sum\xi_i$ — martingale কিন্তু $L^1$-bounded নয়, অভিসারী নয়। $S_n$ martingale (increment গড়-শূন্য)। কিন্তু $\mathbb E[S_n^2]=\sum_{i=1}^n\operatorname{Var}(\xi_i)=n\to\infty$, এবং $\mathbb E\lvert S_n\rvert\asymp\sqrt{2n/\pi}\to\infty$ (অর্ধ-গাউসীয় approximation) — তাই $\sup_n\mathbb E\lvert S_n\rvert=\infty$, $L^1$-bounded নয়, convergence theorem নিঃশব্দ। আসলে $S_n$ a.s. অভিসারী নয়: $S_n/\sqrt n\Rightarrow N(0,1)$ (CLT), তাই $S_n$ অসীমবার $+\infty$ ও $-\infty$-এর দিকে দোলে ($\limsup S_n=+\infty$, $\liminf S_n=-\infty$ a.s.)।

(গ) এক বাক্যে। একই increment $\xi_i$ থেকে দুই martingale: $1/i$-ভাগে ভর-যোগ $\sum 1/i^2<\infty$ (converges, $L^2$-bounded ⇒ থিতু) বনাম ভাগহীন $\sum 1/i=\infty$ ($\operatorname{Var}(S_n)=n\to\infty$, unbounded ⇒ দোলে) — অর্থাৎ "martingale হওয়া" নয়, $L^1$/$L^2$-boundedness-ই অভিসরণের নির্ণায়ক। $\blacksquare$

সমাধান ৬ (★★)¶

(ক) $\mathbb E[Z_{n+1}\mid\mathcal F_n]=mZ_n$ ও $W_n=Z_n/m^n$ অঋণাত্মক martingale। $Z_{n+1}=\sum_{i=1}^{Z_n}\chi_{n,i}$, যেখানে $\chi_{n,i}$ iid সন্তান-সংখ্যা ($\mathbb E[\chi]=m$), $Z_n$-স্বাধীন। $Z_n$ $\mathcal F_n$-measurable, তাই (Wald/pull-out, 7.7): $$ \mathbb E[Z_{n+1}\mid\mathcal F_n]=\mathbb E\Big[\textstyle\sum_{i=1}^{Z_n}\chi_{n,i}\ \big|\ \mathcal F_n\Big]=Z_n\,\mathbb E[\chi]=m\,Z_n . $$ ভাগ $m^{n+1}$: $\mathbb E[W_{n+1}\mid\mathcal F_n]=\mathbb E[Z_{n+1}\mid\mathcal F_n]/m^{n+1}=mZ_n/m^{n+1}=Z_n/m^n=W_n$ — martingale। আর $Z_n\ge0\Rightarrow W_n=Z_n/m^n\ge0$ — অঋণাত্মক।

(খ) $\mathbb E[W_n]$ ও a.s.-অভিসরণ। tower: $\mathbb E[W_n]=\mathbb E[\mathbb E[W_n\mid\mathcal F_{n-1}]]=\mathbb E[W_{n-1}]=\cdots=\mathbb E[W_0]=Z_0/m^0=\mathbf 1$ সব $n$-এ। অঋণাত্মক martingale ⇒ $\mathbb E\lvert W_n\rvert=\mathbb E[W_n]=1$, $L^1$-bounded ($\sup_n\mathbb E\lvert W_n\rvert=1<\infty$)। Martingale Convergence Theorem (বা অঋণাত্মক-supermartingale corollary — সমাধান ৭) ⇒ একটা $W\ge0$ আছে যাতে $W_n\to W$ a.s., $\mathbb E[W]\le 1$।

(গ) $\mathbb E[Z_{10}]$ ও subcritical বিলুপ্তি। $\mathbb E[Z_n]=m^n$ (অংশ ক থেকে আবেশে), তাই $m=2$-এ $\mathbb E[Z_{10}]=2^{10}=\mathbf{1024}$। এক বাক্যে: $m<1$ (subcritical) হলে $\mathbb E[Z_n]=m^n\to0$, আর $Z_n$ অ-ঋণাত্মক পূর্ণসংখ্যা বলে Markov: $\mathbb P(Z_n\ge1)\le\mathbb E[Z_n]=m^n\to0$, তাই a.s. শেষে $Z_n=0$ — প্রায়-নিশ্চিত বিলুপ্তি। $\blacksquare$

গ · প্রমাণভিত্তিক (proof-based)¶

সমাধান ৭ (★★)¶

দাবি। $(X_n)$ supermartingale, $X_n\ge0$ ⇒ $\exists X_\infty\in L^1$: $X_n\to X_\infty$ a.s. ও $\mathbb E[X_\infty]\le\mathbb E[X_0]$।

(ক) স্বয়ংক্রিয় $L^1$-boundedness। supermartingale: $\mathbb E[X_{n+1}\mid\mathcal F_n]\le X_n$ ⇒ প্রত্যাশা নিয়ে (tower) $\mathbb E[X_{n+1}]\le\mathbb E[X_n]$, অর্থাৎ গড় অ-বর্ধমান, তাই $\mathbb E[X_n]\le\mathbb E[X_0]$ সব $n$-এ। যেহেতু $X_n\ge0$: $$ \mathbb E\lvert X_n\rvert=\mathbb E[X_n]\le\mathbb E[X_0]<\infty\quad\text{(}n\text{-নিরপেক্ষ)}\ \Rightarrow\ \sup_n\mathbb E\lvert X_n\rvert\le\mathbb E[X_0]<\infty . $$

(খ) a.s.-সীমা। $Y_n:=-X_n$ একটা submartingale ($\mathbb E[Y_{n+1}\mid\mathcal F_n]=-\mathbb E[X_{n+1}\mid\mathcal F_n]\ge-X_n=Y_n$), আর $\sup_n\mathbb E\lvert Y_n\rvert=\sup_n\mathbb E\lvert X_n\rvert<\infty$ — $L^1$-bounded। Martingale Convergence Theorem (submartingale-রূপ) ⇒ $Y_n\to Y_\infty$ a.s., $Y_\infty\in L^1$; তাই $X_n=-Y_n\to X_\infty:=-Y_\infty$ a.s., $X_\infty\in L^1$।

(গ) Fatou ও corollary। $X_n\ge0$ ও $X_n\to X_\infty$ a.s., তাই Fatou's lemma (7.4): $$ \mathbb E[X_\infty]=\mathbb E[\liminf_n X_n]\le\liminf_n\mathbb E[X_n]\le\mathbb E[X_0]<\infty, $$ যা $X_\infty\in L^1$ ও $\mathbb E[X_\infty]\le\mathbb E[X_0]$ — দুটোই দেয়। এক বাক্যে — branching। branching-এ $W_n=Z_n/m^n\ge0$ একটা martingale (সমাধান ৬), তাই বিশেষভাবে একটা অঋণাত্মক supermartingale — এই corollary সরাসরি $W_n\to W\ge0$ a.s., $\mathbb E[W]\le1$ দেয় (কোনো অতিরিক্ত শর্ত ছাড়াই)। $\blacksquare$

সমাধান ৮ (★★★)¶

দাবি। অঋণাত্মক submartingale $(X_n)$, $\lambda>0$ ⇒ $\lambda\,\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\mathbb E[X_n\mathbf 1_{\{\max_k X_k\ge\lambda\}}]\le\mathbb E[X_n]$।

(ক) hitting time। $\tau=\min\{k\ge0:X_k\ge\lambda\}$ ($\inf\varnothing=\infty$)। এটি stopping time কারণ $$ {\tau\le n}=\bigcup_{k=0}^n{X_k\ge\lambda}\in\mathcal F_n\quad(X\ \text{adapted}), $$ এবং একই সমতা দেখায় $\{\tau\le n\}=\{\max_{0\le k\le n}X_k\ge\lambda\}$ — "$\max_{k\le n}X_k\ge\lambda$" মানে "কোনো $k\le n$-এ $X_k\ge\lambda$" মানে "$\tau\le n$"।

(খ) optional stopping ও $\{\tau\le n\}$-এ মান। $\tau\wedge n$ একটা bounded stopping time; submartingale-এর optional sampling (7.8) দেয় $\mathbb E[X_n\mid\mathcal F_{\tau\wedge n}]\ge X_{\tau\wedge n}$, তাই $\mathbb E[X_n\,\mathbf 1_A]\ge\mathbb E[X_{\tau\wedge n}\,\mathbf 1_A]$ যেকোনো $A\in\mathcal F_{\tau\wedge n}$-তে। $A=\{\tau\le n\}$ নিই (এটি $\mathcal F_{\tau\wedge n}$-measurable)। $\{\tau\le n\}$-এ $\tau\wedge n=\tau$ এবং hitting-সংজ্ঞায় $X_\tau\ge\lambda$, তাই $$ \mathbb E[X_n\,\mathbf 1_{{\tau\le n}}]\ \ge\ \mathbb E[X_{\tau}\,\mathbf 1_{{\tau\le n}}]\ \ge\ \lambda\,\mathbb E[\mathbf 1_{{\tau\le n}}]\ =\ \lambda\,\mathbb P(\tau\le n). $$

(গ) সমাপ্তি। অংশ (ক)-এর $\{\tau\le n\}=\{\max_{k\le n}X_k\ge\lambda\}$ বসিয়ে $$ \lambda\,\mathbb P\Big(\max_{k\le n}X_k\ge\lambda\Big)=\lambda\,\mathbb P(\tau\le n)\le\mathbb E[X_n\mathbf 1_{{\max_k X_k\ge\lambda}}]\le\mathbb E[X_n], $$ শেষ অসমতা $X_n\ge0$ ও $\mathbf 1\le1$ থেকে। এক বাক্যে: এটি Markov inequality $\lambda\mathbb P(X\ge\lambda)\le\mathbb E[X]$-এর "পুরো-পথ-সর্বোচ্চ" সংস্করণ — একটামাত্র $X_n$ নয়, $0$ থেকে $n$ পর্যন্ত পুরো পথের সর্বোচ্চকে একই $\mathbb E[X_n]/\lambda$ দিয়ে বাঁধে (optional stopping-এর শক্তি)। $\blacksquare$

সমাধান ৯ (★★)¶

দাবি। Pólya urn-এর লাল-অনুপাত $X_n=R_n/T_n$ ($T_n=R_n+W_n=r_0+w_0+n$) একটা martingale।

(ক) শর্তাধীন সম্ভাবনা। $\mathcal F_n$-এ $R_n,W_n,T_n$ জানা; $X_n=R_n/T_n$। ধাপ $n+1$-এ: $$ R_{n+1}=\begin{cases}R_n+1,&\text{লাল-টান, সম্ভাবনা }\dfrac{R_n}{T_n}=X_n,\[4pt] R_n,&\text{সাদা-টান, সম্ভাবনা }1-X_n,\end{cases}\qquad T_{n+1}=T_n+1 . $$

(খ) শর্তাধীন প্রত্যাশা। $X_{n+1}=R_{n+1}/(T_n+1)$, তাই $$ \mathbb E[X_{n+1}\mid\mathcal F_n]=X_n\cdot\frac{R_n+1}{T_n+1}+(1-X_n)\cdot\frac{R_n}{T_n+1}=\frac{X_n(R_n+1)+(1-X_n)R_n}{T_n+1}. $$

(গ) সরলীকরণ ও উপসংহার। লব $=X_n R_n+X_n+R_n-X_nR_n=R_n+X_n=R_n+\dfrac{R_n}{T_n}=\dfrac{R_n(T_n+1)}{T_n}$, তাই $$ \mathbb E[X_{n+1}\mid\mathcal F_n]=\frac{R_n(T_n+1)/T_n}{T_n+1}=\frac{R_n}{T_n}=X_n . $$ অর্থাৎ $(X_n)$ একটা martingale। এক বাক্যে: যেহেতু $X_n=R_n/T_n\in[0,1]$ — bounded — তাই স্বয়ংক্রিয়ভাবে UI, ফলে closed/Martingale Convergence Theorem সরাসরি প্রযোজ্য: $X_n\to X_\infty$ a.s. ও $L^1$, এবং (canonical) শুরু-১-১-এ $X_\infty\sim$ Uniform$(0,1)$। $\blacksquare$

ঘ · কোডিং (coding)¶

সব স্নিপেট স্বয়ংসম্পূর্ণ ও seed np.random.default_rng(20260619)-এ চালানো। import numpy as np, import matplotlib.pyplot as plt।

সমাধান ১০ (★★)¶

Pólya urn random-limit histogram ≈ Uniform$(0,1)$।

import numpy as np
import matplotlib.pyplot as plt

rng = np.random.default_rng(20260619)

def polya_final(rng, N=2000):
    red, total = 1, 2          # শুরু: ১ লাল, ১ সাদা
    for _ in range(N):
        p = red / total        # বর্তমান লাল-অনুপাত = martingale মান
        if rng.random() < p:   # লাল উঠল → লাল +1
            red += 1
        total += 1             # মোট বল সর্বদা +1
    return red / total

runs = 5000
finals = np.array([polya_final(rng) for _ in range(runs)])

print(f"mean = {finals.mean():.4f}")          # ~0.5007  (তাত্ত্বিক 0.5)
print(f"std  = {finals.std():.4f}")           # ~0.2853  (তাত্ত্বিক 1/sqrt(12)=0.2887)

# ১০টা সমান bin-এর deciles (প্রায় সমতল হওয়া উচিত)
counts, edges = np.histogram(finals, bins=10, range=(0, 1))
print("decile fractions:", np.round(counts / runs, 3))   # প্রতিটি ~0.10

plt.hist(finals, bins=30, range=(0, 1), density=True,
         edgecolor="black", alpha=0.7)
plt.axhline(1.0, color="red", ls="--", label="Uniform(0,1) density")
plt.xlabel(r"চূড়ান্ত লাল-অনুপাত $X_N$"); plt.ylabel("density")
plt.title("Pólya urn random limit ≈ Uniform(0,1)"); plt.legend()
plt.tight_layout(); plt.show()

ব্যাখ্যা। (ক) প্রতি ধাপে বর্তমান অনুপাত $p=\text{red}/\text{total}$-এ Bernoulli টান, সেই রঙ +1 — ঠিক martingale-গতিকল্প। (খ) ছাপা mean ≈ 0.5007, std ≈ 0.2853 — canonical লক্ষ্য, এবং Uniform$(0,1)$-এর তাত্ত্বিক $0.5$ ও $1/\sqrt{12}\approx0.2887$-এর সাথে মেলে। (গ) ১০ decile প্রায় সমান (~10% করে) ⇒ histogram সমতল ⇒ সব সীমা-মান সমসম্ভাব্য ⇒ $X_\infty\sim$ Uniform$(0,1)$। সমতল-histogram-ই "random limit (deterministic নয়)" প্রমাণ করে: deterministic হলে একটা চূড়ায় ভর জমত, সমতল-ছড়ানো নয়।

সমাধান ১১ (★★)¶

Doob's maximal inequality সংখ্যাগত যাচাই — $\mathbb P(\max\ge3)\approx0.2765\le1/3$।

এখানে অধ্যায়ের সেই অঋণাত্মক product-martingale-ই নিই যাতে বাঁধ ঠিক $1/3$ হয়: $X_n=\prod_{i=1}^n(1+0.5\,\xi_i)$, $\xi_i=\pm1$ সমসম্ভাব্য — প্রতি গুণক $\{0.5,1.5\}$-এ, $\mathbb E[1+0.5\xi_i]=1$, তাই $\mathbb E[X_n]=1$ ও $X_n>0$। threshold $\lambda=3$ হলে Doob-বাঁধ $\mathbb E[X_n]/\lambda=1/3$।

import numpy as np

rng = np.random.default_rng(20260619)

paths, n = 200_000, 50                                  # n=50, §5 lab-এর মতো
lam = 3.0

# অধ্যায়ের product-martingale: প্রতি গুণক {0.5, 1.5}, E[1+0.5ξ]=1 → E[X_n]=1
fac = 1.0 + 0.5*rng.choice([-1.0, 1.0], size=(paths, n))   # factors in {0.5, 1.5}
X   = np.cumprod(fac, axis=1)                              # X_1 .. X_n (X_0=1<3, max-এ অপ্রাসঙ্গিক)

run_max = X.max(axis=1)
emp = np.mean(run_max >= lam)
bound = 1.0 / lam                                       # E[X_n]/λ = 1/3

print(f"empirical P(max >= 3) = {emp:.4f}")   # 0.2765  (fresh rng; §5 lab full-pipeline → 0.2770)
print(f"Doob bound  E[X_n]/λ = {bound:.4f}")  # 0.3333
print("inequality holds:", emp <= bound)      # True

ব্যাখ্যা। (ক) $200{,}000$ পথ, প্রতিটি $X_n=\prod_{i=1}^n(1+0.5\xi_i)$ একটা অঋণাত্মক martingale ($\mathbb E[X_n]=\prod\mathbb E[1+0.5\xi_i]=1$) — অধ্যায়ের §৩ ও §৫ lab-এর হুবহু একই প্রক্রিয়া। (খ) উপরের snippet (fresh generator) ছাপে empirical $\mathbb P(\max_{k\le n}X_k\ge3)\approx\mathbf{0.2765}$, Doob-বাঁধ $\mathbb E[X_n]/\lambda=1/3\approx\mathbf{0.3333}$ — empirical $\le$ bound ✓। (§৫-এর পূর্ণ-pipeline lab generator-টিকে Pólya→$L^2$→Doob ক্রমে টানে, তাই সেখানে canonical মান $0.2770$; RNG draw-order-ভেদে এই সামান্য পার্থক্য, কিন্তু দুটোই $\le\frac13$ — আর এই অসমতাটাই আসল কথা, সঠিক দশমিক নয়।) (গ) এক বাক্যে: empirical মান বাঁধের চেয়ে ছোট হওয়াই প্রত্যাশিত কারণ maximal inequality একটা অসমতা (equality নয়) — বাঁধটা "সবচেয়ে-খারাপ-ক্ষেত্র" আঁটসাঁট নয়, আর বাস্তব পথ $\lambda$ ছোঁয়ার সম্ভাবনা $\mathbb E[X_n]/\lambda$-এর চেয়ে কম।

টীকা। যেকোনো অঋণাত্মক martingale/submartingale-এ $\mathbb E[X_n]=1$ ও $\lambda=3$ হলে বাঁধ $1/3$; increment-বণ্টন বদলালে empirical মান সামান্য বদলাবে কিন্তু সর্বদা $\le1/3$ থাকবে — উপপাদ্যটাই তা নিশ্চিত করে।

সমাধান ১২ (★★)¶

$\sum\xi_i/i$ converges, $\sum\xi_i$ converges না — পথ ও variance।

import numpy as np
import matplotlib.pyplot as plt

rng = np.random.default_rng(20260619)

paths, n = 4000, 2000
xi = rng.choice([-1.0, 1.0], size=(paths, n))      # ξ_i = ±1 সমসম্ভাব্য
idx = np.arange(1, n + 1)

M = np.cumsum(xi / idx, axis=1)                     # M_n = Σ ξ_i / i   (L²-bounded martingale)
S = np.cumsum(xi, axis=1)                           # S_n = Σ ξ_i        (martingale, unbounded)

print(f"Var(M_2000) = {M[:, -1].var():.4f}")        # ~1.6459  (canonical)
print(f"π²/6        = {np.pi**2/6:.4f}")            # 1.6449
print(f"Σ 1/i² up to n = {np.sum(1/idx**2):.4f}")  # 1.6444  (তাত্ত্বিক partial)
print(f"Var(S_2000) = {S[:, -1].var():.1f}")        # ~2000   (≈ n, অসীম-প্রবণ)

fig, ax = plt.subplots(1, 2, figsize=(11, 4))
for j in range(8):
    ax[0].plot(M[j], lw=0.8)
    ax[1].plot(S[j], lw=0.8)
ax[0].set_title(r"$M_n=\sum \xi_i/i$  — একটা সীমায় থিতু (converges)")
ax[0].set_xlabel("n"); ax[0].set_ylabel(r"$M_n$")
ax[1].plot(np.sqrt(idx), "k--", lw=1); ax[1].plot(-np.sqrt(idx), "k--", lw=1)
ax[1].set_title(r"$S_n=\sum \xi_i$  — দোলে/ছড়ায় ($\pm\sqrt{n}$)")
ax[1].set_xlabel("n"); ax[1].set_ylabel(r"$S_n$")
plt.tight_layout(); plt.show()

ব্যাখ্যা। (ক) বাঁ-প্যানেলে $M_n$-এর ৮টা পথ দ্রুত একটা সীমায় থিতু হয় (লেজে প্রায় সমান্তরাল, কারণ $\sum1/i^2<\infty$ ⇒ লেজ-ভর শূন্যপ্রায়); ডান-প্যানেলে $S_n$ দোলে ও $\pm\sqrt n$-খামে ছড়ায় (CLT-মাপ)। (খ) ছাপা $\operatorname{Var}(M_{2000})\approx1.6459$ — canonical, এবং $\pi^2/6\approx1.6449$ ও partial $\sum_{i\le2000}1/i^2\approx1.6444$-এর কাছে; পাশাপাশি $\operatorname{Var}(S_{2000})\approx2000$ (≈ $n$, অসীম-প্রবণ)। (গ) এক বাক্যে: এই সংখ্যা-জোড়া — $\sum1/i^2<\infty$ (bounded, থিতু) বনাম $\operatorname{Var}(S_n)=n\to\infty$ (unbounded, দোলে) — হাতে-কলমে দেখায় একই martingale-গঠনে $L^2$-boundedness-ই অভিসরণের চাবি, "martingale হওয়া" একা যথেষ্ট নয়। $