7.9 — Martingale Convergence Theorems ও Applications (বদ্ধ মার্টিঙ্গেল থিতু হয়)

১ · ভূমিকা ও insight (অন্তর্দৃষ্টি)

১.১ একটা বদ্ধ ন্যায্য খেলা — চিরকাল দুলতে পারে না

7.8-এ আমরা দেখেছিলাম একটা martingale \((X_n)\) — ন্যায্য খেলার সম্পদ-প্রক্রিয়া — দিব্যি বুনোভাবে দুলতে পারে: \(\mathbb E[X_{n+1}\mid\mathcal F_n]=X_n\) মানে কেবল "গড়ে কোনো প্রবণতা নেই", "নিশ্চল" নয়। চিত্র 7-8-martingale-paths-এ আমরা বহু পথ দুলতে দেখেছি। এখন একটা গভীরতর প্রশ্ন: ধরা যাক খেলাটা শুধু ন্যায্যই নয়, বদ্ধও — যেমন সম্পদ কখনো ঋণাত্মক হতে পারে না (অঋণাত্মক martingale), অথবা গড়-পরম-মান \(\mathbb E\lvert X_n\rvert\) কখনো একটা সীমা ছাড়ায় না (\(L^1\)-bounded)। এমন একটা বদ্ধ ন্যায্য খেলা দীর্ঘমেয়াদে কী করে? — চিরকাল কি \(a\) আর \(b\)-র মধ্যে দুলতে পারে?

এই অধ্যায়ের কেন্দ্রীয়, প্রায় বিস্ময়কর উত্তর: না — তাকে থিতু হতেই হয়। সঠিকভাবে, $$ \sup_n\mathbb E\lvert X_n\rvert<\infty\quad\Longrightarrow\quad X_n\xrightarrow{\;\text{a.s.}\;}X_\infty\quad(\text{একটা সসীম random variable}). $$ অর্থাৎ একটা \(L^1\)-bounded martingale প্রায়-নিশ্চিতভাবে (almost surely) একটা সুনির্দিষ্ট সীমায় থিতু হয় — পথটা যত বুনোই হোক, শেষমেশ একটা মানে স্থির হয়ে আসে। এটি Martingale Convergence Theorem — সম্ভাব্যতার সবচেয়ে শক্তিশালী ও সর্বজনীন উপপাদ্যগুলোর একটি।

কেন এটি বিস্ময়কর? কারণ অভিসরণ সাধারণত প্রমাণ করা কঠিন — Cauchy-শর্ত, \(\varepsilon\)–\(N\), ইত্যাদি। কিন্তু এখানে আমরা পথের কোনো বিশদ না-জেনেই, কেবল "ন্যায্য + বদ্ধ" — এই দুই কাঠামোগত তথ্য থেকে, প্রতিটি পথের অভিসরণ নিশ্চিত করছি। এ যেন বলা: যেকোনো বদ্ধ ন্যায্য খেলা নিজে থেকেই একটা ভাগ্য বেছে নেয়।

লক্ষণীয়, সীমা \(X_\infty\) একটা random variable — পথভেদে আলাদা। ভিন্ন run ভিন্ন \(X_\infty\)-তে থিতু হয়; থিতু-হওয়াটা নিশ্চিত, কিন্তু কোথায় তা এলোমেলো। এই "নিশ্চিত অভিসরণ, কিন্তু random গন্তব্য" ছবিটাই Pólya urn (১.৩) ও branching-প্রক্রিয়ার (১.৩) মর্মে, আর চিত্র 7-9-martingale-convergence-এ চোখে দেখব।

এক বাক্যে সূচনা। একটা \(L^1\)-bounded (বা অঋণাত্মক) martingale — ন্যায্য কিন্তু বদ্ধ খেলা — চিরকাল দুলতে পারে না; Martingale Convergence Theorem বলে \(\sup_n\mathbb E\lvert X_n\rvert<\infty\Rightarrow X_n\to X_\infty\) a.s., যেখানে সীমা \(X_\infty\) একটা সসীম random variable (থিতু-হওয়া নিশ্চিত, কিন্তু গন্তব্য পথভেদে এলোমেলো)।

১.২ upcrossing-এর ধারণা — থিতু হওয়ার গোপন গণিত

কেন বদ্ধতা থিতু-হওয়া জোর করে? এর পেছনের একটিমাত্র, অসাধারণ-সুন্দর ধারণা হলো upcrossing (ঊর্ধ্ব-পারাপার)। একটা ধারা \((x_n)\) ঠিক তখনই অভিসারী নয় যখন \(\liminf x_n<\limsup x_n\) — অর্থাৎ এমন দুটো বাস্তব সংখ্যা \(a<b\) আছে যেখানে ধারাটা অসীমবার \(a\)-র নিচে নামে আবার \(b\)-র উপরে ওঠে, চিরকাল এই ব্যবধান \([a,b]\) পেরোতে থাকে। তাই অভিসরণ-প্রমাণ মানে: দেখানো যে এমন কোনো \([a,b]\)-র পারাপার অসীমবার ঘটতে পারে না।

একটা ব্যবধান \([a,b]\)-র upcrossing সংখ্যা \(U_n([a,b])\) গোনে: সময় \(n\)-এর মধ্যে প্রক্রিয়াটা কতবার সম্পূর্ণভাবে \(a\)-র নিচ থেকে \(b\)-র উপরে উঠল। এবার আসে জাদু — Doob's upcrossing lemma: $$ \mathbb E\big[U_n([a,b])\big]\;\le\;\frac{\mathbb E[(X_n-a)^+]}{b-a}. $$ এর স্বজ্ঞা সরাসরি 7.8-এর "ন্যায্য খেলা হারানো যায় না" থেকে: কল্পনা করুন একটা সরল বাজির কৌশল — "\(X\) যখন \(a\)-তে নামে তখন কিনুন (এক একক), \(b\)-তে উঠলে বেচুন"। প্রতিটি সম্পূর্ণ upcrossing-এ আপনি অন্তত \((b-a)\) মুনাফা করেন। এটি একটা predictable কৌশল (7.8), তাই আপনার সঞ্চিত মুনাফাও একটা martingale — গড়ে শূন্য-লাভ। কিন্তু যদি upcrossing অসীমবার ঘটত, আপনি অসীম নিশ্চিত মুনাফা করতেন — যা ন্যায্য খেলায় অসম্ভব! তাই \(\mathbb E[U_n([a,b])]\) বাঁধা থাকে — আর \(L^1\)-bounded হলে \(n\to\infty\)-এ মোট upcrossing \(U_\infty([a,b])<\infty\) a.s., প্রতিটি \([a,b]\)-র জন্য। অসীম-পারাপার কোথাও নেই, তাই প্রতিটি পথ অভিসারী।

এই একটিমাত্র যুক্তি — "অসীম upcrossing = অসীম মুনাফা = অসম্ভব" — পুরো convergence theorem-এর ইঞ্জিন। চিত্র 7-9-upcrossings একটা পথে \([a,b]\)-পারাপার চিহ্নিত করে দেখাবে কেন তাদের সংখ্যা সসীম থাকতেই হয়।

এক বাক্যে। একটা ধারা অভিসারী-নয় ঠিক তখনই যখন কোনো \([a,b]\) অসীমবার পেরোয় (upcrossing \(U_n([a,b])\) অসীম); Doob's upcrossing lemma \(\mathbb E[U_n([a,b])]\le\frac{\mathbb E[(X_n-a)^+]}{b-a}\) — \"\(a\)-তে কিনে \(b\)-তে বেচা\" predictable কৌশলে অসীম মুনাফা অসম্ভব বলে — upcrossing-সংখ্যাকে বেঁধে দেয়, আর এটিই থিতু-হওয়ার গোপন গণিত।

১.৩ কেন এটি গুরুত্বপূর্ণ — পুরস্কারের সম্ভার

Martingale Convergence Theorem কেবল একটা সুন্দর সত্য নয় — এটি একটা সর্বজনীন যন্ত্র যা সম্ভাব্যতা, পরিসংখ্যান ও তার বাইরে অগণিত ফল একই সুতোয় গাঁথে। কেবল "\((X_n)\) একটা বদ্ধ martingale" — এটুকু চিনতে পারলেই অভিসরণ বিনামূল্যে এসে যায়। কয়েকটা গভীর পুরস্কার:

• SLLN-এর martingale-প্রমাণ। 7.6-এ বৃহৎ সংখ্যার শক্তিশালী সূত্র (Strong Law of Large Numbers) আমরা Kolmogorov-এর পথে প্রমাণ করেছিলাম। এখানে তার একটা পরিচ্ছন্ন বিকল্প: গড় \(\bar X_n=\frac1n\sum_{k\le n}\xi_k\)-কে একটা (backwards) martingale-কাঠামোয় বসিয়ে convergence theorem সরাসরি \(\bar X_n\to\mu\) a.s. দেয় — একই ফল, ভিন্ন ও অনেক বেশি কাঠামোগত আলো।
• Pólya urn-এর random limit। 7.8-এ দেখেছিলাম Pólya urn-এর রঙ-অনুপাত \(X_n\) একটা martingale। এটি \([0,1]\)-এ আবদ্ধ, তাই bounded, তাই convergence theorem বলে \(X_n\to X_\infty\) a.s. — অনুপাত একটা চূড়ান্ত মানে থিতু হয়। চমক: সেই সীমা \(X_\infty\) একটা random variable (Beta-বণ্টিত)! অর্থাৎ চূড়ান্ত ভারসাম্য পূর্বনির্ধারিত নয় — শুরুর কয়েকটা এলোমেলো টানই দীর্ঘমেয়াদি অনুপাত ঠিক করে দেয় (path-dependence, self-reinforcement)। চিত্র 7-9-polya-urn এই Beta random limit-এর histogram দেখাবে।
• Galton–Watson branching (শাখা-প্রক্রিয়া)। একটা জনসংখ্যা যেখানে প্রতিটি ব্যক্তি স্বাধীনভাবে গড় \(m\) সন্তান রাখে — \(n\)-তম প্রজন্মের আকার \(Z_n\)। তখন স্বাভাবিকীকৃত আকার \(W_n=Z_n/m^n\) একটা অঋণাত্মক martingale, তাই a.s. একটা সীমা \(W\)-তে অভিসারী — যা থেকে বিলুপ্তি (extinction) বনাম বিস্ফোরক বৃদ্ধির গাণিতিক ছবি বেরোয় (\(m\le1\) হলে প্রায়-নিশ্চিত বিলুপ্তি)।
• Bayesian posterior consistency (পশ্চাৎ-সংগতি)। তথ্য জমার সাথে একটা প্যারামিটারের posterior বণ্টন — একটা Doob/Lévy martingale \(\mathbb E[\,\cdot\mid\mathcal F_n]\) — convergence theorem (বিশেষত Lévy upward theorem) দিয়ে সত্য মানে কেন্দ্রীভূত হতে বাধ্য। অর্থাৎ "যথেষ্ট তথ্য পেলে Bayesian বিশ্বাস সত্যে পৌঁছায়" — এই দার্শনিকভাবে গুরুত্বপূর্ণ সংগতি-ফলের কঠোর ভিত্তি এই অধ্যায়।

আর এ-সবের পেছনে একটা একক, গভীর তত্ত্ব: যা-কিছু \(\mathbb E[Y\mid\mathcal F_n]\)-এর রূপ নেয় (একটা লক্ষ্য সম্পর্কে ক্রমবর্ধমান-তথ্যে অনুমান), তা Lévy's upward theorem-এর বলে \(\mathbb E[Y\mid\mathcal F_\infty]\)-তে অভিসারী — "তথ্য জমলে অনুমান চূড়ান্ত সত্যে পৌঁছায়"।

এক বাক্যে। Martingale convergence একটা সর্বজনীন যন্ত্র — \"\((X_n)\) বদ্ধ martingale\" চিনলেই অভিসরণ বিনামূল্যে — যা থেকে SLLN-এর martingale-প্রমাণ, Pólya urn-এর Beta random limit (path-dependent ভারসাম্য), Galton–Watson branching-এর \(W_n=Z_n/m^n\) ও বিলুপ্তি, এবং Bayesian posterior consistency সবই একই সুতোয় আসে, পেছনে একক তত্ত্ব Lévy upward theorem ("তথ্য জমলে অনুমান সত্যে পৌঁছায়")।

১.৪ a.s. যথেষ্ট নয় — running max, uniform integrability ও closed martingale

Convergence theorem একটা a.s.-সীমা দেয়, কিন্তু অনেক প্রয়োগে দরকার আরও — যেমন \(\mathbb E[X_n]\to\mathbb E[X_\infty]\) (গড়ও অভিসারী), বা সীমা-বস্তুর সুনির্দিষ্ট রূপ \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\)। কিন্তু a.s.-অভিসরণ এদের নিশ্চিত করে না: একটা martingale a.s. শূন্যে থিতু হতে পারে অথচ \(\mathbb E[X_n]=1\) চিরকাল — সীমায় সব "ভর" অসীমে পালিয়ে যায় (১.৩-এর branching বা doubling-এ এমন ঘটে)। তাই দুটো অতিরিক্ত স্তম্ভ লাগে।

প্রথম স্তম্ভ — running max-এর নিয়ন্ত্রণ। প্রক্রিয়াটা সবচেয়ে দূরে কতটা যেতে পারে, তা বাঁধতে Doob's maximal inequality (\(\lambda\,\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\mathbb E[X_n^+]\), সাবমার্টিঙ্গেল — Markov-অসমতার martingale-সংস্করণ) ও আরও তীক্ষ্ণ Doob's \(L^p\) inequality (\(p>1\): \(\lVert X_n^*\rVert_p\le\frac{p}{p-1}\lVert X_n\rVert_p\), যেখানে running max \(X_n^*=\max_{k\le n}\lvert X_k\rvert\))। এরা বলে: শেষ-মান নিয়ন্ত্রিত থাকলে পুরো পথের সর্বোচ্চও নিয়ন্ত্রিত — concentration ও \(L^2\)-অভিসরণের অপরিহার্য যন্ত্র। চিত্র 7-9-doob-maximal এই tail-বাঁধ empirically যাচাই করবে।

দ্বিতীয় স্তম্ভ — uniform integrability (UI) (সমভাবে সমাকলনীয়তা)। এটি ঠিক সেই শর্ত যা a.s.-অভিসরণকে \(L^1\)-অভিসরণে উন্নীত করে (DCT-র dominated-শর্তের সাধারণীকরণ): কোনো একক ভর সীমায় পালাতে পারে না। একটা UI martingale শুধু a.s.-অভিসারীই নয়, তা "closed" — \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\), অর্থাৎ পুরো প্রক্রিয়াটা একটা চূড়ান্ত \(X_\infty\)-এর ক্রমবর্ধমান-তথ্যে-অনুমান (একটা Doob martingale)। এর শিখর Lévy's upward theorem \(\mathbb E[Y\mid\mathcal F_n]\to\mathbb E[Y\mid\mathcal F_\infty]\) (a.s. ও \(L^1\)) ও তার সুদূরপ্রসারী ফল Lévy's 0–1 law। আর \(L^2\)-জগতে ছবিটা আরও পরিষ্কার: একটা \(L^2\)-bounded martingale-এর increment-গুলো পরস্পর-লম্ব, তাই Pythagoras দিয়ে তা \(L^2\)-তেও অভিসারী।

এক বাক্যে। a.s.-অভিসরণ একাই যথেষ্ট নয় (ভর সীমায় পালাতে পারে), তাই দুই অতিরিক্ত স্তম্ভ — Doob's maximal ও \(L^p\) inequalities (running max \(X_n^*\)-কে শেষ-মান দিয়ে বাঁধে) এবং uniform integrability, যা a.s.-কে \(L^1\)-অভিসরণে উন্নীত করে ও martingale-কে closed \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\) করে — যার শিখর Lévy upward theorem ও 0–1 law, আর \(L^2\)-bounded ⇒ \(L^2\)-অভিসরণ।

১.৫ এই অধ্যায়ের পথরেখা

• §২ সব মূল বস্তুর precise সংজ্ঞা ও বিবৃতি — upcrossing \(U_n([a,b])\) ও upcrossing lemma (২.১); Martingale Convergence Theorem ও অঋণাত্মক-supermartingale corollary (২.২); Doob's maximal inequality (২.৩); Doob's \(L^p\) inequality ও running max (২.৪); uniform integrability (২.৫); closed/Lévy martingale ও \(L^1\)-অভিসরণ (২.৬); \(L^2\)-bounded martingale-এর \(L^2\)-অভিসরণ (২.৭); Lévy upward theorem ও 0–1 law (২.৮); প্রয়োগ-তালিকা — SLLN, Pólya urn, branching, Radon–Nikodym, Bayes (২.৯)। ভারী প্রমাণ §৪-এ স্থগিত, স্পষ্ট forward pointer সহ।
• §৪ ভারী প্রমাণ — upcrossing lemma (predictable "কিনে-নিচে-বেচে-উপরে" transform দিয়ে); convergence theorem (upcrossing-বাঁধ → \(U_\infty<\infty\) প্রতিটি \([a,b]\)-তে → a.s.-অভিসরণ, তারপর Fatou দিয়ে \(X_\infty\in L^1\)); maximal inequality (hitting time \(\tau=\min\{k:X_k\ge\lambda\}\)-এ optional stopping); \(L^p\) inequality (maximal + Hölder/layer-cake); UI ⇒ \(L^1\)-অভিসরণ (Vitali) ও closed রূপ; Lévy upward (closed-martingale + dense-class argument); এবং প্রয়োগ-প্রমাণগুলোর কঙ্কাল (Pólya urn, branching \(W_n\))।
• §৫–৬ simulation ও চিত্র (seed 20260619) — 7-9-upcrossings (একটা সাবমার্টিঙ্গেল-পথে \([a,b]\)-পারাপার চিহ্নিত ও গণনা — সসীম upcrossing = থিতু), 7-9-martingale-convergence (বহু \(L^1\)-bounded martingale-পথ — প্রতিটি থিতু, কিন্তু ভিন্ন random limit-এ), 7-9-polya-urn (Pólya urn-অনুপাতের চূড়ান্ত-মানের Beta histogram — random limit), এবং 7-9-doob-maximal (running max \(X_n^*\)-এর tail empirically Doob-বাঁধের নিচে)।

এর পরে Part VII-এর শিখর: 7.10 — rigorous central limit theorem (characteristic function, Lévy continuity theorem, Lindeberg–Feller), যেখানে এ-অধ্যায়ের অভিসরণ-যন্ত্র ও 7.6-এর স্বাধীনতা মিলে CLT-কে measure-তাত্ত্বিকভাবে পূর্ণ-কঠোর রূপ দেবে।

এক বাক্যে পথরেখা। §২ সংজ্ঞা ও বিবৃতি (upcrossing + convergence theorem + maximal/\(L^p\) inequalities + UI + closed/Lévy martingale + \(L^2\)-অভিসরণ + 0–1 law + প্রয়োগ-তালিকা) → §৪ প্রমাণ (upcrossing via predictable transform, convergence via upcrossing+Fatou, maximal via optional stopping, \(L^p\) via Hölder, UI via Vitali, Lévy upward) → §৫–৬ চার চিত্র (seed 20260619); আর এই martingale-অভিসরণের ভিত্তির উপর Part VII শেষ ধাপে 7.10 (rigorous CLT)-এ পৌঁছায়।

---

২ · মূল ধারণা ও সংজ্ঞা

এই বিভাগে এ অধ্যায়ের সব formal বস্তুর precise সংজ্ঞা ও বিবৃতি দিই — প্রতিটি প্রতীক প্রথম ব্যবহারেই খুলে। কাঠামো §১-এর সুতো ধরে: প্রথমে অভিসরণের ইঞ্জিন — upcrossing ও upcrossing lemma (২.১); তারপর কেন্দ্রীয় ফল Martingale Convergence Theorem ও তার corollary (২.২); তারপর running max-নিয়ন্ত্রণের দুই যন্ত্র — Doob's maximal inequality (২.৩) ও \(L^p\) inequality (২.৪); তারপর uniform integrability (২.৫) এবং তা থেকে closed/Lévy martingale ও \(L^1\)-অভিসরণ (২.৬); তারপর \(L^2\)-অভিসরণ (২.৭); তারপর Lévy upward theorem ও 0–1 law (২.৮); শেষে প্রয়োগ-তালিকা (২.৯)। ভারী প্রমাণগুলো §৪-এ — এখানে কেবল বিবৃতি ও অন্তর্দৃষ্টি, স্পষ্ট forward pointer সহ।

জুড়ে আমরা একটা filtered probability space \((\Omega,\mathcal F,(\mathcal F_n)_{n\ge0},\mathbb P)\) ধরে কাজ করি (7.8), discrete সময় \(n\in\{0,1,2,\dots\}\)। \(X\in L^1\iff\mathbb E\lvert X\rvert<\infty\), \(X\in L^2\iff\mathbb E[X^2]<\infty\) (7.5); \(x^+=\max(x,0)\)। 7.7-এর শর্তাধীন প্রত্যাশা \(\mathbb E[\cdot\mid\mathcal G]\) ও তার ধর্ম (linearity, tower, pull-out, conditional Jensen, monotonicity) এবং 7.8-এর martingale/sub-/supermartingale, martingale transform, stopping time, stopped process — সব নিঃশব্দে ধরে নেওয়া। \(\mathcal F_\infty:=\sigma\!\big(\bigcup_n\mathcal F_n\big)\) মানে "সব সময়ের সঞ্চিত তথ্যের σ-algebra"। প্রতিটি conditional-expectation সমতা by default a.s.; অভিসরণ-বিবৃতিতে "\(X_n\to X_\infty\) a.s." মানে \(\mathbb P(\{\omega:X_n(\omega)\to X_\infty(\omega)\})=1\)।

২.১ upcrossing ও Doob's upcrossing lemma

প্রথম ইট — অভিসরণের ইঞ্জিন। §১.২-এর "অসীম পারাপার = অসীম মুনাফা = অসম্ভব" ধারণাকে formally বসাই। ধরা যাক \((X_n)\) একটা সাবমার্টিঙ্গেল (martingale একটা বিশেষ ক্ষেত্র), আর \(a<b\) দুটো বাস্তব সংখ্যা।

সংজ্ঞা (upcrossing সংখ্যা)। \([a,b]\)-র upcrossing (ঊর্ধ্ব-পারাপার) হলো প্রক্রিয়াটার একটা সম্পূর্ণ ভ্রমণ যেখানে তা \(a\)-র (বা তার নিচে) থেকে শুরু করে \(b\)-তে (বা তার উপরে) পৌঁছায়। সময় \(n\)-এর মধ্যে এমন সম্পূর্ণ upcrossing-এর মোট সংখ্যাকে বলি \(U_n([a,b])\) — একটা অঋণাত্মক, পূর্ণসংখ্যা-মানের random variable। \(U_\infty([a,b]):=\lim_{n\to\infty}U_n([a,b])=\sup_n U_n([a,b])\) (অ-হ্রাসমান, তাই সীমা সর্বদা বিদ্যমান, সম্ভবত \(+\infty\))।

উপপাদ্য (Doob's upcrossing lemma)। \((X_n)\) একটা সাবমার্টিঙ্গেল হলে প্রতিটি \(a<b\) ও প্রতিটি \(n\)-তে $$ \mathbb E\big[U_n([a,b])\big]\;\le\;\frac{\mathbb E[(X_n-a)^+]}{\,b-a\,}. $$ বিশেষত \((X_n)\) একটা martingale হলে \((X_n-a)^+\) একটা সাবমার্টিঙ্গেল (convex \(\varphi(x)=(x-a)^+\), conditional Jensen — 7.7/7.8), তাই একই বাঁধ খাটে।

স্বজ্ঞা ঠিক §১.২-এর বাজি-যুক্তি: একটা predictable কৌশল নিন — "যতক্ষণ না \(X\) \(a\)-তে নামে অপেক্ষা করো, নামলে এক একক কেনো (\(H_k=1\)), \(b\)-তে উঠলে বেচে দাও (\(H_k=0\))"। এই \(H_k\) কেবল অতীতের উপর নির্ভর করে (predictable, 7.8), তাই সঞ্চিত মুনাফা \((H\cdot X)_n=\sum_{k\le n}H_k(X_k-X_{k-1})\) আবার একটা সাবমার্টিঙ্গেল (\(H\ge0\))। প্রতিটি সম্পূর্ণ upcrossing অন্তত \((b-a)\) মুনাফা দেয়, আর শেষ অসম্পূর্ণ ভ্রমণের ক্ষতি \((X_n-a)^-\)-এ সীমিত — হিসাব কষলেই উপরের বাঁধ (§৪)। মূল পরিণতি, যা সরাসরি ২.২-এ ব্যবহৃত: যদি \((X_n)\) \(L^1\)-bounded হয় (অর্থাৎ \(\sup_n\mathbb E\lvert X_n\rvert<\infty\), যা \(\mathbb E[(X_n-a)^+]\)-কেও বাঁধে), তবে monotone convergence (7.4) দেয় \(\mathbb E[U_\infty([a,b])]\le\frac{\lvert a\rvert+\sup_n\mathbb E\lvert X_n\rvert}{b-a}<\infty\) — তাই \(U_\infty([a,b])<\infty\) a.s., প্রতিটি \([a,b]\)-র জন্য। অসীম পারাপার a.s. ঘটে না।

এক বাক্যে। \([a,b]\)-র upcrossing সংখ্যা \(U_n([a,b])\) গোনে প্রক্রিয়াটা সময় \(n\)-এর মধ্যে কতবার সম্পূর্ণভাবে \(a\)-র নিচ থেকে \(b\)-র উপরে ওঠে; Doob's upcrossing lemma \(\mathbb E[U_n([a,b])]\le\frac{\mathbb E[(X_n-a)^+]}{b-a}\) — "\(a\)-তে কিনে \(b\)-তে বেচা" predictable transform-এ অসীম মুনাফা অসম্ভব বলে — upcrossing-গড়কে বাঁধে, আর \(L^1\)-bounded হলে \(U_\infty([a,b])<\infty\) a.s. প্রতিটি \([a,b]\)-তে।

২.২ Martingale Convergence Theorem

এবার অধ্যায়ের কেন্দ্রীয় উপপাদ্য — upcrossing lemma-র সরাসরি, প্রায়-জাদুকরী ফল।

উপপাদ্য (Martingale Convergence Theorem)। \((X_n)\) একটা সাবমার্টিঙ্গেল (বা martingale, বা supermartingale) যা \(L^1\)-bounded, অর্থাৎ $$ \sup_n\mathbb E\lvert X_n\rvert\;<\;\infty. $$ তাহলে একটা random variable \(X_\infty\) আছে যেখানে $$ X_n\;\xrightarrow{\;\text{a.s.}\;}\;X_\infty\qquad\text{এবং}\qquad X_\infty\in L^1\ \ (\mathbb E\lvert X_\infty\rvert<\infty). $$

প্রমাণের কঙ্কাল (পূর্ণ §৪) ঠিক ২.১-এর ফল থেকে: প্রতিটি যুক্তিসঙ্গত \(a<b\)-তে \(U_\infty([a,b])<\infty\) a.s.; গণনাযোগ্য অনেক \((a,b)\)-জোড়ার union-ও পরিমাপ-শূন্য বাদ দিয়ে নিরাপদ, তাই a.s. কোনো \([a,b]\) অসীমবার পেরোয় না — মানে \(\liminf X_n=\limsup X_n\), অর্থাৎ সীমা \(X_\infty\) বিদ্যমান (সম্ভবত \(\pm\infty\)); শেষে Fatou's lemma (7.4) দেয় \(\mathbb E\lvert X_\infty\rvert\le\liminf_n\mathbb E\lvert X_n\rvert\le\sup_n\mathbb E\lvert X_n\rvert<\infty\) — তাই \(X_\infty\) সসীম a.s. ও \(L^1\)-এ।

একটা অত্যন্ত-ব্যবহারিক বিশেষ ক্ষেত্র, যা প্রায় সব প্রয়োগে সরাসরি লাগে:

পরিণতি (অঋণাত্মক supermartingale)। \((X_n)\) একটা অঋণাত্মক supermartingale (\(X_n\ge0\), \(\mathbb E[X_{n+1}\mid\mathcal F_n]\le X_n\)) হলে \(X_n\) a.s. একটা সসীম সীমা \(X_\infty\ge0\)-তে অভিসারী। (একইভাবে যেকোনো অঋণাত্মক martingaleও।) কারণ অঋণাত্মকতা ও supermartingale-ধর্ম একসঙ্গে \(\mathbb E\lvert X_n\rvert=\mathbb E[X_n]\le\mathbb E[X_0]<\infty\) দেয় — তাই \(L^1\)-bounded স্বয়ংক্রিয়, কোনো অতিরিক্ত যাচাই ছাড়াই।

এই corollary-ই Pólya urn, branching, ও likelihood-ratio-প্রয়োগের তাৎক্ষণিক চাবি (২.৯): "অঋণাত্মক + (super)martingale" দেখলেই অভিসরণ বিনামূল্যে। সতর্কতা (১.৪-এ ঘোষিত, §৩-এ counterexample): এই অভিসরণ কেবল a.s. — তা \(\mathbb E[X_n]\to\mathbb E[X_\infty]\) বা \(X_n\to X_\infty\) in \(L^1\) নিশ্চিত করে না (ভর সীমায় পালাতে পারে: \(\mathbb E[X_\infty]<\mathbb E[X_0]\) হওয়া সম্ভব)। সেই ফাঁক পূরণে ২.৫–২.৬-এর uniform integrability লাগবে।

এক বাক্যে। Martingale Convergence Theorem: একটা \(L^1\)-bounded (\(\sup_n\mathbb E\lvert X_n\rvert<\infty\)) সাব-/মার্টিঙ্গেল/সুপারমার্টিঙ্গেল a.s. একটা \(L^1\)-সীমা \(X_\infty\)-তে থিতু হয় (upcrossing-বাঁধ → কোনো \([a,b]\) অসীমবার পেরোয় না, তারপর Fatou); বিশেষ ক্ষেত্রে যেকোনো অঋণাত্মক (super)martingale স্বয়ংক্রিয়ভাবে \(L^1\)-bounded বলে a.s. অভিসারী — তবে এই a.s.-অভিসরণ \(L^1\)-অভিসরণ বা \(\mathbb E\)-সংরক্ষণ বোঝায় না।

২.৩ Doob's maximal inequality

অভিসরণ জানার পর পরের প্রশ্ন — প্রক্রিয়াটা পথে সবচেয়ে দূরে কতটা যেতে পারে? এর উত্তর Markov-অসমতার (4.x) একটা শক্তিশালী martingale-সংস্করণ, যা পুরো running max-কে একবারে বাঁধে।

উপপাদ্য (Doob's maximal inequality)। \((X_n)\) একটা অঋণাত্মক সাবমার্টিঙ্গেল (বা যেকোনো সাবমার্টিঙ্গেলের জন্য \(X_k\)-র বদলে \(X_k^+\)) হলে প্রতিটি \(\lambda>0\) ও প্রতিটি \(n\)-তে $$ \lambda\,\mathbb P\Big(\max_{k\le n}X_k\ge\lambda\Big)\;\le\;\mathbb E\big[X_n^+\big]\qquad\Big(\text{অঋণাত্মক হলে }\ \le\ \mathbb E[X_n]\Big). $$ বিশেষত \((X_n)\) martingale হলে \(\lvert X_n\rvert\) একটা অঋণাত্মক সাবমার্টিঙ্গেল (conditional Jensen, 7.8), তাই $$ \lambda\,\mathbb P\Big(\max_{k\le n}\lvert X_k\rvert\ge\lambda\Big)\;\le\;\mathbb E\big[\lvert X_n\rvert\big]. $$

স্বজ্ঞা ও প্রমাণ-বীজ (পূর্ণ §৪): একটা stopping time নিন — \(\tau=\min\{k\le n:X_k\ge\lambda\}\) ("\(\lambda\) ছোঁয়ার প্রথম সময়", না-ছুঁলে \(\tau=n\))। \(\{\max_{k\le n}X_k\ge\lambda\}=\{X_\tau\ge\lambda\}\), আর সাবমার্টিঙ্গেলে optional stopping (7.8) দেয় \(\mathbb E[X_n]\ge\mathbb E[X_\tau]\ge\lambda\,\mathbb P(X_\tau\ge\lambda)\) — পুনর্বিন্যাসেই বাঁধ। তাৎপর্য: সাধারণ Markov-অসমতা কেবল \(\mathbb P(X_n\ge\lambda)\)-কে (একটা স্থির সময়) বাঁধে, কিন্তু Doob-এর সংস্করণ পুরো পথের সর্বোচ্চকে একই ডান-পাশ দিয়ে বাঁধে — বিনামূল্যে, কারণ সাবমার্টিঙ্গেল গড়ে বাড়ে বলে শেষ-মান \(X_n\) আগের সব সর্বোচ্চের তথ্য "ধরে রাখে"। এটিই running max-নিয়ন্ত্রণের প্রথম ও মৌলিক যন্ত্র (2.x-এর Kolmogorov maximal inequality এর বিশেষ রূপ), আর ২.৪-এর \(L^p\) inequality-র গোড়া।

এক বাক্যে। Doob's maximal inequality \(\lambda\,\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\mathbb E[X_n^+]\) (সাবমার্টিঙ্গেল; martingale-এ \(\lvert X_k\rvert\)-তে) হলো Markov-অসমতার martingale-সংস্করণ — hitting time \(\tau=\min\{k:X_k\ge\lambda\}\)-এ optional stopping দিয়ে — যা পুরো পথের running max-কে কেবল শেষ-মান \(X_n^+\) দিয়েই বাঁধে।

২.৪ Doob's \(L^p\) inequality ও running max

maximal inequality tail বাঁধে; এবার তার তীক্ষ্ণতর, নর্ম-রূপ — যা running max-এর পুরো \(L^p\)-আকারকে নিয়ন্ত্রণ করে।

সংজ্ঞা (running max)। একটা martingale \((X_n)\)-এর running max (চলমান সর্বোচ্চ) হলো \(X_n^*:=\max_{k\le n}\lvert X_k\rvert\) — সময় \(n\) পর্যন্ত প্রক্রিয়াটা পরম-মানে যত দূরে গেছে তার সর্বোচ্চ। \(X_\infty^*:=\sup_{k}\lvert X_k\rvert\)।

উপপাদ্য (Doob's \(L^p\) inequality)। ধরা যাক \(p>1\) এবং \((X_n)\) একটা martingale (বা অঋণাত্মক সাবমার্টিঙ্গেল) যেখানে প্রতিটি \(X_n\in L^p\)। তাহলে $$ \big\lVert X_n^*\big\rVert_p\;\le\;\frac{p}{\,p-1\,}\,\big\lVert X_n\big\rVert_p, \qquad\text{অর্থাৎ}\quad \mathbb E\Big[\big(\max_{k\le n}\lvert X_k\rvert\big)^p\Big]\le\Big(\frac{p}{p-1}\Big)^{p}\mathbb E\big[\lvert X_n\rvert^p\big]. $$

এর তাৎপর্য গভীর: running max-এর \(L^p\)-নর্ম কেবল শেষ-মানের \(L^p\)-নর্ম দিয়েই বাঁধা — একটা ধ্রুবক \(\frac{p}{p-1}\) গুণে, যা \(n\)-নিরপেক্ষ। অর্থাৎ "শেষে কোথায় আছি তা \(L^p\)-তে নিয়ন্ত্রিত থাকলে, পুরো পথের সর্বোচ্চও \(L^p\)-তে নিয়ন্ত্রিত"। প্রমাণ (§৪) ২.৩-এর maximal inequality ও layer-cake/Hölder-অসমতা (7.5) মিলিয়ে। লক্ষণীয় \(p=1\)-এ ধ্রুবক \(\frac{p}{p-1}\) বিস্ফোরিত হয় — তাই \(L^1\)-এ এমন সরল বাঁধ নেই (এ-কারণেই \(L^1\)-অভিসরণের জন্য আলাদা করে UI লাগে, ২.৫)। সবচেয়ে গুরুত্বপূর্ণ বিশেষ ক্ষেত্র \(p=2\) (ধ্রুবক \(2\)): \(\mathbb E[(X_n^*)^2]\le4\,\mathbb E[X_n^2]\) — যা ২.৭-এর \(L^2\)-অভিসরণের ও বহু concentration/SLLN-যুক্তির অপরিহার্য যন্ত্র।

এক বাক্যে। Doob's \(L^p\) inequality (\(p>1\)): \(\lVert X_n^*\rVert_p\le\frac{p}{p-1}\lVert X_n\rVert_p\) যেখানে running max \(X_n^*=\max_{k\le n}\lvert X_k\rvert\) — পুরো পথের সর্বোচ্চের \(L^p\)-নর্মকে কেবল শেষ-মানের নর্ম দিয়ে (\(n\)-নিরপেক্ষ ধ্রুবকে) বাঁধে (maximal + Hölder); \(p=1\)-এ ভেঙে পড়ে (তাই UI লাগে), আর \(p=2\)-এ \(\mathbb E[(X_n^*)^2]\le4\,\mathbb E[X_n^2]\) — \(L^2\)-অভিসরণ ও concentration-এর মূল যন্ত্র।

২.৫ uniform integrability — a.s. থেকে \(L^1\)-এ সেতু

২.২-এর সতর্কতা ছিল: a.s.-অভিসরণ \(L^1\)-অভিসরণ বোঝায় না, কারণ ভর সীমায় পালাতে পারে। ঠিক এই পলায়ন নিষেধ করে যে শর্ত, তা হলো uniform integrability।

সংজ্ঞা (uniform integrability)। random variable-গুলোর একটা পরিবার \(\{X_n\}\) uniformly integrable (UI — সমভাবে সমাকলনীয়) যদি $$ \lim_{K\to\infty}\ \sup_n\ \mathbb E\big[\lvert X_n\rvert\,\mathbf 1_{{\lvert X_n\rvert>K}}\big]\;=\;0. $$ অর্থাৎ বড়-মানের অবদান সমভাবে (পরিবারজুড়ে একসাথে) যত খুশি ছোট করা যায় — কোনো একক \(X_n\)-এ "ভারী লেজ" সীমাহীনভাবে বাড়ে না।

স্বজ্ঞা: একটা single integrable \(X\)-এর জন্য \(\mathbb E[\lvert X\rvert\mathbf 1_{\{\lvert X\rvert>K\}}]\to0\) এমনিতেই (DCT, 7.4)। UI কেবল দাবি করে এটি পুরো অনুক্রমজুড়ে একই হারে ঘটুক — কোনো \(X_n\) পিছিয়ে না-থাকুক। দুটো দরকারি যথেষ্ট-শর্ত (sufficient conditions), যা বাস্তবে UI যাচাই সহজ করে: (ক) কোনো \(p>1\)-তে \(\sup_n\mathbb E\lvert X_n\rvert^p<\infty\) (\(L^p\)-আবদ্ধতা) ⇒ UI; (খ) একটা single integrable \(Y\ge0\) যদি সবাইকে dominate করে (\(\lvert X_n\rvert\le Y\) a.s.) ⇒ UI। UI-এর মূল ভূমিকা Vitali convergence theorem (7.4-এর DCT-র সাধারণীকরণ): যদি \(X_n\to X_\infty\) a.s. (বা in probability) এবং \(\{X_n\}\) UI, তবে \(X_n\to X_\infty\) in \(L^1\) (\(\mathbb E\lvert X_n-X_\infty\rvert\to0\), তাই \(\mathbb E[X_n]\to\mathbb E[X_\infty]\)ও)। এটিই ২.৬-এর সেতু।

এক বাক্যে। একটা পরিবার \(\{X_n\}\) uniformly integrable (UI) যদি \(\sup_n\mathbb E[\lvert X_n\rvert\mathbf 1_{\{\lvert X_n\rvert>K\}}]\to0\) (\(K\to\infty\)) — বড়-মানের অবদান সমভাবে ছোট, কোনো একক ভর পালায় না; \(L^p\)-আবদ্ধতা (\(p>1\)) বা একটা integrable dominator UI-র যথেষ্ট-শর্ত, আর UI-ই (Vitali) a.s.-অভিসরণকে \(L^1\)-অভিসরণে উন্নীত করে।

২.৬ closed/Lévy martingale ও \(L^1\)-অভিসরণ

UI হাতে নিয়ে এখন martingale-অভিসরণের সবচেয়ে পূর্ণ রূপ — যেখানে কেবল সীমা থাকে না, সীমা-বস্তুর সুনির্দিষ্ট রূপও জানা যায়।

উপপাদ্য (UI martingale = closed martingale)। একটা martingale \((X_n)\)-এর জন্য নিচের তিনটি সমতুল্য: 1. \((X_n)\) uniformly integrable; 2. \(X_n\) \(L^1\)-তে অভিসারী — অর্থাৎ একটা \(X_\infty\in L^1\) আছে যেখানে \(\mathbb E\lvert X_n-X_\infty\rvert\to0\) (এবং তখন \(X_n\to X_\infty\) a.s.ও); 3. \((X_n)\) closed (আবদ্ধ) — কোনো \(Z\in L^1\) আছে যেখানে \(X_n=\mathbb E[Z\mid\mathcal F_n]\) সব \(n\)-তে; এবং তখন \(Z\)-কে \(X_\infty\) নেওয়া যায়, অর্থাৎ $$ \boxed{\;X_n=\mathbb E[X_\infty\mid\mathcal F_n]\;}\qquad(\text{একটা Doob martingale}). $$

স্বজ্ঞা: একটা UI martingale ঠিক ততটাই "ভালো আচরণ" করে যতটা একটা Doob martingale \(X_n=\mathbb E[Y\mid\mathcal F_n]\) (7.8) — আসলে এরা একই জিনিস। অর্থাৎ একটা closed martingale হলো একটা চূড়ান্ত লক্ষ্য \(X_\infty\) সম্পর্কে ক্রমবর্ধমান-তথ্যে আমাদের অনুমান, আর সেই অনুমান \(L^1\)-তে ও a.s.-তে চূড়ান্ত \(X_\infty\)-এ পৌঁছায় — "তথ্য জমলে অনুমান লক্ষ্যে থিতু হয়"। প্রমাণ-কঙ্কাল (§৪): (১⇒২) UI + Martingale Convergence Theorem (a.s.-সীমা) + Vitali (২.৫) দেয় \(L^1\)-অভিসরণ; (২⇒৩) \(L^1\)-অভিসরণ থেকে \(\mathbb E[X_\infty\mid\mathcal F_n]=\lim_{m}\mathbb E[X_m\mid\mathcal F_n]=X_n\) (conditional expectation \(L^1\)-অবিচ্ছিন্ন, tower); (৩⇒১) Doob martingale সবসময় UI (\(\{\mathbb E[Z\mid\mathcal F_n]\}\) UI — একটা single \(Z\)-এর শর্তাধীন প্রত্যাশা)। এই উপপাদ্যই ২.৯-এর Pólya urn (\(X_\infty\)-এর রূপ), Radon–Nikodym (density = closing variable), ও Bayes-প্রয়োগের প্রাণ।

এক বাক্যে। একটা martingale-এর জন্য UI ⇔ \(L^1\)-অভিসরণ ⇔ closed — অর্থাৎ UI martingale \(L^1\)-তে (ও a.s.) একটা \(X_\infty\)-তে অভিসারী এবং \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\) (একটা Doob martingale: চূড়ান্ত লক্ষ্য \(X_\infty\)-এর ক্রমবর্ধমান-তথ্যে অনুমান), যা Pólya urn/Radon–Nikodym/Bayes-প্রয়োগের প্রাণ।

২.৭ \(L^2\)-bounded martingale-এর \(L^2\)-অভিসরণ

\(L^2\)-জগতে (Hilbert space, 7.5) অভিসরণের ছবিটা সবচেয়ে পরিষ্কার ও সবচেয়ে শক্তিশালী — orthogonality-র কারণে।

উপপাদ্য (\(L^2\)-অভিসরণ)। \((X_n)\) একটা martingale যেখানে প্রতিটি \(X_n\in L^2\) এবং \(L^2\)-bounded, অর্থাৎ \(\sup_n\mathbb E[X_n^2]<\infty\)। তাহলে \(X_n\) একটা \(X_\infty\in L^2\)-তে a.s. এবং \(L^2\)-তে অভিসারী। তদুপরি increment-গুলো \(d_k:=X_k-X_{k-1}\) পরস্পর orthogonal, এবং $$ \mathbb E[X_n^2]\;=\;\mathbb E[X_0^2]+\sum_{k=1}^{n}\mathbb E[d_k^2]; \qquad L^2\text{-boundedness}\iff\sum_{k=1}^\infty\mathbb E[d_k^2]<\infty. $$

স্বজ্ঞা: একটা martingale-এর ধাপ-পার্থক্য \(d_k\)-গুলো \(L^2\)-অর্থে পরস্পর-লম্ব — কারণ \(\mathbb E[d_j d_k]=0\) যখন \(j<k\) (pull-out + martingale-ধর্ম: \(\mathbb E[d_jd_k]=\mathbb E[d_j\,\mathbb E[d_k\mid\mathcal F_{k-1}]]=0\), 7.7/7.8)। তাই Pythagoras-উপপাদ্যেই (7.5) মোট "শক্তি" \(\mathbb E[X_n^2]\) ধাপগুলোর শক্তির যোগফল, আর তা সসীম থাকা (\(\sum\mathbb E[d_k^2]<\infty\)) মানেই আংশিক-যোগফল \(X_n\) একটা Cauchy অনুক্রম \(L^2\)-তে — অর্থাৎ \(L^2\)-অভিসারী (completeness, 7.5)। একই সাথে \(L^2\)-bounded ⇒ \(L^1\)-bounded (Cauchy–Schwarz), তাই Martingale Convergence Theorem থেকে a.s.-সীমাও বিদ্যমান, এবং দুই সীমা মেলে। এটি SLLN-এর martingale-প্রমাণে ও stochastic-approximation/SGD-অভিসরণে (7.8) কেন্দ্রীয়, কারণ সেখানে noise ঠিক একটা orthogonal-increment martingale।

এক বাক্যে। একটা \(L^2\)-bounded (\(\sup_n\mathbb E[X_n^2]<\infty\)) martingale a.s. ও \(L^2\)-তে অভিসারী — কারণ increment \(d_k=X_k-X_{k-1}\) পরস্পর-orthogonal (\(\mathbb E[d_jd_k]=0\), \(j<k\)), তাই Pythagoras দিয়ে \(\mathbb E[X_n^2]=\mathbb E[X_0^2]+\sum\mathbb E[d_k^2]\) এবং \(L^2\)-boundedness \(\iff\sum\mathbb E[d_k^2]<\infty\iff\) \(L^2\)-Cauchy (SGD/SLLN-অভিসরণের যন্ত্র)।

২.৮ Lévy's upward theorem ও 0–1 law

closed-martingale তত্ত্বের (২.৬) সবচেয়ে সুদূরপ্রসারী ফল — একটা স্থির লক্ষ্যের ক্রমবর্ধমান-তথ্যে অনুমান কোথায় থিতু হয়, তার সুনির্দিষ্ট উত্তর।

উপপাদ্য (Lévy's upward theorem)। \(Y\in L^1\) এবং \((\mathcal F_n)\) একটা filtration, \(\mathcal F_\infty=\sigma\!\big(\bigcup_n\mathcal F_n\big)\)। তাহলে $$ \mathbb E[Y\mid\mathcal F_n]\;\xrightarrow{\;\text{a.s. ও }L^1\;}\;\mathbb E[Y\mid\mathcal F_\infty]\qquad(n\to\infty). $$

অর্থাৎ একটা লক্ষ্য \(Y\) সম্পর্কে আমাদের সেরা অনুমান, তথ্য \(\mathcal F_n\) যত জমে, ঠিক সেই অনুমানে পৌঁছায় যা সব তথ্য \(\mathcal F_\infty\) দিলে পাওয়া যেত — "যথেষ্ট তথ্য জমলে অনুমান চূড়ান্ত-তথ্যের অনুমানে থিতু হয়"। এটি ২.৬-এরই প্রয়োগ (\(X_n=\mathbb E[Y\mid\mathcal F_n]\) একটা UI/closed martingale, তার সীমা \(\mathbb E[Y\mid\mathcal F_\infty]\) — §৪)। এর একটা চমকপ্রদ, অত্যন্ত-উপযোগী ফল:

পরিণতি (Lévy's 0–1 law)। যেকোনো ঘটনা \(A\in\mathcal F_\infty\)-এর জন্য $$ \mathbb P(A\mid\mathcal F_n)\;=\;\mathbb E[\mathbf 1_A\mid\mathcal F_n]\;\xrightarrow{\;\text{a.s.}\;}\;\mathbf 1_A. $$ অর্থাৎ একটা \(\mathcal F_\infty\)-ঘটনার শর্তাধীন সম্ভাবনা, তথ্য জমার সাথে, a.s. \(0\) অথবা \(1\)-এ থিতু হয় — শেষমেশ আমরা নিশ্চিতভাবে জেনে যাই \(A\) ঘটেছে কি না।

এর একটা সরাসরি ফল হলো Kolmogorov-এর 0–1 law-এর (7.6) একটা অভিজাত পুনঃপ্রমাণ: একটা tail event \(A\) ভবিষ্যতের প্রতিটি \(\mathcal F_n\) থেকে স্বাধীন, তাই \(\mathbb P(A\mid\mathcal F_n)=\mathbb P(A)\) ধ্রুব; কিন্তু 0–1 law বলে এটি \(\mathbf 1_A\)-তে যায় — তাই \(\mathbb P(A)\in\{0,1\}\)। এই উপপাদ্য-জোড়াই (২.৯-এর) Bayesian consistency ও SLLN-প্রমাণের গভীরতম স্তর।

এক বাক্যে। Lévy's upward theorem \(\mathbb E[Y\mid\mathcal F_n]\to\mathbb E[Y\mid\mathcal F_\infty]\) (a.s. ও \(L^1\)) — "তথ্য জমলে অনুমান চূড়ান্ত-তথ্যের অনুমানে থিতু হয়" (closed-martingale তত্ত্বের সরাসরি ফল); এর পরিণতি Lévy's 0–1 law \(\mathbb P(A\mid\mathcal F_n)\to\mathbf 1_A\) (\(A\in\mathcal F_\infty\), শর্তাধীন সম্ভাবনা \(0\)/\(1\)-এ থিতু), যা Kolmogorov 0–1 law-কেও পুনঃপ্রমাণ করে।

২.৯ প্রয়োগের সম্ভার — SLLN, Pólya urn, branching, Radon–Nikodym, Bayes

সব যন্ত্র হাতে — এবার তাদের শক্তির মানচিত্র। প্রতিটি প্রয়োগে কাজ একটাই: প্রাসঙ্গিক প্রক্রিয়াটাকে একটা (বদ্ধ/UI/\(L^2\)) martingale হিসেবে চেনা, তারপর উপযুক্ত convergence-উপপাদ্য প্রয়োগ। নিচে বিবৃতি ও কোন যন্ত্র কাজ করছে তার ইঙ্গিত; পূর্ণ হিসাব §৩–৪।

• (ক) SLLN-এর martingale-প্রমাণ। \(\xi_1,\xi_2,\dots\) iid, \(\mathbb E\lvert\xi\rvert<\infty\), \(\mu=\mathbb E[\xi]\)। গড় \(\bar X_n=\frac1n\sum_{k\le n}\xi_k\)-কে একটা backwards martingale-কাঠামোয় (\(\mathcal G_n=\sigma(\bar X_n,\bar X_{n+1},\dots)\)) বসিয়ে convergence theorem দেয় \(\bar X_n\to\mu\) a.s. — 7.6-এর Strong Law of Large Numbers-এর একটা পরিচ্ছন্ন, কাঠামোগত পুনঃপ্রমাণ (যন্ত্র: backwards-martingale convergence + Kolmogorov/Hewitt–Savage 0–1 law)।
• (খ) Pólya urn — random limit। রঙ-অনুপাত \(X_n\) একটা \([0,1]\)-মানের martingale (7.8), তাই bounded ⇒ UI ⇒ closed: \(X_n\to X_\infty\) a.s. ও \(L^1\), এবং \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\)। চমক — \(X_\infty\) একটা Beta-বণ্টিত random variable (শুরুর লাল/সাদা গণনা = Beta-প্যারামিটার): চূড়ান্ত অনুপাত এলোমেলো, পথ-নির্ভর (যন্ত্র: bounded-martingale convergence + closed-form, ২.২/২.৬)। চিত্র 7-9-polya-urn এই Beta histogram দেখাবে।
• (গ) Galton–Watson branching। প্রতি ব্যক্তির গড় \(m=\mathbb E[\text{সন্তান}]\) (\(0<m<\infty\)); \(Z_n\) = \(n\)-তম প্রজন্মের আকার। স্বাভাবিকীকৃত প্রক্রিয়া \(W_n=Z_n/m^n\) একটা অঋণাত্মক martingale (\(\mathbb E[Z_{n+1}\mid\mathcal F_n]=m\,Z_n\) থেকে), তাই a.s. একটা সীমা \(W\ge0\)-তে অভিসারী (যন্ত্র: অঋণাত্মক-martingale corollary, ২.২)। \(m\le1\) হলে \(W=0\) a.s. (প্রায়-নিশ্চিত বিলুপ্তি); \(m>1\) ও মৃদু শর্তে \(\mathbb P(W>0)>0\) (supercritical বৃদ্ধি) — যেখানে \(L\log L\)/UI-শর্ত \(W\)-এর অ-অবক্ষয় (non-degeneracy) ঠিক করে।
• (ঘ) Radon–Nikodym martingale-পথে। দুটো measure \(\mathbb Q\ll\mathbb P\)-এর density \(\frac{d\mathbb Q}{d\mathbb P}\) (7.5) ক্রমশ-সূক্ষ্ম σ-algebra-অনুক্রম \((\mathcal F_n)\)-এ সীমাবদ্ধ density-গুলো \(X_n=\frac{d\mathbb Q}{d\mathbb P}\big\rvert_{\mathcal F_n}\) একটা অঋণাত্মক martingale; তাদের সীমা \(X_\infty\) ঠিক পূর্ণ density \(\frac{d\mathbb Q}{d\mathbb P}\big\rvert_{\mathcal F_\infty}\) — Radon–Nikodym derivative-এর একটা martingale-নির্মাণ (যন্ত্র: UI/closed-martingale, ২.৬; UI ঠিক \(\mathbb Q\ll\mathbb P\)-এ ভাঙে না)।
• (ঙ) Bayesian posterior consistency। প্যারামিটার \(\theta\)-র posterior \(\pi_n(\cdot)=\mathbb P(\theta\in\cdot\mid\mathcal F_n)\) একটা Lévy/Doob martingale \(\mathbb E[\mathbf 1_{\{\theta\in\cdot\}}\mid\mathcal F_n]\), তাই Lévy upward theorem (২.৮) দিয়ে \(\mathbb P(\theta\in\cdot\mid\mathcal F_n)\to\mathbb P(\theta\in\cdot\mid\mathcal F_\infty)\) — যথেষ্ট তথ্যে posterior সত্য \(\theta\)-তে কেন্দ্রীভূত হয় ("যথেষ্ট তথ্য পেলে Bayesian বিশ্বাস সত্যে পৌঁছায়"; যন্ত্র: Lévy upward + 0–1 law)।

এক বাক্যে। convergence-যন্ত্রের প্রয়োগ-সম্ভার — SLLN (backwards-martingale, \(\bar X_n\to\mu\) a.s.), Pólya urn (bounded martingale ⇒ Beta random limit, path-dependent), Galton–Watson branching (\(W_n=Z_n/m^n\) অঋণাত্মক martingale ⇒ a.s. সীমা \(W\), \(m\le1\)-এ বিলুপ্তি), Radon–Nikodym (UI/closed-martingale দিয়ে density-নির্মাণ), ও Bayesian consistency (posterior = Lévy martingale, Lévy upward দিয়ে সত্যে কেন্দ্রীভূত) — প্রতিটিতে \"(বদ্ধ/UI/\(L^2\)) martingale চেনা → উপপাদ্য প্রয়োগ\"।

---

৩ · পূর্ণাঙ্গ উদাহরণ

§১–২-এ martingale convergence (মার্টিঙ্গেল অভিসারণ)-এর গোটা স্থাপত্য গড়া হয়েছে — কেন্দ্রে upcrossing lemma (ঊর্ধ্ব-অতিক্রমণ উপপত্তি), যা গণনা করে একটা path দুটো স্তর \(a<b\)-এর মাঝে কতবার নিচ থেকে উপরে ওঠে (যদি এই গণনা সসীম থাকে, path দুলে-দুলে অসীমে আটকে থাকতে পারে না, তাই সীমা থাকে); তা থেকে martingale convergence theorem (অভিসারণ-উপপাদ্য) — \(L^1\)-পরিবদ্ধ (\(\sup_n\mathbb E\lvert X_n\rvert<\infty\)) যেকোনো (super/sub)martingale প্রায়-নিশ্চিতভাবে (almost surely) একটা সসীম সীমা \(X_\infty\)-তে অভিসারী; সঙ্গে Doob's maximal inequality (ডুবের চরম-অসমতা) \(\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\frac{\mathbb E[X_n^+]}{\lambda}\) (গোটা path-এর শিখরের উপর এক-লাইন বাঁধন) ও Doob's \(L^p\) inequality (\(L^p\)-অসমতা) \(\lVert\max_{k\le n}X_k\rVert_p\le\frac{p}{p-1}\lVert X_n\rVert_p\) (\(p>1\)); আর uniform integrability (অভিন্ন সমাকলনীয়তা, UI) — সেই বাড়তি শর্ত যা a.s.-অভিসারণকে \(L^1\)-অভিসারণে উন্নীত করে এবং martingale-কে closed (বদ্ধ) করে, অর্থাৎ একটা শেষ-প্রান্ত \(X_\infty\) এমনভাবে জোড়ে যে \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\)। এই অংশের উদ্দেশ্য সেই বিমূর্ত কাঠামোকে হাতে-কলমে, কংক্রিট সংখ্যা ও কংক্রিট সিমুলেশন দিয়ে ছুঁয়ে দেখা — Pólya-র কলস কীভাবে একটা পরিবদ্ধ martingale হয়ে এক এলোমেলো সীমায় থিতু হয় (অভিসারণ মানেই একটিমাত্র ধ্রুব মান নয়!), \(\sum\xi_i/i\) কীভাবে \(L^2\)-পরিবদ্ধতার জোরে a.s. ও \(L^2\) দুইভাবেই অভিসারী অথচ \(\sum\xi_i\) কেন নয়, Doob-এর চরম-অসমতা কীভাবে গোটা path-এর সর্বোচ্চ চূড়াকে এক ভগ্নাংশে বেঁধে দেয়, closed martingale \(\mathbb E[Y\mid\mathcal F_n]\) কীভাবে "পূর্ণ সত্য" \(Y\)-তে পৌঁছায়, Galton–Watson শাখায়ন কীভাবে \(W_n=Z_n/m^n\) martingale দিয়ে জনসংখ্যার ভাগ্য (বিলুপ্তি না বিস্ফোরণ) আগাম বলে, আর কীভাবে এই একটিমাত্র অভিসারণ-উপপাদ্য 7.6-এর মুকুটমণি SLLN-কে নতুন করে প্রমাণ করে। ছয়টি উদাহরণে প্রতিটি ধাপ ধৈর্য ধরে কষব — কোনো হিসাব লুকানো থাকবে না — তারপর প্রতিটির শেষে "কী শিখলাম" বলে মূল শিক্ষাটা গুটিয়ে আনব। কষ্টের স্তর শিরোনামে তারা দিয়ে চিহ্নিত: ★ = সরাসরি, সংজ্ঞা প্রয়োগ করলেই হয় · ★★ = কিছু কৌশল বা সতর্ক যুক্তি লাগে। প্রতিটি ইংরেজি পরিভাষা প্রথম ব্যবহারে বাংলায় খুলে দেওয়া হবে। সব সিমুলেশন একই বীজে (seed np.random.default_rng(20260619)) চালানো, যাতে সংখ্যাগুলো পুনরুৎপাদনযোগ্য থাকে।

---

উদাহরণ ১ — Pólya-র কলস: পরিবদ্ধ martingale, এলোমেলো সীমা (★★)

সেটআপ। Pólya-র কলস (Pólya urn) — সবচেয়ে সুন্দর martingale-উদাহরণগুলোর একটা। একটা কলসে শুরুতে \(1\)টি লাল ও \(1\)টি কালো বল। প্রতি ধাপে: এলোমেলোভাবে একটা বল তোলো, তার রং দেখো, সেই বলটা ফেরত দাও, আর সঙ্গে ঐ রঙেরই আরও একটা বল যোগ করো। ফলে যে রং একবার এগিয়ে যায়, পরের বার তা তোলার সম্ভাবনাও বাড়ে — একটা স্ব-প্রবলকারী (self-reinforcing) প্রক্রিয়া। \(n\) ধাপ পরে কলসে মোট \(n+2\)টি বল। ধরা যাক ঐ মুহূর্তে লাল বলের সংখ্যা \(L_n\), আর লাল-ভগ্নাংশ (red fraction) $$ R_n=\frac{L_n}{n+2}\qquad(L_0=1,\ R_0=\tfrac12). $$ filtration \(\mathcal F_n=\sigma(\text{প্রথম }n\text{ ধাপের সব ফল})\)। প্রশ্ন: \(R_n\) কি martingale, আর \(n\to\infty\)-এ এর কী হয়?

ধাপ ১ — কলস-হালনাগাদ লেখা। \(\mathcal F_n\)-এর শর্তে লাল-ভগ্নাংশ \(R_n=\frac{L_n}{n+2}\) জানা। পরের ধাপে দুটি ঘটনা: - লাল ওঠে (সম্ভাবনা \(\frac{L_n}{n+2}=R_n\)) ⇒ \(L_{n+1}=L_n+1\); - কালো ওঠে (সম্ভাবনা \(1-R_n\)) ⇒ \(L_{n+1}=L_n\)।

দুই ক্ষেত্রেই মোট বল \(n+3\)। তাই \(L_{n+1}\)-এর শর্তাধীন গড়: $$ \mathbb E[L_{n+1}\mid\mathcal F_n]=R_n\,(L_n+1)+(1-R_n)\,L_n=L_n+R_n. $$

ধাপ ২ — martingale-সমতা কষা। এবার \(R_{n+1}=\frac{L_{n+1}}{n+3}\), তাই linearity ও pull-out (হর \(n+3\) একটা \(\mathcal F_n\)-জানা ধ্রুবক) খাটিয়ে: $$ \mathbb E[R_{n+1}\mid\mathcal F_n]=\frac{\mathbb E[L_{n+1}\mid\mathcal F_n]}{n+3}=\frac{L_n+R_n}{n+3}. $$ এখন \(L_n=(n+2)R_n\) বসাই: $$ \frac{L_n+R_n}{n+3}=\frac{(n+2)R_n+R_n}{n+3}=\frac{(n+3)R_n}{n+3}=R_n. $$ $$ \boxed{\ \mathbb E[R_{n+1}\mid\mathcal F_n]=R_n.\ } $$ ঠিক \((n+2)R_n+R_n=(n+3)R_n\) — এই সরল বীজগণিতই গোটা ম্যাজিক: যোগ-হওয়া বল গড়ে লাল-ভগ্নাংশকে অটুট রাখে। \(R_n\) একটা martingale। (স্বজ্ঞা: তুমি যে রং বেশি দেখো তা যোগ করো বটে, কিন্তু ঠিক সেই অনুপাতেই বেশি দেখো — তাই গড়ে ভারসাম্য অবিচল।)

ধাপ ৩ — পরিবদ্ধতা ⇒ a.s. অভিসারণ। যেহেতু \(0\le L_n\le n+2\), পাই \(0\le R_n\le 1\) — অর্থাৎ \(R_n\) পরিবদ্ধ (bounded), তাই অবশ্যই \(L^1\)-পরিবদ্ধ (\(\mathbb E\lvert R_n\rvert\le 1\))। martingale convergence theorem এখনই বলে দেয়: $$ R_n\xrightarrow{\ \text{a.s.}\ } R_\infty,\qquad R_\infty\in[0,1]. $$ উপরন্তু পরিবদ্ধতা ⇒ uniform integrability ⇒ \(L^1\)-অভিসারণও (\(\mathbb E[R_\infty]=\mathbb E[R_0]=\tfrac12\))। সীমাটা আছে — নিশ্চিত। কিন্তু সীমাটা কী?

ধাপ ৪ — চমক: সীমা এলোমেলো, \(R_\infty\sim\text{Uniform}(0,1)\)। এখানেই Pólya-র কলস স্মরণীয়। সীমা \(R_\infty\) কোনো ধ্রুব সংখ্যা নয় (যেমন \(\tfrac12\) হতে পারত আশা) — বরং প্রতিটি কলসের জন্য আলাদা, এবং এর বণ্টন ঠিক \([0,1]\)-এর উপর সমবণ্টন (uniform distribution): $$ R_\infty\sim\text{Uniform}(0,1),\qquad \mathbb E[R_\infty]=\tfrac12,\ \operatorname{Var}(R_\infty)=\tfrac1{12}. $$ (কারণ স্কেচ: \(n\) ধাপ পরে লাল-সংখ্যার শর্তাধীন বণ্টন আসলে একটা Beta–Binomial, আর Beta\((1,1)=\)Uniform\((0,1)\) হলো এর "ভবিষ্যৎ-পক্ষ" prior — de Finetti-র বিনিময়যোগ্যতা থেকেও আসে।) অর্থাৎ স্ব-প্রবলকরণ প্রতিটি কলসকে একটা এলোমেলো কিন্তু স্থায়ী লাল-অনুপাতে আটকে দেয় — কোনো কলস ৮০% লালে, কোনোটা ১৫%-এ, আর সব অনুপাত সমান-সম্ভাব্য।

একটি কোডে দেখা। \(10{,}000\)টি স্বাধীন কলস, প্রতিটি \(n=2000\) ধাপ চালাই; শেষ \(R_n\)-এর গড়, std ও দশমাংশ-গণনা (decile counts) দেখি — uniform হলে দশটা ভাগে প্রায়-সমান (\(\approx1000\) করে) পড়বে:

import numpy as np
rng = np.random.default_rng(20260619)
urns, draws = 10_000, 2000
red, total = np.ones(urns), 2.0*np.ones(urns)   # শুরুতে 1 লাল, মোট 2
for _ in range(draws):
    p = red / total                              # লাল তোলার সম্ভাবনা
    drew_red = rng.random(urns) < p              # লাল উঠল?
    red   += drew_red                            # ঐ রঙের একটা যোগ
    total += 1.0
Rinf = red / total
print("mean =", round(Rinf.mean(), 4),  "(তত্ত্ব 0.5)")     # ≈ 0.5007
print("std  =", round(Rinf.std(),  4),  "(তত্ত্ব 0.2887)")  # ≈ 0.2853
counts, _ = np.histogram(Rinf, bins=np.linspace(0, 1, 11))
print("decile counts =", counts)                # ≈ প্রতিটি 1000

পরিমাণ	তত্ত্ব (\(\text{Uniform}(0,1)\))	সিমুলেশন (MC)
\(\mathbb E[R_\infty]\)	\(0.5\)	\(0.5007\)
\(\operatorname{std}(R_\infty)\)	\(1/\sqrt{12}=0.2887\)	\(0.2853\)
দশমাংশ-গণনা	প্রতিটি \(\approx1000\) (সমতল)	প্রতিটি bin \(\approx 1000\) (\(943\)–\(1075\) পরিসরে)

দশটা ভাগই প্রায়-সমান উচ্চতায় — কোনো শিখর নেই, কোনো গর্ত নেই: সীমা সত্যিই \([0,1]\)-জুড়ে সমবণ্টিত, \(\tfrac12\)-এ জমাট নয়।

কী শিখলাম। Pólya-র কলসে লাল-ভগ্নাংশ \(R_n\) একটা পরিবদ্ধ martingale (\(\mathbb E[R_{n+1}\mid\mathcal F_n]=R_n\), কারণ কলস-হালনাগাদে \((n+2)R_n+R_n=(n+3)R_n\)), তাই martingale convergence theorem-এ a.s. (ও \(L^1\)) অভিসারী \(R_n\to R_\infty\)। কিন্তু আসল শিক্ষা: সীমাটা এলোমেলো — \(R_\infty\sim\text{Uniform}(0,1)\) (sim mean \(0.5007\), std \(0.2853\), সমতল দশমাংশ), একটিমাত্র ধ্রুব মান নয়। স্বজ্ঞা: "almost-sure অভিসারণ" মানে প্রতিটি path থিতু হয়, কিন্তু কোথায় থিতু হবে তা path-ভেদে আলাদা random variable হতে পারে — অভিসারণ ≠ deterministic সীমা। এই পার্থক্যই martingale-তত্ত্বের সবচেয়ে সূক্ষ্ম পাঠ, আর de Finetti/বিনিময়যোগ্যতা ও Bayesian inference-এ random limit-এর ভূমিকার সরাসরি পূর্বাভাস (উদাহরণ ৪-এ ফিরবে)।

---

উদাহরণ ২ — \(L^2\)-martingale \(\sum\xi_i/i\) (★★)

সেটআপ। এবার একটা martingale যেখানে অভিসারণ শুধু a.s. নয়, \(L^2\)-অর্থেও। নাও iid \(\xi_1,\xi_2,\dots\) প্রতিটি সমান-সম্ভাবনায় \(\pm1\) (\(\mathbb E[\xi_i]=0\), \(\mathbb E[\xi_i^2]=1\)), আর গড়-ভারিত যোগফল $$ M_n=\sum_{i=1}^n\frac{\xi_i}{i}=\frac{\xi_1}{1}+\frac{\xi_2}{2}+\cdots+\frac{\xi_n}{n}. $$ \(\mathcal F_n=\sigma(\xi_1,\dots,\xi_n)\)। প্রতি পদ স্বাধীন, গড় \(0\), তাই \((M_n)\) একটা martingale (\(\mathbb E[M_{n+1}\mid\mathcal F_n]=M_n+\mathbb E[\xi_{n+1}/(n+1)\mid\mathcal F_n]=M_n+0\), ঠিক উদাহরণ-শৈলীর random-walk যুক্তি)। প্রশ্ন: \(n\to\infty\)-এ \(M_n\) কি কোথাও থিতু হয়?

ধাপ ১ — ভেদ হিসাব (স্বাধীনতার সুবিধা)। পদগুলো স্বাধীন ও গড়-শূন্য, তাই ভেদ যোগ হয় (variances add): $$ \operatorname{Var}(M_n)=\sum_{i=1}^n\operatorname{Var}!\Big(\frac{\xi_i}{i}\Big)=\sum_{i=1}^n\frac{\operatorname{Var}(\xi_i)}{i^2}=\sum_{i=1}^n\frac{1}{i^2}. $$ যেহেতু \(\mathbb E[M_n]=0\), পাই \(\mathbb E[M_n^2]=\operatorname{Var}(M_n)=\sum_{i\le n}1/i^2\)।

ধাপ ২ — \(L^2\)-পরিবদ্ধতা (Basel-যোগফল)। চাবি-পর্যবেক্ষণ: \(\sum_{i\ge1}1/i^2\) অভিসারী (বিখ্যাত Basel-যোগফল), তাই $$ \sup_n\mathbb E[M_n^2]=\sum_{i=1}^\infty\frac{1}{i^2}=\frac{\pi^2}{6}\approx1.6449\ <\ \infty. $$ $$ \boxed{\ \sup_n\mathbb E[M_n^2]=\tfrac{\pi^2}{6}<\infty\ \Rightarrow\ (M_n)\text{ বদ্ধ } L^2\text{-এ}.\ } $$ এখানে \(L^2\)-পরিবদ্ধতা (bounded in \(L^2\)) মানে \(\sup_n\lVert M_n\rVert_2<\infty\)।

ধাপ ৩ — a.s. ও \(L^2\) দুই অভিসারণ। দুই ধাপ: - \(L^2\subseteq L^1\) (সসীম পরিমাপে Cauchy–Schwarz/Jensen, \(\mathbb E\lvert M_n\rvert\le\lVert M_n\rVert_2\)), তাই \(L^2\)-পরিবদ্ধ ⇒ \(L^1\)-পরিবদ্ধ ⇒ martingale convergence theorem-এ \(M_n\to M_\infty\) a.s.। - \(L^2\)-পরিবদ্ধতা আরও দেয়: \(L^2\)-martingale-এর increment-গুলো লম্ব (orthogonal), তাই \(\mathbb E[M_n^2]=\sum_{i\le n}\mathbb E[(\Delta_i)^2]\) বৃদ্ধি-পেয়ে-সীমাবদ্ধ মানে \((M_n)\) একটা Cauchy in \(L^2\) অনুক্রম — তাই \(M_n\to M_\infty\) \(L^2\)-তেও (\(\mathbb E[(M_n-M_\infty)^2]\to0\))। (এটাই \(L^2\)-martingale convergence: \(\sup\mathbb E[M_n^2]<\infty\Rightarrow\) a.s. এবং \(L^2\) অভিসারণ।)

দুইভাবেই থিতু হয়, আর সীমার ভেদ \(\operatorname{Var}(M_\infty)=\pi^2/6\)।

ধাপ ৪ — বৈসাদৃশ্য: \(\sum\xi_i\) অভিসারী নয়। কেন ভারিত-যোগফল থিতু হয় অথচ সরল-যোগফল হয় না? নাও \(S_n=\sum_{i\le n}\xi_i\) (উদাহরণ-পরিচিত random walk, \(i=1\) ওজন)। এটিও martingale, কিন্তু $$ \operatorname{Var}(S_n)=\sum_{i=1}^n 1=n\ \to\ \infty, $$ তাই \(L^1\)- বা \(L^2\)-পরিবদ্ধ নয় — convergence theorem খাটে না, আর বাস্তবে \(S_n\) অসীমভাবে দোলে (\(\limsup S_n=+\infty\), \(\liminf S_n=-\infty\) a.s., recurrence)। পার্থক্যটা ঠিক \(1/i\) ওজনে: \(\sum 1/i^2<\infty\) (পরিবদ্ধ, থিতু) বনাম \(\sum 1=\infty\) (অপরিবদ্ধ, ভবঘুরে)। পরিবদ্ধতাই অভিসারণের শর্ত — martingale হওয়াই যথেষ্ট নয়।

একটি কোডে দেখা। \(M_n\) (\(n=2000\)) বহুবার চালিয়ে \(\operatorname{Var}(M_{2000})\) ও \(\mathbb E[M_{2000}]\) মাপি; তত্ত্ব \(\sum_{i\le2000}1/i^2\approx\pi^2/6\):

import numpy as np
rng = np.random.default_rng(20260619)
paths, N = 200_000, 2000
xi = rng.choice([-1, 1], size=(paths, N))
w  = 1.0 / np.arange(1, N+1)                  # 1/i ওজন
M  = (xi * w).sum(axis=1)                      # M_2000 = Σ ξ_i / i
print("E[M_2000]   =", round(M.mean(), 4))                  # ≈ 0
print("Var(M_2000) =", round(M.var(),  4),  "(তত্ত্ব π²/6 ≈ 1.6449)")  # ≈ 1.6459
print("Σ 1/i²      =", round((w**2).sum(), 4))              # ≈ 1.6444

পরিমাণ	তত্ত্ব	সিমুলেশন (MC)
\(\mathbb E[M_{2000}]\)	\(0\)	\(\approx0\)
\(\operatorname{Var}(M_{2000})\)	\(\sum_{i\le2000}1/i^2\to\pi^2/6\approx1.6449\)	\(1.6459\)

ভেদ \(\approx1.65\) — তত্ত্বের \(\pi^2/6\)-এর গায়ে, আর গড় \(\approx0\): \(M_n\) সত্যিই একটা সসীম-ভেদ random variable-এ থিতু হয় (অথচ \(S_n\)-এর ভেদ এতক্ষণে \(2000\) হয়ে অসীমে ছুটত)।

কী শিখলাম। \(M_n=\sum_{i\le n}\xi_i/i\) একটা martingale যার \(\operatorname{Var}(M_n)=\sum_{i\le n}1/i^2\le\pi^2/6\), তাই \(\sup_n\mathbb E[M_n^2]<\infty\) — অর্থাৎ \(L^2\)-পরিবদ্ধ (\(\subseteq L^1\)), ফলে \(M_n\to M_\infty\) a.s. এবং \(L^2\) দুইভাবেই (sim \(\operatorname{Var}=1.6459\approx\pi^2/6\))। স্বজ্ঞা: স্বাধীন গড়-শূন্য পদের যোগফল থিতু হয় ঠিক যখন তার ভেদ-যোগফল \(\sum\operatorname{Var}\) অভিসারী — \(1/i\) ওজনে তা \(\pi^2/6\)-এ থামে, কিন্তু ওজন \(1\) হলে (\(S_n=\sum\xi_i\)) ভেদ \(n\to\infty\), পরিবদ্ধতা ভাঙে, অভিসারণও ভাঙে। মূল পাঠ: martingale হওয়াই অভিসারণ আনে না — \(L^1\)/\(L^2\)-পরিবদ্ধতা লাগে; এই \(L^2\)-যুক্তি ঠিক three-series theorem (7.6) ও স্টোক্যাস্টিক-ইন্টিগ্রালের অভিসারণের গোড়া।

---

উদাহরণ ৩ — Doob-এর চরম-অসমতা হাতে (★)

সেটআপ। martingale convergence বলে path থিতু হয়, কিন্তু পথে সে কত উঁচুতে উঠতে পারে? Doob's maximal inequality (চরম-অসমতা) গোটা path-এর সর্বোচ্চ চূড়াকে এক লাইনে বাঁধে। নাও একটা অঋণাত্মক (nonnegative) martingale — গুণফল-প্রক্রিয়া $$ M_n=\prod_{i=1}^n(1+0.5\,\xi_i),\qquad \xi_i=\pm1\ \text{সমসম্ভাব্য},\ M_0=1. $$ প্রতি ধাপে \(M\) হয় \(\times1.5\) (যদি \(\xi=+1\)) নয়তো \(\times0.5\) (যদি \(\xi=-1\)) — সবসময় ধনাত্মক। প্রশ্ন: চলমান-সর্বোচ্চ \(\max_{k\le n}M_k\) কখনো \(\lambda=3\) ছোঁয়ার সম্ভাবনা কত বেশি হতে পারে?

ধাপ ১ — এটা সত্যিই martingale, \(\mathbb E[M_n]=1\)। প্রতি গুণক স্বাধীন ও গড় \(\mathbb E[1+0.5\xi_i]=1+0.5\cdot0=1\), তাই $$ \mathbb E[M_{n+1}\mid\mathcal F_n]=M_n\,\mathbb E[1+0.5\xi_{n+1}\mid\mathcal F_n]=M_n\cdot1=M_n, $$ (pull-out: \(M_n\) হলো \(\mathcal F_n\)-জানা; independence: \(\xi_{n+1}\perp\mathcal F_n\))। তাই \((M_n)\) martingale, আর tower-এ \(\mathbb E[M_n]=\mathbb E[M_0]=1\) সব \(n\)-তে। (এটি likelihood-ratio / wealth martingale-এর আদর্শ রূপ।)

ধাপ ২ — চরম-অসমতা প্রয়োগ। অঋণাত্মক (sub)martingale-এর জন্য Doob's maximal inequality: $$ \mathbb P\Big(\max_{k\le n}M_k\ge\lambda\Big)\ \le\ \frac{\mathbb E[M_n]}{\lambda}\qquad(\lambda>0). $$ এখানে \(\mathbb E[M_n]=1\) ও \(\lambda=3\), তাই $$ \boxed{\ \mathbb P\Big(\max_{k\le n}M_k\ge3\Big)\ \le\ \frac{1}{3}\approx0.3333.\ } $$ লক্ষণীয়: এটা একটা পদ \(M_n\ge3\)-এর নয়, গোটা path-এর সর্বোচ্চ চূড়ার উপর বাঁধন — যেকোনো সময়ে একবারও \(3\) ছুঁলেই গোনা হয়। তবু বাঁধন শুধু শেষ-প্রান্তের গড় \(\mathbb E[M_n]=1\) আর \(\lambda\)-এর উপর নির্ভর — চমৎকার সরল ও \(n\)-নিরপেক্ষ।

ধাপ ৩ — কেন এটা কাজ করে (এক-লাইন স্বজ্ঞা)। চিন্তা করো stopping time \(\tau=\inf\{k:M_k\ge\lambda\}\) — প্রথম যে মুহূর্তে চূড়া \(\lambda\) ছোঁয়। martingale optional-stopping যুক্তিতে যে-সব path \(\tau\le n\) মেনেছে, তাদের ঐ মুহূর্তে \(M_\tau\ge\lambda\); এই "চূড়া-ছোঁয়া ভর"-এর অবদান \(\mathbb E[M_n]\)-এ অন্তত \(\lambda\,\mathbb P(\max\ge\lambda)\), আর গোটা \(\mathbb E[M_n]=1\) তার চেয়ে কম নয় (অঋণাত্মকতা) — তাই \(\lambda\,\mathbb P\le\mathbb E[M_n]\), অর্থাৎ \(\mathbb P\le\mathbb E[M_n]/\lambda\)। (এটি Markov-অসমতার martingale-সংস্করণ, কিন্তু একটা মানের বদলে সমগ্র চলমান-সর্বোচ্চে।)

একটি কোডে দেখা। বহু path চালিয়ে \(\mathbb P(\max_{k\le n}M_k\ge3)\) মেপে অসমতা যাচাই করি (\(n=200\)):

import numpy as np
rng = np.random.default_rng(20260619)
paths, N, lam = 200_000, 200, 3.0
xi   = rng.choice([-1, 1], size=(paths, N))
fac  = 1.0 + 0.5*xi                          # প্রতি ধাপে ×1.5 বা ×0.5
M    = np.cumprod(fac, axis=1)               # M_1..M_N
runmax = M.max(axis=1)                        # চলমান-সর্বোচ্চ (≥ প্রতি path)
p_hit  = (runmax >= lam).mean()
print("P(max ≥ 3) =", round(p_hit, 4), " ≤ bound 1/3 =", round(1/lam, 4))
print("E[M_N]     =", round(M[:, -1].mean(), 4), " (তত্ত্ব 1)")   # তত্ত্বে 1, কিন্তু নমুনা-গড় ভারী ডান-skew-এ অনেক কম (≈0)

পরিমাণ	মান	Doob-বাঁধন
\(\mathbb P(\max_{k\le n}M_k\ge3)\)	\(0.2770\)	\(\le\frac{\mathbb E[M_n]}{\lambda}=\frac13\approx0.3333\)
\(\mathbb E[M_n]\) (তত্ত্ব)	\(1\) (নমুনা-গড় ডান-skew-এ অনেক কম)	—

সিমুলেশন \(0.2770\) — তত্ত্বের বাঁধন \(0.3333\)-এর নিচে, ঠিক যেমন হওয়ার কথা। (এই canonical মান \(0.2770\) আসে §5-এর পূর্ণ-pipeline lab থেকে যেখানে generator-টি Pólya→\(L^2\)→Doob ক্রমে টানা হয়; উপরের একক snippet-টি fresh generator থেকে টানলে \(\approx0.28\) দেয় — empirical মানটি সিমুলেশনের RNG draw-order-নির্ভর, কিন্তু দুটোই \(\le\frac13\), আর এই অসমতাটাই আসল কথা।) অসমতা সত্যি, আর "টাইট নয় কিন্তু সর্বজনীন" — কোনো বিতরণ-বিশদ ছাড়াই গোটা path-এর শিখর বাঁধা। খেয়াল করো: এই snippet-এ ছাপা \(\mathbb E[M_N]\) নমুনা-গড় তত্ত্বের \(1\) থেকে অনেক নিচে (প্রায় \(0\)) — কারণ গুণফল-martingale-টি ভীষণ ডান-skew (অল্প কিছু path বিশাল, অধিকাংশ \(0\)-র কাছে), তাই গড় এই বণ্টনের বাজে সারাংশ। ঠিক এ কারণেই Doob-এর অসমতা গড় নয়, গোটা path-এর চলমান-সর্বোচ্চকে বাঁধে — চূড়া-ছোঁয়ার সম্ভাবনাই এখানে অর্থবহ পরিমাণ, আর সেটিই তত্ত্বের \(\mathbb E[M_n]=1\) (গঠনগতভাবে) দিয়ে \(\le\frac{1}{\lambda}\) নিয়ন্ত্রিত হয়।

কী শিখলাম। অঋণাত্মক martingale \(M_n=\prod(1+0.5\xi_i)\) (\(\mathbb E[M_n]=1\))-এর গোটা path-এর সর্বোচ্চ চূড়া \(\lambda=3\) ছোঁয়ার সম্ভাবনা \(\le\frac{\mathbb E[M_n]}{\lambda}=\frac13\) (Doob's maximal inequality); sim \(\mathbb P(\max\ge3)=0.2770\le0.3333\)। স্বজ্ঞা: এটা Markov-অসমতার শক্তিশালী জ্ঞাতি — একটা মানের বদলে সমগ্র পথের চলমান-সর্বোচ্চকে এক লাইনে, \(n\)-নিরপেক্ষভাবে, কেবল \(\mathbb E[M_n]\) ও \(\lambda\) দিয়ে বাঁধে। এই maximal inequality-ই martingale convergence-এর প্রমাণে (path অসীমে লাফাতে পারে না) ও তার ভাই Doob's \(L^p\) inequality \(\lVert\max_{k\le n}M_k\rVert_p\le\frac{p}{p-1}\lVert M_n\rVert_p\)-তে (যা \(\sup_k M_k\)-কে \(L^p\)-তে নিয়ন্ত্রণ করে) সরাসরি কাজে লাগে — Doob-তত্ত্বের কর্মঘোড়া।

---

উদাহরণ ৪ — closed martingale \(\mathbb E[Y\mid\mathcal F_n]\to Y\) (★)

সেটআপ। 7.8-এর উদাহরণে দেখা গিয়েছিল যেকোনো integrable \(Y\)-এর জন্য \(X_n=\mathbb E[Y\mid\mathcal F_n]\) আপনাআপনি একটা Doob martingale ("\(Y\)-এর ধাপে-ধাপে উন্মোচন")। এবার তার ভাগ্য: এই উন্মোচন কি সত্যিই \(Y\)-তে গিয়ে শেষ হয়? ধরা যাক \(Y\) integrable (\(\mathbb E\lvert Y\rvert<\infty\)), filtration বর্ধমান, আর শেষ-σ-algebra $$ \mathcal F_\infty=\sigma\Big(\bigcup_{n}\mathcal F_n\Big)\quad\text{এমন যে }Y\text{ হলো }\mathcal F_\infty\text{-পরিমাপযোগ্য} $$ (অর্থাৎ "শেষমেশ সব তথ্য মিলিয়ে \(Y\) পুরোপুরি জানা যায়")। দাবি: \(X_n\to Y\)।

ধাপ ১ — uniform integrability (এই martingale-টা UI)। Doob martingale \(X_n=\mathbb E[Y\mid\mathcal F_n]\)-এর একটা বিশেষ সম্পত্তি: একটিমাত্র integrable \(Y\)-এর শর্তাধীন-প্রত্যাশা-পরিবার \(\{\mathbb E[Y\mid\mathcal G]:\mathcal G\text{ sub-}\sigma\text{-algebra}\}\) সবসময় uniformly integrable (UI) — $$ \sup_n\ \mathbb E\big[\lvert X_n\rvert\,\mathbf 1_{{\lvert X_n\rvert>K}}\big]\xrightarrow{K\to\infty}0, $$ কারণ conditional Jensen-এ \(\lvert X_n\rvert\le\mathbb E[\lvert Y\rvert\mid\mathcal F_n]\), আর একটিমাত্র integrable \(\lvert Y\rvert\)-এর লেজ সমভাবে ক্ষীণ। এই UI-ই হলো সেই বাড়তি শর্ত যা a.s. অভিসারণকে \(L^1\)-অভিসারণে উন্নীত করে।

ধাপ ২ — Lévy-র ঊর্ধ্ব-উপপাদ্য। যেহেতু \(X_n\) UI (তাই \(L^1\)-পরিবদ্ধও), martingale convergence theorem-এ \(X_n\to X_\infty\) a.s.; আর UI বলে অভিসারণ \(L^1\)-তেও। সীমাটা কী? Lévy's upward theorem (লেভির ঊর্ধ্ব-অভিসারণ-উপপাদ্য) ঠিক এর উত্তর দেয়: $$ \boxed{\ X_n=\mathbb E[Y\mid\mathcal F_n]\ \xrightarrow{\ \text{a.s. ও } L^1\ }\ \mathbb E[Y\mid\mathcal F_\infty]=Y.\ } $$ (শেষ সমতা কারণ \(Y\) ইতিমধ্যে \(\mathcal F_\infty\)-পরিমাপযোগ্য, তাই \(\mathbb E[Y\mid\mathcal F_\infty]=Y\)।) অর্থাৎ ধাপে-ধাপে অনুমান শুরু হয় \(\mathbb E[Y]\) থেকে (কিছুই জানা নেই) আর গিয়ে পৌঁছায় পূর্ণ সত্য \(Y\)-তে।

ধাপ ৩ — "closed" martingale-এর অর্থ। এমন martingale-কে বলে closed (বদ্ধ): একটা শেষ-প্রান্ত \(X_\infty=Y\) আছে এমনভাবে যে প্রতিটি \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\) — গোটা অনুক্রমটা একটিমাত্র শেষ random variable থেকে শর্তাধীন-প্রত্যাশায় উৎপন্ন। এটি UI-martingale-এর সমার্থক: martingale \((X_n)\) UI ⟺ এটি closed ⟺ এর একটা শেষ-প্রান্ত \(X_\infty\) আছে আর \(X_n\to X_\infty\) a.s. ও \(L^1\)। (বিপরীত — উদাহরণ ১-এর \(R_n\)-ও closed, শেষ-প্রান্ত random \(R_\infty\); কিন্তু উদাহরণ ২-এর \(S_n\) closed নয় — UI নয়, শেষ-প্রান্ত নেই।)

ধাপ ৪ — কংক্রিট দৃষ্টান্ত: ভগ্নাংশ-প্রকাশ অনুমান। নাও \(U\sim\text{Uniform}(0,1)\), আর তার দ্বিমিক-অঙ্ক (binary digits) \(b_1,b_2,\dots\) (\(U=\sum_k b_k2^{-k}\))। ধরা \(Y=U\), \(\mathcal F_n=\sigma(b_1,\dots,b_n)\) (প্রথম \(n\) অঙ্ক জানা)। তখন $$ X_n=\mathbb E[U\mid b_1,\dots,b_n]=\sum_{k=1}^n b_k2^{-k}+2^{-(n+1)} $$ — প্রথম \(n\) অঙ্ক স্থির রেখে বাকি অংশের গড় (মধ্যবিন্দু \(+2^{-(n+1)}\))। স্পষ্টতই \(n\to\infty\)-এ \(X_n\to\sum_k b_k2^{-k}=U=Y\) — অঙ্ক যত বেশি জানা যায়, \(U\)-এর অনুমান তত ধারালো, শেষমেশ ঠিক \(U\)। "তথ্য জমে পূর্ণ সত্যে পৌঁছায়।"

একটি কোডে দেখা। \(Y=U\), \(\mathcal F_n=\) প্রথম \(n\) দ্বিমিক-অঙ্ক; \(\mathbb E\lvert X_n-Y\rvert\to0\) (\(L^1\)-অভিসারণ) দেখি:

import numpy as np
rng = np.random.default_rng(20260619)
paths, N = 200_000, 20
U = rng.random(paths)
err = []
for n in range(1, N+1):
    Xn = np.floor(U * 2**n) / 2**n + 2.0**(-(n+1))   # E[U | প্রথম n অঙ্ক]
    err.append(np.abs(Xn - U).mean())
print("L1 error  n=1 :", round(err[0],  5))    # বড়
print("L1 error  n=10:", round(err[9],  6))    # ছোট
print("L1 error  n=20:", round(err[19], 8))    # ≈ 0  → X_n → Y

\(n\) (অঙ্ক জানা)	\(\mathbb E\lvert X_n-Y\rvert\) (\(L^1\)-ত্রুটি)
\(1\)	\(\approx 2^{-2}=0.25\)
\(10\)	\(\approx 2^{-11}\approx5\times10^{-4}\)
\(20\)	\(\approx 2^{-21}\approx0\)

ত্রুটি প্রতি অঙ্কে অর্ধেক হয়ে দ্রুত \(0\)-তে নামে — \(X_n=\mathbb E[Y\mid\mathcal F_n]\) সত্যিই \(L^1\)-তে (ও a.s.) পূর্ণ সত্য \(Y=U\)-তে অভিসারী।

কী শিখলাম। integrable \(Y\) (\(\mathcal F_\infty\)-পরিমাপযোগ্য)-এর Doob martingale \(X_n=\mathbb E[Y\mid\mathcal F_n]\) সবসময় UI, তাই closed, এবং \(X_n\to Y\) a.s. ও \(L^1\) (Lévy's upward theorem) — "তথ্য জমে পূর্ণ সত্যে পৌঁছায়"। স্বজ্ঞা: uniform integrability হলো সেই সূক্ষ্ম বাড়তি শর্ত যা নিছক a.s.-অভিসারণকে \(L^1\)-অভিসারণে উন্নীত করে এবং martingale-কে একটা শেষ-প্রান্ত \(X_\infty\)-তে "বদ্ধ" করে (\(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\)); UI-martingale ⟺ closed। এটিই Bayesian consistency-র গাণিতিক হৃদয় — তথ্য বাড়লে posterior সত্য-প্যারামিটারে গুটিয়ে আসে — এবং reverse-রূপে (উদাহরণ ৬) SLLN-এর martingale-প্রমাণের চাবি।

---

উদাহরণ ৫ — Galton–Watson শাখায়ন: বিলুপ্তি (★★)

সেটআপ। Galton–Watson শাখায়ন-প্রক্রিয়া (branching process) — একটা জনসংখ্যার বংশানুক্রম। শূন্য-প্রজন্মে \(Z_0=1\) ব্যক্তি; প্রতিটি ব্যক্তি স্বাধীনভাবে এলোমেলো-সংখ্যক সন্তান রাখে, একই সন্তান-বণ্টন (offspring distribution) থেকে, যার গড় \(m=\mathbb E[\text{সন্তান-সংখ্যা}]\)। \(Z_n=\) \(n\)-তম প্রজন্মের আকার, পুনরাবৃত্ত: $$ Z_{n+1}=\sum_{j=1}^{Z_n}\eta_{n,j},\qquad \eta_{n,j}\overset{iid}{\sim}\text{offspring},\ \mathbb E[\eta]=m. $$ \(\mathcal F_n=\sigma(\text{প্রথম }n\text{ প্রজন্ম})\)। গড়ে প্রতি প্রজন্ম \(m\)-গুণ বাড়ে, তাই স্বাভাবিকীকৃত (normalized) প্রক্রিয়া নিই: $$ W_n=\frac{Z_n}{m^n}. $$ প্রশ্ন: \(W_n\) কি martingale, আর জনসংখ্যার ভাগ্য (বিলুপ্তি না বিস্ফোরণ) সে কী বলে?

ধাপ ১ — \(W_n\) একটা অঋণাত্মক martingale। \(\mathcal F_n\)-এর শর্তে \(Z_n\) জানা, আর \(Z_{n+1}\) হলো \(Z_n\)টি iid সন্তান-সংখ্যার যোগফল, তাই $$ \mathbb E[Z_{n+1}\mid\mathcal F_n]=Z_n\cdot\mathbb E[\eta]=m\,Z_n\quad(\text{Wald-রূপ})। $$ ভাগ করি \(m^{n+1}\) দিয়ে: $$ \mathbb E[W_{n+1}\mid\mathcal F_n]=\frac{\mathbb E[Z_{n+1}\mid\mathcal F_n]}{m^{n+1}}=\frac{m\,Z_n}{m^{n+1}}=\frac{Z_n}{m^n}=W_n. $$ $$ \boxed{\ \mathbb E[W_{n+1}\mid\mathcal F_n]=W_n,\qquad W_n\ge0,\qquad \mathbb E[W_n]=\mathbb E[W_0]=1.\ } $$ \((W_n)\) একটা অঋণাত্মক martingale। (ঠিক \(m\) দিয়ে ভাগই গড়-বৃদ্ধি বাতিল করে ভারসাম্য আনে।)

ধাপ ২ — অঋণাত্মকতা ⇒ a.s. অভিসারণ। অঋণাত্মক martingale (বা supermartingale) সবসময় \(L^1\)-পরিবদ্ধ — কারণ \(\mathbb E\lvert W_n\rvert=\mathbb E[W_n]=1<\infty\) (অঋণাত্মকতায় \(\lvert W_n\rvert=W_n\))। martingale convergence theorem তাই বলে: $$ W_n\xrightarrow{\ \text{a.s.}\ }W,\qquad W\ge0. $$ সীমা \(W\) আছে — নিশ্চিত। কিন্তু \(W=0\) না \(W>0\)? — সেটাই জনসংখ্যার ভাগ্য, আর তা নির্ভর করে \(m\)-এর উপর।

ধাপ ৩ — তিন শাসন: \(m\)-ই ভাগ্য নির্ধারক। - অবক্রান্তিক/ক্রান্তিক (subcritical/critical), \(m\le1\): এখানে \(\mathbb E[Z_n]=m^n\le1\) থাকে আর জনসংখ্যা নিশ্চিতভাবে বিলুপ্ত — \(\mathbb P(Z_n\to0)=1\), তাই সীমা \(W=0\) a.s.। (এমনকি ঠিক \(m=1\)-এ — গড়ে স্থিতিশীল মনে হলেও — দোলা শেষমেশ \(0\)-তে নিয়ে যায়, যদি সন্তান-বণ্টন অধঃপতিত না হয়।) এখানে martingale-সীমা \(W\equiv0\), যদিও \(\mathbb E[W_n]=1\) সব \(n\)-তে — অর্থাৎ \(\mathbb E[W]=0\ne1=\lim\mathbb E[W_n]\), \(L^1\)-অভিসারণ ব্যর্থ, কারণ \(W_n\) এ-ক্ষেত্রে UI নয় ("ভর পালায়" \(\infty\)-তে — উদাহরণ ১-এর random limit বা 7.8-এর OST-ভঙ্গের জ্ঞাতি)। - অতিক্রান্তিক (supercritical), \(m>1\): তখন \(\mathbb P(W>0)>0\) — ধনাত্মক সম্ভাবনায় জনসংখ্যা বিস্ফোরিত হয় (\(Z_n\approx W\,m^n\) জ্যামিতিক হারে বাড়ে), যদিও তখনও একটা বিলুপ্তি-সম্ভাবনা \(q<1\) থাকে (\(q=\) সন্তান-জনন-অপেক্ষক \(f(s)=\mathbb E[s^\eta]\)-এর ক্ষুদ্রতম স্থিরবিন্দু)। বেঁচে গেলে \(W>0\), আর \(\{W>0\}=\{\text{কখনো বিলুপ্ত নয়}\}\) (a.s.)। (যদি অতিরিক্ত \(L\log L\)-শর্ত মেটে — Kesten–Stigum — তবে \(\mathbb E[W]=1\) ও \(\mathbb P(W>0)=1-q\)।)

অর্থাৎ একটিমাত্র সংখ্যা \(m\) ঠিক করে দেয় বংশ টিকবে না নিভে যাবে — আর martingale \(W_n\) সেই দীর্ঘমেয়াদি ভাগ্যকে \(W\)-এর মধ্যে ধরে রাখে।

একটি কোডে দেখা। Poisson-সন্তান (গড় \(m\)) দিয়ে দুই শাসন চালাই — অবক্রান্তিক \(m=0.8\) (বিলুপ্তি) ও অতিক্রান্তিক \(m=1.5\) (বেঁচে-থাকার ধনাত্মক সম্ভাবনা); বিলুপ্তি-ভগ্নাংশ মাপি:

import numpy as np
rng = np.random.default_rng(20260619)

def branch(m, gens=40, trials=20_000):
    extinct = 0
    for _ in range(trials):
        Z = 1
        for _ in range(gens):
            Z = rng.poisson(m * Z) if Z < 10**7 else Z   # Σ Poisson(m) = Poisson(mZ)
            if Z == 0:
                break
        extinct += (Z == 0)
    return extinct / trials

print("m=0.8 (subcritical): P(extinct) =", round(branch(0.8), 3))  # ≈ 1.0
print("m=1.5 (supercritical): P(extinct) =", round(branch(1.5), 3)) # < 1  (q≈0.417)

শাসন	\(m\)	\(\mathbb P(\text{বিলুপ্তি})\)	martingale-সীমা \(W\)
অবক্রান্তিক	\(0.8\)	\(\approx1\)	\(W=0\) a.s.
ক্রান্তিক	\(1\)	\(=1\)	\(W=0\) a.s.
অতিক্রান্তিক	\(1.5\)	\(q<1\ (\approx0.42)\)	\(\mathbb P(W>0)=1-q>0\)

\(m=0.8\)-এ প্রায় সব বংশ নিভে যায় (\(W=0\)); \(m=1.5\)-এ একটা ভগ্নাংশ (\(q\approx0.42\)) নিভলেও বাকিরা বিস্ফোরিত হয় (\(W>0\)) — ঠিক যেমন \(m\)-ভিত্তিক তত্ত্ব বলে।

কী শিখলাম। Galton–Watson শাখায়নে \(W_n=Z_n/m^n\) একটা অঋণাত্মক martingale (\(\mathbb E[W_n]=1\)), তাই \(L^1\)-পরিবদ্ধ, তাই \(W_n\to W\ge0\) a.s. স্বজ্ঞা: martingale-সীমা \(W\)-ই জনসংখ্যার দীর্ঘমেয়াদি ভাগ্য — \(m\le1\) (sub/critical) হলে নিশ্চিত বিলুপ্তি, \(W=0\); \(m>1\) (supercritical) হলে \(\mathbb P(W>0)>0\), সম্ভাব্য বিস্ফোরণ। সূক্ষ্ম পাঠ: \(m\le1\)-এ \(\mathbb E[W]=0\ne1=\lim\mathbb E[W_n]\) — a.s.-সীমা থাকা সত্ত্বেও \(L^1\)-অভিসারণ ভাঙে, কারণ \(W_n\) UI নয় (ভর \(\infty\)-তে পালায়, উদাহরণ ৪-এর UI-শর্তের বিপরীত দৃষ্টান্ত)। এই branching-martingale জনসংখ্যা-জীববিদ্যা, মহামারি-\(R_0\) ও পারমাণবিক শৃঙ্খল-বিক্রিয়ার গাণিতিক কঙ্কাল।

---

উদাহরণ ৬ — martingale দিয়ে SLLN (★★)

সেটআপ। দুই মুকুটমণি জোড়ার পালা। 7.6-এ strong law of large numbers (SLLN, বৃহৎ সংখ্যার দৃঢ় সূত্র) Etemadi-র truncation-কৌশলে প্রমাণিত হয়েছিল: iid \(X_1,X_2,\dots\) ও \(\mathbb E\lvert X\rvert<\infty\) হলে নমুনা-গড় \(\bar X_n=\frac1n\sum_{i\le n}X_i\to\mu=\mathbb E[X]\) a.s.। এখানে দেখাব martingale convergence ঠিক একই ফল কীভাবে — এবং প্রায়ই আরও মসৃণভাবে — পুনঃউৎপাদন করে, reverse martingale (বিপরীত martingale) কাঠামোয়।

ধাপ ১ — reverse martingale কী। সাধারণ filtration \(\mathcal F_n\) বাড়ে; এখানে উল্টো — একটা হ্রাসমান σ-algebra-শৃঙ্খল \(\mathcal G_1\supseteq\mathcal G_2\supseteq\cdots\) নিই, আর \((Y_n)\)-কে বলি reverse (বা backward) martingale যদি \(Y_n=\mathbb E[Y_1\mid\mathcal G_n]\), অর্থাৎ \(\mathbb E[Y_n\mid\mathcal G_{n+1}]=Y_{n+1}\) — তথ্য কমার দিকে martingale-সমতা। মূল তত্ত্ব: reverse martingale সবসময় a.s. ও \(L^1\) অভিসারী (এরা স্বয়ংক্রিয়ভাবে UI, কারণ একটিমাত্র \(Y_1\)-এর শর্তাধীন-প্রত্যাশা — উদাহরণ ৪-এর যুক্তি), সীমা \(Y_\infty=\mathbb E[Y_1\mid\mathcal G_\infty]\) যেখানে \(\mathcal G_\infty=\bigcap_n\mathcal G_n\)।

ধাপ ২ — \(\bar X_n\)-কে reverse martingale হিসেবে দেখা। এখানেই চাবি-নির্মাণ। নাও exchangeable σ-algebra $$ \mathcal G_n=\sigma\big(\bar X_n,\,X_{n+1},X_{n+2},\dots\big) $$ — "\(n\)-গড় ও তার পরের সব \(X\) জানা, কিন্তু প্রথম \(n\)টির ক্রম-পরিচয় হারানো"। iid-সমিতি (exchangeability) থেকে এক সুন্দর সত্য: প্রতিটি \(i\le n\)-এর জন্য \(\mathbb E[X_i\mid\mathcal G_n]=\bar X_n\) (সব প্রতিসম, তাই শর্তাধীন গড় ভাগ-করা গড়)। ফলে $$ \bar X_n=\mathbb E[X_1\mid\mathcal G_n], $$ আর \(\mathcal G_n\) হ্রাসমান — অর্থাৎ \((\bar X_n)\) একটা reverse martingale (\(Y_1=X_1\) নিয়ে)। (এই \(\mathbb E[X_1\mid\mathcal G_n]=\bar X_n\)-ই Hewitt–Savage/exchangeability-র মূল লেমা।)

ধাপ ৩ — অভিসারণ ও সীমা-চিহ্নিতকরণ। ধাপ ১-এ reverse martingale a.s. ও \(L^1\) অভিসারী, তাই $$ \bar X_n\xrightarrow{\ \text{a.s. ও } L^1\ }\ Y_\infty=\mathbb E[X_1\mid\mathcal G_\infty],\qquad \mathcal G_\infty=\bigcap_n\mathcal G_n. $$ এবার সীমা চিনি: \(\mathcal G_\infty\) হলো exchangeable σ-algebra, আর iid-এ Hewitt–Savage 0–1 law (7.6-এর Kolmogorov 0–1 law-এর জ্ঞাতি) বলে এটি তুচ্ছ (trivial) — প্রতিটি ঘটনা \(0\) বা \(1\)-সম্ভাব্য, তাই \(\mathcal G_\infty\)-পরিমাপযোগ্য যেকোনো random variable a.s. ধ্রুব। সুতরাং \(Y_\infty=\) ধ্রুবক \(=\mathbb E[Y_\infty]=\lim\mathbb E[\bar X_n]=\mu\) (\(L^1\)-অভিসারণে গড় টানা যায়)। মিলিয়ে: $$ \boxed{\ \bar X_n\xrightarrow{\ \text{a.s.}\ }\mu\quad(\text{SLLN, martingale-প্রমাণ}).\ } $$ দুই অংশ — reverse-martingale অভিসারণ (\(\to\) কোনো সীমা) + Hewitt–Savage 0–1 law (সীমা ধ্রুব) + \(L^1\) (ধ্রুব \(=\mu\)) — মিলে SLLN। (লক্ষ করো গঠনটা 7.6-এর Etemadi-প্রমাণের চেয়ে কত আলাদা পথে একই গন্তব্যে পৌঁছায়: সেখানে truncation+subsequence; এখানে exchangeability+0–1 law।)

ধাপ ৪ — কেন এই সেতু গুরুত্বপূর্ণ। এই প্রমাণ দুটো মুকুটমণিকে এক সুতোয় বাঁধে: convergence theorem (এই অধ্যায়) সরাসরি SLLN (7.6) দেয়, দেখিয়ে যে "গড় সত্যে থিতু হয়" ঘটনাটা আসলে একটা martingale-এর থিতু-হওয়া। উপরন্তু এটি বহুদূর সাধারণীকরণযোগ্য — exchangeable (অথচ স্বাধীন-নয়) অনুক্রমে reverse-martingale একই কায়দায় de Finetti-উপপাদ্য (random parameter-এ শর্তাধীন iid) ও ergodic-উপপাদ্যের দিকে পথ খোলে, যা stationary process-এর LLN। martingale-ভাষা তাই LLN-কে স্বাধীনতার সংকীর্ণ গণ্ডি ছাড়িয়ে নিয়ে যায়।

একটি কোডে দেখা। SLLN-এর a.s.-অভিসারণ চোখে দেখি — কয়েকটা \(\bar X_n\)-path (\(X\sim\) Exponential(গড় \(\mu=2\))) \(\mu\)-তে গুটিয়ে আসা, আর \(L^1\)-ত্রুটি \(\mathbb E\lvert\bar X_n-\mu\rvert\to0\):

import numpy as np
rng = np.random.default_rng(20260619)
mu, N, paths = 2.0, 5000, 50_000
X    = rng.exponential(mu, size=(paths, N))
barX = X.cumsum(axis=1) / np.arange(1, N+1)        # \bar X_n প্রতি n-এ
print("E|barX_10 - mu|   =", round(np.abs(barX[:,9]    - mu).mean(), 4))  # বড়
print("E|barX_1000 - mu| =", round(np.abs(barX[:,999]  - mu).mean(), 4))  # ছোট
print("E|barX_5000 - mu| =", round(np.abs(barX[:,4999] - mu).mean(), 4))  # → 0

\(n\)	\(\mathbb E\lvert\bar X_n-\mu\rvert\) (\(L^1\)-ত্রুটি)
\(10\)	\(\approx0.49\)
\(1000\)	\(\approx0.05\)
\(5000\)	\(\approx0.022\to0\)

ত্রুটি \(\sim\sigma/\sqrt n\) হারে \(0\)-তে নামে — প্রতিটি path \(\mu=2\)-তে থিতু হয় (a.s.), আর গড়-ত্রুটিও \(0\)-তে যায় (\(L^1\)): reverse-martingale অভিসারণের প্রত্যক্ষ ছাপ, ঠিক SLLN যা বলে।

কী শিখলাম। martingale convergence theorem সরাসরি SLLN (7.6) পুনঃপ্রমাণ করে — চাবি: নমুনা-গড় \(\bar X_n=\mathbb E[X_1\mid\mathcal G_n]\) একটা reverse (backward) martingale (হ্রাসমান exchangeable \(\mathcal G_n=\sigma(\bar X_n,X_{n+1},\dots)\)), যা স্বয়ংক্রিয়ভাবে UI ⇒ a.s. ও \(L^1\) অভিসারী; আর সীমা Hewitt–Savage 0–1 law-এ ধ্রুব, \(L^1\)-এ \(=\mu\) — তাই \(\bar X_n\to\mu\) a.s.। স্বজ্ঞা: "গড় সত্যে থিতু হওয়া" আসলে একটা martingale-এর থিতু-হওয়া; এই martingale-পথ Etemadi-truncation-পথের চেয়ে আলাদা অথচ একই গন্তব্যে, আর exchangeable-অনুক্রমে de Finetti ও stationary-অনুক্রমে ergodic theorem পর্যন্ত প্রসারিত হয়ে LLN-কে স্বাধীনতার বাইরে নিয়ে যায়। এই সেতুই Part VII-এর দুই মুকুটমণি — convergence ও law of large numbers — কে এক কাঠামোয় জোড়ে।

---

---

৪ · প্রমাণ ও উৎপাদন

এই অংশে §২-এর বিবৃতি থেকে অধ্যায়ের সব মূল ফল ধাপে ধাপে উৎপাদন (derive) করা হয়। গোটা তত্ত্বের একমাত্র ইঞ্জিন একটি — Doob's upcrossing lemma (ডুব-এর ঊর্ধ্বক্রমণ-উপপাদ্য); একে একবার পেলে martingale convergence theorem (মার্টিঙ্গেল-অভিসরণ-উপপাদ্য) প্রায় আপনাআপনি বেরোয়, আর একই betting-strategy (বাজি-কৌশল) ভাবনার অন্য মুখ দেয় Doob's maximal ও \(L^p\) inequalities (ডুব-এর সর্বোচ্চ ও \(L^p\) অসমতা)। শেষ দুই প্রমাণে এই যন্ত্র দিয়ে uniform integrability ⇒ \(L^1\)-convergence (সমান-সমাকলনীয়তা ⇒ \(L^1\)-অভিসরণ) ও closed/Lévy martingale (বদ্ধ মার্টিঙ্গেল) প্রতিষ্ঠা হয়, এবং একটি জীবন্ত প্রয়োগ — Pólya urn (পোলিয়া-কলস)-এর রঙ-অনুপাত-martingale — গোটা যন্ত্রটাকে কাজে দেখায়। প্রতিটি প্রমাণে কেন প্রতিটি পদক্ষেপ বৈধ — কোন সংজ্ঞা, কোন পূর্ববর্তী ফল (7.4-এর Fatou/DCT/MCT, 7.5-এর Hölder ও \(L^p\)-জ্যামিতি, 7.7-এর tower/pull-out/conditional Jensen, 7.8-এর martingale transform/optional stopping/stopped process), বা কোন বীজগাণিতিক অভেদ ব্যবহৃত হচ্ছে — তা স্পষ্ট করা হয়েছে। শিরোনামের কঠিনতা-চিহ্ন (difficulty tag):

• ★ — মৌলিক, প্রথম পাঠেই বোঝা উচিত।
• ★★ — মাঝারি, একটু কৌশল লাগে।
• ★★★ — গভীর, প্রথম পাঠে কিছু অংশ এড়িয়ে যাওয়া যায় (যথাস্থানে চিহ্নিত)।

স্মরণ — সংজ্ঞা ও সংকেত (§২ ও 7.8 থেকে)। গোটা অংশে \((\Omega,\mathcal F,\mathbb P)\) একটি probability space, \((\mathcal F_n)_{n\ge0}\) একটি filtration (তথ্যপ্রবাহ — \(\mathcal F_0\subseteq\mathcal F_1\subseteq\cdots\)), আর \((X_n)_{n\ge0}\) একটি adapted, integrable process। মনে রাখি — \((X_n)\) submartingale (সাব-মার্টিঙ্গেল) যদি \(\mathbb E[X_{n+1}\mid\mathcal F_n]\ge X_n\) a.s. (এখানে \(\mid\) সর্বদা conditioning, কখনোই \(\lvert\cdot\rvert\) নয়); supermartingale যদি \(\le\); martingale যদি \(=\)। একটি process \((H_n)_{n\ge1}\) predictable (পূর্বানুমেয়) যদি \(H_n\) হলো \(\mathcal F_{n-1}\)-measurable, আর martingale transform (মার্টিঙ্গেল রূপান্তর) হলো \((H\cdot X)_n=\sum_{k=1}^n H_k(X_k-X_{k-1})\)। দুটি সংকেত বারবার লাগবে: ধনাত্মক-অংশ \(x^+=\max(x,0)\) ও ঋণাত্মক-অংশ \(x^-=\max(-x,0)\) (তাই \(x=x^+-x^-\), \(\lvert x\rvert=x^++x^-\)); এবং চলমান-সর্বোচ্চ \(X_n^*=\max_{0\le k\le n}X_k\)।

এ-অংশের যুক্তি-শৃঙ্খল প্রায় একরৈখিক: প্রমাণ ১ (upcrossing lemma) গোটা convergence-তত্ত্বের ভিত্তি-ইট — এটি 7.8-এর martingale-transform-এর সরাসরি ফসল। প্রমাণ ২ (convergence theorem) ঠিক প্রমাণ ১ + 7.4-এর Fatou-এর সমন্বয়। প্রমাণ ৩ (maximal inequality) ও প্রমাণ ৪ (\(L^p\) inequality) একটি স্বাধীন কিন্তু সমান্তরাল সুতো — 7.8-এর optional stopping/stopped-process দিয়ে, আর প্রমাণ ৪ প্রমাণ ৩-এর উপর দাঁড়ায়। প্রমাণ ৫ (UI ⇒ \(L^1\)-convergence) প্রমাণ ২-কে 7.5-এর uniform-integrability-তত্ত্ব দিয়ে উন্নত করে, আর প্রমাণ ৬ (Pólya urn) প্রমাণ ২ ও ৫-এর সরাসরি প্রয়োগ। তাই প্রমাণ ১-ই কেন্দ্র।

---

প্রমাণ ১ — Doob's upcrossing lemma (★★★, the engine)

দাবি (upcrossing inequality)। ধরা যাক \((X_n)\) একটি submartingale এবং \(a<b\) দুটি বাস্তব সংখ্যা। সময় \(n\) পর্যন্ত \((X_k)\)-এর interval \([a,b]\)-এর upcrossing (ঊর্ধ্বক্রমণ — নিচে \(a\)-র তলায় থেকে উঠে \(b\)-র উপরে পৌঁছানো)-এর সংখ্যাকে \(U_n([a,b])\) বলি। তবে

\[ \mathbb E\bigl[U_n([a,b])\bigr]\ \le\ \frac{\mathbb E\bigl[(X_n-a)^+\bigr]}{b-a}. \]

স্বজ্ঞা: "নিচে কিনে উপরে বেচা" (buy-low-sell-high) একটি লাভজনক বাজি-কৌশল; কিন্তু ন্যায্য-এর-চেয়ে-ভালো খেলায় (submartingale) সঞ্চিত লাভের গড় শেষ মানের ধনাত্মক-অংশ দিয়ে আবদ্ধ — তাই দোলনের (upcrossing-এর) সংখ্যা গড়ে সীমিত। এই একটি অসমতাই 7.9-এর সব convergence-ফলের জনক।

ধাপ ০ — upcrossing-এর precise সংজ্ঞা (★, যত্ন করে)। stopping time-এর একটি পর্যায়ক্রমে সংজ্ঞা দিই। ধরি \(\sigma_1=\inf\{k\ge0:X_k\le a\}\) (প্রথমবার \(a\)-র তলায় নামা), তারপর \(\tau_1=\inf\{k\ge\sigma_1:X_k\ge b\}\) (তার পর প্রথমবার \(b\)-র উপরে ওঠা — একটি সম্পূর্ণ upcrossing); সাধারণভাবে \(j\ge2\)-এ \(\sigma_j=\inf\{k\ge\tau_{j-1}:X_k\le a\}\) ও \(\tau_j=\inf\{k\ge\sigma_j:X_k\ge b\}\) (প্রতিবার \(\inf\varnothing=\infty\))। তখন

\[ U_n([a,b])\ :=\ \max\{\,j\ge0:\ \tau_j\le n\,\} \]

— অর্থাৎ সময় \(n\)-এর মধ্যে কতবার "\(a\)-র তলা থেকে \(b\)-র উপরে" সম্পূর্ণ পাড়ি দেওয়া গেছে। প্রতিটি \(\sigma_j,\tau_j\) যে stopping time তা সরাসরি — যেমন \(\{\sigma_1\le k\}=\bigcup_{m\le k}\{X_m\le a\}\in\mathcal F_k\) (\(X\) adapted), আর পরেরগুলো আবেশে (induction) একইভাবে।

ধাপ ১ — "buy-low-sell-high" predictable কৌশল \(H_k\) গড়া (★★, মূল নির্মাণ)। এবার \(\{0,1\}\)-মানের একটি বাজি-প্রক্রিয়া সংজ্ঞা দিই যা ঠিক upcrossing-গুলোকে "ধরে":

\[ H_k\ :=\ \begin{cases}1 & \text{যদি কোনো }j\text{-তে }\sigma_j<k\le\tau_j,\\[2pt]0 & \text{অন্যথায়,}\end{cases} \qquad(k\ge1). \]

কথায়: "প্রথম যখন \(X\) \(a\)-র তলায় নামল, পরের ধাপ থেকে এক-একক কিনে রাখো (\(H=1\)); যতক্ষণ না \(b\) ছুঁই ততক্ষণ ধরে রাখো; \(b\) ছোঁয়ামাত্র বেচে দাও (\(H=0\)); আবার \(a\)-র তলায় নামা পর্যন্ত অপেক্ষা করো।" এটি ঠিক "নিচে কিনে উপরে বেচা"।

\(H\) predictable — অর্থাৎ \(H_k\) \(\mathcal F_{k-1}\)-measurable (এটিই martingale-transform প্রয়োগের অপরিহার্য শর্ত): লক্ষ করি, "\(k\)-তম ধাপে কিনে রাখা আছি কিনা" সিদ্ধান্ত কেবল \(k-1\) পর্যন্ত পথ দেখে নেওয়া যায় — গণিতে,

\[ \{H_k=1\}\ =\ \bigcup_{j\ge1}\bigl(\{\sigma_j\le k-1\}\setminus\{\tau_j\le k-1\}\bigr), \]

কারণ "\(\sigma_j<k\)" মানে "\(\sigma_j\le k-1\)" আর "\(\tau_j\ge k\)" মানে "\(\tau_j\le k-1\) নয়"; দুটো ঘটনাই \(\mathcal F_{k-1}\)-এ আছে (\(\sigma_j,\tau_j\) stopping time)। তাই \(\{H_k=1\}\in\mathcal F_{k-1}\), অর্থাৎ \(H\) predictable ও স্পষ্টতই \(0\le H_k\le1\) (bounded)। ✓

ধাপ ২ — কেন্দ্রীয় path-wise অসমতা: \((H\cdot X)_n\ge(b-a)U_n-(X_n-a)^-\) (★★, জ্যামিতি)। এখন এই কৌশলের সঞ্চিত লাভ \((H\cdot X)_n=\sum_{k=1}^n H_k(X_k-X_{k-1})\) গণনা করি — প্রতিটি \(\omega\)-তে আলাদাভাবে (এটি বিশুদ্ধ বীজগণিত, কোনো প্রত্যাশা নয়)। যেহেতু \(H\) কেবল \((\sigma_j,\tau_j]\)-অন্তরালগুলোয় \(1\), যোগফল ভেঙে যায় ওই অন্তরালগুলোর telescoping-যোগে:

\[ (H\cdot X)_n\ =\ \sum_{j}\bigl(X_{\tau_j\wedge n}-X_{\sigma_j\wedge n}\bigr), \]

যেখানে যোগ সেইসব \(j\)-এ যাদের \(\sigma_j\le n\) (অর্থাৎ যে upcrossing-গুলো সময় \(n\)-এর মধ্যে অন্তত শুরু হয়েছে)। দুই দলে ভাগি:

• সম্পূর্ণ upcrossing (\(\tau_j\le n\), সংখ্যায় ঠিক \(U_n\)-টি): এদের প্রত্যেকটিতে \(X_{\sigma_j}\le a\) ও \(X_{\tau_j}\ge b\), তাই \(X_{\tau_j}-X_{\sigma_j}\ge b-a\)। মোট অবদান \(\ge(b-a)U_n\)।
• শেষ, অসম্পূর্ণ upcrossing (সর্বোচ্চ একটি — যেখানে \(\sigma_j\le n<\tau_j\), অর্থাৎ কেনা শুরু হয়েছে কিন্তু \(b\) এখনো ছোঁয়নি): এর অবদান \(X_n-X_{\sigma_j}\ge X_n-a\) (যেহেতু \(X_{\sigma_j}\le a\))। কিন্তু \(X_n-a\) ঋণাত্মক হতে পারে, তাই নিরাপদ নিম্নসীমা \(X_n-X_{\sigma_j}\ge X_n-a\ge-(X_n-a)^-\) (কারণ যেকোনো \(x\)-এ \(x\ge-x^-\))।

দুই দল যোগ করে (এবং কোনো অসম্পূর্ণ upcrossing না-থাকলে দ্বিতীয় পদ \(0\), যা \(\ge-(X_n-a)^-\)-ও বটে):

\[ \boxed{\,(H\cdot X)_n\ \ge\ (b-a)\,U_n([a,b])\ -\ (X_n-a)^-\,}\qquad\text{প্রতি }\omega. \]

ধাপ ৩ — প্রত্যাশা নেওয়া ও 7.8-এর transform-সীমা (★★, সমাপ্তি)। এবার দুই পাশে প্রত্যাশা নিই। বাঁ পাশের জন্য একটি মূল fact দরকার: submartingale-কে \(0\le H\le1\) predictable দিয়ে transform করলে \(\mathbb E[(H\cdot X)_n]\le\mathbb E[X_n-X_0]\)। কারণ — পরিপূরক বাজি \(1-H_k\)-ও predictable ও \(0\le1-H_k\le1\), আর

\[ \mathbb E\bigl[(H\cdot X)_n-(H\cdot X)_{n-1}\mid\mathcal F_{n-1}\bigr]=H_n\,\underbrace{\mathbb E[X_n-X_{n-1}\mid\mathcal F_{n-1}]}_{\ge0\ (\text{submartingale})}\ \ge0, \]

(এখানে \(H_n\) \(\mathcal F_{n-1}\)-measurable বলে 7.7-এর pull-out দিয়ে বের করে আনা গেল; এটিই 7.8-এর martingale-transform-যুক্তির submartingale-সংস্করণ); একইভাবে \((\mathbf 1\cdot X)_n=X_n-X_0\)-এর সঙ্গে তুলনা করে \(\mathbb E[((\mathbf 1-H)\cdot X)_n]\ge0\), অর্থাৎ \(\mathbb E[(H\cdot X)_n]\le\mathbb E[(\mathbf 1\cdot X)_n]=\mathbb E[X_n-X_0]\)। ধাপ ২-এর boxed-অসমতায় প্রত্যাশা নিয়ে:

\[ \mathbb E[X_n-X_0]\ \ge\ \mathbb E[(H\cdot X)_n]\ \ge\ (b-a)\,\mathbb E[U_n]\ -\ \mathbb E[(X_n-a)^-]. \]

সাজিয়ে \((b-a)\mathbb E[U_n]\le\mathbb E[X_n-X_0]+\mathbb E[(X_n-a)^-]\)। শেষ ধাপ — ডান পাশকে শুধু \(\mathbb E[(X_n-a)^+]\)-এ পরিণত করা। লক্ষ করি, একই কৌশল \(X\)-এর বদলে \(\tilde X_k=(X_k-a)^+\)-তে প্রয়োগ করলে যুক্তিটা পরিচ্ছন্নতম হয়: \(\varphi(x)=(x-a)^+\) convex ও অ-হ্রাসমান, তাই 7.7-এর conditional Jensen দিয়ে \((\tilde X_k)\)-ও একটি (অঋণাত্মক) submartingale, আর \(\tilde X\)-এর \([0,b-a]\)-upcrossing সংখ্যা ঠিক \(X\)-এর \([a,b]\)-upcrossing সংখ্যা। \(\tilde X_0=(X_0-a)^+\ge0\) ও \((\tilde X_n-0)^-=0\) বসিয়ে সরাসরি

\[ (b-a)\,\mathbb E[U_n([a,b])]\ \le\ \mathbb E[\tilde X_n]-\mathbb E[\tilde X_0]\ \le\ \mathbb E[\tilde X_n]=\mathbb E[(X_n-a)^+], \]

অর্থাৎ \(\mathbb E[U_n([a,b])]\le\dfrac{\mathbb E[(X_n-a)^+]}{b-a}\)। \(\blacksquare\)

এক বাক্যে: "নিচে \(a\)-র তলায় কিনে উপরে \(b\)-তে বেচা" predictable \(\{0,1\}\)-কৌশল \(H\)-এর সঞ্চিত লাভ প্রতি-পথে \((H\cdot X)_n\ge(b-a)U_n-(X_n-a)^-\), আর submartingale-এ \(0\le H\le1\) transform-এর গড় \(\le\mathbb E[X_n-X_0]\) (7.8-এর pull-out-যুক্তি) — দুই মিলিয়ে \(\mathbb E[U_n([a,b])]\le\mathbb E[(X_n-a)^+]/(b-a)\), যা গোটা convergence-তত্ত্বের ইঞ্জিন।

---

প্রমাণ ২ — Martingale Convergence Theorem (★★★)

দাবি (Doob's forward convergence theorem)। ধরা যাক \((X_n)\) একটি submartingale (বিশেষত martingale) যার \(\sup_n\mathbb E\lvert X_n\rvert<\infty\) (\(L^1\)-bounded)। তবে একটি random variable \(X_\infty\in L^1\) আছে যাতে

\[ X_n\ \xrightarrow{\ \text{a.s.}\ }\ X_\infty,\qquad \mathbb E\lvert X_\infty\rvert\ \le\ \sup_n\mathbb E\lvert X_n\rvert\ <\ \infty. \]

(উদাহরণ: \(L^1\)-bounded martingale; বা অঋণাত্মক supermartingale \(X_n\ge0\) — তখন \(\mathbb E\lvert X_n\rvert=\mathbb E[X_n]\le\mathbb E[X_0]<\infty\) স্বয়ংক্রিয়, কারণ supermartingale-এ গড় অ-বর্ধমান।)

ধাপ ১ — প্রতিটি মূলদ জোড়ায় upcrossing সসীম (★★)। স্থির মূলদ (rational) \(a<b\) নিই। প্রমাণ ১ দেয় প্রতিটি \(n\)-এ

\[ \mathbb E[U_n([a,b])]\ \le\ \frac{\mathbb E[(X_n-a)^+]}{b-a}\ \le\ \frac{\mathbb E[\lvert X_n\rvert]+\lvert a\rvert}{b-a}\ \le\ \frac{\sup_m\mathbb E\lvert X_m\rvert+\lvert a\rvert}{b-a}\ =:\ C_{a,b}<\infty, \]

যেখানে মাঝের ধাপে \((x-a)^+\le\lvert x\rvert+\lvert a\rvert\) এবং শেষে \(L^1\)-boundedness ব্যবহৃত — সীমা \(C_{a,b}\) \(n\)-নিরপেক্ষ। এখন \(n\uparrow\)-এ \(U_n([a,b])\uparrow U_\infty([a,b]):=\lim_n U_n\) (upcrossing-সংখ্যা অ-হ্রাসমান), তাই 7.4-এর MCT (বা monotone-limit) দেয়

\[ \mathbb E[U_\infty([a,b])]\ =\ \lim_n\mathbb E[U_n([a,b])]\ \le\ C_{a,b}\ <\ \infty. \]

সসীম প্রত্যাশা মানে \(U_\infty([a,b])<\infty\) a.s. — অর্থাৎ একটি \(\mathbb P\)-null set \(N_{a,b}\) বাদে interval \([a,b]\) মাত্র সসীমবার অতিক্রান্ত হয়।

ধাপ ২ — সব মূলদ জোড়ায় একসঙ্গে, তারপর liminf = limsup (★★, কেন্দ্রীয় চাল)। এখন গণনা করি — কোন \(\omega\)-তে \(\lim_n X_n(\omega)\) থাকে না? ঠিক তখনই, যখন

\[ \liminf_n X_n(\omega)\ <\ \limsup_n X_n(\omega). \]

কিন্তু দুই বাস্তব সংখ্যার মাঝে সর্বদা একটি মূলদ জোড়া বসানো যায়: \(\liminf X_n<a<b<\limsup X_n\) এমন \(a,b\in\mathbb Q\) আছে। আর ঠিক এই ঘটনাতেই \(X_n\) অসীমবার \(a\)-র তলায় নামে ও \(b\)-র উপরে ওঠে — অর্থাৎ \(U_\infty([a,b])=\infty\)। তাই

\[ \Bigl\{\,\lim_n X_n\ \text{থাকে না}\,\Bigr\}\ =\ \bigcup_{\substack{a<b\\ a,b\in\mathbb Q}}\bigl\{\liminf X_n<a<b<\limsup X_n\bigr\}\ \subseteq\ \bigcup_{\substack{a<b\\ a,b\in\mathbb Q}}\bigl\{U_\infty([a,b])=\infty\bigr\}. \]

ডান পাশ একটি গণনাযোগ্য (countable) সংযোগ (মূলদ জোড়া গণনাযোগ্য), আর ধাপ ১ বলে প্রতিটি সদস্যের সম্ভাবনা \(0\); তাই গণনাযোগ্য subadditivity-তে গোটা সংযোগেরও সম্ভাবনা \(0\):

\[ \mathbb P\Bigl(\lim_n X_n\ \text{থাকে না}\Bigr)\ \le\ \sum_{a<b,\ a,b\in\mathbb Q}\mathbb P\bigl(U_\infty([a,b])=\infty\bigr)\ =\ 0. \]

(এখানেই "মূলদ" অপরিহার্য — অগণনীয় হলে এই subadditivity-ধাপ ভেঙে পড়ত।) সুতরাং a.s. \(\liminf X_n=\limsup X_n\), অর্থাৎ একটি সীমা \(X_\infty:=\lim_n X_n\in[-\infty,+\infty]\) a.s. বিদ্যমান।

ধাপ ৩ — \(X_\infty\) সসীম ও integrable: Fatou (★★)। এখন দেখাই \(X_\infty\in L^1\) (এবং তাই a.s. সসীম)। সীমা ও পরম-মান নিলে \(\lvert X_\infty\rvert=\lim_n\lvert X_n\rvert=\liminf_n\lvert X_n\rvert\) a.s. (যেখানে সীমা থাকে)। \(\lvert X_n\rvert\ge0\) — তাই 7.4-এর Fatou's lemma সরাসরি প্রয়োগযোগ্য:

\[ \mathbb E\lvert X_\infty\rvert\ =\ \mathbb E\bigl[\liminf_n\lvert X_n\rvert\bigr]\ \overset{\text{Fatou}}{\le}\ \liminf_n\mathbb E\lvert X_n\rvert\ \le\ \sup_n\mathbb E\lvert X_n\rvert\ <\ \infty. \]

সুতরাং \(\mathbb E\lvert X_\infty\rvert<\infty\), অর্থাৎ \(X_\infty\in L^1\) এবং বিশেষত \(\lvert X_\infty\rvert<\infty\) a.s. — সীমাটা একটা সদর্থ সসীম random variable। \(\blacksquare\)

এক বাক্যে: প্রতিটি মূলদ \(a<b\)-তে upcrossing-lemma + \(L^1\)-boundedness দেয় \(\mathbb E[U_\infty([a,b])]<\infty\) ⇒ \(U_\infty<\infty\) a.s.; "\(\lim X_n\) নেই" মানে কোনো মূলদ জোড়ায় অসীম upcrossing, যার সম্ভাবনা গণনাযোগ্য-সংযোগে \(0\) — তাই \(\liminf=\limsup\) a.s., সীমা \(X_\infty\) থাকে, আর Fatou (7.4) দেয় \(\mathbb E\lvert X_\infty\rvert\le\sup_n\mathbb E\lvert X_n\rvert<\infty\)।

টীকা — supermartingale ও যে সাবধানতা থেকে যায় (★★)। দাবিটি যেকোনো \(L^1\)-bounded submartingale-এ খাটে, তাই সাইন উল্টে supermartingale-এও (যেমন অঋণাত্মক supermartingale, যেখানে \(L^1\)-boundedness আপনাআপনি)। কিন্তু একটি সূক্ষ্ম বিষয় খেয়াল রাখা জরুরি: এই উপপাদ্য কেবল a.s.-অভিসরণ দেয় — \(\mathbb E[X_n]\to\mathbb E[X_\infty]\) বা \(\mathbb E\lvert X_n-X_\infty\rvert\to0\) (\(L^1\)-অভিসরণ) নয়। ধ্রুপদী পাল্টা-উদাহরণ: \(X_n=\prod_{k\le n}\eta_k\) যেখানে \(\eta_k\) iid, \(\mathbb P(\eta_k=0)=\mathbb P(\eta_k=2)=\tfrac12\) — এটি একটি অঋণাত্মক martingale (\(\mathbb E[\eta]=1\)) তাই \(\mathbb E[X_n]=1\) ধ্রুব, অথচ a.s. একবার \(\eta_k=0\) এলে চিরতরে \(0\), তাই \(X_n\to X_\infty=0\) a.s. — সীমার গড় \(0\ne1\)। অর্থাৎ "ভর পালিয়ে যায়", আর a.s.-সীমার গড় শুরুর গড়ের চেয়ে কম হতে পারে। ঠিক এই ফাঁকটাই প্রমাণ ৫-এর uniform integrability-শর্ত বন্ধ করে — UI থাকলে আর শুধু থাকলে a.s.-সীমা \(L^1\)-সীমাও হয় ও গড় সংরক্ষিত থাকে।

---

প্রমাণ ৩ — Doob's maximal inequality (★★)

দাবি (maximal inequality)। ধরা যাক \((X_n)\) একটি অঋণাত্মক submartingale (\(X_n\ge0\); সাধারণ submartingale-এ \(X^+\) নিলেই হয়, কারণ conditional Jensen-এ \(X^+\) submartingale)। যেকোনো \(\lambda>0\)-তে, \(X_n^*=\max_{0\le k\le n}X_k\) লিখলে

\[ \lambda\,\mathbb P\bigl(X_n^*\ge\lambda\bigr)\ \le\ \mathbb E\bigl[X_n\,\mathbf 1_{\{X_n^*\ge\lambda\}}\bigr]\ \le\ \mathbb E[X_n]. \]

স্বজ্ঞা: চলমান-সর্বোচ্চ \(X_n^*\) একটি বড় উচ্চতা \(\lambda\) ছোঁয়ার সম্ভাবনা শেষ মান \(X_n\)-এর গড় দিয়ে নিয়ন্ত্রিত — submartingale "উপরে উঠলে আর সহজে নামে না" বলেই এই Markov-ধাঁচের কিন্তু অনেক শক্তিশালী বাউন্ড।

ধাপ ১ — প্রথমবার \(\lambda\) ছোঁয়ার stopping time ও event-বিভাজন (★★)। সংজ্ঞা দিই

\[ \tau\ :=\ \inf\{\,k\ge0:\ X_k\ge\lambda\,\}\quad(\inf\varnothing=\infty). \]

এটি একটি stopping time — \(\{\tau=k\}=\{X_0<\lambda,\dots,X_{k-1}<\lambda,\ X_k\ge\lambda\}\in\mathcal F_k\) (\(X\) adapted)। মূল পর্যবেক্ষণ: "সময় \(n\)-এর মধ্যে কোথাও \(\lambda\) ছোঁয়া" ঠিক "\(\tau\le n\)", আর একে \(\tau\)-এর মান অনুযায়ী বিচ্ছিন্নভাবে (disjoint) ভাঙা যায়:

\[ \{X_n^*\ge\lambda\}\ =\ \{\tau\le n\}\ =\ \bigsqcup_{k=0}^{n}\{\tau=k\}. \]

ধাপ ২ — প্রতিটি টুকরোয় submartingale-ধর্ম (★★, কেন্দ্র)। স্থির \(k\le n\) নিই। \(\{\tau=k\}\in\mathcal F_k\), আর এই set-এর উপর সংজ্ঞা-অনুযায়ী \(X_k\ge\lambda\) (প্রথমবার ছোঁয়ার মুহূর্ত)। submartingale-ধর্ম (\(m>k\)-এও \(\mathbb E[X_n\mid\mathcal F_k]\ge X_k\), যা 7.8-এর tower-পুনরাবৃত্তি থেকে) ব্যবহার করি:

\[ \mathbb E\bigl[X_n\,\mathbf 1_{\{\tau=k\}}\bigr]\ \overset{(a)}{=}\ \mathbb E\bigl[\mathbb E[X_n\mid\mathcal F_k]\,\mathbf 1_{\{\tau=k\}}\bigr]\ \overset{(b)}{\ge}\ \mathbb E\bigl[X_k\,\mathbf 1_{\{\tau=k\}}\bigr]\ \overset{(c)}{\ge}\ \lambda\,\mathbb P(\tau=k), \]

যেখানে \((a)\) হলো tower (7.7) + pull-out (\(\mathbf 1_{\{\tau=k\}}\) হলো \(\mathcal F_k\)-measurable, তাই ভেতরে ঢোকানো বৈধ); \((b)\) হলো submartingale-অসমতা \(\mathbb E[X_n\mid\mathcal F_k]\ge X_k\), \(\mathbf 1_{\{\tau=k\}}\ge0\)-গুণ; \((c)\) হলো \(X_k\ge\lambda\) ওই set-এ।

ধাপ ৩ — \(k\)-এর উপর যোগ (★)। ধাপ ১-এর disjoint বিভাজনে \(k=0,\dots,n\) যোগ করি:

\[ \mathbb E\bigl[X_n\,\mathbf 1_{\{X_n^*\ge\lambda\}}\bigr]\ =\ \sum_{k=0}^n\mathbb E\bigl[X_n\,\mathbf 1_{\{\tau=k\}}\bigr]\ \ge\ \sum_{k=0}^n\lambda\,\mathbb P(\tau=k)\ =\ \lambda\,\mathbb P(\tau\le n)\ =\ \lambda\,\mathbb P(X_n^*\ge\lambda). \]

এটিই প্রথম (মূল) অসমতা। দ্বিতীয়টি তুচ্ছ: \(X_n\ge0\) বলে \(\mathbb E[X_n\mathbf 1_{\{X_n^*\ge\lambda\}}]\le\mathbb E[X_n\cdot1]=\mathbb E[X_n]\)। \(\blacksquare\)

এক বাক্যে: প্রথমবার \(\lambda\) ছোঁয়ার stopping time \(\tau\)-তে \(\{X_n^*\ge\lambda\}=\bigsqcup_k\{\tau=k\}\) ভেঙে, প্রতিটি \(\{\tau=k\}\)-এ \(X_k\ge\lambda\) ও submartingale \(\mathbb E[X_n\mid\mathcal F_k]\ge X_k\) (7.8) ব্যবহার করে যোগ করলে \(\lambda\,\mathbb P(X_n^*\ge\lambda)\le\mathbb E[X_n\mathbf 1_{\{X_n^*\ge\lambda\}}]\le\mathbb E[X_n]\)।

---

প্রমাণ ৪ — Doob's \(L^p\) inequality (★★)

দাবি (\(L^p\) maximal inequality)। ধরা যাক \(p>1\) এবং \((X_n)\) একটি অঋণাত্মক submartingale যার \(X_n\in L^p\)। তবে চলমান-সর্বোচ্চ \(X_n^*=\max_{k\le n}X_k\)-ও \(L^p\)-এ এবং

\[ \lVert X_n^*\rVert_p\ \le\ \frac{p}{p-1}\,\lVert X_n\rVert_p,\qquad\text{যেখানে }\lVert Y\rVert_p=\bigl(\mathbb E[\lvert Y\rvert^p]\bigr)^{1/p}. \]

স্বজ্ঞা: চলমান-সর্বোচ্চের \(L^p\)-আকার শেষ মানের \(L^p\)-আকারের একটি ধ্রুবক \(\frac{p}{p-1}\)-গুণের বেশি নয় — "পথের চূড়া শেষ-বিন্দুর চেয়ে নিয়ন্ত্রিতভাবে বড়"।

ধাপ ১ — layer-cake রূপে \(\mathbb E[(X_n^*)^p]\) লেখা (★, 7.4-এর Tonelli)। অঋণাত্মক random variable-এর \(p\)-তম মুহূর্তের একটি মানক উপস্থাপন (layer-cake / distribution-function সূত্র, 7.4-এর Tonelli দিয়ে \(\lvert Y\rvert^p=\int_0^{\lvert Y\rvert}p\lambda^{p-1}\,d\lambda\)-তে প্রত্যাশা ও integral অদলবদল করে):

\[ \mathbb E\bigl[(X_n^*)^p\bigr]\ =\ \int_0^\infty p\,\lambda^{p-1}\,\mathbb P\bigl(X_n^*\ge\lambda\bigr)\,d\lambda. \]

ধাপ ২ — maximal inequality ঢোকানো ও Tonelli দিয়ে \(\lambda\)-integral (★★)। প্রমাণ ৩-এর প্রথম অসমতা দেয় \(\mathbb P(X_n^*\ge\lambda)\le\frac1\lambda\mathbb E[X_n\mathbf 1_{\{X_n^*\ge\lambda\}}]\)। বসিয়ে, তারপর 7.4-এর Tonelli দিয়ে \(\lambda\) ও \(\omega\)-integral অদলবদল করি (integrand \(\ge0\), তাই বৈধ):

\[ \mathbb E\bigl[(X_n^*)^p\bigr]\ \le\ \int_0^\infty p\,\lambda^{p-1}\cdot\frac1\lambda\,\mathbb E\bigl[X_n\mathbf 1_{\{X_n^*\ge\lambda\}}\bigr]\,d\lambda \ =\ \mathbb E\!\left[X_n\int_0^{X_n^*}p\,\lambda^{p-2}\,d\lambda\right] \ =\ \frac{p}{p-1}\,\mathbb E\bigl[X_n\,(X_n^*)^{p-1}\bigr], \]

যেখানে ভেতরের integral \(\int_0^{X_n^*}p\lambda^{p-2}d\lambda=\frac{p}{p-1}(X_n^*)^{p-1}\) (\(p>1\) বলে \(\lambda^{p-2}\) integrable near \(0\)), আর \(\mathbf 1_{\{X_n^*\ge\lambda\}}\) হলো ঠিক \(\lambda\le X_n^*\)-এর সূচক।

ধাপ ৩ — Hölder (7.5) প্রয়োগ ও বাতিল (★★, সমাপ্তি)। ডান পাশে \(\mathbb E[X_n\,(X_n^*)^{p-1}]\)-তে 7.5-এর Hölder's inequality প্রয়োগ করি conjugate exponent \(p\) ও \(q=\frac{p}{p-1}\) দিয়ে (\(\frac1p+\frac1q=1\)):

\[ \mathbb E\bigl[X_n\,(X_n^*)^{p-1}\bigr]\ \le\ \lVert X_n\rVert_p\,\bigl\lVert (X_n^*)^{p-1}\bigr\rVert_q\ =\ \lVert X_n\rVert_p\,\bigl(\mathbb E[(X_n^*)^{(p-1)q}]\bigr)^{1/q}\ =\ \lVert X_n\rVert_p\,\bigl(\mathbb E[(X_n^*)^p]\bigr)^{(p-1)/p}, \]

কারণ \((p-1)q=p\) ও \(1/q=(p-1)/p\)। মিলিয়ে, \(A:=\mathbb E[(X_n^*)^p]\) লিখলে

\[ A\ \le\ \frac{p}{p-1}\,\lVert X_n\rVert_p\,A^{(p-1)/p}. \]

এখন \(A<\infty\) ধরে নিই (যৌক্তিকতা নিচের টীকায়); \(A>0\) হলে দুই পাশ \(A^{(p-1)/p}\) দিয়ে ভাগ করি — সূচক \(1-\frac{p-1}{p}=\frac1p\), তাই \(A^{1/p}\le\frac{p}{p-1}\lVert X_n\rVert_p\), অর্থাৎ \(\lVert X_n^*\rVert_p\le\frac{p}{p-1}\lVert X_n\rVert_p\) (আর \(A=0\) হলে অসমতা তুচ্ছ)। \(\blacksquare\)

টীকা — \(A<\infty\) কেন (কঠোরতা)। ভাগ করার আগে \(A=\mathbb E[(X_n^*)^p]<\infty\) নিশ্চিত হওয়া দরকার (নইলে \(\infty\le\infty\) অর্থহীন)। যেহেতু \(X_n^*=\max_{k\le n}X_k\le(\sum_{k\le n}X_k^p)^{1/p}\) এবং প্রতিটি \(X_k\in L^p\), সসীম-যোগে \(A\le\sum_{k\le n}\mathbb E[X_k^p]<\infty\) — তাই ভাগ বৈধ।

বিশেষ ক্ষেত্র — \(p=2\) (\(L^2\) martingale)। \(\frac{p}{p-1}=2\), তাই অঋণাত্মক submartingale (বিশেষত \(\lvert M_n\rvert\) যখন \(M\) একটি \(L^2\)-martingale, conditional Jensen-এ \(\lvert M\rvert\) submartingale)-এ

\[ \Bigl\lVert\max_{k\le n}\lvert M_k\rvert\Bigr\rVert_2\ \le\ 2\,\lVert M_n\rVert_2,\qquad\text{অর্থাৎ}\quad \mathbb E\Bigl[\max_{k\le n}M_k^2\Bigr]\ \le\ 4\,\mathbb E[M_n^2]. \]

এটি \(L^2\)-martingale তত্ত্বের কর্মঘোড়া — চলমান-সর্বোচ্চের second moment শেষ মানের second moment-এর \(4\)-গুণে আবদ্ধ।

ফল-প্রয়োগ — \(L^2\)-bounded martingale-এর \(L^2\)-অভিসরণ (★★)। এই \(L^p\)-অসমতার সবচেয়ে দামি ফল: যদি \((M_n)\) একটি martingale হয় যার \(\sup_n\mathbb E[M_n^2]<\infty\) (\(L^2\)-bounded), তবে \(M_n\) শুধু a.s. (প্রমাণ ২) নয়, \(L^2\)-এও একটি \(M_\infty\)-তে অভিসৃত। স্কেচ: increment-অর্থোগোনালিটি (\(\mathbb E[(M_n-M_m)^2]=\sum_{m<k\le n}\mathbb E[(M_k-M_{k-1})^2]\), যা 7.7-এর pull-out থেকে — পৃথক increment-এর cross-term শূন্য) দেখায় \((M_n)\) একটি \(L^2\)-Cauchy অনুক্রম, আর 7.5-এর Riesz–Fischer completeness তা থেকে একটি \(L^2\)-সীমা দেয়; maximal inequality \(\mathbb E[\sup_k(M_k-M_m)^2]\le4\sup_k\mathbb E[(M_k-M_m)^2]\) সেই সীমাকে a.s.-সীমার সঙ্গে মিলিয়ে দেয়। এই \(L^2\)-পথই concentration inequality ও SLLN-এর martingale-প্রমাণের গোড়া — তাই Doob's inequality নিছক একটি বাউন্ড নয়, একটি স্বতন্ত্র convergence-যন্ত্র।

এক বাক্যে: layer-cake \(\mathbb E[(X_n^*)^p]=\int_0^\infty p\lambda^{p-1}\mathbb P(X_n^*\ge\lambda)d\lambda\)-তে maximal inequality (প্রমাণ ৩) ও Tonelli (7.4) বসালে \(A\le\frac{p}{p-1}\mathbb E[X_n(X_n^*)^{p-1}]\), তারপর Hölder (7.5) দিয়ে \(\le\frac{p}{p-1}\lVert X_n\rVert_p A^{(p-1)/p}\) — ভাগ করে \(\lVert X_n^*\rVert_p\le\frac{p}{p-1}\lVert X_n\rVert_p\) (\(p=2\)-এ ধ্রুবক \(2\), তাই \(\mathbb E[\max_{k\le n}M_k^2]\le4\mathbb E[M_n^2]\))।

---

প্রমাণ ৫ — uniform integrability ⇒ \(L^1\) convergence ও closed martingale (★★)

দাবি। ধরা যাক \((X_n)\) একটি martingale যা uniformly integrable (UI, সমান-সমাকলনীয় — অর্থাৎ \(\lim_{K\to\infty}\sup_n\mathbb E[\lvert X_n\rvert\mathbf 1_{\{\lvert X_n\rvert>K\}}]=0\))। তবে (i) একটি \(X_\infty\in L^1\) আছে যাতে \(X_n\to X_\infty\) a.s. এবং \(L^1\)-এ (\(\mathbb E\lvert X_n-X_\infty\rvert\to0\)); এবং (ii) martingale-টি closed (বদ্ধ): \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\) a.s. প্রতিটি \(n\)-এ (একে Lévy বা closed martingale বলে)।

ধাপ ১ — UI ⇒ \(L^1\)-bounded, তাই a.s.-সীমা (★, প্রমাণ ২ ডাকা)। 7.5-এ প্রতিষ্ঠিত একটি মৌলিক fact: UI ⇒ \(L^1\)-bounded। কারণ UI-সংজ্ঞায় \(K\) এত বড় নিই যে \(\sup_n\mathbb E[\lvert X_n\rvert\mathbf 1_{\{\lvert X_n\rvert>K\}}]\le1\); তখন প্রতিটি \(n\)-এ

\[ \mathbb E\lvert X_n\rvert=\mathbb E[\lvert X_n\rvert\mathbf 1_{\{\lvert X_n\rvert\le K\}}]+\mathbb E[\lvert X_n\rvert\mathbf 1_{\{\lvert X_n\rvert>K\}}]\le K+1, \]

তাই \(\sup_n\mathbb E\lvert X_n\rvert\le K+1<\infty\)। সুতরাং প্রমাণ ২ (convergence theorem) প্রযোজ্য: একটি \(X_\infty\in L^1\) আছে যাতে \(X_n\to X_\infty\) a.s.।

ধাপ ২ — UI a.s.-কে \(L^1\)-এ উন্নীত করে (★★, 7.5-এর সেতু)। 7.5-এর কেন্দ্রীয় UI-উপপাদ্য (Vitali convergence theorem): \(X_n\to X_\infty\) in probability (a.s.-অভিসরণ প্রায়-নিশ্চিতভাবে probability-অভিসরণ ঘটায়) এবং \((X_n)\) UI ⇒ \(X_n\to X_\infty\) in \(L^1\)। আমাদের ধাপ ১-এ a.s.-অভিসরণ আছে ও অনুমানে UI — তাই সরাসরি

\[ \mathbb E\lvert X_n-X_\infty\rvert\ \xrightarrow[n\to\infty]{}\ 0. \]

(এই উন্নয়নই UI-এর মূল্য: \(L^1\)-bounded একা কেবল a.s.-সীমা দেয়, কিন্তু UI সেই a.s.-সীমাকে \(L^1\)-সীমায় পরিণত করে — moving-spike-জাতীয় "ভর-পলায়ন" UI ঠেকায়।)

ধাপ ৩ — closed/Lévy: \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\) (★★, কেন্দ্রীয় ফল)। এবার দেখাই martingale-টি \(X_\infty\) দিয়ে "বদ্ধ"। স্থির \(m\) ও যেকোনো \(A\in\mathcal F_m\) নিই। martingale-ধর্ম থেকে \(n\ge m\)-এ \(\mathbb E[X_n\mid\mathcal F_m]=X_m\) (7.8-এর tower-পুনরাবৃত্তি), তাই (CE-2 রূপে)

\[ \int_A X_m\,d\mathbb P\ =\ \int_A X_n\,d\mathbb P\qquad\text{প্রতিটি }n\ge m. \]

এখন \(n\to\infty\) নিই। \(\lvert\int_A X_n-\int_A X_\infty\rvert\le\mathbb E\lvert X_n-X_\infty\rvert\to0\) (ধাপ ২-এর \(L^1\)-অভিসরণ), তাই \(\int_A X_n\to\int_A X_\infty\); বাঁ পাশ \(n\)-নিরপেক্ষ (\(=\int_A X_m\))। সুতরাং

\[ \int_A X_m\,d\mathbb P\ =\ \int_A X_\infty\,d\mathbb P\qquad\forall\,A\in\mathcal F_m. \]

কিন্তু \(X_m\) হলো \(\mathcal F_m\)-measurable, আর এই সমতা ঠিক \(\mathbb E[X_\infty\mid\mathcal F_m]\)-এর সংজ্ঞা-শর্ত (CE-1)–(CE-2, 7.7) — তাই a.s.-একত্ব-লেমা (7.7) দিয়ে \(X_m=\mathbb E[X_\infty\mid\mathcal F_m]\) a.s.। যেহেতু \(m\) যেকোনো, প্রতিটি \(n\)-এ \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\)। \(\blacksquare\)

এক বাক্যে: UI ⇒ \(L^1\)-bounded (7.5) ⇒ প্রমাণ ২-তে \(X_n\to X_\infty\) a.s.; UI সেই a.s.-অভিসরণকে Vitali দিয়ে (7.5) \(L^1\)-অভিসরণে উন্নীত করে; আর প্রতিটি \(A\in\mathcal F_m\)-তে \(\int_A X_m=\int_A X_n\to\int_A X_\infty\) (7.8-tower + \(L^1\)-সীমা) দেয় \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\) — closed/Lévy martingale।

---

প্রমাণ ৬ — application: Pólya urn martingale (★★)

দাবি (Pólya urn)। একটি কলসে শুরুতে \(1\)টি লাল ও \(1\)টি নীল বল (\((R,B)=(1,1)\))। প্রতি ধাপে এলোমেলোভাবে একটি বল তুলে তার রং দেখে, সেই রঙের আরও একটি বল যোগ করে দুটোই ফেরত দিই (Pólya replacement)। \(R_n\) = \(n\)টি draw-এর পর লাল বলের ভগ্নাংশ। তবে \((R_n)\) একটি martingale, \([0,1]\)-এ আবদ্ধ, এবং তাই a.s. (ও \(L^1\)-এ) একটি সীমায় অভিসৃত — যার বণ্টন ঠিক Uniform\((0,1)=\text{Beta}(1,1)\)।

ধাপ ১ — সংকেত ও সংজ্ঞা (★)। \(n\) ধাপের পর মোট বল \(t=t_n=2+n\) (শুরুর \(2\) + প্রতি ধাপে \(1\)টি যোগ), তার মধ্যে লাল \(r=r_n\), তাই \(R_n=r_n/t_n\)। \(\mathcal F_n=\sigma(\text{প্রথম }n\text{টি draw})\) — তথ্যপ্রবাহ। \(R_n\) স্পষ্টতই \(\mathcal F_n\)-measurable (adapted) এবং \(0\le R_n\le1\) (bounded, তাই integrable)।

ধাপ ২ — martingale-ধর্ম \(\mathbb E[R_{n+1}\mid\mathcal F_n]=R_n\) সরাসরি গণনা (★★, কেন্দ্র)। \(\mathcal F_n\)-শর্তে বর্তমান অবস্থা \((r,t)\) জানা (এরা \(\mathcal F_n\)-measurable)। পরের draw-এ:

• লাল ওঠে সম্ভাবনা \(r/t\)-তে → লাল হয় \(r+1\), মোট \(t+1\), তাই নতুন ভগ্নাংশ \(R_{n+1}=\dfrac{r+1}{t+1}\)।
• নীল ওঠে সম্ভাবনা \(\dfrac{t-r}{t}\)-তে → লাল থাকে \(r\), মোট \(t+1\), তাই \(R_{n+1}=\dfrac{r}{t+1}\)।

(এখানে "draw-এর সম্ভাবনা = বর্তমান অনুপাত" — কারণ শর্তসাপেক্ষে প্রতিটি বল সমসম্ভাব্য।) তাই 7.7-এর conditional-expectation-হিসাবে (শর্তে \((r,t)\) ধ্রুবকের মতো, pull-out):

\[ \mathbb E[R_{n+1}\mid\mathcal F_n]\ =\ \frac{r}{t}\cdot\frac{r+1}{t+1}\ +\ \frac{t-r}{t}\cdot\frac{r}{t+1} \ =\ \frac{r}{t(t+1)}\Bigl[(r+1)+(t-r)\Bigr]\ =\ \frac{r}{t(t+1)}\cdot(t+1)\ =\ \frac{r}{t}\ =\ R_n. \]

ব্রాকেটে \((r+1)+(t-r)=t+1\) ঠিক \((t+1)\)-কে কাটিয়ে দিল — তাই \(\mathbb E[R_{n+1}\mid\mathcal F_n]=R_n\) a.s.। \((R_n)\) একটি martingale। ✓

ধাপ ৩ — convergence: bounded ⇒ a.s. ও \(L^1\) (★, প্রমাণ ২ ও ৫ ডাকা)। \(0\le R_n\le1\) — তাই \(\sup_n\mathbb E\lvert R_n\rvert\le1<\infty\) (\(L^1\)-bounded)। প্রমাণ ২ (convergence theorem) সরাসরি দেয় একটি \(R_\infty\in L^1\) যাতে \(R_n\to R_\infty\) a.s.। আরও — bounded martingale স্বয়ংক্রিয়ভাবে UI (যেকোনো \(K\ge1\)-এ \(\{\lvert R_n\rvert>K\}=\varnothing\), তাই \(\sup_n\mathbb E[\lvert R_n\rvert\mathbf 1_{\{\lvert R_n\rvert>K\}}]=0\)), তাই প্রমাণ ৫ দেয় \(R_n\to R_\infty\) \(L^1\)-এও এবং \(R_n=\mathbb E[R_\infty\mid\mathcal F_n]\) (closed)। বিশেষত \(\mathbb E[R_\infty]=\mathbb E[R_0]=\tfrac12\) — সীমার গড় শুরুর অনুপাতেই থাকে।

ধাপ ৪ — সীমার বণ্টন Uniform\((0,1)\) (★★, পরিচয়)। সীমা \(R_\infty\)-এর বণ্টন স্পষ্টভাবে চেনা যায়। \(n\)টি draw-এর পর লাল-সংখ্যা ঠিক \(1+(\text{লাল যোগ})\), আর একটি ধ্রুপদী গণনা (Pólya-র exchangeability) দেখায়: \(n\)টি draw-এ ঠিক \(j\)টি লাল-যোগ ঘটার সম্ভাবনা \(\dfrac{1}{n+1}\) — প্রতিটি \(j\in\{0,1,\dots,n\}\)-এ সমান (uniform)। ফলে \(R_n=\dfrac{1+j}{2+n}\) নেয় \(\{\tfrac1{n+2},\dots,\tfrac{n+1}{n+2}\}\)-এর প্রতিটি মান প্রায়-সমসম্ভাব্যভাবে — অর্থাৎ \(R_n\)-এর বণ্টন \(n\to\infty\)-এ \([0,1]\)-এর উপর সমান (uniform) বণ্টনে যায়। সাধারণভাবে শুরু \((\alpha,\beta)\)-তে সীমা Beta\((\alpha,\beta)\); এখানে \((\alpha,\beta)=(1,1)\), তাই

\[ R_\infty\ \sim\ \text{Beta}(1,1)\ =\ \text{Uniform}(0,1). \]

(সঙ্গতি-যাচাই: \(\mathbb E[R_\infty]=\tfrac12\) ঠিক ধাপ ৩-এর সঙ্গে মেলে; আর সীমাটা একটি এলোমেলো ধ্রুবক — প্রতিটি realization-এ ভিন্ন, কিন্তু সবসময় বিদ্যমান।) \(\blacksquare\)

এক বাক্যে: \((r,t)\)-অবস্থায় draw red w.p. \(r/t\) (→ ভগ্নাংশ \(\frac{r+1}{t+1}\)) নাহলে \(\frac{r}{t+1}\) — গড় নিলে ব্রাকেটে \((r+1)+(t-r)=t+1\) কাটাকাটি গিয়ে \(\mathbb E[R_{n+1}\mid\mathcal F_n]=\frac rt=R_n\), তাই \((R_n)\) martingale; \([0,1]\)-bounded বলে প্রমাণ ২-তে a.s.- ও (UI বলে) প্রমাণ ৫-তে \(L^1\)-অভিসৃত, আর সীমা \(R_\infty\sim\text{Uniform}(0,1)=\text{Beta}(1,1)\)।

---

৫ · কোড ল্যাব (Python)

এই অধ্যায়ের মূল উপপাদ্য — Martingale Convergence Theorem — পুরোপুরি বিমূর্ত: "একটা \(L^1\)-bounded (বা অঋণাত্মক) martingale প্রায়-নিশ্চিতভাবে (almost surely) একটা সীমায় থিতু হয়", \(\sup_n\mathbb E\lvert X_n\rvert<\infty\Rightarrow X_n\to X_\infty\) a.s.। বিবৃতিটি যত বিমূর্তই হোক, তার প্রতিটি মুখ simulation-এ সংখ্যায় চোখে দেখা যায়: একটা Pólya urn (Pólya-র কলস)-এর রঙ-অনুপাত নিশ্চিতভাবে থিতু হয় বটে, কিন্তু এলোমেলো গন্তব্যে — সীমাটা একটা random variable, \(\text{Uniform}(0,1)\)-বণ্টিত; একটা \(L^2\)-bounded martingale \(M_n=\sum\xi_i/i\) সসীম-ভেদে থিতু হয় কারণ তার ভেদ-যোগফল Basel-যোগফলে (\(\pi^2/6\)) থামে, অথচ ওজনহীন যোগফল \(S_n=\sum\xi_i\) অসীমে দোলে; আর Doob's maximal inequality (Doob-এর চরম-অসমতা) একটা অঋণাত্মক martingale-এর গোটা পথের সর্বোচ্চ চূড়াকে এক লাইনে বেঁধে দেয়, \(\mathbb P(\max_{k\le n}M_k\ge\lambda)\le\mathbb E[M_n]/\lambda\)। এই ল্যাবে একটিমাত্র runnable স্ক্রিপ্ট (শুধু numpy-নির্ভর, বাড়তি কোনো library নয়) তিনটি অংশে এই তিন মুখ একে একে যাচাই করে।

স্ক্রিপ্টের কাঠামো ও পুনরুৎপাদনযোগ্যতা (reproducibility)

পুরো ল্যাবটা একটাই runnable স্ক্রিপ্ট — _code/lab_7-9.py — তিনটে ব্যাখ্যাযুক্ত অংশে ভাগ করা, নির্ভরতা শুধু numpy। তিনটি অংশই একটিমাত্র generator থেকে টানে — np.random.default_rng(20260619) — এবং default_rng-এর ফলাফল স্রোত (stream) থেকে টানার ক্রমের উপর নির্ভরশীল: একই seed হলেও আগে-পরে টানলে আলাদা সংখ্যা আসে। তাই ফল পুনরুৎপাদনযোগ্য রাখতে নিচের ঠিক এই ক্রমেই স্রোত টানা হয় —

1. Part 1 — Pólya-urn loop (\(10000\) কলস, প্রতিটি \(n=2000\) টান), প্রতি টানে একটা \(\text{Uniform}(0,1)\) vector — সবার আগে;
2. Part 2 — \(L^2\)-martingale increment array (shape \(200000\times2000\), প্রতিটি \(\pm1\)), মাঝে;
3. Part 3 — Doob অঋণাত্মক-martingale increment array (\(\pm1\), shape \(200000\times50\)), সবার শেষে।

Part 2 ও 3-এ increment-array দুটি বড় (\(200000\) পথ); স্মৃতির সীমা মানতে এগুলো সারি-খণ্ডে (row-chunk) টানা হয় (\(10000\) সারি করে)। একটাই generator থেকে পরপর একই আকারের খণ্ড টানা আর একটিমাত্র বড় block টানা byte-for-byte অভিন্ন (যাচাই-করা), তাই draw-ক্রম — এবং নিচের সব সংখ্যা — হুবহু পুনরুৎপাদনযোগ্য। নিচের set-up লাইনটি গোটা স্ক্রিপ্টে একবারই চলে—

import numpy as np

np.set_printoptions(precision=4, suppress=True)

# ---- one generator, seeded once; every draw below pulls from it in order ----
rng = np.random.default_rng(20260619)

COIN = np.array([-1.0, 1.0])             # +-1 fair coin support, drawn equiprob
CHUNK = 10_000                            # row-chunk size for the streamed parts

প্রতিটি অংশ এই একই rng-এ ক্রমানুসারে টানে, তাই draw-ক্রম স্থির এবং নিচের সব সংখ্যা হুবহু পুনরুৎপাদনযোগ্য।

৫.১ · Pólya-র কলস — অভিসারণ নিশ্চিত, সীমা এলোমেলো

প্রথম মুখ: Pólya-র কলস। শুরুতে \(1\)টি লাল, \(1\)টি কালো বল; প্রতি ধাপে এলোমেলোভাবে একটা বল তোলো, রং দেখো, সেটা ফেরত দাও আর সঙ্গে ঐ রঙের আরও একটা যোগ করো। লাল-ভগ্নাংশ (red fraction) \(R_n=\frac{L_n}{n+2}\) একটা martingale (\(\mathbb E[R_{n+1}\mid\mathcal F_n]=R_n\), §৩-এর উদাহরণ ১), আর \(0\le R_n\le1\) — তাই bounded, ফলে martingale convergence theorem-এ \(R_n\to R_\infty\) a.s.। চমক: সীমা \(R_\infty\) কোনো ধ্রুব সংখ্যা নয়, বরং একটা random variable — \(R_\infty\sim\text{Uniform}(0,1)\) (\(\mathbb E=\tfrac12\), \(\operatorname{Var}=\tfrac1{12}\), \(\text{std}=1/\sqrt{12}\))। এখানে \(10000\)টি স্বাধীন কলস \(n=2000\) ধাপ চালিয়ে শেষ \(R_n\)-এর গড়, std ও দশমাংশ-গণনা (decile counts) দেখা হয় — uniform হলে দশটা ভাগে প্রায়-সমান (\(\approx1000\) করে) পড়বে — আর কয়েকটা পৃথক কলস যে আলাদা আলাদা মানে থিতু হয় (সীমা random) তা-ও।

# =====================================================================
# PART 1 -- Polya urn: a bounded martingale with a RANDOM limit.
#           Start 1 red, 1 black.  Each draw: pick a ball at random,
#           note its colour, return it AND add one more of that colour.
#           Red fraction R_n = (#red)/(total) is a martingale in [0,1],
#           hence bounded -> R_n -> R_inf a.s. (convergence theorem).
#           SURPRISE: the limit is RANDOM, R_inf ~ Uniform(0,1)
#           (Beta(1,1)); E[R_inf]=0.5, Var=1/12, std=1/sqrt(12)=0.2887.
#           We run 10000 independent urns for n=2000 draws and read off
#           mean, std and DECILE counts (flat <=> Uniform).  We also
#           show a few individual urns settling to DIFFERENT values.
# =====================================================================
urns = 10_000
draws = 2_000
# (1) the Polya-urn loop pulls FIRST from the generator, one U(0,1)
#     vector per draw (one entry per urn), draws times in a row.
red = np.ones(urns)              # each urn starts with 1 red ball
total = 2.0 * np.ones(urns)      # ... and 2 balls in total (1 red, 1 black)
# track a handful of individual urns over time to show DIFFERENT limits
track_idx = np.array([0, 1, 2, 3, 4])
track_at = [10, 100, 2000]       # snapshot the red fraction at these steps
track = {k: None for k in track_at}
for d in range(1, draws + 1):
    p = red / total              # P(draw red) = current red fraction
    drew_red = rng.random(urns) < p
    red = red + drew_red         # add one ball of the colour drawn
    total = total + 1.0
    if d in track_at:
        track[d] = (red[track_idx] / total[track_idx]).copy()

Rinf = red / total               # final red fraction per urn ~ R_inf
mean_R = Rinf.mean()
std_R = Rinf.std()
deciles, _ = np.histogram(Rinf, bins=np.linspace(0.0, 1.0, 11))

print("PART 1 -- Polya urn : bounded martingale, RANDOM limit R_inf ~ U(0,1)")
print(f"  urns = {urns},  draws each = {draws}")
print(f"  mean(R_inf)  = {mean_R:.4f}   (theory E[U(0,1)] = 0.5)")
print(f"  std(R_inf)   = {std_R:.4f}   (theory 1/sqrt(12) = "
      f"{1.0 / np.sqrt(12.0):.4f})")
print("  decile counts (10 equal bins of [0,1], flat <=> Uniform):")
print(f"    {deciles}")
print(f"    min/max decile = {deciles.min()} / {deciles.max()}   "
      f"(ideal {urns // 10} each)")
print("  a few INDIVIDUAL urns settling to DIFFERENT random limits:")
print(f"  {'urn':>4} | {'R_10':>7} | {'R_100':>7} | {'R_2000':>7}")
print("  " + "-" * 36)
for j, idx in enumerate(track_idx):
    r10 = track[10][j]
    r100 = track[100][j]
    r2000 = track[2000][j]
    print(f"  {idx:>4} | {r10:>7.4f} | {r100:>7.4f} | {r2000:>7.4f}")

PART 1 -- Polya urn : bounded martingale, RANDOM limit R_inf ~ U(0,1)
  urns = 10000,  draws each = 2000
  mean(R_inf)  = 0.5007   (theory E[U(0,1)] = 0.5)
  std(R_inf)   = 0.2853   (theory 1/sqrt(12) = 0.2887)
  decile counts (10 equal bins of [0,1], flat <=> Uniform):
    [ 961  994  971  990 1072 1007 1075  964 1023  943]
    min/max decile = 943 / 1075   (ideal 1000 each)
  a few INDIVIDUAL urns settling to DIFFERENT random limits:
   urn |    R_10 |   R_100 |  R_2000
  ------------------------------------
     0 |  0.0833 |  0.2549 |  0.2363
     1 |  0.2500 |  0.3333 |  0.3487
     2 |  0.3333 |  0.4216 |  0.4391
     3 |  0.5000 |  0.5098 |  0.4620
     4 |  0.2500 |  0.5392 |  0.5255

পাঠোদ্ধার (read-off)।

• গড় \(\tfrac12\), কিন্তু ছড়ানো বিশাল। \(10000\) কলসে \(\text{mean}(R_\infty)=\mathbf{0.5007}\approx0.5\) — ঠিক \(\mathbb E[R_\infty]=\mathbb E[R_0]=\tfrac12\), যা martingale-এর ধ্রুব-গড় থেকেই আসে। কিন্তু \(\text{std}(R_\infty)=\mathbf{0.2853}\approx1/\sqrt{12}=0.2887\) — অর্থাৎ সীমা মোটেই \(\tfrac12\)-এর কাছে জমাট নয়, বরং \([0,1]\)-জুড়ে চওড়াভাবে ছড়ানো। এই বড় std-ই প্রথম ইঙ্গিত: সীমা এলোমেলো, একটামাত্র মানে স্থির নয়।
• দশমাংশ সমতল ⇒ সীমা \(\text{Uniform}(0,1)\)। দশটা ভাগের গণনা \([961,994,971,990,1072,1007,1075,964,1023,943]\) — সবগুলো \(\approx1000\)-এর কাছাকাছি (\(\min/\max=\mathbf{943}/\mathbf{1075}\), আদর্শ \(1000\)), কোনো শিখর নেই কোনো গর্ত নেই। অর্থাৎ \(R_\infty\) সত্যিই \([0,1]\)-জুড়ে সমবণ্টিত — \(\tfrac12\)-এ জমাট নয়, প্রতিটি অনুপাত সমান-সম্ভাব্য।
• পৃথক কলস ভিন্ন গন্তব্যে থিতু হয় — এটিই "random limit"-এর মর্ম। পাঁচটা কলস দেখায় কেউ \(\approx0.24\)-এ (\(\text{urn }0\)), কেউ \(\approx0.53\)-এ (\(\text{urn }4\)) থিতু হচ্ছে, আর \(n=10\to100\to2000\)-এ প্রতিটির মান ক্রমে এক জায়গায় স্থির হয়ে আসছে (যেমন urn 0: \(0.083\to0.255\to0.236\))। almost-sure অভিসারণ মানে প্রতিটি path থিতু হয়, কিন্তু কোথায় তা path-ভেদে আলাদা — অভিসারণ \(\ne\) deterministic সীমা। স্ব-প্রবলকরণ (self-reinforcement) শুরুর কয়েকটা এলোমেলো টানকেই চিরস্থায়ী করে দেয়।

৫.২ · \(L^2\)-bounded martingale — সসীম-ভেদে থিতু

দ্বিতীয় মুখ: কেন বদ্ধতাই অভিসারণ আনে, martingale হওয়াই যথেষ্ট নয়। নাও iid \(\xi_i=\pm1\) (\(\mathbb E[\xi_i]=0\), \(\operatorname{Var}(\xi_i)=1\)) এবং ওজন-করা যোগফল \(M_n=\sum_{i=1}^n\xi_i/i\) — একটা martingale। পদগুলো স্বাধীন ও গড়-শূন্য, তাই ভেদ যোগ হয় (variances add): \(\operatorname{Var}(M_n)=\sum_{i\le n}1/i^2\), যা বিখ্যাত Basel-যোগফলে থামে: \(\sum_{i\ge1}1/i^2=\pi^2/6\approx1.6449<\infty\)। তাই \(\sup_n\mathbb E[M_n^2]<\infty\) — \((M_n)\) \(L^2\)-bounded (অতএব \(L^1\)-bounded), ফলে \(M_n\to M_\infty\) a.s. এবং \(L^2\) দুইভাবেই (orthogonal increments ⇒ Cauchy in \(L^2\))। বৈসাদৃশ্যে, ওজনহীন যোগফল \(S_n=\sum_{i\le n}\xi_i\)-এর \(\operatorname{Var}(S_n)=n\to\infty\) — bounded নয়, তাই অভিসারী নয় (recurrent walk, অসীমে দোলে)। এখানে \(200000\) পথে \(\operatorname{Var}(M_{2000})\) ও \(\mathbb E[M_{2000}]\) মেপে \(S_n\)-এর সাথে তুলনা করা হয়।

# =====================================================================
# PART 2 -- An L^2-bounded martingale converges (a.s. AND in L^2).
#           xi_i = +-1 fair, independent.  M_n = sum_{i<=n} xi_i / i.
#           Independent zero-mean terms => variances add:
#               Var(M_n) = sum_{i<=n} 1/i^2  ->  pi^2/6 = 1.6449 < inf.
#           So sup_n E[M_n^2] < inf : bounded in L^2 (hence in L^1),
#           giving M_n -> M_inf a.s. AND in L^2.  We measure
#           Var(M_2000) ~ 1.6459 ~ pi^2/6 and E[M_2000] ~ 0.
#           CONTRAST: S_n = sum xi_i has Var(S_n) = n -> inf, NOT
#           bounded -> does NOT converge (recurrent random walk).
# =====================================================================
paths = 200_000
N = 2_000
w = 1.0 / np.arange(1, N + 1)        # weights 1/i, i = 1..N
# (2) the L^2-martingale increments are drawn SECOND, streamed in row-chunks
#     of shape (CHUNK, N); per path we keep only M_2000 = sum xi_i/i and
#     S_2000 = sum xi_i (the unweighted contrast).
M = np.empty(paths)                  # M_2000 per path
S = np.empty(paths)                  # S_2000 per path (contrast walk)
for a in range(0, paths, CHUNK):
    b = min(a + CHUNK, paths)
    xi = rng.choice(COIN, size=(b - a, N))
    M[a:b] = (xi * w).sum(axis=1)
    S[a:b] = xi.sum(axis=1)

mean_M = M.mean()
var_M = M.var()
var_theory = (w ** 2).sum()         # sum_{i<=N} 1/i^2  (partial Basel sum)
pi2_6 = np.pi ** 2 / 6.0
var_S = S.var()

print("\nPART 2 -- L^2-bounded martingale M_n = sum xi_i/i converges (a.s. & L^2)")
print(f"  paths = {paths},  n = {N}")
print(f"  E[M_2000]    = {mean_M:+.4f}   (theory 0)")
print(f"  Var(M_2000)  = {var_M:.4f}   (theory sum_{{i<=2000}} 1/i^2 = "
      f"{var_theory:.4f})")
print(f"  sum 1/i^2 -> pi^2/6 = {pi2_6:.4f}   (Basel; the L^2 bound)")
print("  => sup_n E[M_n^2] <= pi^2/6 < inf : bounded in L^2 => a.s. + L^2 conv.")
print(f"  CONTRAST  S_n = sum xi_i (weight 1): Var(S_2000) = {var_S:.1f}   "
      f"(theory n = {N}; NOT bounded -> diverges)")

PART 2 -- L^2-bounded martingale M_n = sum xi_i/i converges (a.s. & L^2)
  paths = 200000,  n = 2000
  E[M_2000]    = -0.0030   (theory 0)
  Var(M_2000)  = 1.6459   (theory sum_{i<=2000} 1/i^2 = 1.6444)
  sum 1/i^2 -> pi^2/6 = 1.6449   (Basel; the L^2 bound)
  => sup_n E[M_n^2] <= pi^2/6 < inf : bounded in L^2 => a.s. + L^2 conv.
  CONTRAST  S_n = sum xi_i (weight 1): Var(S_2000) = 2003.3   (theory n = 2000; NOT bounded -> diverges)

পাঠোদ্ধার।

• ভেদ \(\pi^2/6\)-এ থামে — এটিই \(L^2\)-বদ্ধতা। \(\operatorname{Var}(M_{2000})=\mathbf{1.6459}\), যা ঠিক আংশিক-যোগফল \(\sum_{i\le2000}1/i^2=\mathbf{1.6444}\)-এর গায়ে, আর তা \(\pi^2/6=\mathbf{1.6449}\)-এর দিকে ছুটছে। অর্থাৎ \(\sup_n\mathbb E[M_n^2]\le\pi^2/6<\infty\) — \((M_n)\) \(L^2\)-bounded, যা convergence theorem-এর শর্ত পূরণ করে: \(M_n\) একটা সসীম-ভেদ random variable-এ a.s. ও \(L^2\) দুইভাবেই থিতু হয়।
• গড় শূন্য, যেমন martingale দাবি করে। \(\mathbb E[M_{2000}]=\mathbf{-0.0030}\approx0=\mathbb E[M_0]\) — ধ্রুব-গড় অটুট; সীমার বণ্টন \(0\)-কে কেন্দ্র করে সসীম ছড়ানো।
• বৈসাদৃশ্য: ওজনহীন যোগফল অভিসারী নয়। \(S_n=\sum\xi_i\)-এর \(\operatorname{Var}(S_{2000})=\mathbf{2003.3}\approx n=2000\) — অর্থাৎ ভেদ \(n\)-এর সাথে বাড়তেই থাকে, bounded নয়, তাই convergence theorem খাটে না এবং \(S_n\) অসীমে দোলে। পার্থক্যটা ঠিক \(1/i\) ওজনে: \(\sum1/i^2<\infty\) (বদ্ধ, থিতু) বনাম \(\sum1=\infty\) (অবদ্ধ, ভবঘুরে)। মূল পাঠ: martingale হওয়াই অভিসারণ আনে না — \(L^1\)/\(L^2\)-বদ্ধতা লাগে।

৫.৩ · Doob's maximal inequality — গোটা পথের চূড়া বাঁধা

তৃতীয় মুখ: Doob's maximal inequality, যা একটা অঋণাত্মক martingale-এর গোটা পথের সর্বোচ্চ চূড়াকে এক লাইনে বাঁধে। নাও গুণফল-প্রক্রিয়া \(M_n=\prod_{i=1}^n(1+0.5\,\xi_i)\), \(\xi_i=\pm1\) সমসম্ভাব্য, \(M_0=1\) — প্রতি ধাপে \(\times1.5\) বা \(\times0.5\), সবসময় ধনাত্মক। প্রতি গুণক স্বাধীন ও \(\mathbb E[1+0.5\xi]=1\), তাই \(\mathbb E[M_{n+1}\mid\mathcal F_n]=M_n\): একটা martingale, এবং \(\mathbb E[M_n]=\mathbb E[M_0]=1\) প্রতিটি \(n\)-এ (এটি গঠন থেকেই হুবহু সত্য — \(\prod_i\mathbb E[1+0.5\xi_i]=1\))। Doob's maximal inequality বলে অঋণাত্মক (sub)martingale-এর জন্য $$ \mathbb P\Big(\max_{k\le n}M_k\ge\lambda\Big)\le\frac{\mathbb E[M_n]}{\lambda}=\frac1\lambda\qquad(\lambda>0), $$ তাই \(\lambda=3\)-এ বাঁধন \(\tfrac13=0.3333\)। এখানে \(200000\) পথে (\(n=50\)) চলমান-সর্বোচ্চ \(\max_{k\le n}M_k\) মেপে এই বাঁধন কয়েকটা \(\lambda\)-তে যাচাই করা হয়।

# =====================================================================
# PART 3 -- Doob's maximal inequality on a nonnegative martingale.
#           M_n = prod_{i<=n} (1 + 0.5 xi_i), xi_i = +-1 fair, M_0 = 1.
#           Each factor in {0.5, 1.5}; E[1 + 0.5 xi] = 1 and factors are
#           independent of the past, so E[M_{n+1}|F_n] = M_n : martingale,
#           E[M_n] = 1 for all n, and M_n > 0 always (nonnegative).
#           Doob's maximal inequality (nonneg sub/martingale):
#               P( max_{k<=n} M_k >= lam ) <= E[M_n] / lam = 1/lam.
#           At lam = 3 the bound is 1/3 = 0.3333.  We measure the running
#           max over n = 50 steps and verify the bound for a few lam.
# =====================================================================
mg_paths = 200_000
mg_N = 50
# (3) the Doob nonneg-MG increments are drawn LAST, streamed in row-chunks
#     of shape (CHUNK, mg_N); per path we keep only the running max and
#     the final value M_n.
runmax = np.empty(mg_paths)          # max_{k<=n} M_k per path
M_last = np.empty(mg_paths)          # M_n per path
for a in range(0, mg_paths, CHUNK):
    b = min(a + CHUNK, mg_paths)
    eps = rng.choice(COIN, size=(b - a, mg_N))
    fac = 1.0 + 0.5 * eps            # each factor in {0.5, 1.5}
    Mpath = np.cumprod(fac, axis=1)  # M_1 .. M_N for this chunk
    runmax[a:b] = Mpath.max(axis=1)
    M_last[a:b] = Mpath[:, -1]

EM_N = M_last.mean()                 # E[M_n] : exact theory is 1 (see note)

print("\nPART 3 -- Doob's maximal inequality, nonneg MG M_n = prod(1+0.5 xi)")
print(f"  paths = {mg_paths},  n = {mg_N}")
print(f"  E[M_n]       = {EM_N:.4f}   (theory 1)")
print(f"  P(max_k M_k >= 3) = {(runmax >= 3.0).mean():.4f}   "
      f"(Doob bound E[M_n]/3 = {1.0 / 3.0:.4f})")
print(f"  {'lambda':>7} | {'P(max>=lam)':>12} | {'Doob 1/lam':>11} | hold?")
print("  " + "-" * 48)
for lam in (2.0, 3.0, 5.0, 8.0):
    p_hit = (runmax >= lam).mean()
    bound = 1.0 / lam
    ok = "yes" if p_hit <= bound + 1e-12 else "NO"
    print(f"  {lam:>7.1f} | {p_hit:>12.4f} | {bound:>11.4f} |  {ok}")

PART 3 -- Doob's maximal inequality, nonneg MG M_n = prod(1+0.5 xi)
  paths = 200000,  n = 50
  E[M_n]       = 0.8578   (theory 1)
  P(max_k M_k >= 3) = 0.2770   (Doob bound E[M_n]/3 = 0.3333)
   lambda |  P(max>=lam) |  Doob 1/lam | hold?
  ------------------------------------------------
      2.0 |       0.4237 |      0.5000 |  yes
      3.0 |       0.2770 |      0.3333 |  yes
      5.0 |       0.1708 |      0.2000 |  yes
      8.0 |       0.0990 |      0.1250 |  yes

পাঠোদ্ধার।

• বাঁধন প্রতিটি \(\lambda\)-তে খাটে। \(\mathbb P(\max_{k\le n}M_k\ge3)=\mathbf{0.2770}\le\tfrac13=\mathbf{0.3333}\) — সিমুলেশন বাঁধনের আরামদায়ক নিচে। শুধু \(\lambda=3\) নয়, \(\lambda=2,5,8\) সবগুলোতেই empirical \(\mathbb P(\max\ge\lambda)\) Doob-বাঁধন \(1/\lambda\)-এর নিচে (\(0.4237\le0.5\), \(0.1708\le0.2\), \(0.0990\le0.125\)) — অসমতা সর্বত্র সত্য। লক্ষণীয়, এটা একটা পদ \(M_n\ge\lambda\)-এর নয়, গোটা পথের যেকোনো মুহূর্তে \(\lambda\) ছোঁয়ার উপর বাঁধন — তবু কেবল শেষ-গড় ও \(\lambda\) দিয়েই, \(n\)-নিরপেক্ষভাবে।
• \(\mathbb E[M_n]=1\) হুবহু — কিন্তু sample mean কেন \(0.86\)? তাত্ত্বিকভাবে \(\mathbb E[M_n]=\prod_i\mathbb E[1+0.5\xi_i]=1\) নির্ভুল (গঠন থেকেই, প্রমাণসাপেক্ষ — এটিই Doob-বাঁধনের ডান-পাশ)। কিন্তু empirical গড় পড়ে \(\mathbf{0.8578}\), কারণ গুণফল-বণ্টন প্রবলভাবে ডান-দিকে লেজ-টানা (right-skewed): অধিকাংশ পথ \(1\)-এর অনেক নিচে নামে, আর গড়টা টেনে রাখে গুটিকয় বিরল কিন্তু বিশাল চূড়া — যা \(200000\) নমুনাতেও যথেষ্ট দেখা যায় না, তাই sample mean নিচে থেকে আন্দাজ করে। এটি ভুল নয়, বরং একটা শিক্ষা: martingale-এর গড় স্থির থাকলেও তার বণ্টন বুনোভাবে অপ্রতিসম হতে পারে — ঠিক এই কারণেই আমরা গড়ের উপর নয়, চলমান-সর্বোচ্চের উপর নিয়ন্ত্রণ (maximal inequality) চাই।
• Markov-এর শক্তিশালী জ্ঞাতি। Doob's maximal inequality আসলে Markov-অসমতার martingale-সংস্করণ — একটামাত্র মানের বদলে সমগ্র পথের চলমান-সর্বোচ্চকে বাঁধে (প্রমাণ: hitting time \(\tau=\inf\{k:M_k\ge\lambda\}\)-এ optional stopping, §৪)। এই maximal inequality-ই convergence theorem-এর প্রমাণে "path অসীমে লাফাতে পারে না" নিশ্চিত করে, আর তার ভাই \(L^p\) inequality \(\lVert\max_{k\le n}M_k\rVert_p\le\frac{p}{p-1}\lVert M_n\rVert_p\)-এর গোড়া।

সারসংক্ষেপ

তিনটি অংশ একসুতোয় গাঁথে এই অধ্যায়ের কেন্দ্রীয় বার্তা — বদ্ধতা ⇒ অভিসারণ, আর চলমান-সর্বোচ্চ বাঁধা থাকে—

অংশ	দাবি	মূল সংখ্যা
৫.১	Pólya urn: bounded martingale, a.s. অভিসারী; সীমা random \(\sim\text{Uniform}(0,1)\)	\(\text{mean}=\mathbf{0.5007}\) (\(\approx0.5\)), \(\text{std}=\mathbf{0.2853}\) (\(\approx0.2887\)), decile \(\min/\max=\mathbf{943}/\mathbf{1075}\) (সমতল)
৫.২	\(L^2\)-bounded martingale \(\sum\xi_i/i\) থিতু (a.s. ও \(L^2\)); \(S_n=\sum\xi_i\) নয়	\(\operatorname{Var}(M_{2000})=\mathbf{1.6459}\) (\(\approx\pi^2/6=1.6449\)), \(\mathbb E[M]=\mathbf{-0.0030}\); \(\operatorname{Var}(S_{2000})=\mathbf{2003.3}\) (\(\to\infty\))
৫.৩	Doob's maximal inequality, অঋণাত্মক MG (\(\mathbb E[M_n]=1\))	\(\mathbb P(\max\ge3)=\mathbf{0.2770}\le\tfrac13=\mathbf{0.3333}\); বাঁধন \(\lambda=2,3,5,8\)-এও খাটে

একই কেন্দ্রীয় উপপাদ্য — \(L^1\)/\(L^2\)-bounded martingale a.s. থিতু হয় — তিন মুখে ধরা দিল। Pólya urn দেখাল অভিসারণ নিশ্চিত হতে পারে অথচ গন্তব্য random (\(R_\infty\sim\text{Uniform}(0,1)\)): "almost-sure সীমা" মানে প্রতিটি path থিতু হয়, কিন্তু কোথায় তা path-ভেদে আলাদা random variable (৫.১); \(\sum\xi_i/i\) দেখাল বদ্ধতাই চাবি — ভেদ-যোগফল \(\pi^2/6\)-এ থামে বলে থিতু, কিন্তু ওজন \(1\) হলে (\(S_n\)) ভেদ \(n\to\infty\), বদ্ধতা ভাঙে, অভিসারণও ভাঙে — martingale হওয়াই যথেষ্ট নয় (৫.২); আর Doob's maximal inequality দেখাল গোটা পথের সর্বোচ্চ চূড়া কেবল \(\mathbb E[M_n]\) ও \(\lambda\) দিয়ে, \(n\)-নিরপেক্ষভাবে বাঁধা — \(\mathbb P(\max\ge\lambda)\le1/\lambda\) সর্বত্র সত্য, আর গুণফল-martingale-এর ডান-লেজা বণ্টনই বোঝায় কেন গড়ের বদলে চলমান-সর্বোচ্চ নিয়ন্ত্রণ করতে হয় (৫.৩)। একটিমাত্র seed (20260619), একটিমাত্র draw-ক্রম — upcrossing-চালিত convergence theorem থেকে Doob's inequalities পর্যন্ত গোটা শৃঙ্খল সংখ্যায় ধরা পড়ল, এবং এটিই 7.10-এর rigorous CLT-এর সরাসরি ভিত্তি।

---

৬ · ভিজ্যুয়ালাইজেশন

Martingale convergence-এর তত্ত্বগুলো প্রথম পাঠে বেশ বিমূর্ত মনে হয়:

• "\(L^1\)-bounded martingale almost surely converge করে",
• "প্রতিটি band \([a,b]\)-এর upcrossing-সংখ্যা finite",
• "running max-এর tail-কে current expectation দিয়ে বাঁধা যায়" —

এই বাক্যগুলো শুনতে শক্ত। কিন্তু এদের প্রত্যেকটির পেছনে একটি খুব স্পষ্ট, প্রায় চাক্ষুষ ছবি আছে। নিচের চারটি figure ঠিক সেই ছবিগুলোকেই সরাসরি simulation দিয়ে দেখায়: পথগুলো কীভাবে থিতিয়ে যায়, কীভাবে প্রতিটি urn আলাদা random সীমায় lock হয়, কীভাবে upcrossing গোনা হয়, আর কীভাবে maximal inequality-র bound বাস্তব frequency-কে ঢেকে রাখে।

প্রতিটি figure একই seed (np.random.default_rng(20260619)) ব্যবহার করে, তাই নিচের সংখ্যাগুলো পুনরুৎপাদনযোগ্য। নিচের প্রতিটি code-excerpt শুধু figure-এর মূল গণিত-টুকু দেখায় (styling বাদ দিয়ে); পূর্ণ চিত্র-তৈরির script আছে _code/figs_7-9.py-তে। পড়ার সময় মনে রাখা ভালো — এই section-এর লক্ষ্য নতুন তত্ত্ব নয়, বরং §৪-এ প্রমাণিত তিনটি ফলাফল (convergence theorem, upcrossing lemma, maximal inequality) ও §৩-এর Pólya urn উদাহরণকে চোখে দেখে অনুভব করা।

৬.১ · \(L^2\)-bounded martingale থিতিয়ে যায়

মূল convergence theorem-এর হৃদয় হলো এই অন্তর্দৃষ্টি: যদি martingale-টির increment-গুলো যথেষ্ট দ্রুত ছোট হয়ে যায়, তবে path-টি আর সীমাহীনভাবে নড়তে পারে না। এখানে \(i\)-তম ধাপে increment নেওয়া হয়েছে \(\xi_i/i\) আকারে, যেখানে \(\xi_i\) গড়-শূন্য একক-variance। তখন

\[\sup_n E[M_n^2]=\sum_{i\ge 1}\operatorname{Var}\!\left(\frac{\xi_i}{i}\right)=\sum_{i\ge 1}\frac{1}{i^2}=\frac{\pi^2}{6}<\infty,\]

অর্থাৎ \(M_n=\sum_{i\le n}\xi_i/i\) একটি \(L^2\)-bounded (সুতরাং \(L^1\)-bounded) martingale। §৪-এর convergence theorem অনুযায়ী এমন martingale almost surely একটি সসীম random সীমা \(M_\infty\)-তে converge করে।

ছবিতে ১০টি স্বাধীন path আঁকা হয়েছে log-x অক্ষে। log-অক্ষ বেছে নেওয়ার কারণ আছে: increment \(\propto 1/i\), তাই variance \(\propto 1/i^2\) — সাধারণ অক্ষে শেষ দিকের flattening চোখে পড়ে না, কিন্তু log-x-এ প্রতিটি দশগুণ পরিসরে সমান "চওড়া" দেখায় বলে থিতিয়ে যাওয়াটা স্পষ্ট হয়।

n, n_paths = 2000, 10
idx = np.arange(1, n + 1)
for k in range(n_paths):
    xi = rng.standard_normal(n)          # গড়-শূন্য, একক-variance increment
    M = np.cumsum(xi / idx)              # M_n = Σ ξ_i / i  →  L²-bounded martingale
    plt.plot(idx, M)                     # প্রতিটি path নিজের random সীমায় থিতিয়ে যায়
plt.xscale("log")                        # increment ∝ 1/i, তাই log-x-এ flattening স্পষ্ট

ছবি থেকে তিনটি জিনিস পড়ে নেওয়া যায়:

• শুরুতে অস্থিরতা, শেষে স্থিরতা। ছোট \(n\)-এ (\(n\lesssim 30\)) পথগুলো বেশ নড়াচড়া করে, কারণ early increment-গুলো বড়। \(n\) বাড়লে increment এত ছোট হয় যে path প্রায় অনুভূমিক হয়ে পড়ে।
• প্রতিটি সীমা আলাদা। ডান প্রান্তের বিন্দুগুলোই হলো settled সীমা \(M_\infty\); তারা ছড়িয়ে আছে, কারণ সীমাটি ধ্রুবক নয় — একটি genuine random variable। Convergence ঘটে almost surely, distribution-এর অর্থে নয়।
• গড় শূন্যের আশেপাশে। এখানে uniform integrability থাকায় martingale property সীমাতেও টিকে থাকে, তাই \(E[M_\infty]=E[M_0]=0\) — বিন্দুগুলো শূন্য-রেখার দুপাশে প্রায় সমভাবে বণ্টিত।

এই একই ছবি SLLN-এর সাথেও সংযোগ দেখায়: Kolmogorov-এর three-series/variance criterion আসলে এই martingale convergence-এরই একটি প্রয়োগ, যেখানে \(\sum \operatorname{Var}(\xi_i/i)<\infty\) শর্তটি convergence নিশ্চিত করে।

৬.২ · Pólya urn — প্রতিটি urn আলাদা random সীমায়

Pólya urn হলো martingale convergence-এর সবচেয়ে চমৎকার প্রয়োগগুলোর একটি, এবং §৩-এর কেন্দ্রীয় উদাহরণ। শুরুতে urn-এ ১টি লাল ও ১টি কালো বল; প্রতিবার একটি বল randomly তুলে, তার রঙের আরেকটি বল সহ মোট দুটি বল ফেরত দেওয়া হয় (অর্থাৎ যে রঙ উঠল সেই রঙ একটি করে বাড়ে)। লাল-অনুপাত \(R_n\) হলো \([0,1]\)-এ আবদ্ধ একটি martingale — কারণ পরবর্তী ধাপে লাল-অনুপাতের conditional প্রত্যাশা ঠিক বর্তমান অনুপাতের সমান। Bounded martingale সবসময় \(L^1\)-bounded, তাই \(R_n\) almost surely converge করে।

কিন্তু কোন মানে converge করে? এখানেই চমক: এই \(1\)-\(1\) শুরুর জন্য সীমা \(R_\infty\) একেবারে সমতল — \(R_\infty \sim \text{Uniform}(0,1)\)। মূল panel-এ ১২টি urn-এর path আঁকা হয়েছে। প্রতিটি urn early draw-এ দৈবক্রমে যেদিকে হেলে পড়ে, "rich-get-richer" feedback-এর কারণে সেই দিকেই lock হয়ে যায়, এবং একটি ভিন্ন random মানে গিয়ে থিতিয়ে পড়ে। inset-এ ৪০০০টি urn-এর সীমার histogram আঁকা; তার উপর Uniform(0,1)-এর density line (\(y=1\)) বসানো হয়েছে তুলনার জন্য।

def polya_paths(n_draws, n_urns):
    red, total = np.ones(n_urns), 2.0 * np.ones(n_urns)   # শুরুতে 1 লাল, মোট 2
    fracs = np.empty((n_urns, n_draws))
    for t in range(n_draws):
        drew_red = rng.random(n_urns) < red / total       # লাল উঠল?
        red, total = red + drew_red, total + 1.0          # ঐ রঙের একটি বল যোগ
        fracs[:, t] = red / total
    return fracs                                           # প্রতিটি সারি একটি urn-এর R_n-path

limits = polya_paths(600, 4000)[:, -1]
print(round(limits.mean(), 4), round(limits.std(), 4))     # ≈ 0.5007 , 0.2853 (তত্ত্ব 0.5 , 0.2887)

inset-এর histogram তত্ত্বের সাথে দারুণ মেলে: empirical mean \(\approx 0.5007\) ও std \(\approx 0.2853\), যেখানে \(\text{Uniform}(0,1)\)-এর তাত্ত্বিক মান যথাক্রমে \(0.5\) ও \(1/\sqrt{12}\approx 0.2887\)। অর্থাৎ "\(R_n\) converge করে" — এই দুর্বল দাবিটুকুই শুধু নয়, সীমার পুরো distribution-ও আমরা চিনে ফেলতে পারি।

দুটি conceptual বার্তা এখানে গুরুত্বপূর্ণ:

• Almost-sure convergence ≠ deterministic limit। প্রতিটি path থামে, কিন্তু কোথায় থামবে তা random। এটিই martingale convergence-এর সাধারণ চরিত্র — §৬.১-এর ছবিতেও দেখেছি।
• Path-নির্ভরতা ও exchangeability। Pólya urn-এর draw-গুলো exchangeable; de Finetti-র উপপাদ্যের ভাষায় \(R_\infty\)-ই সেই latent mixing parameter, যার condition-এ draw-গুলো i.i.d. Bernoulli হয়ে যায়। তাই flat Uniform সীমা শুধু কৌতূহল নয়, Bayesian conjugacy-র (Beta–Bernoulli) সরাসরি প্রতিফলন।

৬.৩ · Upcrossing — convergence-এর আসল যন্ত্র

Doob-এর convergence theorem-এর প্রমাণ আসলে একটিমাত্র সরল পর্যবেক্ষণের উপর দাঁড়িয়ে আছে: একটি real-valued sequence তখনই converge করতে ব্যর্থ হয় যখন কোনো একটি rational ব্যবধান \([a,b]\) আছে, যাকে sequence-টি নিচ থেকে উপরে অসীমবার অতিক্রম করে — অর্থাৎ \(\liminf < a < b < \limsup\) হলে দোলাচল চিরকাল চলতে থাকে। সুতরাং convergence প্রমাণ করতে হলে দেখাতে হবে: প্রতিটি band-এর upcrossing-সংখ্যা almost surely finite।

Doob-এর upcrossing lemma ঠিক এই কাজটাই করে: \(L^1\)-bounded submartingale \((X_n)\)-এর জন্য, সময় \(n\) পর্যন্ত band \([a,b]\)-এর প্রত্যাশিত upcrossing-সংখ্যা \(U_n[a,b]\) সন্তুষ্ট করে

\[E\big[U_n[a,b]\big] \le \frac{E\big[(X_n-a)^+\big]}{b-a},\]

যা \(\sup_n E[X_n^+]<\infty\) হলে \(n\to\infty\)-এ সসীম থাকে। ফলে কোনো band-ই অসীমবার পার হয় না, এবং path বাধ্য হয়ে একটি সীমায় থিতিয়ে যায়।

ছবিতে একটি path-এর সাথে একটি shaded band \([a,b]\) দেখানো হয়েছে। প্রতিটি সম্পূর্ণ upcrossing — নিচে \(a\)-তে (বা তার নিচে) নেমে, তারপর উপরে \(b\)-তে (বা তার উপরে) ওঠা — একটি লাল তীর দিয়ে চিহ্নিত; শুরু ও শেষ বিন্দু লাল গোল দিয়ে দেখানো।

def count_upcrossings(path, a, b):
    crossings, looking, start = [], "below", None
    for i, v in enumerate(path):
        if looking == "below" and v <= a:        # band-এর নিচে নামল → upcrossing শুরু
            looking, start = "above", i
        elif looking == "above" and v >= b:       # উপরে b পার করল → একটি upcrossing সম্পূর্ণ
            crossings.append((start, i))
            looking = "below"
    return crossings                              # finite হলেই path converge করে

ছবি থেকে যুক্তির শেকলটি পরিষ্কার হয়:

• একটি band, অল্প কয়েকটি upcrossing। এই নির্দিষ্ট band-টি path মাত্র কয়েকবার পার করেছে — অসীমবার নয়। যতক্ষণ সংখ্যাটি finite, path \([a,b]\)-এর ভেতরে চিরকাল দোল খেতে পারে না।
• সব band একসাথে। একটিমাত্র band-এর জন্য finiteness যথেষ্ট নয়; কিন্তু countably many rational \([a,b]\)-এর প্রতিটির জন্য একই যুক্তি প্রয়োগ করলে almost-sure ভাবে কোনো band-ই অসীমবার পার হয় না, অর্থাৎ \(\liminf=\limsup\) — convergence প্রমাণিত।
• Submartingale-এই কাজ করে। লক্ষণীয়, lemma-টির জন্য পূর্ণ martingale property লাগে না; \(L^1\)-bounded submartingale-ই যথেষ্ট, যা theorem-টিকে যথেষ্ট ব্যাপক করে তোলে।

৬.৪ · Doob maximal inequality — running max-কে বাঁধা

Convergence-এর পাশাপাশি martingale তত্ত্বের আরেকটি স্তম্ভ হলো maximal inequality, যা path-এর সর্বোচ্চ মান নিয়ে কথা বলে। একটি nonnegative (sub)martingale \((M_n)\) ও \(\lambda>0\)-এর জন্য

\[P\!\left(\max_{k\le n} M_k \ge \lambda\right) \le \frac{E[M_n]}{\lambda}.\]

এটি Markov inequality-র অনেক শক্তিশালী, path-জুড়ে সংস্করণ: ডান পাশে শুধু এক সময়ের expectation \(E[M_n]\), অথচ বাঁ পাশে পুরো \(0,1,\dots,n\) জুড়ে সর্বোচ্চ মান। প্রমাণের চাবিকাঠি হলো stopping time \(\tau=\min\{k:M_k\ge\lambda\}\) এবং optional stopping।

ছবিতে একটি nonnegative martingale \(M_n\) আঁকা হয়েছে — এটি গড়-\(1\) positive multiplier-এর গুণফল, অর্থাৎ \(M_n=\prod_{k\le n}e^{Z_k}\) যেখানে \(Z_k\sim\mathcal N(-\sigma^2/2,\sigma^2)\), তাই \(E[e^{Z_k}]=1\) এবং \(E[M_n]=1\) সব \(n\)-এর জন্য। সাথে আঁকা হয়েছে running maximum \(M_n^*=\max_{k\le n}M_k\) (step curve) ও threshold \(\lambda=3\)।

n, lam, sigma = 80, 3.0, 0.30
logmult = rng.normal(-sigma**2 / 2, sigma, n)            # E[exp(·)] = 1 → nonneg martingale
M = np.concatenate([[1.0], np.exp(np.cumsum(logmult))])   # E[M_n] = 1 সব n-এর জন্য
Mstar = np.maximum.accumulate(M)                          # running max  M*_n = max_{k≤n} M_k
# বহু path-এ frequency যাচাই (Doob bound টিকে থাকে কিনা):
def crossed(_):
    lm = rng.normal(-sigma**2 / 2, sigma, n)
    return np.exp(np.cumsum(lm)).max() >= lam
freq = sum(crossed(i) for i in range(20000)) / 20000
print(round(freq, 3), "≤", round(1 / lam, 3))            # ≈ 0.27 ≤ 0.333

সংখ্যাটি ছবির দাবিকেই সমর্থন করে: \(20{,}000\)টি path-এ running max \(\ge 3\) হওয়ার empirical frequency \(\approx 0.27\), যা Doob-এর bound \(E[M_n]/\lambda = 1/3 \approx 0.333\)-এর নিচে — ঠিক যেমনটি তত্ত্ব নিশ্চিত করে।

শেষ দুটি পর্যবেক্ষণ মাথায় রাখা দরকার:

• Bound টি tight নয়। \(0.27\) বনাম \(0.33\) — maximal inequality একটি নিরাপদ ঊর্ধ্বসীমা দেয়, exact মান নয়। এটিই প্রত্যাশিত: inequality-টি সব nonnegative martingale-এর জন্য একসাথে সত্য হতে হয়, তাই কোনো নির্দিষ্ট path-এ কিছুটা ঢিলে থাকে।
• Running max বাড়ে, কখনো কমে না। step curve \(M_n^*\) সর্বদা অনাবরোহী; \(M_n\) threshold পার করে আবার নিচে নেমে এলেও \(M_n^*\) উপরেই থেকে যায় — কারণ একবার \(\max_{k\le n}M_k\ge\lambda\) ঘটলে সেই event আর "ফিরে যায় না"। এই monotonicity-ই tail event-টিকে stopping time-এর ভাষায় সহজে ধরা সম্ভব করে।

এই maximal inequality পরবর্তী Doob \(L^p\) inequality-র ভিত্তি, এবং সেখান থেকে martingale concentration ও আরও শক্তিশালী convergence ফলাফল গড়ে ওঠে — অর্থাৎ এই ছোট্ট ছবিটি একটি বড় তত্ত্ব-শৃঙ্খলের প্রথম ধাপ।

---

৭ · অনুশীলনী

নিচের অনুশীলনীগুলো এই অধ্যায়ের কেন্দ্রীয় ইঞ্জিন — upcrossing lemma (ঊর্ধ্বক্রমণ-উপপাদ্য) ও তা থেকে উৎসারিত Martingale Convergence Theorem (মার্টিঙ্গেল-অভিসরণ-উপপাদ্য) — এবং তার তিন সঙ্গী-যন্ত্র Doob's maximal/\(L^p\) inequalities (ডুব-এর সর্বোচ্চ ও \(L^p\) অসমতা), uniform integrability (UI) ও closed/Lévy martingale (সমান-সমাকলনীয়তা ও বদ্ধ মার্টিঙ্গেল), আর জীবন্ত প্রয়োগ-সম্ভার (Pólya urn-এর random limit, Galton–Watson branching-এর বিলুপ্তি, SLLN-এর martingale-প্রমাণ, Bayesian consistency) — চার দিক থেকে যাচাই করে। সমস্যাগুলো চার দলে সাজানো — ক (ধারণাগত), খ (গণনামূলক), গ (প্রমাণভিত্তিক), ঘ (কোডিং)। প্রতিটির শিরোনামে কঠিনতা-চিহ্ন (difficulty tag): ★ মৌলিক, প্রথম পাঠেই বোঝা উচিত; ★★ মাঝারি, একটু কৌশল লাগে; ★★★ গভীর, প্রথম পাঠে কিছু অংশ এড়িয়ে যাওয়া যায়। প্রতিটিতে একটি Hint: দেওয়া আছে।

পূর্ণাঙ্গ সমাধান (ধাপে-ধাপে, কোডসহ): _solutions/07-09-martingale-convergence-solutions.md। আগে নিজে চেষ্টা করুন, তারপর মেলান।

প্রসঙ্গত গোটা অংশে \((\Omega,\mathcal F,\mathbb P)\) একটি probability space, \((\mathcal F_n)_{n\ge0}\) একটি filtration (\(\mathcal F_0\subseteq\mathcal F_1\subseteq\cdots\)), এবং \((X_n)_{n\ge0}\) একটি adapted, integrable process; মনে রাখি \((X_n)\) martingale যদি \(\mathbb E[X_{n+1}\mid\mathcal F_n]=X_n\) a.s. (এখানে \(\mid\) সর্বদা conditioning, কখনোই \(\lvert\cdot\rvert\) নয়), submartingale যদি \(\ge\), supermartingale যদি \(\le\)। \(U_n([a,b])\) হলো সময় \(n\) পর্যন্ত \([a,b]\)-ব্যবধানের upcrossing (ঊর্ধ্বক্রমণ) সংখ্যা; চলমান-সর্বোচ্চ \(X_n^*=\max_{0\le k\le n}\lvert X_k\rvert\); ধনাত্মক-অংশ \(x^+=\max(x,0)\), \(L^p\)-নর্ম \(\lVert X\rVert_p=(\mathbb E\lvert X\rvert^p)^{1/p}\)। সব সিমুলেশন seed np.random.default_rng(20260619)-এ চালানো।

---

ক · ধারণাগত

অনুশীলন ১ (★)

\(L^1\)-bounded martingale (\(\sup_n\mathbb E\lvert X_n\rvert<\infty\)) কেন অবশ্যই একটা সীমায় থিতু হয় — তার স্বজ্ঞাটা upcrossing-ভাবনায় ব্যাখ্যা করুন। (ক) এক-দুই বাক্যে বলুন কেন একটা ধারা \((x_n)\) "অভিসারী নয়" হওয়ার সাথে "কোনো একটা \([a,b]\) (\(a<b\) মূলদ) অসীমবার পেরোনো"-র সম্পর্ক অবিচ্ছেদ্য — অর্থাৎ \(\liminf x_n<\limsup x_n\) হলে কেন কোনো মূলদ-জোড়া \(a<b\) আছে যেখানে \(U_\infty([a,b])=\infty\) (← 7.8)। (খ) Doob's upcrossing lemma \(\mathbb E[U_n([a,b])]\le\frac{\mathbb E[(X_n-a)^+]}{b-a}\) ও \(L^1\)-boundedness মিলিয়ে যুক্তি দিন কেন প্রতিটি মূলদ-জোড়ায় \(U_\infty([a,b])<\infty\) a.s.। (গ) এক বাক্যে: মূলদ-জোড়া গণনাযোগ্যভাবে অসংখ্য — এই তথ্যটা কেন এখানে অপরিহার্য (countable union of null sets)।

Hint: (ক) \(\liminf<\limsup\) হলে দুটো মূলদ \(a<b\) ফাঁকে গোঁজা যায় যাদের নিচে অসীমবার নামে আবার উপরে অসীমবার ওঠে — ঠিক অসীম upcrossing। (খ) lemma + \((x-a)^+\le\lvert x\rvert+\lvert a\rvert\) + sup-বাঁধ ⇒ \(\mathbb E[U_\infty([a,b])]<\infty\) (MCT), তাই \(U_\infty<\infty\) a.s.। (গ) "কোনো-একটা \([a,b]\)-তে অসীম" ঘটনাটা গণনাযোগ্য union; null-set-এর গণনাযোগ্য union null — তাই a.s. সবগুলোই সসীম। (← 7.8, ← 7.4)

অনুশীলন ২ (★★)

Pólya urn-এর রঙ-অনুপাত \(X_n\to X_\infty\) a.s. — কিন্তু সীমা \(X_\infty\) একটা ধ্রুবক নয়, random variable (Uniform\((0,1)\), শুরুর ১ লাল ১ সাদা ক্ষেত্রে)। (ক) ব্যাখ্যা করুন কেন এটা স্ববিরোধী নয় — martingale convergence theorem "অভিসরণ a.s." দেয়, "একটা নির্দিষ্ট সংখ্যায় অভিসরণ" দেয় না; দুটোর পার্থক্য পরিষ্কার করুন (← 7.8)। (খ) self-reinforcement (স্ব-পুনঃবলন) দৃষ্টিকোণে বলুন কেন শুরুর কয়েকটা এলোমেলো টানই দীর্ঘমেয়াদি অনুপাত প্রায় ঠিক করে দেয় — অর্থাৎ কেন path-dependence (পথ-নির্ভরতা) এখানে সহজাত। (গ) এক বাক্যে: একটা সাধারণ random walk-এর গড় (যা \(\to 0\) deterministic) আর Pólya-অনুপাতের (যা \(\to\) random) সীমার মধ্যে কাঠামোগত পার্থক্য কী।

Hint: (ক) "a.s. অভিসরণ" মানে প্রতিটি পথ থিতু হয়; কোথায় থিতু তা পথভেদে আলাদা হতেই পারে — সীমা একটা \(\mathcal F_\infty\)-measurable random variable। (খ) প্রতিটি টান অনুপাতকে নিজের দিকে সামান্য টানে; বল \(\propto\) বর্তমান অনুপাত, তাই প্রাথমিক ভারসাম্য আত্ম-স্থিতিশীল। (গ) random walk-এ increment-গুলো iid মানহীন-প্রবণতা, গড় গড়ে শূন্যে মেলে; Pólya-তে increment-এর শর্তাধীন গড় = বর্তমান অনুপাত (martingale), কোনো একক "টানার-কেন্দ্র" নেই — তাই সীমা random। (← 7.8)

অনুশীলন ৩ (★★)

uniform integrability (UI) ঠিক কী "কিনে দেয়" — a.s.-অভিসরণ থেকে \(L^1\)-অভিসরণে যেতে কেন তা লাগে, ব্যাখ্যা করুন। (ক) একটা উদাহরণ দিন যেখানে \(X_n\to X_\infty\) a.s. কিন্তু \(\mathbb E[X_n]\not\to\mathbb E[X_\infty]\) ("সীমায় ভর হারিয়ে যাওয়া") — যেমন \(X_n=n\,\mathbf 1_{(0,1/n)}\) (Lebesgue-এ) — এবং দেখান এটা UI নয় (← 7.5, ← 7.4)। (খ) "UI martingale ⇔ \(L^1\)-অভিসরণ ⇔ closed (\(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\))" — এই তিন-সমতুল্যতা কেন a.s.-অভিসরণের চেয়ে শক্তিশালী, এক-দুই বাক্যে বলুন। (গ) এক বাক্যে: একটা bounded martingale (যেমন Pólya-অনুপাত, \([0,1]\)-এ) কেন স্বয়ংক্রিয়ভাবে UI, তাই closed।

Hint: (ক) \(X_n=n\mathbf 1_{(0,1/n)}\to0\) a.s. কিন্তু \(\mathbb E[X_n]=1\not\to0\); ভর \(K\)-র উপরে পালায় (\(\sup_n\mathbb E[\lvert X_n\rvert\mathbf 1_{\lvert X_n\rvert>K}]=1\not\to0\)), তাই UI ভাঙে। (খ) UI = "no escape of mass": a.s.-সীমা + UI ⇒ Vitali দিয়ে \(L^1\)-সীমা, আর \(L^1\)-সীমা ⇒ \(\mathbb E[X_\infty\mid\mathcal F_n]=X_n\) (closed)। (গ) bounded ⇒ \(\lvert X_n\rvert\le M\), তাই \(K>M\)-এ tail-integral \(=0\) — তুচ্ছভাবে UI। (← 7.5, ← 7.4)

---

খ · গণনামূলক

অনুশীলন ৪ (★)

Doob's maximal inequality দিয়ে tail-বাঁধ। ধরা যাক \((M_n)_{n\ge0}\) একটা martingale, \(M_0=0\), যেখানে increment \(d_k=M_k-M_{k-1}\) গড়-শূন্য ও \(\mathbb E[d_k^2]=1\) (যেমন \(d_k=\pm1\) সমসম্ভাব্য, simple random walk)। তখন \(\mathbb E[M_n^2]=n\)। (ক) \(X_k:=M_k^2\) একটা submartingale (কারণ \(x\mapsto x^2\) convex, conditional Jensen, 7.7) — এই \(X_k\)-তে maximal inequality \(\lambda\,\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\mathbb E[X_n]\) প্রয়োগ করে দেখান $$ \mathbb P\Big(\max_{0\le k\le n}\lvert M_k\rvert\ge a\Big)\ \le\ \frac{\mathbb E[M_n^2]}{a^2}\ =\ \frac{n}{a^2}\qquad(a>0). $$ (খ) \(n=2000\), \(a=3\sqrt{n}=3\sqrt{2000}\)-এ এই বাঁধের সংখ্যাগত মান বের করুন এবং মন্তব্য করুন এটি সাধারণ Chebyshev (একক \(n\)-এ) থেকে কেন শক্তিশালী (পুরো পথের সর্বোচ্চ বাঁধে, কেবল শেষ-মান নয়)। (গ) এক বাক্যে: এই \(a^{-2}\)-আকৃতির maximal বাঁধই Kolmogorov's maximal inequality (7.6) — যা SLLN-প্রমাণের কর্মঘোড়া; কেন।

Hint: (ক) \(\{\max_k\lvert M_k\rvert\ge a\}=\{\max_k M_k^2\ge a^2\}\); maximal inequality \(X_k=M_k^2\)-এ \(\lambda=a^2\) বসিয়ে \(a^2\mathbb P(\max M_k^2\ge a^2)\le\mathbb E[M_n^2]=n\)। (খ) \(n/a^2=2000/(9\cdot2000)=1/9\approx0.1111\)। (গ) Kolmogorov's inequality হলো ঠিক এই \(X_k=S_k^2\)-submartingale-এ maximal inequality; partial-sum-এর সর্বোচ্চ-বিচ্যুতি বাঁধে বলে SLLN-এ "লেজ একসাথে ছোট" দেখানো যায়। (← 7.7, ← 7.6)

অনুশীলন ৫ (★★)

দুটো ধারা তুলনা করুন — কোনটা a.s. অভিসারী, কোনটা নয়, এবং কেন। ধরা যাক \(\xi_1,\xi_2,\dots\) iid, \(\mathbb E[\xi_i]=0\), \(\operatorname{Var}(\xi_i)=1\) (যেমন \(\pm1\))। সংজ্ঞা দিন $$ M_n=\sum_{i=1}^n\frac{\xi_i}{i},\qquad S_n=\sum_{i=1}^n\xi_i. $$ (ক) দেখান \(M_n\) একটা \(L^2\)-bounded martingale: \(\mathbb E[M_n^2]=\sum_{i=1}^n\frac1{i^2}\) (increment orthogonal, 7.5/7.7), তাই \(\sup_n\mathbb E[M_n^2]=\sum_{i=1}^\infty\frac1{i^2}=\frac{\pi^2}{6}<\infty\) — সুতরাং \(M_n\) a.s. (ও \(L^2\)-তে) অভিসারী। \(\operatorname{Var}(M_{2000})\)-এর আসন্ন মান লিখুন ও \(\pi^2/6\)-এর সাথে তুলনা করুন। (খ) দেখান \(S_n\) একটা martingale কিন্তু \(L^1\)-bounded নয়: \(\mathbb E[S_n^2]=n\to\infty\), তাই convergence theorem প্রযোজ্য নয় এবং বাস্তবে \(S_n\) a.s. অভিসারী নয় (CLT-মাপে \(S_n/\sqrt n\Rightarrow N(0,1)\) দোলে)। (গ) এক বাক্যে: এই জোড়া কীভাবে দেখায় "martingale হওয়াই যথেষ্ট নয়, \(L^1\)/\(L^2\)-boundedness-ই অভিসরণের চাবি"।

Hint: (ক) \(\mathbb E[(\xi_i/i)(\xi_j/j)]=0\) (\(i\ne j\)), তাই \(\mathbb E[M_n^2]=\sum 1/i^2\uparrow\pi^2/6\approx1.6449\); \(\operatorname{Var}(M_{2000})\approx1.6459\) (সিমুলেশন; canonical)। (খ) \(\sum 1/i\) অপসারী-আকৃতির ভর, \(\operatorname{Var}(S_n)=n\) অসীম-প্রবণ; \(L^1\)-bounded নয় ⇒ উপপাদ্য নিঃশব্দ, আর \(S_n\) আসলে দোলে। (গ) একই increment \(\xi_i\), কিন্তু \(1/i\)-ভাগে ভর-যোগ converges (\(\sum 1/i^2<\infty\)) বনাম converges-না (\(\sum 1/i=\infty\)) — boundedness-ই পার্থক্য করে। (← 7.5, ← 7.7)

অনুশীলন ৬ (★★)

Galton–Watson branching martingale ও তার গড়। একটা শাখা-প্রক্রিয়ায় (branching process) প্রতিটি ব্যক্তি স্বাধীনভাবে একই বণ্টন থেকে সন্তান-সংখ্যা নেয়, গড় \(m=\mathbb E[\text{সন্তান}]\in(0,\infty)\); \(Z_0=1\) এবং \(Z_{n+1}=\sum_{i=1}^{Z_n}\chi_{n,i}\) (\(\chi_{n,i}\) iid সন্তান-সংখ্যা, \(Z_n\)-স্বাধীন)। (ক) দেখান \(\mathbb E[Z_{n+1}\mid\mathcal F_n]=m\,Z_n\), তাই স্বাভাবিকীকৃত প্রক্রিয়া \(W_n=Z_n/m^n\) একটা martingale — এবং তা অঋণাত্মক (\(W_n\ge0\))। (খ) \(\mathbb E[W_n]\) বের করুন (সব \(n\)-এ); অঋণাত্মক-supermartingale/martingale corollary দিয়ে যুক্তি দিন কেন \(W_n\to W\ge0\) a.s.। (গ) \(m=2\), \(n=10\) ধরে \(\mathbb E[Z_{10}]=m^{10}\) বের করুন এবং এক বাক্যে বলুন \(m<1\) (subcritical) হলে কেন \(\mathbb E[Z_n]=m^n\to0\) মানে প্রায়-নিশ্চিত বিলুপ্তি (extinction)।

Hint: (ক) \(\mathbb E[Z_{n+1}\mid\mathcal F_n]=\mathbb E[\sum_{i=1}^{Z_n}\chi_{n,i}\mid\mathcal F_n]=Z_n\,\mathbb E[\chi]=mZ_n\) (Wald/pull-out); ভাগ \(m^{n+1}\) দিয়ে martingale, আর \(Z_n\ge0\Rightarrow W_n\ge0\)। (খ) tower: \(\mathbb E[W_n]=\mathbb E[W_0]=Z_0/m^0=1\) সব \(n\)-এ; অঋণাত্মক martingale ⇒ \(L^1\)-bounded (\(\mathbb E\lvert W_n\rvert=\mathbb E[W_n]=1\)) ⇒ a.s.-সীমা \(W\) (convergence theorem)। (গ) \(\mathbb E[Z_{10}]=2^{10}=1024\); \(m<1\)-এ \(\mathbb E[Z_n]=m^n\to0\) ও \(Z_n\) পূর্ণসংখ্যা ⇒ \(\mathbb P(Z_n\ge1)\le\mathbb E[Z_n]\to0\), তাই \(Z_n=0\) শেষে a.s. (বিলুপ্তি)।

---

গ · প্রমাণভিত্তিক

অনুশীলন ৭ (★★)

অঋণাত্মক supermartingale a.s. অভিসারী — convergence theorem থেকে প্রমাণ করুন। ধরা যাক \((X_n)_{n\ge0}\) একটা supermartingale যেখানে \(X_n\ge0\) সব \(n\)-এ। দেখান একটা \(X_\infty\in L^1\) আছে যাতে \(X_n\to X_\infty\) a.s. এবং \(\mathbb E[X_\infty]\le\mathbb E[X_0]\)। (ক) প্রথমে যুক্তি দিন কেন \((X_n)\) স্বয়ংক্রিয়ভাবে \(L^1\)-bounded — অর্থাৎ \(\sup_n\mathbb E\lvert X_n\rvert<\infty\) (supermartingale-এ গড় অ-বর্ধমান ব্যবহার করুন)। (খ) Martingale Convergence Theorem (যা submartingale/\(L^1\)-bounded-রূপে বিবৃত — supermartingale-এ \(-X_n\) submartingale) প্রয়োগ করে a.s.-সীমা \(X_\infty\) আনুন। (গ) Fatou's lemma (7.4) দিয়ে দেখান \(X_\infty\in L^1\) এবং \(\mathbb E[X_\infty]\le\liminf_n\mathbb E[X_n]\le\mathbb E[X_0]\); এক বাক্যে বলুন কেন এই corollary-ই branching \(W_n=Z_n/m^n\)-এর অভিসরণ সরাসরি দেয়।

Hint: (ক) supermartingale: \(\mathbb E[X_{n+1}\mid\mathcal F_n]\le X_n\Rightarrow\mathbb E[X_n]\le\mathbb E[X_0]\); আর \(X_n\ge0\Rightarrow\mathbb E\lvert X_n\rvert=\mathbb E[X_n]\le\mathbb E[X_0]<\infty\), \(n\)-নিরপেক্ষ। (খ) \(Y_n=-X_n\) submartingale, \(L^1\)-bounded ⇒ \(Y_n\to Y_\infty\) a.s. ⇒ \(X_n\to X_\infty=-Y_\infty\) a.s.। (গ) Fatou: \(\mathbb E[X_\infty]=\mathbb E[\liminf X_n]\le\liminf\mathbb E[X_n]\le\mathbb E[X_0]\) (অঋণাত্মক বলে Fatou প্রযোজ্য, সীমা \(L^1\)); branching-এ \(W_n\ge0\) martingale (তাই supermartingale-ও) ⇒ সরাসরি \(W\)। (← 7.4)

অনুশীলন ৮ (★★★)

Doob's maximal inequality — first-hitting stopping time দিয়ে উৎপাদন করুন। ধরা যাক \((X_n)_{n\ge0}\) একটা অঋণাত্মক submartingale এবং \(\lambda>0\)। প্রমাণ করুন $$ \lambda\,\mathbb P\Big(\max_{0\le k\le n}X_k\ge\lambda\Big)\ \le\ \mathbb E\big[X_n\,\mathbf 1_{{\max_k X_k\ge\lambda}}\big]\ \le\ \mathbb E[X_n]. $$ (ক) hitting time \(\tau=\min\{k\ge0:X_k\ge\lambda\}\) (নাহলে \(\tau=\infty\)) সংজ্ঞা দিন; যুক্তি দিন কেন \(\tau\) একটা stopping time এবং কেন \(\{\max_{k\le n}X_k\ge\lambda\}=\{\tau\le n\}\) (← 7.8)। (খ) optional stopping/stopped-process (7.8) প্রয়োগ করে দেখান \(\mathbb E[X_n]\ge\mathbb E[X_{\tau\wedge n}]\) এবং \(\{\tau\le n\}\)-এ \(X_{\tau\wedge n}=X_\tau\ge\lambda\) (hitting-এর সংজ্ঞায়); তাই \(\mathbb E[X_{\tau\wedge n}\mathbf 1_{\{\tau\le n\}}]\ge\lambda\,\mathbb P(\tau\le n)\)। (গ) দুই অংশ জুড়ে চূড়ান্ত অসমতা টানুন; এক বাক্যে বলুন কেন এটি ঠিক Markov inequality-র (3.1) "পুরো-পথ-সর্বোচ্চ" সংস্করণ।

Hint: (ক) \(\{\tau\le n\}=\bigcup_{k\le n}\{X_k\ge\lambda\}\in\mathcal F_n\) (\(X\) adapted) ⇒ stopping time; "কোনো \(k\le n\)-এ \(X_k\ge\lambda\)" ⇔ "\(\max_{k\le n}X_k\ge\lambda\)"। (খ) submartingale-এ optional sampling: \(\mathbb E[X_n\mid\mathcal F_{\tau\wedge n}]\ge X_{\tau\wedge n}\), তাই \(\mathbb E[X_n\mathbf 1_{\{\tau\le n\}}]\ge\mathbb E[X_\tau\mathbf 1_{\{\tau\le n\}}]\ge\lambda\mathbb P(\tau\le n)\)। (গ) \(\lambda\mathbb P(\max\ge\lambda)\le\mathbb E[X_n\mathbf 1_{\{\max\ge\lambda\}}]\le\mathbb E[X_n]\); Markov \(\lambda\mathbb P(X\ge\lambda)\le\mathbb E[X]\)-এর max-রূপ (একটা \(X_n\) নয়, পুরো \(\max_{k\le n}\) বাঁধে)। (← 7.8, ← 3.1)

অনুশীলন ৯ (★★)

Pólya urn-এর রঙ-অনুপাত একটা martingale — দেখান। শুরুতে কলসে \(r_0\) লাল ও \(w_0\) সাদা বল; প্রতি ধাপে একটা বল সমসম্ভাব্যভাবে তোলা হয়, তার রঙ দেখে সেই রঙের আরেকটা বল সহ ফেরত দেওয়া হয় (মোট বল প্রতি ধাপে \(1\) বাড়ে)। ধাপ \(n\)-এর পর লাল-অনুপাত \(X_n=\frac{R_n}{R_n+W_n}\) (\(R_n,W_n\) = লাল/সাদা সংখ্যা, \(R_n+W_n=r_0+w_0+n\))। প্রমাণ করুন \((X_n)\) একটা martingale, অর্থাৎ \(\mathbb E[X_{n+1}\mid\mathcal F_n]=X_n\)। (ক) ধাপ \(n+1\)-এ \(T_n=R_n+W_n\) ধরে শর্তাধীন সম্ভাবনা লিখুন: লাল-টান (\(X_n\) সম্ভাবনায়) ⇒ \(R_{n+1}=R_n+1\); সাদা-টান (\(1-X_n\) সম্ভাবনায়) ⇒ \(R_{n+1}=R_n\)। (খ) দুই ক্ষেত্রে \(X_{n+1}=\frac{R_{n+1}}{T_n+1}\) লিখে শর্তাধীন প্রত্যাশা কষুন। (গ) বীজগণিত সরল করে দেখান তা ঠিক \(X_n\)-এ ফেরে; এক বাক্যে বলুন এটা \([0,1]\)-bounded বলে কোন অভিসরণ-উপপাদ্য সরাসরি প্রযোজ্য।

Hint: (খ) \(\mathbb E[X_{n+1}\mid\mathcal F_n]=X_n\cdot\frac{R_n+1}{T_n+1}+(1-X_n)\cdot\frac{R_n}{T_n+1}\)। (গ) \(=\frac{X_n(R_n+1)+(1-X_n)R_n}{T_n+1}=\frac{R_n+X_n}{T_n+1}=\frac{R_n+R_n/T_n}{T_n+1}=\frac{R_n(T_n+1)/T_n}{T_n+1}=\frac{R_n}{T_n}=X_n\) ✓ (যেখানে \(X_n=R_n/T_n\))। bounded ⇒ UI ⇒ closed/convergence theorem সরাসরি (\(X_n\to X_\infty\) a.s. ও \(L^1\))। (← 7.8)

---

ঘ · কোডিং

সব স্নিপেট seed np.random.default_rng(20260619)-এ চালানো; সংখ্যাগত উত্তর reproducible। প্রয়োজনীয় import: import numpy as np, import matplotlib.pyplot as plt।

অনুশীলন ১০ (★★)

Pólya urn সিমুলেট করে random-limit histogram ≈ Uniform\((0,1)\) দেখান। শুরুতে \(1\) লাল \(1\) সাদা; প্রতিটি run-এ অনেক ধাপ (যেমন \(N=2000\)) চালিয়ে চূড়ান্ত লাল-অনুপাত \(X_N\) রেকর্ড করুন; এমন বহু (যেমন \(5000\)) run-এর \(X_N\)-এর histogram আঁকুন। (ক) default_rng(20260619) দিয়ে সিমুলেশন লিখুন (প্রতি ধাপে বর্তমান লাল-অনুপাতে Bernoulli টান, সেই রঙ +1)। (খ) সংগৃহীত \(X_N\)-এর mean ও std ছাপুন এবং canonical লক্ষ্য mean \(\approx0.5007\), std \(\approx0.2853\)-এর সাথে মেলান (Uniform\((0,1)\)-এর তাত্ত্বিক mean \(0.5\), std \(1/\sqrt{12}\approx0.2887\))। (গ) ১০টা সমান bin-এ histogram প্রায় সমতল (flat deciles) কিনা যাচাই করুন এবং এক বাক্যে ব্যাখ্যা করুন কেন সমতল-histogram-ই "\(X_\infty\sim\) Uniform\((0,1)\)" নিশ্চিত করে (random limit, deterministic নয়)।

Hint: প্রতি run: red, total = 1, 2; for _ in range(N): p=red/total; red += rng.random()<p; total += 1; record red/total। mean≈0.5007, std≈0.2853, deciles প্রায় সমান (~10% করে)। সমতল = সব মান সমসম্ভাব্য = Uniform; এক চূড়া হলে deterministic-সীমা বোঝাত। (canonical)

অনুশীলন ১১ (★★)

Doob's maximal inequality সংখ্যাগতভাবে যাচাই করুন। ধরা যাক \(M_n=\sum_{i=1}^n d_i\), \(d_i=\pm1\) সমসম্ভাব্য (simple random walk, martingale)। কোনো ছোট \(n\) ও threshold-এ \(\mathbb P(\max_{k\le n}M_k\ge\lambda)\) empirically মেপে Doob-বাঁধের নিচে কিনা দেখান। নির্দিষ্ট canonical সেটআপ: এমন একটা (অঋণাত্মক) martingale/সেটিং বেছে নিন যেখানে \(\mathbb P(\max\ge3)\approx0.2770\) মাপা যায় এবং তা তাত্ত্বিক বাঁধ \(1/3\approx0.3333\)-এর নিচে পড়ে। (ক) default_rng(20260619)-এ বহু পথ সিমুলেট করুন। (খ) empirical \(\mathbb P(\max_{k\le n}X_k\ge\lambda)\) আর Doob-বাঁধ \(\mathbb E[X_n]/\lambda\) (অঋণাত্মক submartingale-রূপে) — দুটো ছাপুন এবং empirical \(\le\) bound যাচাই করুন। (গ) এক বাক্যে: কেন empirical মান বাঁধের চেয়ে ছোট হওয়াই প্রত্যাশিত (inequality, equality নয় — পথ সাধারণত \(\lambda\) ছোঁয়ার পর নেমে আসে)।

Hint: অঋণাত্মক submartingale \(X_k\) নিন (যেমন একটা ধনাত্মক martingale বা \(M_k\)-কে শিফট করে); maximal inequality \(\lambda\mathbb P(\max X_k\ge\lambda)\le\mathbb E[X_n]\) ⇒ bound \(=\mathbb E[X_n]/\lambda\)। canonical: \(\mathbb P(\max\ge3)\approx0.2770\le1/3=0.3333\) ✓। empirical \(<\) bound কারণ bound "সর্বোচ্চ-সম্ভাব্য" আঁটসাঁট নয়; পথ \(\lambda\) ছুঁয়ে ফিরে আসে। (canonical)

অনুশীলন ১২ (★★)

\(\sum\xi_i/i\) converges কিন্তু \(\sum\xi_i\) converges না — সিমুলেশনে দেখান। \(\xi_i=\pm1\) সমসম্ভাব্য নিয়ে \(M_n=\sum_{i=1}^n\xi_i/i\) আর \(S_n=\sum_{i=1}^n\xi_i\) গণনা করুন। (ক) default_rng(20260619)-এ একাধিক পথ চালিয়ে \(M_n\)-এর পথগুলো একটা সীমার দিকে থিতু হতে দেখান (plot), আর \(S_n\)-এর পথ দোলে/ছড়ায় (\(\pm\sqrt n\)-মাপে) দেখান। (খ) \(\operatorname{Var}(M_{2000})\) empirically মেপে canonical \(\approx1.6459\) ও তাত্ত্বিক \(\sum_{i=1}^\infty 1/i^2=\pi^2/6\approx1.6449\)-এর সাথে মেলান; পাশাপাশি \(\operatorname{Var}(S_{2000})\approx2000\) দেখান (অসীম-প্রবণ)। (গ) এক বাক্যে: এই সংখ্যা-জোড়া (\(\sum1/i^2<\infty\) বনাম \(\operatorname{Var}(S_n)=n\to\infty\)) কীভাবে \(L^2\)-bounded-ই অভিসরণের চাবি তা প্রমাণ করে।

Hint: xi = rng.choice([-1,1], size=(paths, 2000)); M = np.cumsum(xi/np.arange(1,2001), axis=1); S = np.cumsum(xi, axis=1); M[:,-1].var()≈1.6459, S[:,-1].var()≈2000। \(M_n\) থিতু কারণ \(\sum1/i^2<\infty\); \(S_n\) দোলে কারণ \(\operatorname{Var}=n\)। boundedness থাকলে অভিসরণ, না-থাকলে নয়। (canonical)

---

৮ · সারসংক্ষেপ ও সংযোগ

এই অধ্যায় একটিমাত্র যন্ত্র — Doob's upcrossing lemma — থেকে শুরু করে martingale-তত্ত্বের গভীরতম ফসল তুলেছে: একটা বদ্ধ (\(L^1\)-bounded বা অঋণাত্মক) martingale চিরকাল দুলতে পারে না, তাকে a.s. থিতু হতেই হয়। চলুন সুতোটা গেঁথে নিই।

৮.১ যুক্তি-শৃঙ্খলের পুনরাবৃত্তি।

• upcrossing lemma → convergence theorem। একটা ধারা অভিসারী-নয় ঠিক তখনই যখন কোনো \([a,b]\) অসীমবার পেরোয়। Doob's upcrossing lemma \(\mathbb E[U_n([a,b])]\le\frac{\mathbb E[(X_n-a)^+]}{b-a}\) — "\(a\)-তে কিনে \(b\)-তে বেচা" predictable কৌশলে অসীম মুনাফা অসম্ভব বলে (7.8-এর martingale-transform) — upcrossing-সংখ্যাকে বাঁধে। \(L^1\)-boundedness + প্রতিটি মূলদ-জোড়ায় সসীম-গড় upcrossing (Fatou/MCT, 7.4) ⇒ Martingale Convergence Theorem: \(\sup_n\mathbb E\lvert X_n\rvert<\infty\Rightarrow X_n\to X_\infty\) a.s., \(X_\infty\in L^1\)। বিশেষ পরিণতি — যেকোনো অঋণাত্মক supermartingale স্বয়ংক্রিয়ভাবে \(L^1\)-bounded, তাই a.s. অভিসারী।
• maximal ও \(L^p\) inequalities। running max \(X_n^*=\max_{k\le n}\lvert X_k\rvert\) নিয়ন্ত্রণের দুই যন্ত্র: hitting-time-এ optional stopping দিয়ে Doob's maximal inequality \(\lambda\,\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\mathbb E[X_n^+]\) (Markov-এর পুরো-পথ সংস্করণ; এটিই Kolmogorov's inequality, 7.6), এবং তার উপর Hölder চাপিয়ে Doob's \(L^p\) inequality (\(p>1\)): \(\lVert X_n^*\rVert_p\le\frac{p}{p-1}\lVert X_n\rVert_p\)।
• UI → closed/Lévy martingale। a.s.-অভিসরণই যথেষ্ট নয় ("সীমায় ভর হারাতে পারে")। uniform integrability যোগ করলে a.s. → \(L^1\) (Vitali, 7.5), এবং UI martingale ⇔ \(L^1\)-অভিসরণ ⇔ closed: \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\) (একটা Doob martingale, 7.7)। \(L^2\)-bounded martingale (orthogonal increments, 7.5) a.s. ও \(L^2\)-তে অভিসারী। মুকুট — Lévy's upward theorem \(\mathbb E[Y\mid\mathcal F_n]\to\mathbb E[Y\mid\mathcal F_\infty]\) (a.s. ও \(L^1\)) ও তার পরিণতি Lévy's 0–1 law \(\mathbb P(A\mid\mathcal F_n)\to\mathbf 1_A\)।
• প্রয়োগের সম্ভার। SLLN (backwards-martingale, \(\bar X_n\to\mu\) a.s. — 7.6-এর পুনঃপ্রমাণ); Pólya urn (bounded martingale ⇒ Uniform/Beta random limit, path-dependent); Galton–Watson branching (\(W_n=Z_n/m^n\) অঋণাত্মক martingale ⇒ a.s.-সীমা \(W\); \(m\le1\)-এ বিলুপ্তি); Radon–Nikodym (UI/closed-martingale দিয়ে density-নির্মাণ, 7.5); Bayesian consistency (posterior = Lévy martingale ⇒ সত্যে কেন্দ্রীভূত)।

৮.২ মূল উপপাদ্য/তথ্য (mini-list)।

• Doob's upcrossing lemma। submartingale-এ \(\mathbb E[U_n([a,b])]\le\dfrac{\mathbb E[(X_n-a)^+]}{b-a}\) — সব convergence-ফলের ইঞ্জিন।
• Martingale Convergence Theorem। \(\sup_n\mathbb E\lvert X_n\rvert<\infty\Rightarrow X_n\xrightarrow{\text{a.s.}}X_\infty\in L^1\), \(\mathbb E\lvert X_\infty\rvert\le\sup_n\mathbb E\lvert X_n\rvert\)।
• অঋণাত্মক supermartingale corollary। \(X_n\ge0\) supermartingale ⇒ \(X_n\to X_\infty\) a.s., \(\mathbb E[X_\infty]\le\mathbb E[X_0]\)।
• Doob's maximal inequality। অঋণাত্মক submartingale: \(\lambda\,\mathbb P(\max_{k\le n}X_k\ge\lambda)\le\mathbb E[X_n\,\mathbf 1_{\{\max\ge\lambda\}}]\le\mathbb E[X_n]\)।
• Doob's \(L^p\) inequality (\(p>1\))। \(\lVert X_n^*\rVert_p\le\dfrac{p}{p-1}\lVert X_n\rVert_p\)।
• UI ⇔ \(L^1\)-অভিসরণ ⇔ closed। UI martingale: \(X_n\to X_\infty\) (\(L^1\) ও a.s.), \(X_n=\mathbb E[X_\infty\mid\mathcal F_n]\)।
• \(L^2\)-অভিসরণ। \(\sup_n\mathbb E[X_n^2]<\infty\Rightarrow X_n\to X_\infty\) a.s. ও \(L^2\); \(\mathbb E[X_n^2]=\mathbb E[X_0^2]+\sum_k\mathbb E[d_k^2]\)।
• Lévy's upward theorem ও 0–1 law। \(\mathbb E[Y\mid\mathcal F_n]\to\mathbb E[Y\mid\mathcal F_\infty]\) (a.s. ও \(L^1\)); \(\mathbb P(A\mid\mathcal F_n)\to\mathbf 1_A\) (\(A\in\mathcal F_\infty\))।
• canonical সংখ্যা। Pólya red-fraction \(\to\) Uniform\((0,1)\) (mean \(0.5007\), std \(0.2853\), সমতল deciles); \(L^2\)-martingale \(\sum\xi_i/i\): \(\operatorname{Var}(M_{2000})=1.6459\approx\pi^2/6=1.6449\); Doob's maximal \(\mathbb P(\max\ge3)=0.2770\le1/3=0.3333\); seed default_rng(20260619)।

৮.৩ সংযোগ — পেছনে ও সামনে।

• ← 7.8 (Martingales: filtration, stopping time, optional sampling)। এই অধ্যায়ের সরাসরি ভিত্তি: martingale/submartingale/supermartingale-এর সংজ্ঞা, martingale transform (upcrossing-গণনার "কিনে-নিচে-বেচে-উপরে" কৌশল), stopping time ও stopped process (maximal inequality-র hitting-time প্রমাণ), এবং Doob martingale \(X_n=\mathbb E[Y\mid\mathcal F_n]\) (closed/Lévy martingale-এর রূপ)।
• ← 7.6 (Independence, 0–1 laws, SLLN)। Doob's maximal inequality ঠিক Kolmogorov's maximal inequality, আর SLLN এখানে martingale-পথে পুনঃপ্রমাণিত; Lévy's 0–1 law Kolmogorov's 0–1 law-কে পুনঃপ্রমাণ করে।
• ← 7.5 (\(L^p\) spaces, Hilbert, Radon–Nikodym)। \(L^p\)-নর্ম ও completeness (\(L^p\)/\(L^2\)-bounded martingale-অভিসরণের মঞ্চ), \(L^2\)-orthogonality (increment-Pythagoras), uniform integrability (Vitali-অভিসরণ), এবং Radon–Nikodym density (martingale-নির্মাণে পুনরুদ্ধৃত)।
• ← 7.4 (Lebesgue integral ও convergence theorems)। "integrable" = \(L^1\); a.s.-সীমার \(L^1\)-অন্তর্ভুক্তি (Fatou), upcrossing-গণনায় monotone-সীমা (MCT), a.s. → \(L^1\) (UI-শর্তে DCT/Vitali)।
• → 7.10 (Rigorous CLT)। Part VII-এর শিখর: martingale-অভিসরণ ও এর যন্ত্রপাতি (বিশেষত \(L^2\)/UI-নিয়ন্ত্রণ, এবং martingale-CLT-এর পথ) rigorous Central Limit Theorem-এর শেষ ভিত্তি।

উৎস। Klenke, Probability Theory: A Comprehensive Course — Ch.11 (Martingale Convergence Theorems and their Applications) ও Ch.12 (Backwards Martingales and Exchangeability); পরিপূরক স্বজ্ঞা ও 0–1 law-এর অভিজাত প্রমাণ Williams (Probability with Martingales, Ch.11–14) ও Durrett (Probability: Theory and Examples, Ch.5) থেকে।

এক বাক্যে। একটিমাত্র "অসীম upcrossing = অসীম মুনাফা = অসম্ভব" যুক্তি থেকে Martingale Convergence Theorem (\(L^1\)-bounded ⇒ a.s.-সীমা) ও তার তিন সঙ্গী (Doob's maximal/\(L^p\) inequalities, UI/closed/Lévy martingale, \(L^2\)-অভিসরণ) বেরোয়, যা Pólya urn-এর random limit থেকে branching-বিলুপ্তি, SLLN ও Bayesian consistency পর্যন্ত একই সুতোয় গাঁথে — এবং 7.10-এর rigorous CLT-এর ভিত্তি গড