7.10 — Characteristic Functions ও Rigorous CLT (Part VII-এর চূড়া: সম্পূর্ণ প্রমাণিত কেন্দ্রীয় সীমা উপপাদ্য)¶
১ · ভূমিকা ও insight (অন্তর্দৃষ্টি)¶
১.১ একটা দীর্ঘ আরোহণের শিখর — পুরো Part VII গড়া হয়েছিল এই মুহূর্তের জন্য¶
এই অধ্যায় একটা সমাপ্তি। শুধু Part VII-এর নয় — পুরো scratch→PhD আরোহণের, যা শুরু হয়েছিল মুদ্রা-নিক্ষেপের সরল সম্ভাবনা থেকে আর এখন পৌঁছেছে measure-তাত্ত্বিক সম্ভাব্যতার সবচেয়ে গভীর, সবচেয়ে সুন্দর ফলে: Central Limit Theorem (কেন্দ্রীয় সীমা উপপাদ্য)-এর সম্পূর্ণ, কঠোর প্রমাণ।
ফিরে তাকানো যাক। Part VII-এর প্রতিটা ইট আসলে এই মুহূর্তের দিকে এক-একটা ধাপ ছিল: 7.1–7.2-এ আমরা σ-algebra ও measure গড়লাম — সম্ভাবনার আঁটোসাঁটো ভিত্তি; 7.3-এ random variable হয়ে উঠল measurable map; 7.4-এ Lebesgue integral দিল প্রত্যাশার সর্বজনীন সংজ্ঞা \(\mathbb E[X]=\int X\,d\mathbb P\) ও সীমা-বিনিময়ের তিন স্তম্ভ (MCT, Fatou, DCT); 7.5-এ \(L^p\)-স্থান ও Hilbert-গঠন এল; 7.6-এ স্বাধীনতা হলো কঠোর এবং তা থেকে SLLN; 7.7-এ conditional expectation; 7.8–7.9-এ martingale ও তার অভিসরণ। এতগুলো যন্ত্র — কিন্তু কেন? উত্তর: যাতে এই অধ্যায়ে আমরা অবশেষে CLT-কে প্রমাণ করতে পারি।
কারণ 3.4-এ আমরা CLT-র সাথে পরিচিত হয়েছিলাম — চোখে দেখেছিলাম যে iid যোগফল যত বড়, তত নিখুঁত bell-curve, \(Z_n=\frac{\sqrt n(\bar X_n-\mu)}{\sigma}\) ক্রমে standard normal-এ মেলে — কিন্তু আমরা তা প্রমাণ করিনি। তখন হাতে টুল ছিল না: weak convergence-কে কঠোরভাবে বলার ভাষা ছিল না, "বণ্টন মেলে কিনা" পরীক্ষার যন্ত্র ছিল না। সেই অসমাপ্ত প্রতিশ্রুতি — পরিসংখ্যানের সবচেয়ে কেন্দ্রীয় উপপাদ্যটার একটা সত্যিকারের প্রমাণ — এই অধ্যায় পূর্ণ করে। আর তা করে একটাই অসাধারণ যন্ত্র দিয়ে: characteristic function।
এক বাক্যে সূচনা। পুরো Part VII (σ-algebra → integral → \(L^p\) → conditional expectation → martingale) গড়া হয়েছিল ঠিক এই শিখরের জন্য — 3.4-এ স্বজ্ঞায় দেখা Central Limit Theorem-কে অবশেষে measure-তাত্ত্বিক ভিত্তির উপর কঠোরভাবে প্রমাণ করতে — আর সেই প্রমাণের একক যন্ত্র হলো characteristic function \(\varphi_X(t)=\mathbb E[e^{itX}]\)।
১.২ characteristic function — আইনের নিখুঁত Fourier আঙুলের-ছাপ¶
একটা random variable \(X\)-এর characteristic function (বৈশিষ্ট্য-ফাংশন, সংক্ষেপে cf) হলো $$ \varphi_X(t)\;=\;\mathbb E\big[e^{itX}\big]\;=\;\int_{\mathbb R}e^{itx}\,dP_X(x),\qquad t\in\mathbb R,\ \ i=\sqrt{-1}. $$ পরিচিত \(e^{itx}=\cos(tx)+i\sin(tx)\) — তাই \(\varphi_X\) একটা complex-মানের ফাংশন, যা \(X\)-এর আইন (law) \(P_X\)-এর Fourier transform। 2.5-এর moment generating function \(M_X(t)=\mathbb E[e^{tX}]\)-এর সাথে এর গভীর আত্মীয়তা: \(t\)-কে \(it\) করে দিলেই \(M\) থেকে \(\varphi\) — কিন্তু এই ছোট্ট পরিবর্তনই একটা বিশাল পার্থক্য আনে।
কী সেই পার্থক্য, আর কেন cf এত শক্তিশালী? তিনটে কারণে এটি আইনের নিখুঁত আঙুলের-ছাপ (fingerprint):
-
এটি সর্বদা বিদ্যমান। এখানেই MGF-এর চেয়ে cf-এর নিরঙ্কুশ জয়। MGF-এ \(e^{tX}\) অসীম হয়ে যেতে পারে, তাই heavy-tail বণ্টনে (Cauchy, lognormal, …) MGF অস্তিত্বহীন। কিন্তু \(\lvert e^{itX}\rvert=\lvert\cos tX+i\sin tX\rvert=1\) — সর্বদা! তাই integrand-এর পরম-মান ধ্রুবক \(1\)-এ আবদ্ধ, integral সর্বদা সংজ্ঞায়িত (7.4), এবং \(\lvert\varphi_X(t)\rvert\le1\) প্রতিটি \(X\)-এর জন্য। অর্থাৎ cf-এর তত্ত্বে কোনো "অস্তিত্ব নিয়ে দুশ্চিন্তা" নেই — একটা সম্পূর্ণ সর্বজনীন যন্ত্র।
-
এটি আইনকে অনন্যভাবে নির্ধারণ করে। আঙুলের-ছাপ যেমন একজন মানুষকে অনন্যভাবে চেনায়, \(\varphi_X\) তেমনি \(X\)-এর পুরো বণ্টন ধরে রাখে (uniqueness theorem, ২.৬): দুটো random variable-এর একই cf মানে তারা একই আইন মানে। inversion formula দিয়ে \(\varphi\) থেকে density পর্যন্ত পুনরুদ্ধার করা যায়। তাই "\(X\) ও \(Y\)-এর বণ্টন এক কিনা" — এই কঠিন প্রশ্ন cf-স্তরে নেমে আসে একটা ফাংশন-সমতায়।
-
এটি স্বাধীনতাকে রৈখিক করে। সবচেয়ে কার্যকর ধর্ম: \(X,Y\) স্বাধীন হলে $$ \varphi_{X+Y}(t)=\mathbb E[e^{it(X+Y)}]=\mathbb E[e^{itX}e^{itY}]=\mathbb E[e^{itX}]\,\mathbb E[e^{itY}]=\varphi_X(t)\,\varphi_Y(t) $$ (7.6-এর স্বাধীনতা থেকে প্রত্যাশা গুণফলে ভাঙে)। অর্থাৎ স্বাধীন যোগফলের জটিল convolution cf-স্তরে নিছক গুণফল হয়ে যায়। এটি একটা অলৌকিক সরলীকরণ: iid নমুনায় \(S_n=\sum_{i=1}^n X_i\) হলে \(\varphi_{S_n}=\varphi_X^{\,n}\) — যোগফলের তত্ত্ব হয়ে যায় একটা সংখ্যার \(n\)-তম ঘাত নেওয়া।
এই তিন ধর্ম — সর্বদা-বিদ্যমান, আইন-নির্ধারক, স্বাধীনতা-রৈখিককারী — মিলে cf-কে CLT প্রমাণের আদর্শ যন্ত্র করে তোলে।
এক বাক্যে। characteristic function \(\varphi_X(t)=\mathbb E[e^{itX}]\) হলো আইনের Fourier আঙুলের-ছাপ — যা MGF-এর বিপরীতে সর্বদা বিদ্যমান (\(\lvert e^{itX}\rvert=1\Rightarrow\lvert\varphi\rvert\le1\)), বণ্টনকে অনন্যভাবে নির্ধারণ করে, এবং স্বাধীন যোগফলকে গুণফলে (\(\varphi_{X+Y}=\varphi_X\varphi_Y\), তাই iid-তে \(\varphi_{S_n}=\varphi_X^{\,n}\)) রৈখিক করে — ঠিক যে তিন গুণ CLT-প্রমাণে দরকার।
১.৩ Lévy-র সেতু ও CLT-র প্রমাণ — কীভাবে \(\varphi\) মেলালেই বণ্টন মেলে¶
cf-এর সমস্ত ধর্ম একটা চূড়ান্ত উপপাদ্যে এসে CLT-প্রমাণকে সম্ভব করে — Lévy's continuity theorem (Lévy-র অবিচ্ছিন্নতা উপপাদ্য)। এটি একটা সেতু যা দুটো ভিন্ন জগৎ জোড়ে: distribution-এর অভিসরণ (কঠিন, জ্যামিতিক) আর ফাংশনের pointwise অভিসরণ (সহজ, বিশ্লেষণিক)। সঠিকভাবে — $$ X_n\Rightarrow X\quad\Longleftrightarrow\quad \varphi_{X_n}(t)\to\varphi_X(t)\ \ \text{প্রতিটি}\ t\text{-তে}, $$ যেখানে "\(\Rightarrow\)" হলো weak convergence / convergence in distribution (বণ্টনে অভিসরণ — ২.৫, 3.2-এর কঠোর রূপ)। অর্থাৎ "\(X_n\)-এর বণ্টন \(X\)-এর বণ্টনে যাচ্ছে কিনা" — এই কঠিন প্রশ্নের উত্তর পেতে শুধু দেখলেই চলে "\(\varphi_n(t)\) কি \(\varphi(t)\)-তে যাচ্ছে?" — একটা সাধারণ সংখ্যা-অভিসরণ, প্রতিটি \(t\)-তে আলাদাভাবে। (সূক্ষ্মতা: সীমা-ফাংশন \(\varphi\)-কে \(0\)-তে অবিচ্ছিন্ন হতে হয়, যা tightness — "ভর অসীমে পালায় না" — নিশ্চিত করে; ২.৭।)
এই সেতু হাতে এলে CLT-প্রমাণ একটা পরিচ্ছন্ন তিন-পদক্ষেপ গণনায় নেমে আসে। ধরা যাক \(X_i\) iid, \(\mathbb E[X]=\mu\), \(\operatorname{Var}(X)=\sigma^2\in(0,\infty)\), আর standardized যোগফল \(Z_n=\frac{S_n-n\mu}{\sigma\sqrt n}=\frac{\sqrt n(\bar X_n-\mu)}{\sigma}\)। লিখি \(W=(X-\mu)/\sigma\) (তাই \(\mathbb E[W]=0\), \(\operatorname{Var}(W)=\mathbb E[W^2]=1\)), তখন \(Z_n=\frac1{\sqrt n}\sum_{i=1}^n W_i\)।
- স্বাধীনতা-গুণফল (১.২): \(W_i\) iid, তাই \(\varphi_{Z_n}(t)=\Big(\varphi_W\big(t/\sqrt n\big)\Big)^n\) — যোগফলের cf একটা ঘাত।
- moment-Taylor (২.৫): যেহেতু \(\mathbb E[W^2]<\infty\), ছোট \(s\)-এ \(\varphi_W(s)=1+is\,\mathbb E[W]-\tfrac{s^2}{2}\mathbb E[W^2]+o(s^2)=1-\tfrac{s^2}{2}+o(s^2)\) (\(\mathbb E[W]=0\), \(\mathbb E[W^2]=1\) বসিয়ে)। তাই \(s=t/\sqrt n\)-এ \(\varphi_W(t/\sqrt n)=1-\frac{t^2}{2n}+o(1/n)\)।
- সীমা ও Lévy (১.৩): \(\Big(1-\frac{t^2}{2n}+o(1/n)\Big)^n\to e^{-t^2/2}\) (\(n\to\infty\)) — যা ঠিক \(N(0,1)\)-এর cf (\(\varphi_{N(0,1)}(t)=e^{-t^2/2}\), ২.৩)। Lévy continuity দিয়ে উপসংহার: \(Z_n\Rightarrow N(0,1)\). ∎
এই চূড়ান্ত সরলতা — যেখানে CLT একটা \((1-\tfrac{c}{n})^n\to e^{-c}\)-জাতীয় পরিচিত সীমায় গুটিয়ে আসে — ঠিক cf-যন্ত্রের সৌন্দর্য। 3.4-এর "কেন সবকিছু normal-এ মেলে, কেন \(\sigma/\sqrt n\) স্কেল" — সব এই তিন লাইনে গাণিতিক ভিত্তি পায়। চিত্র 7-10-cf-clt-proof empirically \(\varphi_{Z_n}(t)\)-কে \(e^{-t^2/2}\)-এর দিকে এগোতে দেখাবে — "\(\varphi\) মিললেই বণ্টন মেলে" চোখে।
এক বাক্যে। Lévy's continuity theorem (\(X_n\Rightarrow X\iff\varphi_n(t)\to\varphi(t)\,\forall t\)) একটা সেতু যা কঠিন weak convergence-কে সহজ pointwise cf-অভিসরণে অনুবাদ করে — আর তা দিয়ে CLT একটা তিন-লাইন গণনা: \(\varphi_{Z_n}(t)=(\varphi_W(t/\sqrt n))^n=(1-\tfrac{t^2}{2n}+o(1/n))^n\to e^{-t^2/2}=\varphi_{N(0,1)}(t)\), তাই \(Z_n\Rightarrow N(0,1)\)।
১.৪ কেন এটি গুরুত্বপূর্ণ — একটা যন্ত্র, অসংখ্য ফল, ও একটা যুগের সমাপ্তি¶
characteristic function কেবল CLT-প্রমাণের সিঁড়ি নয় — এটি সম্ভাব্যতা ও পরিসংখ্যানের একটা মৌলিক, সর্বব্যাপী যন্ত্র, যার প্রভাব এই অধ্যায়ের সীমা ছাড়িয়ে দূর পর্যন্ত যায়:
- সব limit theorem-এর সাধারণ ভাষা। একবার "\(\varphi\)-অভিসরণ ⇔ বণ্টন-অভিসরণ" হাতে এলে, কেবল CLT নয় — Poisson approximation (binomial → Poisson), stable ও infinitely divisible বণ্টন, এমনকি Lindeberg–Feller-এর মতো অ-identically-distributed যোগফলের CLT — সব একই cf-পদ্ধতিতে প্রমাণিত হয়। cf হলো limit theorem-জগতের সর্বজনীন মুদ্রা।
- বণ্টন-সমতা প্রমাণের সহজতম পথ। "দুই random variable-এর বণ্টন এক" দেখাতে cf-সমতাই যথেষ্ট (uniqueness)। দুই স্বাধীন normal-এর যোগফল আবার normal, Gamma-দের যোগ-ধর্ম, \(\chi^2\)-এর গঠন — এ-সব cf-গুণফলে এক লাইনে বেরোয়, density-convolution-এর জটিল integral এড়িয়ে।
- moment ও tail-এর সেতু। \(\varphi\)-এর \(0\)-র কাছে আচরণ moment ধরে (\(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\)), আর তার মসৃণতা/ক্ষয় tail-আচরণ ধরে — তাই cf একই সঙ্গে moment-বিশ্লেষণ ও বণ্টনের লেজ-পরীক্ষার যন্ত্র।
- আধুনিক তত্ত্বের প্রবেশদ্বার। characteristic function হলো harmonic analysis-এর Fourier transform-এরই সম্ভাব্যতা-রূপ — তাই এটি Brownian motion, Lévy process, স্থির (stationary) প্রক্রিয়ার spectral তত্ত্ব, এমনকি random matrix-এর দিকে দরজা খোলে। Part VIII-এর capstone প্রকল্প ও তার পরের যেকোনো গবেষণা-পথে এই যন্ত্র সঙ্গী থাকবে।
আর সবচেয়ে বড় তাৎপর্য কাঠামোগত। 3.4-এ CLT ছিল একটা স্বজ্ঞা — চোখে-দেখা, বিশ্বাস-করা, কিন্তু অপ্রমাণিত। এই অধ্যায় তাকে উপপাদ্যে রূপান্তরিত করে, পুরোপুরি measure-তাত্ত্বিক ভিত্তির উপর। এটাই Part VII-এর গোটা যাত্রার যৌক্তিক সমাপ্তি: যে কঠোরতা আমরা σ-algebra থেকে শুরু করে ইট-গেঁথে তুলেছিলাম, তা শেষমেশ পরিসংখ্যানের কেন্দ্রীয়তম সত্যকে নিরঙ্কুশ প্রমাণে পরিণত করে। একটা স্বজ্ঞা থেকে যাত্রা শুরু, একটা প্রমাণে যাত্রা শেষ — এই বৃত্ত সম্পূর্ণ হওয়াই scratch→PhD আরোহণের চূড়া।
এক বাক্যে। characteristic function একটা সর্বজনীন যন্ত্র — সব limit theorem-এর সাধারণ ভাষা, বণ্টন-সমতার সহজতম পথ, moment↔tail সেতু, ও আধুনিক তত্ত্বের (Fourier/spectral) দরজা — আর তার সবচেয়ে বড় কীর্তি: 3.4-এর স্বজ্ঞাগত CLT-কে পূর্ণ-কঠোর উপপাদ্যে পরিণত করে Part VII ও সমগ্র scratch→PhD আরোহণের বৃত্ত সম্পূর্ণ করা।
১.৫ এই অধ্যায়ের পথরেখা¶
- §২ সব মূল বস্তুর precise সংজ্ঞা ও বিবৃতি — characteristic function ও তার ধর্ম (\(\lvert\varphi\rvert\le1\), \(\varphi(0)=1\), \(\overline{\varphi(t)}=\varphi(-t)\), uniform continuity, positive-definiteness/Bochner; ২.১); affine-রূপান্তর \(\varphi_{aX+b}\) ও স্বাধীনতা-গুণফল \(\varphi_{X+Y}=\varphi_X\varphi_Y\) (২.২); মানক উদাহরণ — \(N\), Exp, Bernoulli/Binomial/Poisson (২.৩); moments (\(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\)) ও Taylor-প্রসার (২.৪); uniqueness theorem ও inversion formula (২.৫); weak convergence ও portmanteau (২.৬); Lévy's continuity theorem ও tightness (২.৭); এবং অবশেষে CLT-এর বিবৃতি (২.৮)। ভারী প্রমাণ §৪-এ স্থগিত, স্পষ্ট forward pointer সহ।
- §৪ ভারী প্রমাণ — independence-গুণফল (Fubini); cf-এর uniform continuity ও moment-derivative (DCT); uniqueness/inversion (Fourier inversion); Lévy's continuity theorem (tightness ও Prokhorov-এর উপপাদ্য); এবং চূড়ান্ত — CLT-এর সম্পূর্ণ cf-প্রমাণ (\(\varphi_{Z_n}(t)=(\varphi_W(t/\sqrt n))^n\to e^{-t^2/2}\), Taylor-সহ ত্রুটি-নিয়ন্ত্রণ), সঙ্গে Lindeberg–Feller-এর কাঠামো।
- §৫–৬ simulation ও চিত্র (seed 20260619) — 7-10-characteristic-functions (কয়েকটা বণ্টনের \(\varphi(t)\)-এর বাস্তব ও কাল্পনিক অংশ — \(\lvert\varphi\rvert\le1\), \(\varphi(0)=1\), normal-এর \(\varphi\) আবার Gaussian), 7-10-clt-convergence (অ-normal মূল-বণ্টন থেকে \(Z_n\)-এর histogram \(n\) বাড়ার সাথে \(N(0,1)\)-এ গুটিয়ে আসা), 7-10-cf-clt-proof (\(\varphi_{Z_n}(t)\to e^{-t^2/2}\) — Lévy continuity-র দৃশ্যায়ন), এবং 7-10-weak-convergence (একটা CDF-অনুক্রম \(F_n\to F\) continuity point-এ — weak convergence/portmanteau)।
এর পরে আর measure-তত্ত্বের নতুন ভিত্তি নেই — এই অধ্যায় Part VII-এর এবং সমগ্র scratch→PhD আরোহণের সমাপ্তি। সামনে Part VIII — capstone প্রকল্প, যেখানে এই পুরো যাত্রায় গড়া সরঞ্জাম (estimation, testing, Bayes, measure-তাত্ত্বিক ভিত্তি, ও আজকের cf/CLT) একত্রে বাস্তব সমস্যায় প্রয়োগ হবে।
এক বাক্যে পথরেখা। §২ সংজ্ঞা ও বিবৃতি (cf ও ধর্ম + affine/স্বাধীনতা-গুণফল + উদাহরণ + moments/Taylor + uniqueness/inversion + weak convergence/portmanteau + Lévy continuity + CLT) → §৪ প্রমাণ (independence via Fubini, moment via DCT, uniqueness via Fourier inversion, Lévy via tightness/Prokhorov, এবং CLT via \((\varphi_W(t/\sqrt n))^n\to e^{-t^2/2}\)) → §৫–৬ চার চিত্র (seed 20260619); আর এই অধ্যায় Part VII ও পুরো আরোহণ শেষ করে Part VIII-এর capstone-এ পৌঁছায়।
২ · মূল ধারণা ও সংজ্ঞা¶
এই বিভাগে এ অধ্যায়ের সব formal বস্তুর precise সংজ্ঞা ও বিবৃতি দিই — প্রতিটি প্রতীক প্রথম ব্যবহারেই খুলে। কাঠামো §১-এর সুতো ধরে: প্রথমে কেন্দ্রীয় বস্তু — characteristic function ও তার ধর্ম (২.১); তারপর affine-রূপান্তর ও স্বাধীনতা-গুণফল (২.২); মানক উদাহরণ (২.৩); moments ও Taylor-প্রসার (২.৪); uniqueness ও inversion (২.৫); weak convergence ও portmanteau (২.৬); চূড়ান্ত সেতু Lévy's continuity theorem (২.৭); শেষে অধ্যায়ের লক্ষ্য — CLT-এর বিবৃতি (২.৮)। ভারী প্রমাণগুলো §৪-এ — এখানে কেবল বিবৃতি ও অন্তর্দৃষ্টি, স্পষ্ট forward pointer সহ।
জুড়ে আমরা একটা probability space \((\Omega,\mathcal F,\mathbb P)\)-তে বাস্তব-মানের random variable নিয়ে কাজ করি; \(X\)-এর আইন (law/distribution) \(P_X\) হলো \(\mathbb R\)-এর Borel σ-algebra-র উপর সংজ্ঞায়িত measure \(P_X(B)=\mathbb P(X\in B)\) (7.3), আর \(F_X(x)=\mathbb P(X\le x)\) তার CDF। complex সংখ্যা \(z=a+ib\)-এর জন্য \(\bar z=a-ib\) (conjugate), \(\lvert z\rvert=\sqrt{a^2+b^2}\) (modulus), \(\operatorname{Re}z=a\), \(\operatorname{Im}z=b\); \(i=\sqrt{-1}\) ও Euler-সূত্র \(e^{i\theta}=\cos\theta+i\sin\theta\) ধরে নেওয়া। একটা complex-মানের random variable \(Z=U+iV\)-এর প্রত্যাশা \(\mathbb E[Z]:=\mathbb E[U]+i\,\mathbb E[V]\) (7.4-এর integral দুই অংশে আলাদা), এবং মৌলিক অসমতা \(\lvert\mathbb E[Z]\rvert\le\mathbb E\lvert Z\rvert\) ব্যবহৃত। 7.4-এর সমাকল = প্রত্যাশা ও তার তিন convergence theorem (MCT, Fatou, DCT) এবং 7.6-এর স্বাধীনতা — সব নিঃশব্দে ধরে নেওয়া। প্রতিটি অভিসরণ-বিবৃতি by default যথাযথ অর্থে (a.s./pointwise/weak — যেখানে যা প্রযোজ্য, তা স্পষ্ট করে বলা)।
২.১ characteristic function ও তার মৌলিক ধর্ম¶
প্রথম ইট — অধ্যায়ের কেন্দ্রীয় বস্তু। §১.২-এর "Fourier আঙুলের-ছাপ" ধারণাকে formally বসাই।
সংজ্ঞা (characteristic function)। একটা random variable \(X\)-এর characteristic function (বৈশিষ্ট্য-ফাংশন) হলো \(\varphi_X:\mathbb R\to\mathbb C\), $$ \varphi_X(t)\;:=\;\mathbb E\big[e^{itX}\big]\;=\;\mathbb E[\cos tX]+i\,\mathbb E[\sin tX]\;=\;\int_{\mathbb R}e^{itx}\,dP_X(x),\qquad i=\sqrt{-1}. $$ যেহেতু \(\lvert e^{itX}\rvert=1\), এই প্রত্যাশা প্রতিটি \(X\) ও প্রতিটি \(t\in\mathbb R\)-এর জন্য সংজ্ঞায়িত — কোনো অখণ্ডনীয়তা-শর্ত লাগে না (2.5-এর MGF-এর বিপরীতে, যা অস্তিত্বহীন হতে পারে)।
cf-এর মৌলিক ধর্মগুলো — যেগুলো জুড়ে ব্যবহৃত হবে — একত্রে:
উপপাদ্য (cf-এর মৌলিক ধর্ম)। যেকোনো random variable \(X\)-এর জন্য: 1. আবদ্ধতা ও কেন্দ্র: \(\lvert\varphi_X(t)\rvert\le\varphi_X(0)=1\) প্রতিটি \(t\)-তে (যেহেতু \(\varphi_X(0)=\mathbb E[e^0]=1\) এবং \(\lvert\varphi_X(t)\rvert\le\mathbb E\lvert e^{itX}\rvert=1\))। 2. Hermitian প্রতিসাম্য: \(\overline{\varphi_X(t)}=\varphi_X(-t)\) (কারণ \(\overline{e^{itX}}=e^{-itX}\)); বিশেষত \(X\) প্রতিসম (\(X\stackrel{d}{=}-X\)) হলে \(\varphi_X\) বাস্তব-মানের। 3. uniform continuity (সমভাবে অবিচ্ছিন্নতা): \(\varphi_X\) পুরো \(\mathbb R\)-জুড়ে সমভাবে অবিচ্ছিন্ন — শুধু অবিচ্ছিন্ন নয়, uniformly (প্রমাণ §৪, DCT দিয়ে: \(\lvert\varphi_X(t+h)-\varphi_X(t)\rvert\le\mathbb E\lvert e^{ihX}-1\rvert\to0\), \(t\)-নিরপেক্ষ)। 4. positive-definiteness (ধনাত্মক-নিশ্চয়তা): যেকোনো \(t_1,\dots,t_n\in\mathbb R\) ও \(c_1,\dots,c_n\in\mathbb C\)-তে \(\sum_{j,k}c_j\bar c_k\,\varphi_X(t_j-t_k)\ge0\)।
ধর্ম ৪-এর একটা গভীর উল্টো-পিঠ আছে — Bochner's theorem: একটা ফাংশন \(\varphi:\mathbb R\to\mathbb C\) ঠিক তখনই কোনো বণ্টনের cf, যখন তা (i) \(\varphi(0)=1\), (ii) অবিচ্ছিন্ন, এবং (iii) positive-definite। অর্থাৎ positive-definiteness + \(\varphi(0)=1\) + continuity ঠিক "বৈধ cf"-এর সম্পূর্ণ চরিত্রায়ণ — cf-জগৎ ও বণ্টন-জগৎ পুরোপুরি মিলে যায়। (চিত্র 7-10-characteristic-functions কয়েকটা বণ্টনের \(\varphi\) এঁকে ধর্ম ১–২ ও Gaussian-আকৃতি দেখাবে।)
এক বাক্যে। characteristic function \(\varphi_X(t)=\mathbb E[e^{itX}]=\int e^{itx}\,dP_X\) আইনের Fourier transform, যা \(\lvert e^{itX}\rvert=1\) বলে সর্বদা বিদ্যমান, এবং সর্বদা মানে \(\lvert\varphi_X(t)\rvert\le\varphi_X(0)=1\), \(\overline{\varphi_X(t)}=\varphi_X(-t)\), uniformly continuous ও positive-definite (Bochner: এই তিনই বৈধ cf-এর সম্পূর্ণ চরিত্রায়ণ)।
২.২ affine-রূপান্তর ও স্বাধীনতা-গুণফল¶
cf-এর সবচেয়ে কার্যকর দুই বীজগাণিতিক ধর্ম — যা CLT-প্রমাণের সরাসরি ইঞ্জিন।
উপপাদ্য (affine-রূপান্তর)। যেকোনো বাস্তব ধ্রুবক \(a,b\)-র জন্য $$ \varphi_{aX+b}(t)=\mathbb E\big[e^{it(aX+b)}\big]=e^{itb}\,\mathbb E\big[e^{i(at)X}\big]=e^{itb}\,\varphi_X(at). $$ অর্থাৎ স্থানান্তর (shift) \(b\) একটা ঘূর্ণন-ফেজ \(e^{itb}\) আনে, আর স্কেল \(a\) আর্গুমেন্টকে \(at\)-তে টানে। বিশেষত standardization — \(Z=(X-\mu)/\sigma\) হলে \(\varphi_Z(t)=e^{-it\mu/\sigma}\varphi_X(t/\sigma)\) — ২.৮-এ সরাসরি লাগে।
উপপাদ্য (স্বাধীনতা-গুণফল)। \(X,Y\) স্বাধীন (7.6) হলে $$ \varphi_{X+Y}(t)=\mathbb E\big[e^{itX}e^{itY}\big]=\mathbb E[e^{itX}]\,\mathbb E[e^{itY}]=\varphi_X(t)\,\varphi_Y(t), $$ কারণ স্বাধীন random variable-এর (এখানে \(e^{itX}\) ও \(e^{itY}\)) প্রত্যাশা গুণফলে ভাঙে (§৪, Fubini)। সাধারণভাবে, \(X_1,\dots,X_n\) স্বাধীন হলে \(\varphi_{X_1+\cdots+X_n}(t)=\prod_{k=1}^n\varphi_{X_k}(t)\); এবং তারা iid হলে \(S_n=\sum_{k=1}^n X_k\)-এ $$ \varphi_{S_n}(t)=\big(\varphi_X(t)\big)^n. $$
এই দুই ধর্মের মাহাত্ম্য §১.৩-এ দেখা গেছে: density-স্তরে যোগফল মানে জটিল convolution (\(f_{X+Y}=f_X * f_Y\)), কিন্তু cf-স্তরে তা নিছক গুণফল — Fourier transform convolution-কে গুণফলে পরিণত করে, এটাই তার সংজ্ঞাগত শক্তি। iid-তে যোগফল হয়ে যায় একটা cf-এর ঘাত — যা CLT-প্রমাণে \(\varphi_{Z_n}=(\varphi_W(t/\sqrt n))^n\) রূপে অপরিহার্য।
এক বাক্যে। affine-রূপান্তর \(\varphi_{aX+b}(t)=e^{itb}\varphi_X(at)\) shift-কে ফেজে ও scale-কে আর্গুমেন্ট-টানে অনুবাদ করে; আর স্বাধীনতা-গুণফল \(\varphi_{X+Y}=\varphi_X\varphi_Y\) (iid-তে \(\varphi_{S_n}=\varphi_X^{\,n}\)) জটিল convolution-কে নিছক গুণফলে পরিণত করে — ঠিক যা CLT-প্রমাণের গোড়া।
২.৩ মানক উদাহরণ¶
কয়েকটা পরিচিত বণ্টনের cf — যেগুলো জুড়ে রেফারেন্স হিসেবে লাগবে, বিশেষত \(N(0,1)\)-এর \(e^{-t^2/2}\) যা CLT-এর গন্তব্য।
উদাহরণ (মানক characteristic function)। - Normal \(X\sim N(\mu,\sigma^2)\): \(\ \varphi_X(t)=\exp\!\big(i\mu t-\tfrac12\sigma^2t^2\big)\). বিশেষত standard normal \(N(0,1)\): \(\ \varphi(t)=e^{-t^2/2}\) — লক্ষণীয়, এটি আবার একটা Gaussian-আকৃতি (Fourier transform-এ Gaussian স্থিতিশীল)। এটিই CLT-এর সীমা-cf। - Exponential \(X\sim\text{Exp}(\lambda)\) (\(\lambda>0\)): \(\ \varphi_X(t)=\dfrac{\lambda}{\lambda-it}\) (যা \(\lvert\cdot\rvert\le1\) ও \(\varphi(0)=1\) মানে)। - Bernoulli \(X\sim\text{Ber}(p)\): \(\ \varphi_X(t)=\mathbb E[e^{itX}]=(1-p)+p\,e^{it}\). - Binomial \(X\sim\text{Bin}(n,p)\) (\(n\)টি iid Bernoulli-র যোগফল, তাই ২.২-গুণফলে): \(\ \varphi_X(t)=\big((1-p)+p\,e^{it}\big)^n\). - Poisson \(X\sim\text{Poi}(\lambda)\): \(\ \varphi_X(t)=\exp\!\big(\lambda(e^{it}-1)\big)\).
এদের দুটো শিক্ষা: (১) cf প্রায়ই MGF \(M_X(t)\)-এর \(t\to it\)-প্রতিস্থাপন (যেখানে \(M\) আছে — যেমন normal-এ \(M(t)=e^{\mu t+\sigma^2t^2/2}\), তাই \(\varphi(t)=M(it)=e^{i\mu t-\sigma^2t^2/2}\)); (২) যোগ-ধর্ম এখানে সরাসরি দৃশ্যমান — দুই স্বাধীন normal-এর cf-গুণফল আবার normal-এর cf, তাই (uniqueness, ২.৫-এ) তাদের যোগফলও normal; একইভাবে Poisson, Binomial-এর যোগ-স্থিতিশীলতা।
এক বাক্যে। মানক cf — \(N(\mu,\sigma^2)\to e^{i\mu t-\sigma^2t^2/2}\) (বিশেষত \(N(0,1)\to e^{-t^2/2}\), আবার Gaussian-আকৃতি, CLT-এর গন্তব্য), \(\text{Exp}(\lambda)\to\frac{\lambda}{\lambda-it}\), \(\text{Ber}(p)\to1-p+pe^{it}\), \(\text{Bin}(n,p)\to(1-p+pe^{it})^n\), \(\text{Poi}(\lambda)\to e^{\lambda(e^{it}-1)}\) — প্রায়ই MGF-এর \(t\to it\)-রূপ, আর যোগ-ধর্ম cf-গুণফলে সরাসরি দৃশ্যমান।
২.৪ moments ও Taylor-প্রসার¶
cf আইনের জ্যামিতি ছাড়াও তার moment এনকোড করে — \(0\)-র কাছে ডেরিভেটিভে। এটিই CLT-প্রমাণের তৃতীয় উপাদান।
উপপাদ্য (moment ও cf)। যদি \(\mathbb E\lvert X\rvert^k<\infty\) কোনো পূর্ণসংখ্যা \(k\ge1\)-এর জন্য, তবে \(\varphi_X\) \(k\)-বার অবিচ্ছিন্নভাবে অন্তরকলনযোগ্য (\(\varphi_X\in C^k\)) এবং $$ \varphi_X^{(k)}(0)=i^k\,\mathbb E[X^k],\qquad\text{অর্থাৎ}\quad \mathbb E[X^k]=\frac{\varphi_X^{(k)}(0)}{i^k}=(-i)^k\varphi_X^{(k)}(0). $$ (প্রমাণ §৪: integral-চিহ্নের ভেতরে \(t\)-অন্তরকলন, DCT দিয়ে বৈধ — dominating function \(\lvert X\rvert^k\in L^1\)।)
এর সবচেয়ে দরকারি ফল — Taylor-প্রসার ছোট \(t\)-এ:
পরিণতি (Taylor-প্রসার)। \(\mathbb E[X^2]<\infty\) হলে \(t\to0\)-এ $$ \varphi_X(t)=1+it\,\mathbb E[X]-\frac{t^2}{2}\,\mathbb E[X^2]+o(t^2). $$ বিশেষত \(\mathbb E[X]=0,\ \mathbb E[X^2]=1\) হলে \(\varphi_X(t)=1-\tfrac{t^2}{2}+o(t^2)\) — ঠিক এই রূপটাই (২.৮-এ \(W=(X-\mu)/\sigma\)-তে প্রয়োগ করে) CLT-প্রমাণের কেন্দ্র।
লক্ষণীয়, এই moment↔derivative সেতু cf-কে MGF-এর (\(M^{(k)}(0)=\mathbb E[X^k]\)) সমান্তরাল করে — শুধু \(i^k\)-গুণিতক সহ — কিন্তু এখানে moment থাকলেই (অর্থাৎ \(\mathbb E\lvert X\rvert^k<\infty\)) প্রসার বৈধ, MGF-এর মতো পুরো অস্তিত্বের শর্ত লাগে না। Taylor-প্রসারের "\(o(t^2)\)" পদটি CLT-প্রমাণে যত্নে নিয়ন্ত্রণ করতে হয় (§৪)।
এক বাক্যে। cf moment এনকোড করে — \(\mathbb E\lvert X\rvert^k<\infty\Rightarrow\varphi_X\in C^k\) ও \(\varphi_X^{(k)}(0)=i^k\mathbb E[X^k]\) — এবং তার ফল Taylor-প্রসার \(\varphi_X(t)=1+it\mathbb E[X]-\tfrac{t^2}{2}\mathbb E[X^2]+o(t^2)\) (কেন্দ্রিত-প্রমিত ক্ষেত্রে \(1-\tfrac{t^2}{2}+o(t^2)\)) ঠিক যে রূপ CLT-প্রমাণে দরকার।
২.৫ uniqueness theorem ও inversion formula¶
§১.২-এর "আঙুলের-ছাপ" দাবির কঠোর রূপ — cf আইনকে অনন্যভাবে ধরে।
উপপাদ্য (uniqueness)। দুটো random variable \(X,Y\)-এর cf সমান হলে — অর্থাৎ \(\varphi_X(t)=\varphi_Y(t)\) প্রতিটি \(t\in\mathbb R\)-তে — তাদের আইন সমান: \(P_X=P_Y\) (সমতুল্যভাবে \(F_X=F_Y\), \(X\stackrel{d}{=}Y\))। অর্থাৎ characteristic function বণ্টনকে অনন্যভাবে নির্ধারণ করে।
এই uniqueness আসে একটা গঠনমূলক inversion formula থেকে, যা \(\varphi\) থেকে সরাসরি বণ্টন পুনরুদ্ধার করে:
উপপাদ্য (inversion formula)। \(F\)-এর যেকোনো দুই continuity point \(a<b\)-তে $$ F(b)-F(a)=\lim_{T\to\infty}\frac1{2\pi}\int_{-T}^{T}\frac{e^{-ita}-e^{-itb}}{it}\,\varphi_X(t)\,dt. $$ এবং যদি \(\varphi_X\) অখণ্ডনীয় হয় (\(\int_{\mathbb R}\lvert\varphi_X(t)\rvert\,dt<\infty\)), তবে \(X\)-এর একটা অবিচ্ছিন্ন density আছে, দেওয়া হয় $$ f_X(x)=\frac1{2\pi}\int_{\mathbb R}e^{-itx}\,\varphi_X(t)\,dt \qquad(\text{Fourier inversion})। $$
এ-দুটো বলে cf আর বণ্টন আক্ষরিকভাবে একই তথ্য — একটা Fourier transform-জোড়ার দুই পিঠ (\(P_X\leftrightarrow\varphi_X\))। uniqueness-এর তাৎক্ষণিক ব্যবহার: কোনো random variable-এর cf গণনা করে যদি তা একটা পরিচিত বণ্টনের cf-এর সাথে মেলে, তবে তা ওই বণ্টনই — যেমন দুই স্বাধীন normal-এর cf-গুণফল (২.২–২.৩) আবার normal-cf, তাই যোগফল normal; এ-পদ্ধতি density-convolution-এর integral এড়ায়।
এক বাক্যে। uniqueness theorem — \(\varphi_X\equiv\varphi_Y\Rightarrow P_X=P_Y\) — cf-কে বণ্টনের অনন্য আঙুলের-ছাপ বানায়, আর তার ভিত্তি inversion formula (\(F\)-পার্থক্য বা (অখণ্ডনীয় \(\varphi\)-তে) density \(f_X(x)=\frac1{2\pi}\int e^{-itx}\varphi_X(t)\,dt\) পুনরুদ্ধার করে), যা প্রমাণ করে cf ও আইন একই তথ্যের দুই Fourier-পিঠ।
২.৬ weak convergence ও portmanteau¶
CLT-এর গন্তব্য — "\(Z_n\)-এর বণ্টন \(N(0,1)\)-এ যায়" — কে কঠোর করতে চাই বণ্টনে অভিসরণের সঠিক সংজ্ঞা। 3.2-এ একে স্বজ্ঞায় ছুঁয়েছিলাম, এখানে formally।
সংজ্ঞা (weak convergence / convergence in distribution)। random variable-অনুক্রম \(X_n\) একটা random variable \(X\)-এ weakly (দুর্বলভাবে, বা বণ্টনে) অভিসারী — লিখি \(X_n\Rightarrow X\) (বা \(X_n\xrightarrow{d}X\)) — যদি তাদের CDF-অনুক্রম \(F_n\) \(F\)-এ অভিসারী হয় \(F\)-এর প্রতিটি continuity point-এ: $$ F_n(x)\to F(x)\qquad\text{প্রতিটি }x\text{-এ যেখানে }F\text{ অবিচ্ছিন্ন।} $$ ("continuity point-এ" শর্তটি অপরিহার্য — discrete ভর-বিন্দুতে \(F_n\) লাফ দিতে পারে; চিত্র 7-10-weak-convergence এই \(F_n\to F\) ছবিটা দেখাবে।)
এই সংজ্ঞার বহু সমতুল্য রূপ — সম্মিলিতভাবে portmanteau theorem (বহু-দরজা উপপাদ্য):
উপপাদ্য (portmanteau)। নিচের শর্তগুলো পরস্পর সমতুল্য — যেকোনো একটি \(X_n\Rightarrow X\)-এর সংজ্ঞা হিসেবে নেওয়া যায়: 1. \(F_n(x)\to F(x)\) প্রতিটি continuity point-এ; 2. \(\mathbb E[f(X_n)]\to\mathbb E[f(X)]\) প্রতিটি bounded continuous ফাংশন \(f:\mathbb R\to\mathbb R\)-এর জন্য; 3. \(\limsup_n\mathbb P(X_n\in C)\le\mathbb P(X\in C)\) প্রতিটি বদ্ধ (closed) সেট \(C\)-তে; 4. \(\liminf_n\mathbb P(X_n\in G)\ge\mathbb P(X\in G)\) প্রতিটি মুক্ত (open) সেট \(G\)-তে।
রূপ ২ — "প্রতিটি bounded continuous test-function-এর গড় মেলে" — weak convergence-এর সবচেয়ে নমনীয়, বহুমাত্রিক-সাধারণীকরণযোগ্য রূপ, এবং Lévy continuity (২.৭) প্রমাণের গোড়া (যেখানে test-function হিসেবে \(e^{itx}\) নেওয়া হয়)। লক্ষণীয়, weak convergence Part VII-এর অন্য অভিসরণগুলোর (a.s., \(L^p\), in-probability — 3.2, 7.4) চেয়ে দুর্বলতম — এটি কেবল বণ্টনের আকার নিয়ে কথা বলে, random variable-গুলো একই space-এ থাকারও দরকার নেই।
এক বাক্যে। weak convergence \(X_n\Rightarrow X\) মানে \(F_n\to F\) প্রতিটি continuity point-এ, সমতুল্যভাবে (portmanteau) \(\mathbb E[f(X_n)]\to\mathbb E[f(X)]\) প্রতিটি bounded continuous \(f\)-তে — অভিসরণগুলোর মধ্যে দুর্বলতম, কেবল বণ্টন-আকার নিয়ে, এবং ঠিক CLT-এর "\(Z_n\Rightarrow N(0,1)\)"-র সঠিক ভাষা।
২.৭ Lévy's continuity theorem¶
অধ্যায়ের সবচেয়ে শক্তিশালী যন্ত্র — সেতু যা §২.৬-এর কঠিন weak convergence-কে §২.১-এর সহজ cf-অভিসরণে অনুবাদ করে।
উপপাদ্য (Lévy's continuity theorem)। random variable-অনুক্রম \(X_n\) ও তাদের cf \(\varphi_n=\varphi_{X_n}\) ধরা যাক। - (সরল দিক) যদি \(X_n\Rightarrow X\), তবে \(\varphi_n(t)\to\varphi_X(t)\) প্রতিটি \(t\in\mathbb R\)-তে (এমনকি \(\mathbb R\)-এর প্রতিটি compact-এ সমভাবে)। - (গভীর দিক) উল্টোভাবে, যদি \(\varphi_n(t)\to\psi(t)\) প্রতিটি \(t\)-তে কোনো ফাংশন \(\psi\)-এ, এবং \(\psi\) \(t=0\)-তে অবিচ্ছিন্ন হয়, তবে \(\psi\) একটা random variable \(X\)-এর cf, এবং \(X_n\Rightarrow X\)।
সংক্ষেপে, যখন সীমা একটা বৈধ cf, $$ X_n\Rightarrow X\quad\Longleftrightarrow\quad\varphi_{X_n}(t)\to\varphi_X(t)\ \ \forall t. $$
গভীর দিকের প্রাণভোমরা একটা ধারণা — tightness (আঁটতা): একটা বণ্টন-পরিবার tight যদি ভর কোনো compact সেটের বাইরে "পালিয়ে" না যায় (formally, প্রতিটি \(\varepsilon>0\)-তে একটা \(M\) আছে যাতে \(\sup_n\mathbb P(\lvert X_n\rvert>M)<\varepsilon\))। মূল যান্ত্রিক সত্য: সীমা-ফাংশন \(\psi\)-এর \(0\)-তে অবিচ্ছিন্নতা ঠিক \((X_n)\)-এর tightness নিশ্চিত করে — আর Prokhorov's theorem বলে tight হলে একটা weakly-অভিসারী উপ-অনুক্রম থাকে; cf-সীমা \(\psi\) সব উপ-অনুক্রমে এক, তাই (uniqueness, ২.৫) পুরো অনুক্রমই \(X\)-এ অভিসারী। (\(0\)-তে continuity বাদ দিলে ভর পালাতে পারে — যেমন \(X_n\sim N(0,n)\)-এ \(\varphi_n(t)=e^{-nt^2/2}\to\mathbf 1_{\{t=0\}}\), যা \(0\)-তে অবিচ্ছিন্ন নয়, আর সত্যিই কোনো weak limit নেই।)
এই উপপাদ্যের তাৎপর্য বিশাল: weak convergence প্রমাণ করতে আর CDF বা integral সরাসরি সামলাতে হয় না — কেবল cf-এর pointwise সীমা গুনলেই চলে, যা ২.২-এর গুণফল-ধর্মে প্রায়ই তুচ্ছ। ঠিক এই কারণেই CLT-এর প্রমাণ (২.৮, §৪) একটা সরল গণনায় নেমে আসে।
এক বাক্যে। Lévy's continuity theorem একটা সেতু — \(X_n\Rightarrow X\iff\varphi_{X_n}(t)\to\varphi_X(t)\ \forall t\) (সীমা \(0\)-তে অবিচ্ছিন্ন হলে tightness, তাই Prokhorov-এ একটা বৈধ weak limit) — যা কঠিন weak convergence-কে সহজ pointwise cf-অভিসরণে অনুবাদ করে এবং CLT-প্রমাণকে এক সরল গণনায় পরিণত করে।
২.৮ কেন্দ্রীয় সীমা উপপাদ্য (CLT) — অবশেষে কঠোরভাবে¶
এখন অধ্যায়ের — এবং পুরো Part VII-এর — লক্ষ্য বস্তু। 3.4-এর স্বজ্ঞাগত CLT-এর কঠোর বিবৃতি, যার প্রমাণ §৪-এ পূর্ববর্তী সব যন্ত্র (২.২-গুণফল, ২.৪-Taylor, ২.৭-Lévy) একত্রে দেয়।
উপপাদ্য (Lindeberg–Lévy CLT)। \(X_1,X_2,\dots\) iid random variable, যেখানে \(\mathbb E[X_i]=\mu\) এবং \(0<\operatorname{Var}(X_i)=\sigma^2<\infty\)। যোগফল \(S_n=\sum_{i=1}^n X_i\) ও standardized রূপ $$ Z_n=\frac{S_n-n\mu}{\sigma\sqrt n}=\frac{\sqrt n\,(\bar X_n-\mu)}{\sigma}\qquad\Big(\bar X_n=\tfrac1n\textstyle\sum_{i=1}^n X_i\Big) $$ ধরা যাক। তাহলে $$ Z_n\;\Rightarrow\;N(0,1)\qquad(n\to\infty), $$ অর্থাৎ প্রতিটি \(x\in\mathbb R\)-তে \(\ \mathbb P(Z_n\le x)\to\Phi(x)=\int_{-\infty}^x\frac1{\sqrt{2\pi}}e^{-u^2/2}\,du\) (standard normal CDF)।
লক্ষণীয় তিনটি বিষয়। (১) hypothesis ন্যূনতম — কেবল সসীম (অশূন্য) variance; বণ্টনের আর কোনো আকার-শর্ত নেই, তাই প্রায় যেকোনো iid উৎস থেকে standardized যোগফল একই Gaussian-এ মেলে — এটাই CLT-এর সর্বজনীনতা ও বিস্ময় (3.4)। (২) স্কেল \(\sqrt n\) — \(\bar X_n\) SLLN-এ (7.6) \(\mu\)-তে থিতু হয়, কিন্তু তার ওঠানামা \(\sigma/\sqrt n\) হারে সঙ্কুচিত হয়, তাই ঠিক \(\sqrt n\)-গুণ বড় করলেই অ-অবক্ষয়ী (non-degenerate) সীমা \(N(0,1)\) দেখা যায়। (৩) প্রমাণের কঙ্কাল (§১.৩, পূর্ণ §৪): \(W=(X-\mu)/\sigma\) নিলে \(\varphi_{Z_n}(t)=(\varphi_W(t/\sqrt n))^n\) (২.২); Taylor-এ \(\varphi_W(s)=1-\tfrac{s^2}{2}+o(s^2)\) (২.৪); তাই \((1-\tfrac{t^2}{2n}+o(1/n))^n\to e^{-t^2/2}=\varphi_{N(0,1)}(t)\) (২.৩); Lévy continuity (২.৭) দিয়ে উপসংহার।
আরও সাধারণ Lindeberg–Feller CLT (§৪-এ বিবৃত) iid-শর্ত শিথিল করে — অ-identically-distributed কিন্তু "Lindeberg condition" মানা স্বাধীন যোগফলও \(N(0,1)\)-এ মেলে — দেখায় normal-সীমা কত ব্যাপক। চিত্র 7-10-clt-convergence বিভিন্ন (অ-normal) উৎস থেকে \(Z_n\)-এর histogram \(n\) বাড়ার সাথে \(N(0,1)\)-এ গুটিয়ে আসা দেখাবে; 7-10-cf-clt-proof একই ঘটনাকে cf-স্তরে (\(\varphi_{Z_n}\to e^{-t^2/2}\)) দৃশ্যায়িত করবে।
এই বিবৃতি ও তার আসন্ন প্রমাণ — 3.4-এর অসমাপ্ত প্রতিশ্রুতির পূর্ণতা — Part VII ও সমগ্র scratch→PhD আরোহণের চূড়া।
এক বাক্যে। CLT — iid, \(\mathbb E[X]=\mu\), \(0<\sigma^2<\infty\) হলে \(Z_n=\frac{\sqrt n(\bar X_n-\mu)}{\sigma}\Rightarrow N(0,1)\) — কেবল সসীম variance চেয়ে প্রায় যেকোনো উৎস থেকে standardized যোগফলকে একই Gaussian-এ মেলায়, এবং তার cf-প্রমাণ (\(\varphi_{Z_n}=(\varphi_W(t/\sqrt n))^n\to e^{-t^2/2}\), Lévy দিয়ে) 3.4-এর স্বজ্ঞাকে কঠোর উপপাদ্যে পরিণত করে Part VII-এর আরোহণ সম্পূর্ণ করে।
৩ · পূর্ণাঙ্গ উদাহরণ¶
§১–২-এ characteristic function (অভিলক্ষণ-অপেক্ষক) \(\varphi_X(t)=\mathbb E[e^{itX}]\)-এর গোটা যন্ত্রটা গড়া হয়েছে — এটা random variable-এর বণ্টনের একটা Fourier transform (ফুরিয়ে রূপান্তর), যা সবসময় থাকে (কারণ \(\lvert e^{itX}\rvert=1\), তাই moment generating function-এর মতো অসীমে পালায় না), \(\varphi(0)=1\) ও \(\lvert\varphi(t)\rvert\le1\) সর্বত্র মেনে চলে, uniquely (একক-ভাবে) বণ্টন নির্ধারণ করে (uniqueness theorem), স্বাধীন যোগফলকে গুণফলে অনুবাদ করে (\(\varphi_{X+Y}=\varphi_X\varphi_Y\)), আর তার \(0\)-তে অন্তরকলজ থেকে moment বের করে দেয় (\(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\))। এর মুকুটমণি Lévy continuity theorem (লেভির ধারাবাহিকতা-উপপাদ্য) — \(\varphi_n(t)\to\varphi(t)\) প্রতি \(t\)-তে এবং \(\varphi\) যদি \(0\)-তে অবিচ্ছিন্ন হয়, তবে \(X_n\xrightarrow{d}X\) — যা দিয়ে central limit theorem (CLT, কেন্দ্রীয় সীমা-উপপাদ্য) তিন লাইনে কঠোরভাবে প্রমাণ হয়। এই অংশের উদ্দেশ্য সেই বিমূর্ত কাঠামোকে হাতে-কলমে, কংক্রিট সংখ্যা ও কংক্রিট সিমুলেশন দিয়ে ছুঁয়ে দেখা — কীভাবে তিনটি চেনা বণ্টনের \(\varphi\) সংজ্ঞা থেকে সরাসরি বেরোয়, কীভাবে \(0\)-তে দুবার অন্তরকলন করলেই moment হাতে আসে, কীভাবে স্বাধীনতা \(\varphi\)-কে গুণ করে binomial-এর \(\varphi\) তাৎক্ষণিকভাবে ফিরিয়ে দেয়, কীভাবে একটা ভীষণ অপ্রতিসম Exponential বণ্টনের নমুনা-গড়, যথেষ্ট মানক করলে, ঘণ্টা-আকৃতিতে (bell curve) থিতু হয়, কেন ঠিক \(e^{-t^2/2}\) লিমিটে বেরোয় তার ইঞ্জিন, আর কীভাবে uniqueness theorem \(\varphi\) দেখেই বণ্টন চিনিয়ে দেয়। ছয়টি উদাহরণে প্রতিটি ধাপ ধৈর্য ধরে কষব — কোনো হিসাব লুকানো থাকবে না — তারপর প্রতিটির শেষে "কী শিখলাম" বলে মূল শিক্ষাটা গুটিয়ে আনব। কষ্টের স্তর শিরোনামে তারা দিয়ে চিহ্নিত: ★ = সরাসরি, সংজ্ঞা প্রয়োগ করলেই হয় · ★★ = কিছু কৌশল বা সতর্ক যুক্তি লাগে। প্রতিটি ইংরেজি পরিভাষা প্রথম ব্যবহারে বাংলায় খুলে দেওয়া হবে। সব সিমুলেশন একই বীজে (seed np.random.default_rng(20260619)) চালানো, যাতে সংখ্যাগুলো পুনরুৎপাদনযোগ্য থাকে।
উদাহরণ ১ — \(\varphi\) হাতে গণনা: Normal, Exponential, Bernoulli (★)¶
সেটআপ। তত্ত্ব না, এবার সংজ্ঞা থেকে নিজের হাতে তিনটি \(\varphi\) বের করি — একটা অবিচ্ছিন্ন প্রতিসম (Normal), একটা অবিচ্ছিন্ন অপ্রতিসম (Exponential), একটা বিচ্ছিন্ন (Bernoulli)। সংজ্ঞা একটাই: $$ \varphi_X(t)=\mathbb E!\left[e^{itX}\right] =\begin{cases}\displaystyle\int_{-\infty}^{\infty}e^{itx}\,f_X(x)\,dx & (\text{অবিচ্ছিন্ন}),\[4pt]\displaystyle\sum_x e^{itx}\,\mathbb P(X=x) & (\text{বিচ্ছিন্ন}).\end{cases} $$ লক্ষ্য কেবল রূপ পাওয়া নয়, \(t=1\)-এ মান বসিয়ে দুটো সর্বজনীন বৈশিষ্ট্য — \(\varphi(0)=1\) ও \(\lvert\varphi(t)\rvert\le1\) — চোখে দেখা।
ধাপ ১ — Standard normal \(N(0,1)\)। এখানে \(f(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}\)। বর্গ পূর্ণ করার (complete the square) কৌশলে দেখানো যায় $$ \varphi_{N(0,1)}(t)=\int_{-\infty}^{\infty}e^{itx}\,\tfrac{1}{\sqrt{2\pi}}e^{-x^2/2}\,dx=e^{-t^2/2}. $$ সারমর্ম: গুণিতকটা \(e^{-\frac12(x^2-2itx)}=e^{-\frac12(x-it)^2}\,e^{-t^2/2}\), আর \(\int e^{-\frac12(x-it)^2}dx=\sqrt{2\pi}\) (contour-যুক্তিতে শিফট-অপরিবর্তনীয়) — পূর্ণ কঠোর প্রমাণ §৪-এ। স্বীকার করে নিই \(\varphi_{N(0,1)}(t)=e^{-t^2/2}\): এক চমৎকার সত্য — normal-এর \(\varphi\) আবার একটা (অসংস্কৃত) gaussian-আকৃতি, Fourier-অধীনে normal স্থির-বিন্দু। \(t=1\)-এ $$ \varphi_{N(0,1)}(1)=e^{-1/2}=0.6065. $$
ধাপ ২ — Exponential \(\text{Exp}(1)\) (পূর্ণ সমাকল হাতে)। এখানে \(f(x)=e^{-x}\) (\(x\ge0\)), তাই $$ \varphi_{\text{Exp}(1)}(t)=\int_0^\infty e^{itx}\,e^{-x}\,dx=\int_0^\infty e^{-(1-it)x}\,dx =\left[\frac{-1}{1-it}\,e^{-(1-it)x}\right]0^\infty. $$ উপরের সীমায় \(\lvert e^{-(1-it)x}\rvert=e^{-x}\to0\) (বাস্তব অংশ \(1>0\)), নিচের সীমায় মান \(1\) — তাই $$ \boxed{\ \varphi $$ }(1)}(t)=\frac{1}{1-it}.\ \(t=1\)-এ: \(\dfrac{1}{1-i}=\dfrac{1+i}{(1-i)(1+i)}=\dfrac{1+i}{2}=0.5+0.5i\), আর এর modulus (মান) $$ \lvert\varphi_{\text{Exp}(1)}(1)\rvert=\left\lvert\frac{1}{1-i}\right\rvert=\frac{1}{\lvert 1-i\rvert}=\frac{1}{\sqrt2}=0.7071\ (<1). $$
ধাপ ৩ — Bernoulli \((0.3)\) (যোগফল দুই পদের)। এখানে \(X\in\{0,1\}\), \(\mathbb P(X=1)=0.3\), \(\mathbb P(X=0)=0.7\)। সরাসরি যোগফল: $$ \varphi_{\text{Bern}(0.3)}(t)=e^{it\cdot0}\cdot0.7+e^{it\cdot1}\cdot0.3=0.7+0.3\,e^{it}. $$ \(t=1\)-এ \(e^{i}=\cos1+i\sin1=0.5403+0.8415i\), তাই $$ \varphi_{\text{Bern}(0.3)}(1)=0.7+0.3(0.5403+0.8415i)=0.8621+0.2524i,\quad\lvert\cdot\rvert=0.8983\ (<1). $$
ধাপ ৪ — দুটো সর্বজনীন সত্য যাচাই। তিনটিতেই \(t=0\) বসাও: \(e^0=1\), \(\frac{1}{1-0}=1\), \(0.7+0.3\cdot1=1\) — সবার \(\varphi(0)=1\) (কারণ \(\varphi(0)=\mathbb E[e^{0}]=\mathbb E[1]=1\), বণ্টন-নিরপেক্ষ)। আর \(t=1\)-এর তিন মান-এর modulus \(0.6065,\,0.7071,\,0.8983\) — সবই \(\le1\) (কারণ \(\lvert\varphi(t)\rvert=\lvert\mathbb E[e^{itX}]\rvert\le\mathbb E\lvert e^{itX}\rvert=\mathbb E[1]=1\), ত্রিভুজ-অসমতা)। এই দুই বৈশিষ্ট্য প্রতিটি \(\varphi\)-র জন্মগত পরিচয়।
একটি কোডে দেখা। তিন \(\varphi\) সংখ্যাসূচক সমাকল/যোগফলে মেপে বদ্ধ-রূপের সঙ্গে মিলিয়ে দেখি (\(t=1\)):
import numpy as np
t = 1.0
# Normal: বদ্ধ-রূপ e^{-t^2/2}
phi_N = np.exp(-t**2/2)
# Exp(1): সংখ্যাসূচক সমাকল ∫ e^{itx} e^{-x} dx, 0..∞
x = np.linspace(0, 60, 600_000)
phi_E = np.trapz(np.exp(1j*t*x)*np.exp(-x), x) # ≈ 1/(1-it)
# Bernoulli(0.3): সরাসরি যোগফল
phi_B = 0.7 + 0.3*np.exp(1j*t)
print("phi_N(1) =", round(phi_N, 4), " (e^-0.5)")
print("phi_E(1) =", np.round(phi_E, 4), " th 1/(1-i) =", np.round(1/(1-1j),4),
" |.| =", round(abs(phi_E),4))
print("phi_B(1) =", np.round(phi_B, 4), " |.| =", round(abs(phi_B),4))
| বণ্টন | \(\varphi(t)\) | \(\varphi(1)\) | \(\lvert\varphi(1)\rvert\) |
|---|---|---|---|
| \(N(0,1)\) | \(e^{-t^2/2}\) | \(0.6065\) | \(0.6065\) |
| \(\text{Exp}(1)\) | \(\dfrac{1}{1-it}\) | \(0.5+0.5i\) | \(0.7071=\tfrac{1}{\sqrt2}\) |
| \(\text{Bern}(0.3)\) | \(0.7+0.3e^{it}\) | \(0.8621+0.2524i\) | \(0.8983\) |
তিনটিই বদ্ধ-রূপের সঙ্গে হুবহু মেলে, তিনটিরই \(\varphi(0)=1\) ও modulus \(\le1\) — সংজ্ঞা থেকে সরাসরি, কোনো গভীর তত্ত্ব ছাড়াই।
কী শিখলাম। \(\varphi_X(t)=\mathbb E[e^{itX}]\) সংজ্ঞা থেকে সরাসরি কষা যায়: \(N(0,1)\Rightarrow e^{-t^2/2}\) (Fourier-অধীনে স্থির-বিন্দু), \(\text{Exp}(1)\Rightarrow\frac{1}{1-it}\) (এক-লাইন সমাকল), \(\text{Bern}(0.3)\Rightarrow0.7+0.3e^{it}\) (দুই পদের যোগফল)। \(t=1\)-এ যথাক্রমে \(0.6065\), \(0.5+0.5i\) (\(\lvert\cdot\rvert=0.7071\)), \(0.8621+0.2524i\)। স্বজ্ঞা: \(\varphi\) হলো বণ্টনের Fourier transform — সবসময় থাকে (\(\lvert e^{itX}\rvert=1\)), সবার \(\varphi(0)=1\) ও \(\lvert\varphi(t)\rvert\le1\) (ত্রিভুজ-অসমতা), তাই এটি moment generating function-এর চেয়ে নিরাপদ ও সর্বজনীন হাতিয়ার — পরের সব উদাহরণের ভিত্তি।
উদাহরণ ২ — moment derivative থেকে (★)¶
সেটআপ। \(\varphi\)-র একটা জাদুকরী ব্যবহার: \(0\)-তে অন্তরকলন করলেই moment ঝরে পড়ে। কারণ \(\frac{d}{dt}e^{itX}=iX\,e^{itX}\), তাই (যথেষ্ট moment থাকলে integral-derivative অদলবদল বৈধ) $$ \varphi^{(k)}(t)=\mathbb E!\left[(iX)^k e^{itX}\right]\ \Longrightarrow\ \varphi^{(k)}(0)=i^k\,\mathbb E[X^k]. $$ বিশেষত \(\varphi'(0)=i\,\mathbb E[X]\) ও \(\varphi''(0)=i^2\mathbb E[X^2]=-\mathbb E[X^2]\)। এটা \(N(0,1)\)-তে যাচাই করি, যার আমরা \(\varphi(t)=e^{-t^2/2}\) আগেই জানি।
ধাপ ১ — প্রথম অন্তরকলজ ⇒ গড়। \(\varphi(t)=e^{-t^2/2}\), তাই $$ \varphi'(t)=-t\,e^{-t^2/2}\ \Longrightarrow\ \varphi'(0)=0. $$ সূত্রে \(\varphi'(0)=i\,\mathbb E[X]\), তাই \(i\,\mathbb E[X]=0\Rightarrow\mathbb E[X]=0\) — ঠিক, standard normal-এর গড় \(0\)।
ধাপ ২ — দ্বিতীয় অন্তরকলজ ⇒ দ্বিতীয় moment। \(\varphi'(t)=-t\,e^{-t^2/2}\) আবার অন্তরকলন (গুণফল-নিয়ম): $$ \varphi''(t)=-e^{-t^2/2}+(-t)(-t)e^{-t^2/2}=(t^2-1)\,e^{-t^2/2}\ \Longrightarrow\ \boxed{\ \varphi''(0)=-1.\ } $$ সূত্রে \(\varphi''(0)=-\mathbb E[X^2]\), তাই \(-\mathbb E[X^2]=-1\Rightarrow\mathbb E[X^2]=1\)। ফলে \(\operatorname{Var}(X)=\mathbb E[X^2]-(\mathbb E[X])^2=1-0=1\) — ঠিক, \(N(0,1)\)-এর ভেদ \(1\)। দুটো অন্তরকলজেই গড় ও ভেদ দুটোই হাতে।
ধাপ ৩ — Taylor রূপ (CLT-র বীজ)। \(\varphi(0)=1\), \(\varphi'(0)=0\), \(\varphi''(0)=-1\) একসাথে দেয় \(0\)-র কাছে Taylor expansion (টেলর বিস্তার): $$ \varphi(t)=1+\varphi'(0)\,t+\tfrac12\varphi''(0)\,t^2+o(t^2)=1-\tfrac{t^2}{2}+o(t^2). $$ এই \(1-\frac{t^2}{2}+o(t^2)\) রূপটা গুরুত্বপূর্ণ — মনে রাখো, এটাই উদাহরণ ৫-এ CLT-র ইঞ্জিনে আবার ফিরে আসবে, যেখানে যেকোনো গড়-শূন্য একক-ভেদ variable-এর \(\varphi\)-ও ঠিক এই আকারে শুরু হয়, তাই গড় নিলে সবাই একই \(e^{-t^2/2}\)-এ মেলে।
একটি কোডে দেখা। \(\varphi\)-কে সংখ্যাসূচক ভাবে (finite-difference) দুবার অন্তরকলন করে \(0\)-তে মাপি, আর moment-এর সঙ্গে মিলাই:
import numpy as np
phi = lambda t: np.exp(-t**2/2) # N(0,1)-এর varphi
h = 1e-4
d1 = (phi(h) - phi(-h)) / (2*h) # ≈ varphi'(0)
d2 = (phi(h) - 2*phi(0) + phi(-h)) / h**2 # ≈ varphi''(0)
print("varphi'(0) =", round(d1, 6), " => E[X] =", round((d1/1j).real, 6)) # 0
print("varphi''(0) =", round(d2, 6), " => E[X^2] =", round(-d2, 6)) # 1
| পরিমাণ | \(\varphi\)-থেকে | তত্ত্ব | আদায় |
|---|---|---|---|
| \(\varphi'(0)\) | \(0\) | \(i\,\mathbb E[X]\) | \(\mathbb E[X]=0\) |
| \(\varphi''(0)\) | \(-1\) | \(-\mathbb E[X^2]\) | \(\mathbb E[X^2]=1\) |
সংখ্যাসূচক অন্তরকলজ \(0\) ও \(-1\) দেয় (পূর্ণ-নির্ভুলতা পর্যন্ত), তাই \(\mathbb E[X]=0\), \(\mathbb E[X^2]=1\) — moment গণনার বিকল্প পথ, পুরোটা \(\varphi\) থেকে।
কী শিখলাম। \(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\) — \(0\)-তে অন্তরকলজই moment-এর জেনারেটর। \(N(0,1)\)-তে \(\varphi(t)=e^{-t^2/2}\) থেকে \(\varphi'(0)=0\Rightarrow\mathbb E[X]=0\), \(\varphi''(0)=-1\Rightarrow\mathbb E[X^2]=1\), তাই \(\operatorname{Var}=1\) — সব হাতে-কলমে যাচাই। স্বজ্ঞা: \(\frac{d}{dt}e^{itX}=iX\,e^{itX}\) বলেই প্রতিটি অন্তরকলন একটা \(iX\) নামিয়ে আনে, আর \(t=0\)-তে \(e^{itX}=1\) থাকায় খাঁটি moment \(\mathbb E[X^k]\) থেকে যায়। ফলত \(\varphi\)-র Taylor রূপ \(1-\frac{t^2}{2}+o(t^2)\) (গড়-শূন্য একক-ভেদে) — ঠিক এই রূপটাই CLT-র মূল ইঞ্জিন (উদাহরণ ৫)।
উদাহরণ ৩ — স্বাধীনতা: যোগফলের \(\varphi\) = গুণফল (★)¶
সেটআপ। \(\varphi\)-র সবচেয়ে শক্তিশালী বৈশিষ্ট্য: স্বাধীন (independent) variable-এর যোগফলের \(\varphi\) হলো প্রত্যেকের \(\varphi\)-র গুণফল। সংজ্ঞায়, \(X\perp Y\) হলে $$ \varphi_{X+Y}(t)=\mathbb E!\left[e^{it(X+Y)}\right]=\mathbb E!\left[e^{itX}e^{itY}\right]\overset{\perp}{=}\mathbb E[e^{itX}]\,\mathbb E[e^{itY}]=\varphi_X(t)\,\varphi_Y(t). $$ এটা convolution (কনভল্যুশন)-কে সাধারণ গুণে অনুবাদ করে — যোগফলের বণ্টন বের করতে জটিল সমাকল নয়, কেবল \(\varphi\) গুণ। আর iid যোগফলে এটা ঘাতে পরিণত হয়।
ধাপ ১ — \(n\)টি iid যোগফল ⇒ \(\varphi^n\)। যদি \(X_1,\dots,X_n\) স্বাধীন ও একই বণ্টনের (iid), প্রত্যেকের \(\varphi_X\), তবে \(S_n=X_1+\cdots+X_n\)-এর জন্য পুনরাবৃত্ত গুণ: $$ \boxed{\ \varphi_{S_n}(t)=\big[\varphi_X(t)\big]^{n}.\ } $$ স্বাধীন যোগ → \(\varphi\)-গুণ → iid-এ \(\varphi\)-ঘাত: এই সরল নিয়মটাই CLT-প্রমাণের গোড়া (উদাহরণ ৪–৫)।
ধাপ ২ — কংক্রিট প্রয়োগ: Bernoulli যোগফল = Binomial। উদাহরণ ১-এ পেয়েছি \(\varphi_{\text{Bern}(p)}(t)=1-p+p\,e^{it}\) (এখানে \(0.7+0.3e^{it}\) ছিল \(p=0.3\))। এখন \(n\)টি স্বাধীন \(\text{Bern}(p)\)-এর যোগফল \(S_n=\sum_{i=1}^n X_i\) — যা সংজ্ঞা-অনুসারে \(\text{Binomial}(n,p)\)। ধাপ ১ সরাসরি দেয় $$ \varphi_{\text{Bin}(n,p)}(t)=\big[\,1-p+p\,e^{it}\,\big]^{n}. $$ এটা তাৎক্ষণিকভাবে binomial-এর \(\varphi\) — কোনো \(\binom{n}{k}p^k(1-p)^{n-k}e^{itk}\)-যোগফল কষতে হলো না! (চাইলে দ্বিপদ-উপপাদ্যে \([\,(1-p)+p e^{it}\,]^n=\sum_k\binom{n}{k}(pe^{it})^k(1-p)^{n-k}\) খুলে দেখা যায় — ঠিক \(\sum_k\mathbb P(S_n=k)e^{itk}\), অর্থাৎ একই জিনিস।) \(\varphi\)-র গুণ-নিয়ম পুরো convolution-হিসাবটা এক ঘাতে গুটিয়ে দিল।
ধাপ ৩ — moment-যাচাই (নিয়ম-সঙ্গতি)। \(\varphi_{\text{Bin}(n,p)}(t)=[\,1-p+pe^{it}\,]^n\) থেকে উদাহরণ ২-এর নিয়মে গড় বের করি: \(\varphi'(t)=n[\,1-p+pe^{it}\,]^{n-1}\cdot ip\,e^{it}\), তাই \(\varphi'(0)=n\cdot1\cdot ip=inp\), অর্থাৎ \(i\,\mathbb E[S_n]=inp\Rightarrow\mathbb E[S_n]=np\) — ঠিক binomial-এর গড়। দুই বৈশিষ্ট্য (গুণ-নিয়ম + derivative-moment) একসাথে নিজেদের যাচাই করে।
একটি কোডে দেখা। \(n=10\) স্বাধীন \(\text{Bern}(0.3)\) যোগ করে এর empirical \(\varphi\) বনাম গুণফল-সূত্র \([\,0.7+0.3e^{it}\,]^{10}\) মিলিয়ে দেখি (যা binomial-এর \(\varphi\)):
import numpy as np
rng = np.random.default_rng(20260619)
n, p, reps, t = 10, 0.3, 500_000, 0.7
S = rng.binomial(1, p, size=(reps, n)).sum(axis=1) # n iid Bernoulli-র যোগফল
phi_emp = np.exp(1j*t*S).mean() # empirical varphi_{S_n}(t)
phi_form = (1 - p + p*np.exp(1j*t))**n # গুণফল-সূত্র = Binomial-এর varphi
print("empirical varphi_S(0.7) =", np.round(phi_emp, 4))
print("[0.7+0.3 e^it]^10 =", np.round(phi_form, 4))
print("E[S_n] = np =", n*p, " (sim", round(S.mean(),4), ")")
| পরিমাণ | মান |
|---|---|
| empirical \(\varphi_{S_n}(0.7)\) | \(\approx0.18-0.30i\) |
| সূত্র \([\,0.7+0.3e^{it}\,]^{10}\) | \(\approx0.18-0.30i\) (মেলে) |
| \(\mathbb E[S_n]=np\) | \(3.0\) (sim \(\approx3.0\)) |
empirical \(\varphi\) আর গুণফল-সূত্র হুবহু মেলে — স্বাধীন যোগ সত্যিই \(\varphi\)-কে গুণ করে, আর \(n\) iid-এ তা ঘাত হয়ে binomial-এর \(\varphi\) ফিরিয়ে দেয়।
কী শিখলাম। স্বাধীন \(X\perp Y\)-এ \(\varphi_{X+Y}=\varphi_X\,\varphi_Y\), আর \(n\) iid-এ \(\varphi_{S_n}=\varphi_X^{\,n}\) — convolution-কে সাধারণ গুণে অনুবাদ। কংক্রিট: \(n\) iid \(\text{Bern}(p)\)-এর যোগ \(\Rightarrow[\,1-p+pe^{it}\,]^n\), অর্থাৎ \(\text{Binomial}(n,p)\)-এর \(\varphi\) তাৎক্ষণিকভাবে (কোনো \(\binom{n}{k}\)-যোগফল ছাড়া)। স্বজ্ঞা: \(e^{it(X+Y)}=e^{itX}e^{itY}\) আর স্বাধীনতায় প্রত্যাশা ভাগ হয়, তাই যোগ→গুণ। এই গুণ-নিয়মই \(\varphi\)-কে CLT-র যন্ত্র বানায়: নমুনা-গড়ের \(\varphi\) এক variable-এর \(\varphi\)-র ঘাত, যা পরের দুই উদাহরণে \(e^{-t^2/2}\)-তে গুটিয়ে আনব।
উদাহরণ ৪ — CLT হাতে-কলমে (★★)¶
সেটআপ। এবার CLT-র দাবিটা চোখে দেখি। নাও iid \(X_1,X_2,\dots\sim\text{Exp}(1)\) — একটা ভীষণ অপ্রতিসম (right-skewed) বণ্টন, গড় \(\mu=1\), ভেদ \(\sigma^2=1\), skewness \(2\)। CLT বলে মানক নমুনা-গড় (standardized sample mean) $$ Z_n=\frac{\bar X_n-\mu}{\sigma/\sqrt n}=\frac{\bar X_n-1}{1/\sqrt n}=\sqrt n\,(\bar X_n-1) $$ \(n\) বড় হলে \(N(0,1)\)-তে বণ্টনে অভিসারী (converges in distribution), \(Z_n\xrightarrow{d}N(0,1)\) — অর্থাৎ ঘণ্টা-আকৃতি। দেখি \(n=30\)-এই কতটা কাছে আসে।
ধাপ ১ — চারটি ছাপ চিহ্নিত করি। যদি \(Z_n\xrightarrow{d}N(0,1)\), তবে চারটি লক্ষণ দেখা উচিত: (ক) গড় \(\mathbb E[Z_n]\to0\); (খ) ভেদ \(\operatorname{Var}(Z_n)\to1\) (মানক-করণে এরা \(n\)-নিরপেক্ষভাবেই \(0,1\)); (গ) skewness \(\to0\) — কিন্তু এখানেই সূক্ষ্মতা: যোগফলের skewness \(\text{skew}(Z_n)=\frac{\text{skew}(X)}{\sqrt n}=\frac{2}{\sqrt n}\), যা \(n=30\)-এ এখনও \(\frac{2}{\sqrt{30}}\approx0.3651>0\) — তাই কিছুটা ডান-দিকে হেলানো থেকে যায়, কেবল \(n\to\infty\)-এ মুছে যায়; (ঘ) Kolmogorov–Smirnov (KS) distance — empirical CDF আর \(N(0,1)\)-CDF-এর সর্বোচ্চ ফারাক — \(\to0\)।
ধাপ ২ — কেন ছাপগুলো ঠিক এমন। মানক-করণ গড়কে \(0\) ও ভেদকে \(1\)-এ বসিয়ে দেয় (নির্মাণ-অনুসারে), তাই (ক)–(খ) ঠিক \(0,1\) ঘোরে। skewness মানক-করণে শূন্য হয় না — এটা তৃতীয়-ক্রম তথ্য, \(\frac{2}{\sqrt n}\) হারে নামে। অর্থাৎ CLT-অভিসারণ "প্রথমে symmetric দিকটা ঠিক হয় (\(n\) মাঝারিতেই গড়-ভেদ মেলে), অপ্রতিসমতা দেরিতে যায়" — \(n=30\)-এর হালকা skew ঠিক এই ধীর-অভিসারণের সাক্ষী।
ধাপ ৩ — সিমুলেশন। \(n=30\), reps \(=200{,}000\) চালাই: $$ \bar X_n=\tfrac{1}{30}\textstyle\sum_{i=1}^{30}X_i,\qquad Z_n=\sqrt{30}\,(\bar X_n-1), $$ প্রতিটি rep-এ একটা \(Z_n\) — মোট \(200{,}000\)টা নমুনা থেকে চারটি পরিসংখ্যান মাপি।
একটি কোডে দেখা।
import numpy as np
from scipy import stats
rng = np.random.default_rng(20260619)
n, reps = 30, 200_000
X = rng.exponential(1.0, size=(reps, n)) # iid Exp(1), মু=1, সিগমা=1
Zn = np.sqrt(n) * (X.mean(axis=1) - 1.0) # মানক নমুনা-গড়
print("mean(Z) =", round(Zn.mean(), 4), " (তত্ত্ব 0)")
print("var(Z) =", round(Zn.var(ddof=0), 4), " (তত্ত্ব 1)")
print("skew(Z) =", round(stats.skew(Zn), 4),
" (তত্ত্ব 2/sqrt(30) =", round(2/np.sqrt(30), 4), "→0)")
print("KS to N(0,1) =", round(stats.kstest(Zn, 'norm').statistic, 4))
| পরিসংখ্যান | সিমুলেশন | তত্ত্ব |
|---|---|---|
| \(\operatorname{mean}(Z_n)\) | \(0.0007\) | \(0\) |
| \(\operatorname{var}(Z_n)\) | \(1.0001\) | \(1\) |
| \(\operatorname{skew}(Z_n)\) | \(0.356\) | \(\tfrac{2}{\sqrt{30}}=0.3651\ (\to0)\) |
| \(\text{KS}(Z_n,N(0,1))\) | \(0.023\) | \(\to0\) |
গড় \(0.0007\approx0\), ভেদ \(1.0001\approx1\) — প্রায় নিখুঁত। skewness \(0.356\) এখনও সামান্য ধনাত্মক (তত্ত্বের \(0.3651\)-এর কাছে), কারণ \(n=30\) এখনো এত বড় নয় যে Exponential-এর অপ্রতিসমতা পুরো মুছে যায়। KS দূরত্ব মাত্র \(0.023\) — empirical বণ্টন ও \(N(0,1)\) অভিন্ন প্রায়। মূল চিত্র: একটা প্রবলভাবে ডান-হেলানো \(\text{Exp}(1)\), মাত্র \(30\)টা গড় নিলে, প্রায় নিখুঁত ঘণ্টা-আকৃতিতে রূপ নেয় — CLT সত্যিই কাজ করছে।
কী শিখলাম। CLT হাতে-কলমে: iid \(\text{Exp}(1)\) (\(\mu=1,\sigma=1\))-এর মানক নমুনা-গড় \(Z_n=\sqrt n(\bar X_n-1)\), \(n=30\)-এই mean \(0.0007\approx0\), var \(1.0001\approx1\), KS-to-\(N(0,1)\) \(=0.023\) — ঘণ্টা-আকৃতি প্রায় ধরা। স্বজ্ঞা: মানক-করণে গড়-ভেদ তৎক্ষণাৎ \(0,1\) বসে, কিন্তু skewness \(\frac{2}{\sqrt n}\) হারে ধীরে নামে (sim \(0.356\), তত্ত্ব \(0.3651\)) — তাই অপ্রতিসমতা শেষ-অবধি যায়, এই হালকা skew ধীর-অভিসারণের সাক্ষী। অপ্রতিসম বণ্টনের গড়ও বেল-কার্ভ হয়: এই আশ্চর্য সর্বজনীনতাই CLT-র মর্ম — পরের উদাহরণে দেখব কেন ঠিক \(e^{-t^2/2}\) বেরোয়।
উদাহরণ ৫ — কেন \(e^{-t^2/2}\) বেরোয় (★★)¶
সেটআপ। উদাহরণ ৪ দেখাল যে CLT ঘটে; এখন দেখি কেন — \(\varphi\)-র যন্ত্রটা খুলে। মূল কৌশল: \(Z_n\)-এর \(\varphi\) লিখি, \(n\to\infty\)-এ তার সীমা নিই, আর দেখি সেটা ঠিক \(\varphi_{N(0,1)}(t)=e^{-t^2/2}\) — তারপর Lévy continuity theorem বলে দেয় \(Z_n\xrightarrow{d}N(0,1)\)। কেন্দ্রহীন (গড়-শূন্য) করতে \(X_i-1\) (\(\text{Exp}(1)\)-কে গড় বাদ) নিই, যার গড় \(0\), ভেদ \(1\)।
ধাপ ১ — \(Z_n\)-এর \(\varphi\) গুণফলে লিখি। \(Z_n=\sqrt n(\bar X_n-1)=\frac{1}{\sqrt n}\sum_{i=1}^n(X_i-1)\)। লিখি \(W_i=X_i-1\) (iid, গড় \(0\), ভেদ \(1\))। স্কেলিং-নিয়ম \(\varphi_{aW}(t)=\varphi_W(at)\) আর iid-গুণ (উদাহরণ ৩) মিলে: $$ \varphi_{Z_n}(t)=\varphi_{\frac{1}{\sqrt n}\sum W_i}(t)=\Big[\varphi_{W}!\Big(\tfrac{t}{\sqrt n}\Big)\Big]^{n}. $$
ধাপ ২ — এক পদের \(\varphi\)-র Taylor রূপ। \(W\)-এর গড় \(0\), ভেদ \(\mathbb E[W^2]=1\), তাই উদাহরণ ২-এর Taylor-রূপ (যা গড়-শূন্য একক-ভেদ যেকোনো variable-এর জন্য একই) দেয়, \(s\to0\)-এ: $$ \varphi_W(s)=1+i\,\mathbb E[W]\,s-\tfrac12\mathbb E[W^2]\,s^2+o(s^2)=1-\tfrac{s^2}{2}+o(s^2). $$ এখন \(s=\frac{t}{\sqrt n}\) বসাও — যখন \(n\to\infty\), \(s\to0\), তাই $$ \varphi_W!\Big(\tfrac{t}{\sqrt n}\Big)=1-\frac{t^2}{2n}+o!\Big(\tfrac1n\Big). $$
ধাপ ৩ — ঘাত নিয়ে সীমা। ধাপ ১-এ ফিরে ঘাত বসাই — এটাই ইঞ্জিন: $$ \varphi_{Z_n}(t)=\Big(1-\frac{t^2}{2n}+o!\big(\tfrac1n\big)\Big)^{n}\ \xrightarrow[n\to\infty]{}\ e^{-t^2/2}. $$ এই সীমাটা চেনা \(\big(1+\frac{a}{n}\big)^n\to e^{a}\)-র রূপ, এখানে \(a=-\frac{t^2}{2}\) (আর \(o(1/n)\)-পদ ঘাতে গিয়ে \(o(1)\to0\), তাই অগ্রাহ্য)। ফল: \(\varphi_{Z_n}(t)\to e^{-t^2/2}=\varphi_{N(0,1)}(t)\)। যেহেতু \(e^{-t^2/2}\) (\(=\) \(N(0,1)\)-এর \(\varphi\)) \(t=0\)-তে অবিচ্ছিন্ন, Lévy continuity theorem সিদ্ধান্ত দেয় $$ \boxed{\ Z_n\xrightarrow{\ d\ }N(0,1).\ } $$ এই কয়েক লাইনই CLT-র কঠোর প্রমাণের হৃদয় (পূর্ণ প্রমাণ §৪)। লক্ষণীয়, একপদের \(\varphi\)-র শুধু দ্বিতীয়-ক্রম পর্যন্ত (গড় ও ভেদ) এই সীমায় বেঁচে থাকে — তাই তৃতীয় moment (skewness), চতুর্থ moment, বণ্টনের বাকি বিশদ সব মুছে যায়, আর সব গড়-শূন্য একক-ভেদ বণ্টন একই \(N(0,1)\)-এ মেলে। এটাই সর্বজনীনতার (universality) গাণিতিক উৎস।
ধাপ ৪ — সংখ্যায় সীমাটা দেখা। \(o(1/n)\) ফেলে দিয়ে কঙ্কাল-গুণিতক \(\big(1-\frac{t^2}{2n}\big)^n\)-কে \(t=1\)-এ (\(\Rightarrow(1-\frac{1}{2n})^n\)) ক্রমবর্ধমান \(n\)-তে দেখি — এটা \(e^{-1/2}=0.6065\)-এ ওঠা উচিত:
import numpy as np
rng = np.random.default_rng(20260619)
t = 1.0
print("লক্ষ্য e^-0.5 =", round(np.exp(-0.5), 4))
for n in [1, 5, 30, 200]:
print(f"n={n:>3}: (1 - 1/(2n))^n =", round((1 - 1/(2*n))**n, 4))
# empirical varphi_Z(1): উদাহরণ ৪-এর Z_n (Exp, n=30) থেকে
n, reps = 30, 200_000
X = rng.exponential(1.0, size=(reps, n))
Zn = np.sqrt(n)*(X.mean(axis=1) - 1.0)
print("empirical varphi_Z(1) =", round(np.exp(1j*t*Zn).mean().real, 4),
" vs e^-0.5 =", round(np.exp(-0.5), 4))
| \(n\) | \(\big(1-\tfrac{1}{2n}\big)^n\) |
|---|---|
| \(1\) | \(0.5\) |
| \(5\) | \(0.5905\) |
| \(30\) | \(0.6040\) |
| \(200\) | \(0.6062\) |
| \(\to\infty\) | \(e^{-1/2}=0.6065\) |
ক্রমটা \(0.5\to0.5905\to0.6040\to0.6062\) — মসৃণভাবে \(e^{-1/2}=0.6065\)-এ উঠছে, ঠিক যেমন ইঞ্জিন বলে। আর উদাহরণ ৪-এর প্রকৃত \(Z_n\) (Exp, \(n=30\))-এর empirical \(\varphi_Z(1)=0.6102\) — তত্ত্বের সীমা \(0.6065\)-এর খুব কাছে (কঙ্কাল-মান \(0.6040\) থেকে সামান্য উপরে, কারণ প্রকৃত \(\varphi\)-তে \(o(1/n)\)-পদের অবশিষ্ট থাকে, যা \(n\) বাড়লে মেলে)। সংখ্যা ও তত্ত্ব দুদিক থেকেই \(e^{-t^2/2}\) আত্মপ্রকাশ করে।
কী শিখলাম। কেন \(e^{-t^2/2}\) বেরোয় — ইঞ্জিন: \(\varphi_{Z_n}(t)=\big[\varphi_{X-1}(t/\sqrt n)\big]^n\) আর গড়-শূন্য একক-ভেদে \(\varphi_{X-1}(s)=1-\frac{s^2}{2}+o(s^2)\), তাই \(\varphi_{Z_n}(t)=\big(1-\frac{t^2}{2n}+o(\frac1n)\big)^n\to e^{-t^2/2}\), এরপর Lévy continuity ⇒ \(Z_n\xrightarrow{d}N(0,1)\)। স্বজ্ঞা: শুধু দ্বিতীয়-ক্রম তথ্য (গড়, ভেদ) এই \(\big(1+\frac an\big)^n\to e^a\)-সীমায় বাঁচে — skewness ও বাকি সব বিশদ মুছে যায়, তাই সর্বজনীনতা। সংখ্যা: \((1-\frac1{2n})^n\) for \(n=1,5,30,200\to0.5,0.5905,0.6040,0.6062\to0.6065\), আর empirical \(\varphi_Z(1)=0.6102\approx0.6065\) — এটাই CLT-র কঠোর প্রমাণের গাণিতিক কঙ্কাল।
উদাহরণ ৬ — uniqueness: \(\varphi\) মিললে law মেলে (★)¶
সেটআপ। \(\varphi\)-কে বণ্টন-চিহ্নিতকরণের যন্ত্র বানায় uniqueness theorem (একতা-উপপাদ্য): দুটো random variable-এর \(\varphi\) যদি সর্বত্র মেলে, তবে তাদের বণ্টন (law) একই। আনুষ্ঠানিকভাবে, $$ \varphi_X(t)=\varphi_Y(t)\ \ \forall t\quad\Longleftrightarrow\quad X\overset{d}{=}Y. $$ এর কারণ \(\varphi\) হলো বণ্টনের Fourier transform, আর Fourier transform বিপরীত-যোগ্য (invertible) — তাই \(\varphi\) পুরো বণ্টন এনকোড করে, কোনো তথ্য হারায় না। ব্যবহারিক ফল: যোগফলের বণ্টন খুঁজতে \(\varphi\) গুণ করো, তারপর গুণফলটা যে চেনা \(\varphi\), সেই বণ্টন তাৎক্ষণিকভাবে চিনে নাও।
ধাপ ১ — দুই স্বাধীন standard normal-এর যোগফল। নাও \(X,Y\sim N(0,1)\) স্বাধীন, \(S=X+Y\)। উদাহরণ ৩-এর গুণ-নিয়মে ও উদাহরণ ১-এর \(\varphi_{N(0,1)}(t)=e^{-t^2/2}\)-তে: $$ \varphi_S(t)=\varphi_X(t)\,\varphi_Y(t)=e^{-t^2/2}\cdot e^{-t^2/2}=e^{-t^2}. $$
ধাপ ২ — গুণফল-\(\varphi\) চিনি। এবার \(e^{-t^2}\) কোন বণ্টনের \(\varphi\)? সাধারণ সূত্র: \(N(0,\sigma^2)\)-এর characteristic function হলো \(\varphi_{N(0,\sigma^2)}(t)=e^{-\sigma^2 t^2/2}\) (কারণ \(N(0,\sigma^2)=\sigma\cdot N(0,1)\), আর স্কেলিং-নিয়মে \(\varphi(t)=e^{-(\sigma t)^2/2}\))। আমাদের \(e^{-t^2}=e^{-2\cdot t^2/2}\) — অর্থাৎ \(\sigma^2=2\)। তাই uniqueness theorem-এ $$ \boxed{\ X+Y\ \sim\ N(0,2).\ } $$ কোনো convolution-সমাকল (\(\int f_X(s)f_Y(x-s)\,ds\)) কষতে হলো না — কেবল \(\varphi\) গুণ করে, গুণফলকে চেনা \(\varphi\)-র সঙ্গে মিলিয়ে বণ্টন \(\varphi\) থেকেই চিহ্নিত। (সঙ্গত যাচাই: স্বাধীনতায় ভেদ যোগ হয়, \(\operatorname{Var}(X+Y)=1+1=2\) — ঠিক \(N(0,2)\)।)
ধাপ ৩ — কেন uniqueness অপরিহার্য। খেয়াল করো, এই পুরো যুক্তি ভেঙে পড়ত যদি ভিন্ন বণ্টনের একই \(\varphi\) থাকতে পারত — তখন \(e^{-t^2}\) দেখে বণ্টন বলা যেত না। uniqueness theorem ঠিক সেই নিশ্চয়তা দেয়: \(\varphi\) ↔ বণ্টন এক-এক সম্পর্ক। এটাই উদাহরণ ৫-এও নীরবে কাজ করছিল — সেখানে \(\varphi_{Z_n}\to e^{-t^2/2}\) থেকে "\(Z_n\) একটা \(N(0,1)\)-এ যাচ্ছে" বলা যায় ঠিক কারণ \(e^{-t^2/2}\) একমাত্র \(N(0,1)\)-এর \(\varphi\) (Lévy continuity + uniqueness)।
একটি কোডে দেখা। \(S=X+Y\) (\(X,Y\sim N(0,1)\) স্বাধীন)-এর empirical \(\varphi_S\) বনাম \(e^{-t^2}\), আর নমুনা-ভেদ \(\approx2\) যাচাই:
import numpy as np
rng = np.random.default_rng(20260619)
reps = 1_000_000
X = rng.standard_normal(reps)
Y = rng.standard_normal(reps)
S = X + Y
for t in [0.5, 1.0, 2.0]:
phi_emp = np.exp(1j*t*S).mean().real # empirical varphi_S(t)
print(f"t={t}: emp varphi_S={round(phi_emp,4)} vs e^(-t^2)={round(np.exp(-t**2),4)}")
print("Var(S) =", round(S.var(ddof=0), 4), " (তত্ত্ব 2) => X+Y ~ N(0,2)")
| \(t\) | empirical \(\varphi_S(t)\) | \(e^{-t^2}\) |
|---|---|---|
| \(0.5\) | \(\approx0.7788\) | \(0.7788\) |
| \(1.0\) | \(\approx0.3679\) | \(0.3679\) |
| \(2.0\) | \(\approx0.0183\) | \(0.0183\) |
| — | \(\operatorname{Var}(S)\approx2.00\) | (তত্ত্ব \(2\)) |
empirical \(\varphi_S\) প্রতিটি \(t\)-তে \(e^{-t^2}\)-এর সঙ্গে মেলে, আর \(\operatorname{Var}(S)\approx2\) — uniqueness theorem-এ পড়া বণ্টন \(N(0,2)\) সিমুলেশনেও নিশ্চিত।
কী শিখলাম। uniqueness theorem: \(\varphi_X=\varphi_Y\) সর্বত্র \(\Leftrightarrow X\overset{d}{=}Y\) — \(\varphi\) পুরো বণ্টন এনকোড করে (Fourier transform বিপরীত-যোগ্য)। প্রয়োগ: স্বাধীন \(X,Y\sim N(0,1)\)-এ \(\varphi_{X+Y}=e^{-t^2/2}\cdot e^{-t^2/2}=e^{-t^2}=\varphi_{N(0,2)}\Rightarrow X+Y\sim N(0,2)\) — convolution-সমাকল ছাড়াই, \(\varphi\) থেকেই বণ্টন চিহ্নিত। স্বজ্ঞা: এই এক-এক সম্পর্কই গোটা \(\varphi\)-পদ্ধতিকে অর্থপূর্ণ করে — যোগফলের বণ্টন বের করতে \(\varphi\) গুণ করে চেনা রূপের সঙ্গে মেলানোই যথেষ্ট, আর CLT-তে (উদাহরণ ৫) \(\varphi\to e^{-t^2/2}\) থেকে "\(N(0,1)\)" পড়ার বৈধতাও এই uniqueness-ই দেয়।
৪ · প্রমাণ ও উৎপাদন¶
এই অংশে §২-এর বিবৃতি থেকে অধ্যায়ের সব মূল ফল ধাপে ধাপে উৎপাদন (derive) করা হয়, আর গোটা যাত্রা গিয়ে শেষ হয় Part VII-এর শিখরে — measure-তাত্ত্বিক ভিত্তির ওপর দাঁড়ানো কঠোর central limit theorem (CLT, কেন্দ্রীয় সীমা উপপাদ্য)-এ। যন্ত্রটি একটাই — characteristic function (বৈশিষ্ট্য-অপেক্ষক) \(\varphi_X(t)=\mathbb E[e^{itX}]\), যা প্রতিটি random variable \(X\)-কে একটা bounded, uniformly continuous জটিল ফাংশনে রূপান্তরিত করে। কৌশলটির সৌন্দর্য তিন স্তরে: (ক) স্বাধীন যোগফল \(\varphi\)-এ গুণফলে পরিণত হয় (প্রমাণ ১), তাই iid-যোগফলের \(\varphi\) হয় একটামাত্র \(\varphi\)-এর ঘাত; (খ) moment-গুলো \(\varphi\)-এর Taylor-প্রসারণে সরাসরি বসে (প্রমাণ ৩), তাই "mean \(0\), variance \(1\)" তথ্যটা \(\varphi(t)=1-\tfrac{t^2}{2}+o(t^2)\)-তে রূপ নেয়; আর (গ) Lévy's continuity theorem (লেভি-র অবিচ্ছিন্নতা-উপপাদ্য, প্রমাণ ৫) বলে \(\varphi_n\to\varphi\) bindings-wise হলেই \(X_n\Rightarrow X\) (distribution-এ অভিসরণ, এখানে \(\Rightarrow\) সর্বদা convergence in distribution / weak convergence)। এই তিন স্তর জুড়লেই CLT এক-পাতায় বেরিয়ে আসে (প্রমাণ ৬)। মাঝে দুটো ভিত্তি-পাথর — Gaussian-এর \(\varphi\) হিসাব (প্রমাণ ২) ও uniqueness theorem (অনন্যতা-উপপাদ্য, প্রমাণ ৪, যা \(\varphi\) থেকে \(F\) পুনরুদ্ধার নিশ্চিত করে) — পথটাকে কঠোর করে।
প্রতিটি প্রমাণে কেন প্রতিটি পদক্ষেপ বৈধ — কোন সংজ্ঞা, কোন পূর্ববর্তী ফল (7.4-এর DCT/MCT/Fatou ও integral-চিহ্নের ভেতরে সীমা/অন্তরজ বিনিময়, 7.6-এর independence ও product-measure), বা কোন বীজগাণিতিক অভেদ ব্যবহৃত হচ্ছে — তা স্পষ্ট করা হয়েছে। শিরোনামের কঠিনতা-চিহ্ন (difficulty tag):
- ★ — মৌলিক, প্রথম পাঠেই বোঝা উচিত।
- ★★ — মাঝারি, একটু কৌশল বা সতর্ক বিশ্লেষণ লাগে।
- ★★★ — গভীর, প্রথম পাঠে কিছু অংশ এড়িয়ে যাওয়া যায় (যথাস্থানে চিহ্নিত)।
স্মরণ — সংজ্ঞা ও সংকেত (§২ থেকে)। গোটা অংশে \((\Omega,\mathcal F,\mathbb P)\) একটি probability space, আর random variable \(X\)-এর characteristic function হলো $$ \varphi_X(t)\ :=\ \mathbb E\bigl[e^{itX}\bigr]\ =\ \mathbb E[\cos tX]\ +\ i\,\mathbb E[\sin tX],\qquad t\in\mathbb R, $$ যেখানে \(i=\sqrt{-1}\) এবং Euler-অভেদ \(e^{i\theta}=\cos\theta+i\sin\theta\) ব্যবহৃত। যেহেতু \(\lvert e^{itX}\rvert=1\) সর্বত্র bounded, প্রত্যাশাটা সর্বদা সংজ্ঞায়িত (কোনো moment-শর্ত লাগে না — এটাই \(\varphi\)-এর moment generating function \(M_X(t)=\mathbb E[e^{tX}]\)-এর তুলনায় সিদ্ধান্তমূলক সুবিধা, যা \(M\)-এর মতো অসীম হতে পারে না)। (কংক্রিট পার্থক্য: heavy-tail বণ্টন — যেমন \(\mathrm{Cauchy}\) বা \(t\)-বণ্টন বা log-normal — যাদের \(M_X(t)\) প্রতিটি \(t\ne0\)-তে অসীম, তাদেরও \(\varphi_X\) সর্বত্র সুনির্দিষ্ট ও সসীম, কারণ \(e^{itX}\) ঘোরে কিন্তু বাড়ে না; এজন্যই কঠোর CLT-তত্ত্ব \(M\) নয়, \(\varphi\)-এর ওপর গড়া।) সংকেত: \(\overline{z}\) মানে \(z\in\mathbb C\)-এর conjugate (অনুবন্ধী), \(\operatorname{Re}z\) ও \(\operatorname{Im}z\) বাস্তব ও কাল্পনিক অংশ; \(\lvert z\rvert\) মডুলাস (এখানে \(\lvert\cdot\rvert\) সর্বদা পরম-মান/মডুলাস, কখনোই conditioning নয় — conditioning-এ \(\mid\) লেখা হবে)। আমরা ধরে নিই (7.3) যে \(\cos,\sin\) Borel-measurable, তাই \(e^{itX}\) একটি (জটিল-মানের) random variable এবং তার বাস্তব ও কাল্পনিক অংশের integrability 7.4 থেকে আসে।
এ-অংশের যুক্তি-শৃঙ্খল প্রায় একরৈখিক: প্রমাণ ১ (মৌলিক ধর্ম + factorization) গোটা পদ্ধতির ব্যাকরণ; প্রমাণ ২ (Gaussian-এর \(\varphi\)) লক্ষ্য-বস্তু \(e^{-t^2/2}\) চিনিয়ে দেয়; প্রমাণ ৩ (moment ও Taylor) CLT-এর একমাত্র analytic input জোগায়; প্রমাণ ৪ (uniqueness/inversion) নিশ্চিত করে "\(\varphi\)-অভিসরণ ⇒ \(F\)-অভিসরণ" কথাটার মানে আছে; প্রমাণ ৫ (Lévy continuity) সেই সেতুটা কঠোরভাবে বাঁধে; আর প্রমাণ ৬ এই পাঁচটাকে এক সুতোয় গেঁথে CLT-তে পৌঁছায়। তাই প্রমাণ ১, ৩, ৫ মূল মেরুদণ্ড, আর ৬ মুকুট।
প্রমাণ ১ — \(\varphi\)-এর মৌলিক ধর্ম (★)¶
দাবি। যেকোনো random variable \(X\)-এর জন্য — (ক) \(\lvert\varphi_X(t)\rvert\le1\) সর্বত্র এবং \(\varphi_X(0)=1\); (খ) \(\overline{\varphi_X(t)}=\varphi_X(-t)\) (Hermitian symmetry); (গ) \(\varphi_X\) গোটা \(\mathbb R\)-এ uniformly continuous (সমভাবে অবিচ্ছিন্ন); (ঘ) affine রূপান্তর \(\varphi_{aX+b}(t)=e^{itb}\varphi_X(at)\); এবং (ঙ) \(X,Y\) independent হলে \(\varphi_{X+Y}(t)=\varphi_X(t)\,\varphi_Y(t)\) (factorization)।
ধাপ ১ — bound, normalization ও symmetry (★, সংজ্ঞা থেকে সরাসরি)। যেহেতু \(\lvert e^{itX}\rvert=\lvert\cos tX+i\sin tX\rvert=\sqrt{\cos^2+\sin^2}=1\), ত্রিভুজ-অসমতার integral-রূপ (7.4 — \(\lvert\mathbb E[Z]\rvert\le\mathbb E\lvert Z\rvert\) জটিল-মানের \(Z\)-এও খাটে, কারণ একটা ফেজ \(e^{-i\alpha}\) গুণ করে \(\mathbb E[Z]\)-কে বাস্তব-ধনাত্মক করে নিলে \(\lvert\mathbb E Z\rvert=\mathbb E[\operatorname{Re}(e^{-i\alpha}Z)]\le\mathbb E\lvert Z\rvert\)) দেয় $$ \lvert\varphi_X(t)\rvert\ =\ \bigl\lvert\mathbb E[e^{itX}]\bigr\rvert\ \le\ \mathbb E\bigl\lvert e^{itX}\bigr\rvert\ =\ \mathbb E[1]\ =\ 1. $$ \(t=0\)-তে \(e^{i\cdot0\cdot X}=1\), তাই \(\varphi_X(0)=\mathbb E[1]=1\)। (লক্ষণীয়, জটিল-মানের প্রত্যাশায় ত্রিভুজ-অসমতা \(\lvert\mathbb E[Z]\rvert\le\mathbb E\lvert Z\rvert\) বাস্তব-ক্ষেত্রের মতো স্বতঃসিদ্ধ নয় — উপরে যে ফেজ-ঘূর্ণনের কৌশল লেখা হলো তা একে measure-তাত্ত্বিকভাবে কঠোর করে: \(\mathbb E[Z]=re^{i\alpha}\) লিখে \(r=\lvert\mathbb E Z\rvert=\mathbb E[e^{-i\alpha}Z]\) বাস্তব-ধনাত্মক, তাই \(r=\operatorname{Re}\,r=\mathbb E[\operatorname{Re}(e^{-i\alpha}Z)]\le\mathbb E\lvert e^{-i\alpha}Z\rvert=\mathbb E\lvert Z\rvert\) — পুরোটাই বাস্তব-অংশের একঘেয়ে অসমতা \(\operatorname{Re}w\le\lvert w\rvert\)-এর প্রত্যাশা।) আর conjugate নিলে \(\overline{e^{itX}}=e^{-itX}\) (কারণ \(\overline{\cos tX+i\sin tX}=\cos tX-i\sin tX=\cos(-tX)+i\sin(-tX)\)), আর conjugation প্রত্যাশার সঙ্গে বিনিময়যোগ্য (বাস্তব ও কাল্পনিক অংশে আলাদা linearity, 7.4); সুতরাং $$ \overline{\varphi_X(t)}\ =\ \mathbb E\bigl[\overline{e^{itX}}\bigr]\ =\ \mathbb E[e^{-itX}]\ =\ \varphi_X(-t). $$ এর সরাসরি ফল: \(X\) symmetric (\(X\overset{d}{=}-X\)) হলে \(\varphi_X(t)=\varphi_{-X}(t)=\varphi_X(-t)=\overline{\varphi_X(t)}\), অর্থাৎ \(\varphi_X\) বাস্তব-মানের — তখন \(\varphi_X(t)=\mathbb E[\cos tX]\), কাল্পনিক অংশ মুছে যায়। সাধারণভাবে দুই বাস্তব উপাদানে ভাঙলে $$ \operatorname{Re}\varphi_X(t)=\mathbb E[\cos tX]\ (\text{জোড়, even in }t),\qquad \operatorname{Im}\varphi_X(t)=\mathbb E[\sin tX]\ (\text{বিজোড়, odd in }t), $$ আর \(\overline{\varphi(t)}=\varphi(-t)\)-ধর্ম ঠিক এই জোড়/বিজোড় গঠনেরই সংক্ষিপ্ত রূপ — পরে প্রমাণ ৫-এর (T)-অসমতায় কেবল \(\operatorname{Re}\varphi\) (জোড় বলে \([-\delta,\delta]\)-এ symmetric integral) ব্যবহারের পেছনে এই গঠন।
ধাপ ২ — uniform continuity via DCT (★★, মূল analytic বিন্দু)। যেকোনো \(t\) ও increment \(h\)-তে, $$ \bigl\lvert\varphi_X(t+h)-\varphi_X(t)\bigr\rvert =\bigl\lvert\mathbb E\bigl[e^{itX}(e^{ihX}-1)\bigr]\bigr\rvert \le\mathbb E\bigl\lvert e^{itX}\bigr\rvert\,\bigl\lvert e^{ihX}-1\bigr\rvert =\mathbb E\bigl\lvert e^{ihX}-1\bigr\rvert, $$ যেখানে প্রথম সমতা \(e^{i(t+h)X}=e^{itX}e^{ihX}\) আর শেষে \(\lvert e^{itX}\rvert=1\)। লক্ষণীয় — ডান পাশ \(t\)-নিরপেক্ষ, কেবল \(h\)-নির্ভর। এখন \(g_h(\omega):=\lvert e^{ihX(\omega)}-1\rvert\) ধরি। দুটি জিনিস: প্রথমত, \(h\to0\)-এ প্রতিটি স্থির \(\omega\)-তে \(e^{ihX(\omega)}\to e^{0}=1\) (ধারাবাহিকতা), তাই \(g_h(\omega)\to0\) pointwise; দ্বিতীয়ত, \(g_h(\omega)=\lvert e^{ihX}-1\rvert\le\lvert e^{ihX}\rvert+1=2\) সর্বত্র — একটি ধ্রুব (অতএব integrable, কারণ \(\mathbb P\) সসীম মাপ) dominating function \(2\)। সুতরাং 7.4-এর dominated convergence theorem (DCT) সরাসরি প্রযোজ্য: $$ \sup_{t\in\mathbb R}\bigl\lvert\varphi_X(t+h)-\varphi_X(t)\bigr\rvert\ \le\ \mathbb E\,\lvert e^{ihX}-1\rvert\ \xrightarrow[h\to0]{}\ \mathbb E[0]\ =\ 0. $$ যেহেতু supremum-টা \(t\)-নিরপেক্ষভাবে \(0\)-তে যায়, এটি কেবল continuity নয় — uniform continuity। (এই একই DCT-যুক্তি পরে প্রমাণ ৩-এ "integral-চিহ্নের ভেতরে অন্তরজ" বৈধ করার মূল হাতিয়ার।)
ধাপ ৩ — affine রূপান্তর (★, এক লাইন)। \(aX+b\)-এর \(\varphi\) সরাসরি: $$ \varphi_{aX+b}(t)=\mathbb E\bigl[e^{it(aX+b)}\bigr]=\mathbb E\bigl[e^{itb}\,e^{i(at)X}\bigr]=e^{itb}\,\mathbb E[e^{i(at)X}]=e^{itb}\,\varphi_X(at), $$ যেখানে \(e^{itb}\) ধ্রুব বলে প্রত্যাশার বাইরে আনা গেল। বিশেষ করে standardization \(Y=\tfrac{X-\mu}{\sigma}\)-এ \(a=1/\sigma,\ b=-\mu/\sigma\) বসিয়ে \(\varphi_Y(t)=e^{-i\mu t/\sigma}\varphi_X(t/\sigma)\) — যা CLT-তে কেন্দ্রীভবন-মাপন (centering–scaling) সামলাবে।
ধাপ ৪ — factorization via independence (★★, 7.6-এর হৃদয়)। ধরা যাক \(X,Y\) independent, অর্থাৎ \(\sigma(X)\) ও \(\sigma(Y)\) স্বাধীন σ-algebra (7.6)। দুটো ছোট ধাপ লাগে। প্রথমত, \(e^{itX}=g(X)\) যেখানে \(g(x)=e^{itx}\) Borel-measurable; সাধারণ নিয়ম (7.6) — independent \(X,Y\)-এর Borel-function \(g(X),h(Y)\)-ও independent, কারণ \(\sigma(g(X))\subseteq\sigma(X)\) ও \(\sigma(h(Y))\subseteq\sigma(Y)\) (measurable map σ-algebra ছোট করে), আর sub-σ-algebra-গুলোও স্বাধীন থাকে। তাই \(e^{itX}\) ও \(e^{itY}\) স্বাধীন। দ্বিতীয়ত, স্বাধীন bounded random variable-এর গুণফলের প্রত্যাশা প্রত্যাশার গুণফল: জটিল \(U=e^{itX},V=e^{itY}\)-কে বাস্তব ও কাল্পনিক অংশে ভেঙে (\(UV\)-এর চারটি বাস্তব পদ \(\operatorname{Re}U\operatorname{Re}V\) ইত্যাদি, প্রতিটি bounded ও independent) 7.6-এর বাস্তব-সংস্করণ \(\mathbb E[U'V']=\mathbb E[U']\mathbb E[V']\) প্রয়োগ করে আবার জুড়ে দিলে \(\mathbb E[UV]=\mathbb E[U]\mathbb E[V]\) — যেখানে সেই বাস্তব-সংস্করণ product-measure-এর ওপর Fubini (7.4) দিয়ে প্রমাণিত, এবং \(\lvert U\rvert,\lvert V\rvert\le1\) বলে সব integrability স্বতঃসিদ্ধ। তাই $$ \varphi_{X+Y}(t)=\mathbb E\bigl[e^{it(X+Y)}\bigr]=\mathbb E\bigl[e^{itX}\,e^{itY}\bigr]=\mathbb E[e^{itX}]\,\mathbb E[e^{itY}]=\varphi_X(t)\,\varphi_Y(t). $$ আবেশে (induction) \(n\)-পদে সম্প্রসারিত: $$ X_1,\dots,X_n\ \text{স্বাধীন}\ \Longrightarrow\ \varphi_{X_1+\cdots+X_n}(t)=\prod_{k=1}^{n}\varphi_{X_k}(t). $$ বিশেষ iid-ক্ষেত্রে সবগুলো \(\varphi\) এক, তাই \(\varphi_{S_n}(t)=\bigl[\varphi_{X_1}(t)\bigr]^n\) — এই এক সমীকরণই CLT-এর গোটা সম্ভাবনা খুলে দেয়: স্বাধীন যোগ মানে \(\varphi\)-এর ঘাত, আর ঘাতের সীমা বিশ্লেষণ করা সহজ।
ছোট যাচাই (sanity check)। factorization-ধর্ম দ্রুত একটা পরিচিত তথ্য দেয়: \(X\sim N(\mu_1,\sigma_1^2)\) ও \(Y\sim N(\mu_2,\sigma_2^2)\) independent হলে, প্রমাণ ২-এর affine-রূপ \(\varphi_{N(\mu,\sigma^2)}(t)=e^{i\mu t-\sigma^2t^2/2}\) ব্যবহার করে $$ \varphi_{X+Y}(t)=e^{i\mu_1 t-\sigma_1^2t^2/2}\cdot e^{i\mu_2 t-\sigma_2^2t^2/2}=e^{i(\mu_1+\mu_2)t-(\sigma_1^2+\sigma_2^2)t^2/2}, $$ যা ঠিক \(N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)\)-এর cf — uniqueness (প্রমাণ ৪) দিয়ে তাই স্বাধীন normal-এর যোগফলও normal, কোনো convolution-integral না কষেই। এই সহজে-যাচাই-করা-যায় ধর্মই \(\varphi\)-পদ্ধতির ব্যবহারিক শক্তি। \(\blacksquare\)
এক বাক্যে: \(\varphi(t)=\mathbb E[e^{itX}]\) সর্বদা \(\lvert\varphi\rvert\le1\), \(\varphi(0)=1\), \(\overline{\varphi(t)}=\varphi(-t)\), এবং DCT (7.4) দিয়ে \(t\)-নিরপেক্ষভাবে uniformly continuous; affine-এ \(\varphi_{aX+b}(t)=e^{itb}\varphi_X(at)\), আর independence (7.6) যোগফলকে গুণফলে পাল্টায় \(\varphi_{X+Y}=\varphi_X\varphi_Y\) — যা iid-যোগফলে \(\varphi_{S_n}=\varphi^n\) দেয়, CLT-এর বীজ।
প্রমাণ ২ — \(\varphi_{N(0,1)}(t)=e^{-t^2/2}\) (★★)¶
দাবি। standard normal \(Z\sim N(0,1)\) (ঘনত্ব \(f(x)=\tfrac1{\sqrt{2\pi}}e^{-x^2/2}\))-এর characteristic function হলো $$ \varphi_Z(t)\ =\ \int_{-\infty}^{\infty}e^{itx}\,\frac{1}{\sqrt{2\pi}}e^{-x^2/2}\,dx\ =\ e^{-t^2/2}. $$ এটি অসাধারণ একটি তথ্য: Gaussian-এর \(\varphi\) নিজেও (scale বদলে) একটা Gaussian-আকার — এই "fixed-point" ধর্মই CLT-এর সীমাকে স্থিতিশীল করে। দুটি স্বতন্ত্র পথ দিই।
পথ (ক) — ODE পদ্ধতি (★★, integral-চিহ্নের ভেতরে অন্তরজ)। প্রথমে দেখাই \(\varphi_Z\) অন্তরজযোগ্য এবং অন্তরজ integral-এর ভেতরে নেওয়া যায়। integrand \(e^{itx}f(x)\)-এর \(t\)-অন্তরজ হলো \(ix\,e^{itx}f(x)\), যার মডুলাস \(\lvert x\rvert f(x)\) — আর \(\int\lvert x\rvert f(x)\,dx=\mathbb E\lvert Z\rvert=\sqrt{2/\pi}<\infty\), একটি \(t\)-নিরপেক্ষ integrable dominating function। সুতরাং 7.4-এর DCT-ভিত্তিক differentiation-under-the-integral (Leibniz-নিয়মের measure-তাত্ত্বিক রূপ) বৈধ: $$ \varphi_Z'(t)\ =\ \int_{-\infty}^{\infty} ix\,e^{itx}\,f(x)\,dx\ =\ i\,\mathbb E\bigl[Z\,e^{itZ}\bigr]. $$ এবার মূল চাল — integration by parts, যেখানে Gaussian-ঘনত্বের একটি বিশেষ ধর্ম \(f'(x)=-x f(x)\) (কারণ \(\tfrac{d}{dx}e^{-x^2/2}=-x e^{-x^2/2}\)) কাজে লাগাই। লিখি \(x f(x)=-f'(x)\), তাই $$ \varphi_Z'(t)=i\int_{-\infty}^{\infty} e^{itx}\,\bigl(x f(x)\bigr)\,dx=-i\int_{-\infty}^{\infty} e^{itx}\,f'(x)\,dx. $$ এবার integration by parts করি (\(u=e^{itx}\) ও \(dv=f'(x)\,dx\), তাই \(du=it\,e^{itx}dx\) ও \(v=f(x)\))। সীমা-পদ মিলিয়ে যায় — \(\bigl[e^{itx}f(x)\bigr]_{-\infty}^{\infty}=0\), কারণ Gaussian-ঘনত্ব \(f(\pm\infty)=0\) আর \(\lvert e^{itx}\rvert=1\) bounded। বাকি অংশ: $$ -i\Bigl(\underbrace{[e^{itx}f(x)]{-\infty}^{\infty}}f(x)\,dx\Bigr) =-i\cdot\bigl(-it\bigr)\int_{-\infty}^{\infty} e^{itx}f(x)\,dx =-t\,\varphi_Z(t). $$ সুতরাং }-\int_{-\infty}^{\infty}(it)e^{itx\(\varphi_Z\) একটি সরল প্রথম-ক্রম ODE মানে: $$ \varphi_Z'(t)=-t\,\varphi_Z(t),\qquad \varphi_Z(0)=1. $$ এটি separable: \(\dfrac{\varphi_Z'(t)}{\varphi_Z(t)}=-t\Rightarrow\dfrac{d}{dt}\ln\varphi_Z(t)=-t\Rightarrow\ln\varphi_Z(t)=-\tfrac{t^2}{2}+C\); প্রাথমিক শর্ত \(\varphi_Z(0)=1\) দেয় \(C=0\), অর্থাৎ \(\varphi_Z(t)=e^{-t^2/2}\)। (একটি ছোট সতর্কতা — উপরের ভাগ \(\varphi_Z'/\varphi_Z\) বৈধ হতে \(\varphi_Z(t)\ne0\) লাগে। এটি পরিচ্ছন্নভাবে দেখা যায়: ODE \(\varphi_Z'=-t\varphi_Z\)-এর সমাধান \(\varphi_Z(t)=\varphi_Z(0)\,e^{-t^2/2}\) অস্তিত্ব-অনন্যতা-উপপাদ্য (Picard–Lindelöf, linear ODE) থেকে সরাসরি আসে, কোনো ভাগ ছাড়াই — আর \(\varphi_Z(0)=1\) বসিয়ে \(\varphi_Z(t)=e^{-t^2/2}\), যা স্বতঃই কখনো \(0\) নয়। অর্থাৎ separable-চাল কেবল স্বজ্ঞা; কঠোর সমর্থন linear-ODE-এর অনন্যতা।)
পথ (খ) — বর্গ পূর্ণ করা (★★, সরাসরি integral)। integrand-এর ঘাত একত্র করি: $$ \varphi_Z(t)=\frac1{\sqrt{2\pi}}\int_{-\infty}^{\infty}\exp\Bigl(itx-\tfrac{x^2}{2}\Bigr)dx, \qquad itx-\tfrac{x^2}{2}=-\tfrac12\bigl(x^2-2itx\bigr)=-\tfrac12\bigl(x-it\bigr)^2-\tfrac{t^2}{2}, $$ যেখানে শেষ ধাপে complete the square — \((x-it)^2=x^2-2itx-t^2\), তাই \(x^2-2itx=(x-it)^2+t^2\)। ফলে $$ \varphi_Z(t)=e^{-t^2/2}\cdot\frac1{\sqrt{2\pi}}\int_{-\infty}^{\infty}e^{-\frac12(x-it)^2}\,dx. $$ বাকি integral-টা \(\frac1{\sqrt{2\pi}}\int e^{-\frac12(x-it)^2}dx=1\) — বাস্তব \(t\)-তে এটি একটি complex-shift (\(x\mapsto x-it\)) সত্ত্বেও Gaussian-ভর \(1\) থেকে যায়; কঠোরভাবে এটি contour integration (জটিল-তলে আয়তাকার কনট্যুর, যার উল্লম্ব বাহুদ্বয়ে integrand \(\to0\) Cauchy-উপপাদ্য দিয়ে) বা analytic continuation দিয়ে সিদ্ধ — এই এক ধাপটি প্রথম পাঠে এড়ানো যায়, পথ (ক) সম্পূর্ণ বাস্তব-বিশ্লেষণে একই উত্তর দিয়েছে। দুই পথেই \(\varphi_Z(t)=e^{-t^2/2}\)।
সাধারণ Gaussian-এ সম্প্রসারণ (★)। \(X\sim N(\mu,\sigma^2)\) লিখি \(X=\mu+\sigma Z\) (\(Z\sim N(0,1)\)); প্রমাণ ১-এর affine-রূপ (\(a=\sigma,b=\mu\)) সরাসরি দেয় $$ \varphi_{N(\mu,\sigma^2)}(t)=\varphi_{\mu+\sigma Z}(t)=e^{i\mu t}\,\varphi_Z(\sigma t)=e^{\,i\mu t-\sigma^2 t^2/2}. $$ এই সাধারণ সূত্রটাই প্রমাণ ১-এর sanity-check-এ (স্বাধীন normal-এর যোগফল আবার normal) ও প্রমাণ ৬-এর Bernoulli-উদাহরণে কাজে লাগবে। \(\blacksquare\)
এক বাক্যে: Gaussian-ঘনত্বের অভেদ \(f'(x)=-xf(x)\) দিয়ে integral-চিহ্নের ভেতরে অন্তরজ (DCT, 7.4) নিয়ে ODE \(\varphi'=-t\varphi\), \(\varphi(0)=1\) পাওয়া যায়, যার সমাধান \(\varphi_{N(0,1)}(t)=e^{-t^2/2}\) — বিকল্পে integrand-এ বর্গ পূর্ণ করেও একই; আর এই "Gaussian-এর \(\varphi\) ফের Gaussian-আকার" ধর্মই CLT-এর সীমা-বিন্দু।
প্রমাণ ৩ — moment ও Taylor expansion (★★)¶
দাবি। যদি \(\mathbb E\lvert X\rvert^k<\infty\) কোনো পূর্ণসংখ্যা \(k\ge1\)-এ, তবে \(\varphi_X\in C^k(\mathbb R)\) এবং $$ \varphi_X^{(j)}(t)=i^j\,\mathbb E\bigl[X^j e^{itX}\bigr]\quad(0\le j\le k), \qquad\text{বিশেষত}\qquad \varphi_X^{(j)}(0)=i^j\,\mathbb E[X^j]. $$ ফলে \(0\)-এর চারপাশে Taylor-প্রসারণ $$ \varphi_X(t)=\sum_{j=0}^k\frac{(it)^j}{j!}\,\mathbb E[X^j]\ +\ o(t^k)\qquad(t\to0), $$ এবং \(\mathbb E[X]=0,\ \mathbb E[X^2]=1\) হলে এর মূল ফল — $$ \boxed{\ \varphi_X(t)=1-\tfrac{t^2}{2}+o(t^2)\quad(t\to0)\ } $$ — ঠিক যে একটিমাত্র analytic তথ্য CLT-তে দরকার।
ধাপ ১ — প্রথম অন্তরজ ও DCT-যুক্তি (★★)। ধরি \(\mathbb E\lvert X\rvert<\infty\)। difference quotient-টা দেখি: $$ \frac{\varphi_X(t+h)-\varphi_X(t)}{h}=\mathbb E\Bigl[e^{itX}\,\frac{e^{ihX}-1}{h}\Bigr]. $$ \(h\to0\)-এ integrand-এর pointwise সীমা \(e^{itX}\cdot iX\) (কারণ \(\tfrac{e^{ihX}-1}{h}\to iX\))। dominating bound দরকার, আর তার মূল হাতিয়ার একটি প্রাথমিক অসমতা যা যত্ন করে দেখাই: $$ \bigl\lvert e^{i\theta}-1\bigr\rvert\ =\ \Bigl\lvert\int_0^{\theta} i\,e^{is}\,ds\Bigr\rvert\ \le\ \int_0^{\lvert\theta\rvert}\bigl\lvert i\,e^{is}\bigr\rvert\,ds\ =\ \lvert\theta\rvert\qquad(\forall\theta\in\mathbb R). $$ \(\theta=hX\) বসিয়ে \(\lvert e^{ihX}-1\rvert\le\lvert hX\rvert\), তাই \(\bigl\lvert\frac{e^{ihX}-1}{h}\bigr\rvert\le\lvert X\rvert\); আর \(\lvert e^{itX}\rvert=1\), ফলে গোটা integrand-এর মডুলাস \(\le\lvert X\rvert\in L^1\) — একটি \(h\)-নিরপেক্ষ dominating function। সুতরাং 7.4-এর DCT সীমা ও প্রত্যাশা বিনিময় করতে দেয়: $$ \varphi_X'(t)=\mathbb E\bigl[iX\,e^{itX}\bigr]=i\,\mathbb E\bigl[X e^{itX}\bigr]. $$ \(t=0\)-তে \(\varphi_X'(0)=i\,\mathbb E[X]\)। continuity-ও পাই: \(\varphi_X'\) আবার ঠিক ধাপ ২-এর (প্রমাণ ১) ধাঁচে uniformly continuous (একই DCT)।
ধাপ ২ — উচ্চতর অন্তরজ আবেশে (★★)। এখন \(\mathbb E\lvert X\rvert^k<\infty\) ধরে \(j\)-এর ওপর আবেশ (induction) চালাই। base (\(j=1\)) ধাপ ১-এ হয়ে গেছে: \(\varphi_X^{(1)}(t)=i\,\mathbb E[Xe^{itX}]\)। inductive step — ধরা যাক \(\varphi_X^{(j-1)}(t)=i^{\,j-1}\mathbb E[X^{j-1}e^{itX}]\) (\(2\le j\le k\)); এর difference quotient $$ \frac{\varphi_X^{(j-1)}(t+h)-\varphi_X^{(j-1)}(t)}{h}=i^{\,j-1}\,\mathbb E\Bigl[X^{j-1}e^{itX}\,\frac{e^{ihX}-1}{h}\Bigr] $$ -এর integrand-এর মডুলাস \(\le\lvert X^{j-1}\rvert\cdot1\cdot\lvert X\rvert=\lvert X\rvert^{j}\), আর \(\lvert X\rvert^{j}\le\max(1,\lvert X\rvert^k)\le1+\lvert X\rvert^k\in L^1\) (\(j\le k\) বলে) — একটি \(h\)-নিরপেক্ষ dominating function। সুতরাং প্রতিটি \(j\le k\)-এ একই যুক্তি পুনরাবৃত্ত হয়: \(\varphi_X^{(j-1)}(t)=i^{\,j-1}\mathbb E[X^{j-1}e^{itX}]\)-কে আরেকবার অন্তরজ করতে dominating function লাগে \(\lvert X^{j-1}\cdot iX\rvert=\lvert X\rvert^{j}\le\lvert X\rvert^k+1\in L^1\) (কারণ \(\lvert X\rvert^j\le\max(1,\lvert X\rvert^k)\le 1+\lvert X\rvert^k\), \(j\le k\))। DCT ফের প্রযোজ্য, তাই $$ \varphi_X^{(j)}(t)=i^{\,j}\,\mathbb E\bigl[X^{j}e^{itX}\bigr],\qquad \varphi_X^{(j)}(0)=i^{\,j}\,\mathbb E[X^{j}]. $$ \(\varphi_X^{(k)}\) continuous (একই DCT-continuity), অর্থাৎ \(\varphi_X\in C^k\)।
ধাপ ৩ — Taylor-প্রসারণ ও \(o(t^k)\) (★★)। \(\varphi_X\in C^k\) হওয়ায় Peano-রূপের Taylor-উপপাদ্য সরাসরি দেয় $$ \varphi_X(t)=\sum_{j=0}^k\frac{\varphi_X^{(j)}(0)}{j!}t^j+o(t^k) =\sum_{j=0}^k\frac{(it)^j}{j!}\mathbb E[X^j]+o(t^k), $$ যেখানে \(\varphi_X^{(j)}(0)=i^j\mathbb E[X^j]\) বসানো হলো। (এখানে \(o(t^k)\) মানে: \(t\to0\)-এ অবশিষ্টাংশ/\(t^k\to0\) — অর্থাৎ \(t^k\)-এর চেয়ে কঠোরভাবে দ্রুত মিলিয়ে যায়।) গুরুত্বপূর্ণ সূক্ষ্মতা — এই প্রসারণে \(\varphi\)-কে analytic (অসীমবার অন্তরজযোগ্য বা power-series-সমষ্টি) হতে হয় না; কেবল \(C^k\)-ই Peano-অবশিষ্টাংশের জন্য যথেষ্ট, আর সেটুকুই ধাপ ১–২ moment-শর্ত থেকে দিয়েছে। তাই heavy-tail বণ্টন (যার উচ্চ moment অসীম, \(\varphi\) analytic নয়) থাকলেও — যতক্ষণ \(\sigma^2<\infty\) — \(k=2\) পর্যন্ত প্রসারণ বৈধ, যা CLT-কে যথাসম্ভব দুর্বল hypothesis-এ দাঁড় করায়। প্রথম কয়েকটি পদ স্পষ্ট করে লিখলে কাঠামোটা দেখা যায় (\(j=0,1,2\)-এ গুণাঙ্ক): $$ \varphi_X(t)=\underbrace{1}{j=0}\ +\ \underbrace{it\,\mathbb E[X]}}\ +\ \underbrace{\tfrac{(it)^2}{2}\mathbb E[X^2]{j=2}\ +\ \cdots\ +\ \frac{(it)^k}{k!}\mathbb E[X^k]+o(t^k). $$ এখন CLT-এর জন্য \(k=2\), এবং standardized \(X\) (অর্থাৎ \(\mathbb E[X]=0,\ \mathbb E[X^2]=1\)) নিই: $$ \varphi_X(t)=\underbrace{\mathbb E[X^0]}}+\frac{it}{1!}\underbrace{\mathbb E[X]{=0}+\frac{(it)^2}{2!}\underbrace{\mathbb E[X^2]}+o(t^2) =1-\frac{t^2}{2}+o(t^2). $$ (\((it)^2=-t^2\) বলে চিহ্ন ঋণাত্মক।) এই \(1-\tfrac{t^2}{2}+o(t^2)\)-ই প্রমাণ ৬-এ Gaussian-সীমা টানার একমাত্র জ্বালানি — লক্ষণীয়, এর জন্য \(X\)-এর তৃতীয় বা উচ্চতর moment লাগে না, কেবল \(\sigma^2<\infty\) যথেষ্ট।
ব্যবহারিক ফল — \(\varphi\) থেকে moment পড়া (★)। সূত্র \(\varphi^{(j)}(0)=i^j\mathbb E[X^j]\)-এর সরাসরি প্রয়োগ: cf-টা একবার পেলে moment-গুলো কেবল \(0\)-তে অন্তরজ করে পাওয়া যায়, কোনো integral ছাড়াই। যেমন \(N(0,1)\)-এ \(\varphi(t)=e^{-t^2/2}\) (প্রমাণ ২), তাই \(\varphi'(t)=-t\,e^{-t^2/2}\) ও \(\varphi''(t)=(t^2-1)e^{-t^2/2}\), যা দেয় $$ \mathbb E[Z]=\frac{\varphi'(0)}{i}=\frac{0}{i}=0,\qquad \mathbb E[Z^2]=\frac{\varphi''(0)}{i^2}=\frac{-1}{-1}=1, $$ যা \(N(0,1)\)-এর জানা mean–variance-ই — cf-পদ্ধতির একটা ছোট কিন্তু পরিষ্কার আত্ম-সঙ্গতি। (একইভাবে চতুর্থ অন্তরজ থেকে \(\mathbb E[Z^4]=3\) — Gaussian-এর kurtosis।) \(\blacksquare\)
এক বাক্যে: \(\mathbb E\lvert X\rvert^k<\infty\) হলে integral-চিহ্নের ভেতরে \(k\)-বার অন্তরজ (প্রতিবার dominating \(\lvert X\rvert^j\in L^1\), DCT — 7.4) বৈধ, তাই \(\varphi^{(j)}(0)=i^j\mathbb E[X^j]\) ও \(\varphi(t)=\sum_{j\le k}\frac{(it)^j}{j!}\mathbb E[X^j]+o(t^k)\); mean-\(0\)/var-\(1\)-এ এটি \(\varphi(t)=1-\tfrac{t^2}{2}+o(t^2)\) — CLT-এর একমাত্র analytic input।
প্রমাণ ৪ — uniqueness theorem ও inversion (★★, structured)¶
দাবি (inversion formula ও uniqueness)। ধরা যাক \(F\) একটি random variable-এর distribution function এবং \(\varphi\) তার characteristic function। তবে প্রতিটি continuity point জোড়া \(a<b\) (যেখানে \(F\) অবিচ্ছিন্ন)-এ $$ F(b)-F(a)\ =\ \lim_{T\to\infty}\frac{1}{2\pi}\int_{-T}^{T}\frac{e^{-ita}-e^{-itb}}{it}\,\varphi(t)\,dt. \tag{\(\ast\)} $$ এর সরাসরি ফল — uniqueness theorem: \(\varphi\) থেকে \(F\)-এর সব continuity-point-এর বৃদ্ধি (\(F(b)-F(a)\)) উদ্ধার হয়, আর continuity point ঘন (dense — বাড়তি-বিন্দু গণনাযোগ্য), তাই ডান-অবিচ্ছিন্নতায় গোটা \(F\) নির্ধারিত। সংক্ষেপে: দুটি random variable-এর \(\varphi\) এক হলে তাদের distribution এক (\(\varphi_X=\varphi_Y\Rightarrow X\overset{d}{=}Y\))। এটাই "\(\varphi\) পুরো বণ্টনের সম্পূর্ণ, একক স্বাক্ষর" — এবং Lévy continuity (প্রমাণ ৫) ও CLT-এর গোটা যুক্তির ভিত্তি।
ভাবনা — Fourier inversion (★★, কাঠামো)। \(\varphi\) মূলত distribution \(\mu\)-এর Fourier transform \(\varphi(t)=\int e^{itx}d\mu(x)\)। Fourier তত্ত্বের কেন্দ্রীয় সত্য — transform invertible, অর্থাৎ \(\varphi\) জানা থাকলে \(\mu\) ফিরে পাওয়া যায়। সূত্র \((\ast)\) ঠিক সেই inversion, কিন্তু \(\mu\)-তে atom (বিন্দু-ভর) থাকতে পারে বলে সাবধানে গড়া: \(\frac{e^{-ita}-e^{-itb}}{it}=\int_a^b e^{-its}ds\), তাই ডান পাশ আসলে $$ \frac1{2\pi}\int_{-T}^{T}!!\int_{\mathbb R}\Bigl(\int_a^b e^{-its}ds\Bigr)e^{itx}\,d\mu(x)\,dt =\int_{\mathbb R}\underbrace{\frac1{2\pi}\int_{-T}^{T}!\int_a^b e^{it(x-s)}ds\,dt}_{=:K_T(x)}\,d\mu(x), $$ যেখানে Fubini (7.4 — \([-T,T]\times[a,b]\times\mathbb R\)-এ integrand bounded, সসীম মাপে integrable) দিয়ে ক্রম বদলানো হলো। ভেতরের kernel \(K_T(x)=\frac1\pi\int_a^b\frac{\sin T(x-s)}{x-s}\,\ldots\)-ধাঁচের Dirichlet kernel, যার আচরণ \(T\to\infty\)-এ পরিচিত: \(x\in(a,b)\)-তে \(K_T(x)\to1\), \(x\notin[a,b]\)-তে \(\to0\), আর প্রান্ত \(x=a,b\)-তে \(\to\tfrac12\) (jump-এর গড়)। dominated convergence (kernel uniformly bounded — Dirichlet integral \(\int_0^\infty\frac{\sin u}{u}du=\frac\pi2\) সসীম) দিয়ে সীমা প্রত্যাশার ভেতরে নিলে ডান পাশ \(\to\mu((a,b))+\tfrac12\mu(\{a\})+\tfrac12\mu(\{b\})\); আর \(a,b\) continuity point হওয়ায় atom নেই (\(\mu(\{a\})=\mu(\{b\})=0\)), তাই এটা ঠিক \(\mu((a,b))=F(b)-F(a)\) — সূত্র \((\ast)\) প্রতিষ্ঠিত।
যে kernel-আচরণটা এখানে চালিকা, তা একটামাত্র চিরায়ত integral-এ নিহিত — Dirichlet integral \(\int_0^{\infty}\frac{\sin u}{u}\,du=\frac\pi2\)। কারণ ভেতরের \(t\)-integral সরাসরি কষলে $$ \frac1{2\pi}\int_{-T}^{T}\frac{e^{-ita}-e^{-itb}}{it}\,e^{itx}\,dt=\frac1\pi\int_0^{T}\frac{\sin t(x-a)-\sin t(x-b)}{t}\,dt, $$ (কাল্পনিক অংশগুলো বিজোড় বলে কাটে, বাস্তব অংশ জোড় বলে দ্বিগুণ) এবং \(T\to\infty\)-এ প্রতিটি \(\int_0^T\frac{\sin t\theta}{t}dt\to\frac\pi2\operatorname{sgn}(\theta)\) — সাইন-চিহ্ন ঠিক \(x\) \(a\) ও \(b\)-এর কোন পাশে তা গুনে \(0,\tfrac12,\) বা \(1\) বের করে। এই \(\frac\pi2\)-সীমাই uniform bound ও সীমা-মান দুটোই জোগায়, আর তাই inversion-টা সম্পূর্ণ elementary-বাস্তব-বিশ্লেষণে দাঁড়ায়।
পূর্ণ প্রমাণ প্রথম পাঠে এড়ানো যায় (skippable)। Dirichlet-kernel-এর সীমা ও তার uniform bound-এর সূক্ষ্ম যাচাই (oscillatory integral) গভীর; প্রথম পাঠে কেবল ফলাফল — "\(\varphi\) থেকে \(F\) অনন্যভাবে ফিরে পাওয়া যায়" — মনে রাখলেই পরবর্তী প্রমাণে চলবে। (একটি সুন্দর বিশেষ কেস — \(\varphi\in L^1(\mathbb R)\) হলে \(\mu\)-এর একটি অবিচ্ছিন্ন ঘনত্ব আছে এবং inversion সরল হয়ে যায় (jump-সংশোধন লাগে না): $$ f(x)=\frac1{2\pi}\int_{-\infty}^{\infty}e^{-itx}\,\varphi(t)\,dt. $$ যাচাই: \(N(0,1)\)-এ \(\varphi(t)=e^{-t^2/2}\in L^1\) (প্রমাণ ২), আর উপরের integral কষলে — আবার বর্গ পূর্ণ করে — \(\frac1{2\pi}\int e^{-itx-t^2/2}dt=\frac1{\sqrt{2\pi}}e^{-x^2/2}\), ঠিক standard-normal ঘনত্বই; অর্থাৎ inversion \(\varphi\) ও \(f\)-কে নিখুঁত প্রতিসমভাবে বাঁধে।) \(\blacksquare\)
এক বাক্যে: inversion formula \((\ast)\) — Fourier transform \(\varphi\) থেকে Dirichlet-kernel ও Fubini (7.4) দিয়ে \(F(b)-F(a)\) (continuity point-এ) পুনরুদ্ধার — প্রমাণ করে \(\varphi\) পুরো distribution-এর একক স্বাক্ষর (\(\varphi_X=\varphi_Y\Rightarrow X\overset{d}{=}Y\)), যা CLT-এর "সীমা-\(\varphi\) ⇒ সীমা-বণ্টন"-যুক্তির ভিত্তি (গভীর kernel-ধাপ প্রথম পাঠে এড়ানো যায়)।
প্রমাণ ৫ — Lévy's continuity theorem (★★★, structured)¶
দাবি (Lévy's continuity theorem)। ধরা যাক \(X_n\)-এর characteristic function \(\varphi_n\), এবং প্রতিটি \(t\in\mathbb R\)-তে \(\varphi_n(t)\to\varphi(t)\) (pointwise) কোনো ফাংশন \(\varphi\)-তে। যদি \(\varphi\) বিন্দু \(t=0\)-তে continuous হয়, তবে — (i) \(\varphi\) একটি random variable \(X\)-এর characteristic function, এবং (ii) \(X_n\Rightarrow X\) (distribution-এ অভিসরণ)। বিপরীতও সত্য: \(X_n\Rightarrow X\) হলে \(\varphi_n(t)\to\varphi_X(t)\) প্রতিটি \(t\)-তে (এবং অভিসরণ compact-set-এ uniform)।
প্রমাণের নকশা (forward, ★)। কঠিন দিকটা তিন ধাপ: (T)-অসমতা গড়া (ধাপ ১) → তা দিয়ে \(0\)-তে \(\varphi\)-continuity থেকে \(\{X_n\}\)-এর tightness বের করা (ধাপ ২) → Prokhorov-এ subsequence-limit + uniqueness (প্রমাণ ৪) দিয়ে গোটা ক্রমের অভিসরণ (ধাপ ৩)। আগে সহজ দিকটা সেরে নিই।
সহজ মুখ — converse (★, সরাসরি)। \(X_n\Rightarrow X\) মানে সংজ্ঞা অনুযায়ী \(\mathbb E[g(X_n)]\to\mathbb E[g(X)]\) প্রতিটি bounded continuous \(g\)-তে। \(g(x)=\cos tx\) ও \(g(x)=\sin tx\) দুটোই bounded continuous, তাই \(\varphi_n(t)=\mathbb E[\cos tX_n]+i\mathbb E[\sin tX_n]\to\mathbb E[\cos tX]+i\mathbb E[\sin tX]=\varphi_X(t)\)। সহজ দিক শেষ; কঠিন দিক (forward) তিন ধাপে।
ধাপ ১ — tightness-এর মূল অসমতা (★★, চাবি-পরিমাপ)। forward-দিকের গোটা চ্যালেঞ্জ একটাই — pointwise-\(\varphi\)-অভিসরণ থেকে কীভাবে নিশ্চিত হই যে সীমা একটা প্রকৃত বণ্টন, ভর-পলায়ন নয়। এর চাবি \(\varphi\)-এর \(0\)-সন্নিকট আচরণকে লেজ-ভরের সঙ্গে বাঁধা একটি পরিমাণগত অসমতা। দাবি: যেকোনো \(\delta>0\) ও যেকোনো random variable \(X\) (cf \(\varphi\))-এ $$ \mathbb P\Bigl(\lvert X\rvert>\tfrac{2}{\delta}\Bigr)\ \le\ \frac{1}{\delta}\int_{-\delta}^{\delta}\bigl(1-\operatorname{Re}\varphi(t)\bigr)\,dt. \tag{T} $$ ব্যুৎপত্তি: ডান পাশে \(\operatorname{Re}\varphi(t)=\mathbb E[\cos tX]\) বসিয়ে Fubini (7.4 — integrand \(\lvert1-\cos tX\rvert\le2\), সসীম মাপে bounded) দিয়ে প্রত্যাশা বাইরে আনি: $$ \frac1\delta\int_{-\delta}^{\delta}(1-\mathbb E[\cos tX])\,dt =\mathbb E\Bigl[\frac1\delta\int_{-\delta}^{\delta}(1-\cos tX)\,dt\Bigr] =\mathbb E\Bigl[2\Bigl(1-\frac{\sin\delta X}{\delta X}\Bigr)\Bigr], $$ যেখানে ভেতরের integral \(\int_{-\delta}^{\delta}(1-\cos tx)dt=2\delta-\frac{2\sin\delta x}{x}=2\delta\bigl(1-\frac{\sin\delta x}{\delta x}\bigr)\)। এখন একটি বিশুদ্ধ-বাস্তব প্রাথমিক অসমতা লাগে, যা যত্ন করে দেখাই: $$ 1-\frac{\sin u}{u}\ \ge\ 0\quad(\forall u),\qquad\text{এবং}\qquad \lvert u\rvert\ge2\ \Rightarrow\ 1-\frac{\sin u}{u}\ \ge\ \tfrac12. $$ প্রথমটি — \(\lvert\sin u\rvert\le\lvert u\rvert\) থেকে \(\frac{\sin u}{u}\le1\) (এবং \(u=0\)-তে সীমা \(1\), তাই \(1-\frac{\sin u}{u}\ge0\))। দ্বিতীয়টি — \(\lvert\sin u\rvert\le1\) সর্বদা, তাই \(\lvert u\rvert\ge2\)-তে \(\bigl\lvert\frac{\sin u}{u}\bigr\rvert\le\frac1{\lvert u\rvert}\le\frac12\), অর্থাৎ \(\frac{\sin u}{u}\le\frac12\) ও তাই \(1-\frac{\sin u}{u}\ge\frac12\)। \(u=\delta X\) ধরে indicator-এ নামাই: \(2(1-\frac{\sin\delta X}{\delta X})\ge2\cdot\frac12\cdot\mathbf 1_{\{\lvert\delta X\rvert\ge2\}}=\mathbf 1_{\{\lvert X\rvert\ge2/\delta\}}\) (যেহেতু integrand অঋণাত্মক, ছোট-\(\lvert X\rvert\)-অংশ ফেলে দেওয়া কেবল কমায়)। প্রত্যাশা নিলে ঠিক (T)।
(T)-এর অর্থ — কেন এটা tightness-যন্ত্র। ডান পাশের রাশি \(\frac1\delta\int_{-\delta}^{\delta}(1-\operatorname{Re}\varphi)\,dt\) মাপে "\(\varphi\) \(0\)-এর চারপাশে \(1\) থেকে কতটা নেমেছে" (কারণ \(\operatorname{Re}\varphi(0)=1\), আর integrand \(0\)-তে \(0\))। (T) বলে — এই নামা যত ছোট, \(X\)-এর \(2/\delta\)-এর বাইরের লেজ-ভর তত ছোট। অর্থাৎ \(\varphi\)-এর \(0\)-সন্নিকট মসৃণতা ⇔ ভর দূরে পালায় না — এটাই tightness-এর গাণিতিক হৃদয়, এবং পরের ধাপে এই একটি অসমতা গোটা \(\{X_n\}\)-পরিবারে uniform-ভাবে খাটিয়ে tightness প্রতিষ্ঠা হবে।
ধাপ ২ — \(0\)-তে continuity ⇒ tightness (★★★, গভীর; প্রথম পাঠে ফলাফলটুকু রাখুন)। \(\{X_n\}\)-পরিবার tight বলতে বোঝায়: প্রতিটি \(\varepsilon>0\)-তে একটি \(M\) আছে যাতে \(\sup_n\mathbb P(\lvert X_n\rvert>M)\le\varepsilon\) (অর্থাৎ ভর একসঙ্গে অসীমে পালায় না)। (কেন Chebyshev দিয়ে সরাসরি tightness নয় — Chebyshev-এ \(\mathbb P(\lvert X_n\rvert>M)\le\mathbb E[X_n^2]/M^2\) লাগে \(\sup_n\mathbb E[X_n^2]<\infty\), যা এখানে ধরাই নেই; (T)-অসমতার সৌন্দর্য — সে কোনো moment নয়, কেবল \(\varphi_n\)-এর \(0\)-সন্নিকট আচরণ চায়, যা hypothesis থেকে সরাসরি পাওয়া।) ধরা যাক ছোট \(\varepsilon>0\)। \(\varphi\) \(0\)-তে continuous ও \(\varphi(0)=\lim\varphi_n(0)=1\), তাই যথেষ্ট ছোট \(\delta\)-তে \(\frac1\delta\int_{-\delta}^{\delta}(1-\operatorname{Re}\varphi(t))dt<\varepsilon/2\) (integrand \(0\)-তে \(0\), continuity দিয়ে গড়ও ছোট)। এখন \(\varphi_n\to\varphi\) pointwise ও \(\lvert1-\operatorname{Re}\varphi_n\rvert\le2\) bounded — তাই \([-\delta,\delta]\)-এ DCT (7.4) দিয়ে \(\frac1\delta\int_{-\delta}^{\delta}(1-\operatorname{Re}\varphi_n)\,dt\to\frac1\delta\int_{-\delta}^{\delta}(1-\operatorname{Re}\varphi)\,dt<\varepsilon/2\); সুতরাং যথেষ্ট বড় \(n\)-এ এটি \(<\varepsilon\), আর শুরুর সসীম-সংখ্যক \(n\)-কে \(\delta\) আরও ছোট করে ঢেকে নেওয়া যায়। (T) প্রয়োগ করে \(M=2/\delta\)-তে \(\sup_n\mathbb P(\lvert X_n\rvert>M)\le\varepsilon\) — অর্থাৎ পরিবারটি tight। (এই ধাপের সূক্ষ্মতা — uniform-in-\(n\) নিয়ন্ত্রণ — গভীরতম; প্রথম পাঠে "\(0\)-তে \(\varphi\)-continuity ⇒ tightness" ফলাফলটুকুই যথেষ্ট।)
কেন ঠিক tightness-ই অনুপস্থিত টুকরা। pointwise \(\varphi_n\to\varphi\) একাই \(X_n\Rightarrow X\) দেয় না — কারণ ভর অসীমে "পালিয়ে" যেতে পারে। ধ্রুপদী সতর্ক-উদাহরণ: \(X_n\sim N(0,n)\)-এর \(\varphi_n(t)=e^{-nt^2/2}\to\mathbf 1_{\{t=0\}}\), যা \(0\)-তে discontinuous — আর সত্যিই \(X_n\) কোনো প্রকৃত random variable-এ অভিসরণ করে না (পুরো ভর ছড়িয়ে অসীমে যায়)। ঠিক এই রোগটাই "\(\varphi\) \(0\)-তে continuous"-শর্ত আটকায়: continuity at \(0\) ⇔ tightness ⇔ ভর কোথাও জমে থাকে — তাই Lévy-উপপাদ্যে এই একটিমাত্র শর্তই সেতুটা সম্পূর্ণ করে, আর CLT-তে সীমা-\(\varphi=e^{-t^2/2}\) \(0\)-তে মসৃণ বলে শর্তটা আপনাআপনি পূর্ণ।)
ধাপ ৩ — Prokhorov + uniqueness দিয়ে সমাপ্তি (★★★)। tight হলে Prokhorov's theorem (প্রোখোরভ-উপপাদ্য — tightness ⇔ relative compactness, weak topology-তে) বলে প্রতিটি subsequence-এর একটি further subsequence আছে যা কোনো প্রকৃত random variable \(X\)-এ weak-অভিসরণ করে: \(X_{n_k}\Rightarrow X\)। সেই subsequence-এ converse (সহজ মুখ) দিয়ে \(\varphi_{n_k}\to\varphi_X\) pointwise; কিন্তু ধরে নেওয়া আছে গোটা ক্রমে \(\varphi_n\to\varphi\), তাই \(\varphi_X=\varphi\) — যা প্রথমেই দেখায় \(\varphi\) একটি প্রকৃত cf (দাবি (i))। এবার uniqueness theorem (প্রমাণ ৪) বলে এই সীমা \(X\) অনন্য (তার \(\varphi=\varphi\) নির্দিষ্ট করে \(X\)-এর distribution)। সুতরাং প্রতিটি weak-অভিসারী subsequence একই সীমা \(X\)-এ যায়; আর "প্রতিটি subsequence-এর further subsequence একই সীমায় যায়" মানে গোটা ক্রমই সেই সীমায় যায় (subsequence-নীতি)। স্মরণে রাখি কেন এই নীতি খাটে — মেট্রিক-স্পেসে (এখানে weak-topology metrizable, যেমন Lévy বা bounded-Lipschitz মেট্রিক) \(x_n\to x\) ঠিক তখনই যখন প্রতিটি subsequence-এর একটা further subsequence \(x\)-এ যায়। ধরা যাক \(x_n\not\to x\); তবে কোনো \(\varepsilon>0\) ও subsequence \(x_{n_k}\) আছে যাদের সবাই \(x\) থেকে \(\ge\varepsilon\) দূরে — কিন্তু এই \(x_{n_k}\)-এরই (tightness ⇒ Prokhorov) একটা further subsequence কোথাও weak-অভিসারী, যার সীমা uniqueness-এ \(X=x\) হতে বাধ্য, অর্থাৎ শেষমেশ \(x\)-এর \(\varepsilon\)-ভেতরে — স্ববিরোধ। তাই \(x_n\to x\)। অতএব \(X_n\Rightarrow X\) (দাবি (ii))। \(\blacksquare\)
এক বাক্যে: \(0\)-তে \(\varphi\)-এর continuity-ই tightness-এর চাবি — মূল অসমতা \(\mathbb P(\lvert X\rvert>2/\delta)\le\frac1\delta\int_{-\delta}^{\delta}(1-\operatorname{Re}\varphi)dt\) (Fubini + \(1-\frac{\sin u}{u}\ge\frac12\) for \(\lvert u\rvert\ge2\)) দিয়ে ভর-পলায়ন আটকে Prokhorov + uniqueness (প্রমাণ ৪) মিলিয়ে \(\varphi_n\to\varphi\) (\(\varphi\) \(0\)-তে continuous) ⇒ \(X_n\Rightarrow X\); এটিই pointwise-\(\varphi\)-অভিসরণকে distribution-অভিসরণে অনুবাদের কঠোর সেতু।
প্রমাণ ৬ — THE CENTRAL LIMIT THEOREM, রিগরাস প্রমাণ (★★★, the summit)¶
দাবি (classical CLT)। ধরা যাক \(X_1,X_2,\dots\) iid random variable, \(\mathbb E[X_i]=\mu\) ও \(\operatorname{Var}(X_i)=\sigma^2\in(0,\infty)\) (সসীম, অশূন্য)। standardize করি \(Y_i=\dfrac{X_i-\mu}{\sigma}\) (তাই \(\mathbb E[Y_i]=0,\ \operatorname{Var}(Y_i)=\mathbb E[Y_i^2]=1\)), আর গড়-মাপন $$ Z_n\ :=\ \frac{1}{\sqrt n}\sum_{i=1}^n Y_i\ =\ \frac{1}{\sqrt n}\sum_{i=1}^n\frac{X_i-\mu}{\sigma}\ =\ \frac{\sqrt n\,(\bar X_n-\mu)}{\sigma}. $$ তবে $$ \boxed{\ Z_n\ \Rightarrow\ N(0,1)\quad(n\to\infty)\ } $$ — অর্থাৎ প্রতিটি \(z\)-এ \(\mathbb P(Z_n\le z)\to\Phi(z)\), standard normal-এর CDF।
ধাপ ০ — কৌশলের নকশা (★)। প্রমাণটা চার ধাপ: \(\varphi_{Z_n}\)-কে এক \(\varphi_Y\)-এর ঘাতে নামানো (প্রমাণ ১), সেই \(\varphi_Y\)-কে Taylor-এ খোলা (প্রমাণ ৩), ঘাতের সীমা নেওয়া (একটি কঠোর লেমা), আর সীমা-\(\varphi\) থেকে distribution-অভিসরণে যাওয়া (প্রমাণ ৪+৫)। প্রতিটি ধাপ আগের প্রমাণগুলোর সরাসরি ফসল — তাই এই capstone-প্রমাণে নতুন কোনো কঠিন যন্ত্র লাগে না, কেবল গাঁথুনি।
ধাপ ১ — \(\varphi_{Z_n}\)-কে এক \(\varphi_Y\)-এর ঘাতে নামানো (★★, প্রমাণ ১ প্রয়োগ)। \(\varphi_Y\) দিয়ে \(Y_i\)-দের common characteristic function লিখি (\(Y_i\) iid বলে সবগুলোর \(\varphi\) এক)। \(Z_n=\frac{1}{\sqrt n}\sum Y_i\)-তে দুই ধর্ম জুড়ি — প্রথমে \(\frac{1}{\sqrt n}\)-scaling (প্রমাণ ১-এর affine, \(a=1/\sqrt n,\,b=0\)): যোগফল \(S_n=\sum_{i=1}^n Y_i\)-এর cf-কে \(\varphi_{Z_n}(t)=\varphi_{S_n}(t/\sqrt n)\) দেয়; তারপর independence-factorization (প্রমাণ ১, ধাপ ৪): \(\varphi_{S_n}(s)=\prod_{i=1}^n\varphi_{Y_i}(s)=\bigl[\varphi_Y(s)\bigr]^n\) (iid বলে সব \(\varphi_{Y_i}=\varphi_Y\))। দুই ধাপ পরপর সাজালে: $$ \varphi_{Z_n}(t)\ \overset{\text{(affine)}}{=}\ \varphi_{S_n}!\Bigl(\frac{t}{\sqrt n}\Bigr)\ \overset{\text{(indep.)}}{=}\ \prod_{i=1}^{n}\varphi_{Y_i}!\Bigl(\frac{t}{\sqrt n}\Bigr)\ =\ \Bigl[\varphi_Y!\Bigl(\frac{t}{\sqrt n}\Bigr)\Bigr]^{n}. $$ একই জিনিস এক লাইনেও: $$ \varphi_{Z_n}(t)\ =\ \Bigl[\varphi_Y\Bigl(\frac{t}{\sqrt n}\Bigr)\Bigr]^{n}. $$ এই এক সমীকরণে CLT-এর গোটা গঠন ধরা — যোগফল ঘাতে, scale \(1/\sqrt n\)-এ argument সংকুচিত।
ধাপ ২ — Taylor দিয়ে argument-এর স্থানীয় রূপ (★★, প্রমাণ ৩ প্রয়োগ)। \(Y\)-এর দ্বিতীয় moment সসীম (\(\mathbb E[Y^2]=1<\infty\)), তাই প্রমাণ ৩-এর মূল ফল (\(\mathbb E[Y]=0,\mathbb E[Y^2]=1\)) সরাসরি: $$ \varphi_Y(s)=1-\frac{s^2}{2}+o(s^2)\qquad(s\to0). $$ এখন স্থির \(t\)-তে \(s=t/\sqrt n\to0\) যখন \(n\to\infty\); বসিয়ে $$ \varphi_Y\Bigl(\frac{t}{\sqrt n}\Bigr)=1-\frac{t^2}{2n}+o\Bigl(\frac{t^2}{n}\Bigr)=1-\frac{t^2}{2n}+o\Bigl(\frac1n\Bigr), $$ যেখানে স্থির \(t\)-তে \(o(t^2/n)\) আর \(o(1/n)\) একই অর্থ বহন করে (\(t\) ধ্রুব, ধ্রুব-গুণক \(o\)-শ্রেণি বদলায় না)। এখানে \(o\) (little-o) থাকাটা সিদ্ধান্তমূলক — \(O\) (big-O) নয়: প্রমাণ ৩ ঠিক \(o(s^2)\) দিয়েছে, অর্থাৎ অবশিষ্টাংশ \(s^2\)-এর চেয়ে কঠোরভাবে দ্রুত \(0\)-তে যায়, আর সেটাই ধাপ ৩-এর সীমা-লেমায় \(n\cdot o(1/n)\to0\) নিশ্চিত করে; কেবল \(O(1/n)\) হলে \(n\cdot O(1/n)\) bounded থাকত কিন্তু \(0\)-তে যেত না, আর \(c_n\)-এর সীমা নষ্ট হতো। সুতরাং $$ \varphi_{Z_n}(t)=\Bigl(1-\frac{t^2}{2n}+o\bigl(\tfrac1n\bigr)\Bigr)^{!n}. $$
ধাপ ৩ — সীমা-লেমা: \((1+c_n/n)^n\to e^{c}\) (★★★, কঠোর নিয়ন্ত্রণ)। এখন প্রয়োজন একটি সাবধান লেমা — যদি জটিল-মানের অনুক্রম \(c_n\to c\in\mathbb C\), তবে \(\bigl(1+\frac{c_n}{n}\bigr)^n\to e^{c}\)। আমাদের ক্ষেত্রে boxed-রাশিটাকে এ-রূপে আনি — লিখি \(c_n:=n\bigl(\varphi_Y(t/\sqrt n)-1\bigr)\), তাহলে স্বয়ংক্রিয়ভাবে \(\varphi_{Z_n}(t)=\bigl(1+\tfrac{c_n}{n}\bigr)^n\)। ধাপ ২-এর প্রসারণ বসিয়ে এই \(c_n\)-এর সীমা কষি: $$ c_n=n\Bigl(\underbrace{1-\tfrac{t^2}{2n}+o\bigl(\tfrac1n\bigr)}{=\varphi_Y(t/\sqrt n)}-1\Bigr)=-\frac{t^2}{2}+\underbrace{n\cdot o\bigl(\tfrac1n\bigr)}=:c, $$ যেখানে }\ \xrightarrow[n\to\infty]{}\ -\frac{t^2}{2\(n\cdot o(1/n)\to0\) ঠিক \(o(1/n)\)-এর সংজ্ঞা (\(\frac{o(1/n)}{1/n}\to0\))। সুতরাং \(c_n\to c=-\tfrac{t^2}{2}\), আর এখন লেমা প্রয়োগের প্রস্তুত।
লেমার প্রমাণ (logarithm দিয়ে, সতর্ক): বড় \(n\)-এ \(\lvert c_n/n\rvert<\tfrac12\), তাই principal branch-এ \(\log(1+z)\) সংজ্ঞায়িত। এর power-series থেকে অবশিষ্টাংশ-bound কষে রাখি — \(\log(1+z)-z=-\sum_{m\ge2}\frac{(-z)^m}{m}\), তাই \(\lvert z\rvert\le\tfrac12\)-তে geometric-মাজোরাইজেশনে $$ \bigl\lvert\log(1+z)-z\bigr\rvert\ \le\ \sum_{m\ge2}\frac{\lvert z\rvert^m}{m}\ \le\ \frac{\lvert z\rvert^2}{2}\sum_{m\ge0}\lvert z\rvert^m\ =\ \frac{\lvert z\rvert^2}{2}\cdot\frac{1}{1-\lvert z\rvert}\ \le\ \lvert z\rvert^2, $$ যেখানে শেষে \(\frac1{1-\lvert z\rvert}\le2\) (\(\lvert z\rvert\le\tfrac12\))। (কেন complex log, বাস্তব নয় — \(\varphi_Y(t/\sqrt n)\) জটিল-মানের, তাই \(z=c_n/n\in\mathbb C\); principal branch-এ \(\exp\circ\log=\mathrm{id}\) এই ছোট-\(\lvert z\rvert\)-অঞ্চলে নিরাপদ, আর \((1+z)^n=e^{n\log(1+z)}\) একক-মানে সংজ্ঞায়িত।) তাই $$ n\log\Bigl(1+\frac{c_n}{n}\Bigr)=n\Bigl(\frac{c_n}{n}+R_n\Bigr)=c_n+nR_n,\qquad \lvert nR_n\rvert\le n\Bigl\lvert\frac{c_n}{n}\Bigr\rvert^2=\frac{\lvert c_n\rvert^2}{n}\to0, $$ যেহেতু \(\lvert c_n\rvert\to\lvert c\rvert\) bounded। সুতরাং \(n\log(1+c_n/n)\to c\), আর exponential continuous বলে \((1+c_n/n)^n=\exp\!\bigl(n\log(1+c_n/n)\bigr)\to e^{c}\)। লেমা প্রমাণিত। (এই \(\lvert\log(1+z)-z\rvert\le\lvert z\rvert^2\)-bound-ই \(o(1/n)\)-অংশকে কঠোরভাবে নিয়ন্ত্রণ করে — এখানে কোনো হাত-ঘোরানো নেই: অবশিষ্টাংশের অবদান \(\frac{\lvert c_n\rvert^2}{n}\to0\)।) \(c=-\tfrac{t^2}{2}\) বসিয়ে $$ \varphi_{Z_n}(t)\ \xrightarrow[n\to\infty]{}\ e^{-t^2/2}\ =\ \varphi_{N(0,1)}(t)\qquad(\text{প্রমাণ ২}), $$ এবং এটি প্রতিটি স্থির \(t\in\mathbb R\)-তে সত্য।
ধাপ ৪ — Lévy continuity দিয়ে উপসংহার (★★, প্রমাণ ৫ প্রয়োগ)। ধাপ ৩-এর সীমা প্রতিটি স্থির \(t\)-তে আলাদা-আলাদাভাবে প্রতিষ্ঠিত — অর্থাৎ \(\varphi_{Z_n}\to\varphi\) pointwise on all of \(\mathbb R\) (uniform নয়, লাগেও না: Lévy-উপপাদ্য কেবল pointwise-অভিসরণ + সীমার \(0\)-continuity চায়)। লক্ষণীয়, একা এই pointwise-\(\varphi\)-সীমা সরাসরি "\(Z_n\le z\)"-সম্ভাবনার সীমা দেয় না (cf-রা CDF নয়); ঠিক এই অনুবাদটাই প্রমাণ ৫ করে। এখন আমাদের হাতে \(\varphi_{Z_n}(t)\to\varphi(t):=e^{-t^2/2}\) pointwise; আর সীমা-ফাংশন \(\varphi(t)=e^{-t^2/2}\) গোটা \(\mathbb R\)-এ continuous, বিশেষত \(t=0\)-তে (যেখানে \(\varphi(0)=1\)) — অর্থাৎ ভর-পলায়নের কোনো আশঙ্কা নেই। সুতরাং প্রমাণ ৫-এর Lévy's continuity theorem-এর সব শর্ত পূর্ণ, তাই \(\varphi\) একটি প্রকৃত cf এবং $$ Z_n\ \Rightarrow\ X,\quad\text{যেখানে}\quad \varphi_X=e^{-t^2/2}. $$ শেষে uniqueness (প্রমাণ ৪) + প্রমাণ ২ মিলে \(\varphi_X=e^{-t^2/2}=\varphi_{N(0,1)}\) চিহ্নিত করে \(X\sim N(0,1)\)। অতএব $$ Z_n=\frac{\sqrt n\,(\bar X_n-\mu)}{\sigma}\ \Rightarrow\ N(0,1).\qquad\blacksquare $$
গোটা যুক্তি-শৃঙ্খলটা এক নজরে — পাঁচটি প্রমাণ ঠিক যেভাবে গাঁথা হলো: $$ \varphi_{Z_n}(t)\ \overset{\text{প্রমাণ ১}}{=}\ \Bigl[\varphi_Y!\Bigl(\tfrac{t}{\sqrt n}\Bigr)\Bigr]^{n}\ \overset{\text{প্রমাণ ৩}}{=}\ \Bigl(1-\tfrac{t^2}{2n}+o\bigl(\tfrac1n\bigr)\Bigr)^{n}\ \overset{\text{সীমা-লেমা}}{\longrightarrow}\ e^{-t^2/2}\ \overset{\text{প্রমাণ ২}}{=}\ \varphi_{N(0,1)}(t)\ \overset{\text{প্রমাণ ৪+৫}}{\Longrightarrow}\ Z_n\Rightarrow N(0,1).
$$
যা প্রমাণিত হলো — এবং কেন এটি শিখর। এই ছয়-ধাপের শৃঙ্খল Part VII-এর গোটা যন্ত্র এক বিন্দুতে মেলায়: 7.4-এর integral ও DCT (অন্তরজ/সীমা বিনিময়), 7.6-এর independence (যোগফল ⇒ গুণফল), এই অধ্যায়ের characteristic-function-বিশ্লেষণ (Taylor, Lévy continuity, uniqueness) — সব মিলে 3.4-এ যে CLT-কে কেবল বিবৃত ও স্বজ্ঞায় চেনা হয়েছিল ("\(\sqrt n(\bar X_n-\mu)/\sigma\) আসন্ন-Gaussian"), তাকে এখানে সম্পূর্ণ, measure-তাত্ত্বিক ভিত্তির ওপর কঠোরভাবে প্রমাণিত করা হলো — কোনো অলিখিত ধারণা, কোনো হাত-ঘোরানো ছাড়া। এটি Part VII-এর শিখর: SLLN (7.6) যেখানে \(\bar X_n\to\mu\)-এ থামার কথা বলেছিল, CLT সেই অভিসরণের সূক্ষ্মতর দ্বিতীয় স্তর — ওঠানামার সঠিক স্কেল (\(1/\sqrt n\)) ও সঠিক আকার (Gaussian) — কে চূড়ান্ত কঠোরতায় ধরে, এবং পুরো curriculum-এর প্রায়-সব asymptotic পরিসংখ্যানের (confidence interval, Wald test, asymptotic normality) ভিত্তি-উপপাদ্য হিসেবে দাঁড়ায়।
কংক্রিট অর্থ — 3.4-এর সেই স্বজ্ঞা, এখন কঠোর। ফলটা ঠিক কী বলে তা একটি উদাহরণে স্পষ্ট: \(X_i\sim\mathrm{Bernoulli}(p)\) হলে (\(\mu=p,\ \sigma^2=p(1-p)\)) উপপাদ্যটি দেয় \(\frac{\sqrt n(\bar X_n-p)}{\sqrt{p(1-p)}}\Rightarrow N(0,1)\) — অর্থাৎ \(n\) বড় হলে নমুনা-অনুপাত \(\bar X_n\) প্রায়-\(N\!\bigl(p,\frac{p(1-p)}{n}\bigr)\), যা de Moivre–Laplace-এর সেই আদি দ্বিপদ-থেকে-normal আসন্নায়নেরই সাধারণ রূপ। সংখ্যায়: \(p=0.5,\ n=100\)-তে \(\mathbb P(\bar X_n\le0.58)\approx\Phi\bigl(\frac{0.58-0.5}{0.05}\bigr)=\Phi(1.6)\approx0.945\) — distribution-অভিসরণ মানে ঠিক এই CDF-মান \(n\to\infty\)-এ Gaussian-মানে গিয়ে বসা, প্রতিটি \(z\)-বিন্দুতে। 3.4-এ এটুকু কেবল দেখানো ও বিশ্বাস করা হয়েছিল; এখানে \(\varphi\)-যন্ত্র দিয়ে তা প্রমাণিত।
এক বাক্যে: iid standardized \(Y_i\)-তে \(\varphi_{Z_n}(t)=[\varphi_Y(t/\sqrt n)]^n\) (প্রমাণ ১), Taylor \(\varphi_Y(s)=1-\tfrac{s^2}{2}+o(s^2)\) (প্রমাণ ৩) বসিয়ে \(\bigl(1-\tfrac{t^2}{2n}+o(\tfrac1n)\bigr)^n\), আর কঠোর সীমা-লেমা \((1+c_n/n)^n\to e^{c}\) (\(\lvert\log(1+z)-z\rvert\le\lvert z\rvert^2\)-bound দিয়ে \(o(1/n)\) নিয়ন্ত্রিত) দিয়ে \(\to e^{-t^2/2}=\varphi_{N(0,1)}\) (প্রমাণ ২); Lévy continuity (প্রমাণ ৫) + uniqueness (প্রমাণ ৪) মিলিয়ে \(Z_n\Rightarrow N(0,1)\) — 3.4-এর CLT, Part VII-এর শিখরে এখন পূর্ণ-কঠোরভাবে প্রমাণিত।
৫ · কোড ল্যাব (Python)¶
এই অধ্যায়ের গোটা তত্ত্ব — characteristic function (বৈশিষ্ট্য-অপেক্ষক) \(\varphi_X(t)=\mathbb E[e^{itX}]\) আর তার চূড়ান্ত ফল, কঠোর central limit theorem (CLT, কেন্দ্রীয় সীমা উপপাদ্য) — যত বিমূর্তই হোক, তার প্রতিটি মুখ simulation-এ সংখ্যায় চোখে দেখা যায়। চারটি ধাপে একটিমাত্র runnable স্ক্রিপ্ট সেই দেখা সম্পূর্ণ করে: প্রথমে তিনটি বণ্টনের \(\varphi\)-কে \(t=1\)-এ মান বসিয়ে যাচাই (N(0,1)-এর \(\varphi\) বাস্তব \(e^{-1/2}=0.6065\), Exp(1)-এর \(\varphi\) জটিল \(0.5+0.5i\), Bernoulli-র \(\varphi\) একক বৃত্তের জ্যা); তারপর সেই \(\varphi\) থেকে moment পুনরুদ্ধার (\(\varphi''(0)=-\mathbb E[X^2]\), সংখ্যিক দ্বিতীয় অন্তরজে \(\approx-1\)); তারপর CLT-কে কাজ করতে দেখা — একটা স্পষ্ট-বঙ্কিম (skewed) Exp(1) থেকে standardized গড় \(Z_n=\sqrt n(\bar X_n-1)\) কীভাবে \(n=30\)-তেই প্রায়-Gaussian হয়ে আসে (mean, variance, skewness, KS-দূরত্ব); আর শেষে প্রমাণের হৃৎপিণ্ড — সেই standardized যোগফলের \(\varphi\) কীভাবে Gaussian-\(\varphi\) \(e^{-t^2/2}\)-এ গিয়ে বসে (empirical \(\varphi_{Z_n}(1)\) ও সীমা-লেমার সারণি)। নির্ভরতা শুধু numpy ও scipy, বাড়তি কোনো library নয়।
স্ক্রিপ্টের কাঠামো ও পুনরুৎপাদনযোগ্যতা (reproducibility)¶
পুরো ল্যাবটা একটাই runnable স্ক্রিপ্ট — _code/lab_7-10.py — চারটে ব্যাখ্যাযুক্ত অংশে ভাগ করা। সব random draw একটিমাত্র generator থেকে আসে — np.random.default_rng(20260619) — এবং default_rng-এর ফলাফল স্রোত (stream) থেকে টানার ক্রমের উপর নির্ভরশীল: একই seed হলেও আগে-পরে টানলে আলাদা সংখ্যা আসে। তাই ফল পুনরুৎপাদনযোগ্য রাখতে নিচের ঠিক এই ক্রমেই স্রোত টানা হয় —
- Part 1 — N(0,1)-এর empirical \(\varphi\)-যাচাইয়ের জন্য একটা দৈর্ঘ্য-\(200000\) standard-normal vector — সবার আগে;
- Part 3 — Exp(1)-এর sample-mean array (shape \(200000\times30\)) — মাঝে;
- Part 2 ও Part 4 কোনো নতুন draw করে না — Part 2 বিশুদ্ধ সংখ্যিক অন্তরজ (randomness নেই), আর Part 4 Part 3-এর একই \(Z\) পুনর্ব্যবহার করে।
Part 3-এর Exp(1)-array বড় (\(200000\) rep); স্মৃতির সীমা মানতে সেটি সারি-খণ্ডে (row-chunk) টানা হয় (\(10000\) সারি করে)। একটাই generator থেকে পরপর একই আকারের খণ্ড টানা আর একটিমাত্র বড় block টানা byte-for-byte অভিন্ন (যাচাই-করা), তাই draw-ক্রম — এবং নিচের সব সংখ্যা — হুবহু পুনরুৎপাদনযোগ্য। নিচের set-up লাইনটি গোটা স্ক্রিপ্টে একবারই চলে—
import numpy as np
from scipy import stats
np.set_printoptions(precision=4, suppress=True)
# ---- one generator, seeded once; every draw below pulls from it in order ----
rng = np.random.default_rng(20260619)
CHUNK = 10_000 # row-chunk size for the streamed Exp(1) draw in Part 3
প্রতিটি অংশ এই একই rng-এ ক্রমানুসারে টানে, তাই draw-ক্রম স্থির এবং নিচের সব সংখ্যা হুবহু পুনরুৎপাদনযোগ্য।
৫.১ · Characteristic function — তিন বণ্টনে \(\varphi(1)\)¶
প্রথম মুখ: \(\varphi\)-টা আসলে কী, তা মান বসিয়ে দেখা। তিনটি বণ্টনের closed-form \(\varphi\) নেওয়া হয় — \(N(0,1)\)-এর \(\varphi(t)=e^{-t^2/2}\) (বাস্তব, ধনাত্মক, কারণ বণ্টন symmetric), \(\text{Exp}(1)\)-এর \(\varphi(t)=\frac1{1-it}\) (জটিল), আর \(\text{Bernoulli}(p)\)-এর \(\varphi(t)=(1-p)+p\,e^{it}\) (একক বৃত্তের ওপর দুই বিন্দুর ওজন-করা জ্যা)। তিনটিকেই \(t=1\)-এ বসিয়ে জটিল মান, modulus (\(\lvert\cdot\rvert\)) ও তাৎপর্য ছাপা হয়। যাচাই হিসেবে \(N(0,1)\)-এর \(\varphi(1)\)-কে একটা নমুনা থেকে empirically-ও মাপা হয়, \(\widehat\varphi(t)=\frac1m\sum_j e^{itX_j}\) — যা closed-form \(e^{-1/2}\)-এর কাছে বসা উচিত (এটিই generator-এর প্রথম draw)।
# =====================================================================
# PART 1 -- Characteristic functions phi_X(t) = E[e^{itX}].
# Closed forms:
# N(0,1): phi(t) = e^{-t^2/2} (real, > 0)
# Exp(1): phi(t) = 1/(1 - it)
# Bernoulli(p): phi(t) = (1-p) + p e^{it}
# We evaluate each at t = 1 and print the complex value, its
# modulus and (where relevant) phase. As a sanity check we
# also estimate phi_{N(0,1)}(1) EMPIRICALLY from a sample,
# phi_hat(t) = (1/m) sum e^{i t X_j}, and match it to e^{-1/2}.
# =====================================================================
def phi_normal(t): # N(0,1)
return np.exp(-0.5 * t * t)
def phi_exp(t): # Exp(rate 1)
return 1.0 / (1.0 - 1j * t)
def phi_bernoulli(t, p): # Bernoulli(p)
return (1.0 - p) + p * np.exp(1j * t)
t = 1.0
p_bern = 0.3
phiN = phi_normal(t) # 0.6065 + 0j
phiE = phi_exp(t) # 0.5 + 0.5j
phiB = phi_bernoulli(t, p_bern) # 0.8621 + 0.2524j
# empirical phi of an N(0,1) sample -- the FIRST draw from the generator
m = 200_000
xN = rng.standard_normal(m) # (1) standard-normal sample, drawn FIRST
phiN_hat = np.mean(np.exp(1j * t * xN))
print("PART 1 -- characteristic functions phi_X(t) = E[e^{itX}] at t = 1")
print(f" phi_N(0,1)(1) = {phiN.real:+.4f} {phiN.imag:+.4f}i"
f" |.| = {abs(phiN):.4f} (theory e^-0.5 = {np.exp(-0.5):.4f}, real)")
print(f" phi_Exp(1)(1) = {phiE.real:+.4f} {phiE.imag:+.4f}i"
f" |.| = {abs(phiE):.4f} (theory 1/(1-i) = 0.5+0.5i, |.|=1/sqrt2"
f"={1/np.sqrt(2):.4f})")
print(f" phi_Bern(0.3)(1)= {phiB.real:+.4f} {phiB.imag:+.4f}i"
f" |.| = {abs(phiB):.4f} (theory 0.7 + 0.3 e^i)")
print(f" empirical phi_N(0,1)(1) from m={m} samples = "
f"{phiN_hat.real:+.4f} {phiN_hat.imag:+.4f}i")
print(f" closed form e^-0.5 = {np.exp(-0.5):+.4f} +0.0000i "
f"(imag part ~ 0 since N(0,1) is symmetric)")
PART 1 -- characteristic functions phi_X(t) = E[e^{itX}] at t = 1
phi_N(0,1)(1) = +0.6065 +0.0000i |.| = 0.6065 (theory e^-0.5 = 0.6065, real)
phi_Exp(1)(1) = +0.5000 +0.5000i |.| = 0.7071 (theory 1/(1-i) = 0.5+0.5i, |.|=1/sqrt2=0.7071)
phi_Bern(0.3)(1)= +0.8621 +0.2524i |.| = 0.8983 (theory 0.7 + 0.3 e^i)
empirical phi_N(0,1)(1) from m=200000 samples = +0.6059 +0.0005i
closed form e^-0.5 = +0.6065 +0.0000i (imag part ~ 0 since N(0,1) is symmetric)
পাঠোদ্ধার (read-off)।
- Gaussian-এর \(\varphi\) বাস্তব ও সমান \(e^{-1/2}\)। \(\varphi_{N(0,1)}(1)=\mathbf{0.6065}+0.0000i\) — কাল্পনিক অংশ ঠিক শূন্য, কারণ \(N(0,1)\) symmetric (\(X\overset{d}{=}-X\) ⇒ \(\varphi\) বাস্তব, §৪ ধাপ ১)। মানটা ঠিক \(e^{-t^2/2}\big\rvert_{t=1}=e^{-1/2}=0.6065\) — এই বাস্তব Gaussian-\(\varphi\)-ই সব শেষে CLT-এর লক্ষ্য-বস্তু।
- Exp(1)-এর \(\varphi\) জটিল, modulus \(1/\sqrt2\)। \(\varphi_{\text{Exp}(1)}(1)=\mathbf{0.5000}+\mathbf{0.5000}i\), যা ঠিক \(\frac1{1-i}=\frac{1+i}{2}\); এর \(\lvert\cdot\rvert=\mathbf{0.7071}=1/\sqrt2\)। কাল্পনিক অংশ অশূন্য — কারণ Exp(1) অপ্রতিসম (asymmetric, ডান-লেজি), তাই \(\mathbb E[\sin tX]\ne0\)। অপ্রতিসমতা সরাসরি \(\varphi\)-এর কাল্পনিক অংশে ছাপ ফেলে।
- Bernoulli-র \(\varphi\) একক-বৃত্তে দুই বিন্দুর জ্যা। \(\varphi_{\text{Bern}(0.3)}(1)=\mathbf{0.8621}+\mathbf{0.2524}i\) — ঠিক \(0.7\cdot e^{i\cdot0}+0.3\cdot e^{i\cdot1}=0.7\,(1,0)+0.3\,(\cos1,\sin1)\), অর্থাৎ একক বৃত্তের দুই বিন্দু \(1\) ও \(e^{i}\)-এর ওজন-করা (\(0.7,0.3\)) গড়। এর \(\lvert\cdot\rvert=0.8983<1\), কারণ দুটি ভিন্ন-দিকের একক-ভেক্টরের উত্তল-যোগ বৃত্তের ভেতরে পড়ে — discrete বণ্টনের স্বাক্ষর।
- Empirical \(\varphi\) closed-form-কে মেলায়। \(200000\) নমুনা থেকে \(\widehat\varphi_{N(0,1)}(1)=\mathbf{0.6059}+0.0005i\) — বাস্তব অংশ \(0.6059\approx0.6065\), কাল্পনিক অংশ \(\approx0\) (symmetric বলে)। অর্থাৎ \(\varphi(t)=\mathbb E[e^{itX}]\)-এর সংজ্ঞাটা শুধু সূত্র নয়, একটা সত্যিকারের প্রত্যাশা — Monte Carlo গড়ই closed-form-এ গিয়ে বসে।
৫.২ · \(\varphi\) থেকে moment — \(\varphi''(0)=-\mathbb E[X^2]\)¶
দ্বিতীয় মুখ: \(\varphi\) কেন moment-উৎপাদক। §৪-এ দেখানো হয়েছে \(\varphi^{(k)}(0)=i^k\,\mathbb E[X^k]\); বিশেষত \(\varphi''(0)=i^2\,\mathbb E[X^2]=-\mathbb E[X^2]\)। \(X\sim N(0,1)\)-এ \(\mathbb E[X^2]=\operatorname{Var}+\text{mean}^2=1+0=1\), তাই \(\varphi''(0)\) হওয়া উচিত \(-1\)। এখানে \(\varphi_{N(0,1)}\)-এর দ্বিতীয় অন্তরজ একটা কেন্দ্রীয় দ্বিতীয়-পার্থক্যে (central second difference) মাপা হয় — বিশুদ্ধ সংখ্যা, কোনো randomness নেই — \(\varphi''(0)\approx[\varphi(h)-2\varphi(0)+\varphi(-h)]/h^2\)।
# =====================================================================
# PART 2 -- Moments FROM phi: the derivatives of phi at 0 read off
# moments. In general phi^{(k)}(0) = i^k E[X^k]; in
# particular phi''(0) = i^2 E[X^2] = -E[X^2]. For X~N(0,1),
# E[X^2]=1, so phi''(0) should be -1. We compute phi'' by a
# central SECOND difference of the closed-form phi_{N(0,1)}
# (pure numerics, no randomness):
# phi''(0) ~ [phi(h) - 2 phi(0) + phi(-h)] / h^2.
# Since phi_{N(0,1)} is real and even, this is real.
# =====================================================================
h = 1e-3
phi2_num = (phi_normal(h) - 2.0 * phi_normal(0.0) + phi_normal(-h)) / (h * h)
EX2_from_phi = -phi2_num # -phi''(0) = E[X^2]
print("\nPART 2 -- moments from phi: phi''(0) = -E[X^2] (X ~ N(0,1))")
print(f" numeric phi''_N(0,1)(0) = {phi2_num:+.4f} (theory -E[X^2] = -1)")
print(f" => E[X^2] = -phi''(0) = {EX2_from_phi:+.4f} (theory Var+mean^2 "
f"= 1 + 0 = 1)")
PART 2 -- moments from phi: phi''(0) = -E[X^2] (X ~ N(0,1))
numeric phi''_N(0,1)(0) = -1.0000 (theory -E[X^2] = -1)
=> E[X^2] = -phi''(0) = +1.0000 (theory Var+mean^2 = 1 + 0 = 1)
পাঠোদ্ধার (read-off)।
- দ্বিতীয় অন্তরজ ঠিক \(-1\)। সংখ্যিক \(\varphi''_{N(0,1)}(0)=\mathbf{-1.0000}\) — মিলছে তত্ত্ব \(-\mathbb E[X^2]=-1\)-এর সাথে। অর্থাৎ \(\varphi\)-এর \(0\)-বিন্দুর বক্রতা (curvature) সরাসরি দ্বিতীয় moment বহন করে: \(\varphi\) যত খাড়াভাবে \(1\) থেকে নামে, \(X\)-এর ছড়ানো তত বেশি।
- তাই \(\mathbb E[X^2]=-\varphi''(0)=1\)। চিহ্ন উল্টে দিলেই দ্বিতীয় moment হাতে আসে, \(\mathbf{+1.0000}\), যা \(N(0,1)\)-এর \(\operatorname{Var}+\text{mean}^2=1+0\)। এটাই CLT-এর একমাত্র analytic input-এর উৎস: standardized \(Y\)-এর "mean \(0\), variance \(1\)" তথ্যটাই \(\varphi_Y(s)=1-\frac{s^2}{2}+o(s^2)\) Taylor-প্রসারণে \(-\frac{s^2}{2}\) পদ হয়ে ঢোকে — যে পদ থেকেই শেষে \(e^{-t^2/2}\) জন্মায় (§৪ প্রমাণ ৩, ৬)।
৫.৩ · CLT কাজ করতে দেখা — Exp(1)-এর standardized গড়¶
তৃতীয় মুখ: CLT-কে চোখের সামনে ঘটতে দেখা। নাও iid \(X_i\sim\text{Exp}(1)\) — গড় \(1\), ভেদ \(1\), কিন্তু স্পষ্টভাবেই ডান-বঙ্কিম (right-skewed)। standardize করা গড় নাও: \(Z_n=\sqrt n\,(\bar X_n-1)\), \(n=30\), reps\(=200000\)। CLT বলে বড় \(n\)-তে \(Z_n\) প্রায়-\(N(0,1)\)। মাপা হয় empirical mean (\(\to0\)), variance (\(\to1\)), skewness (বঙ্কিমতা; \(\to0\), কিন্তু ধীরে — তত্ত্ব \(\text{skew}(Z_n)=\text{skew}(X)/\sqrt n=2/\sqrt{30}=0.3651\), \(n=30\)-তেও তুচ্ছ নয়), আর \(Z_n\)-এর ECDF থেকে \(N(0,1)\)-CDF-এর Kolmogorov–Smirnov (KS) দূরত্ব (ছোট ⇒ Gaussian-এর কাছে)। histogram বনাম bell curve-এর ছবি §৬-এ; এখানে শুধু সংখ্যা।
# =====================================================================
# PART 3 -- CLT in action. X_i ~ Exp(1): mean 1, variance 1, but
# VISIBLY skewed (right tail). Standardize the sample mean:
# Z_n = sqrt(n) (Xbar_n - 1), n = 30, reps = 200000.
# CLT predicts Z_n is approximately N(0,1) for large n. We
# read off the empirical mean (-> 0), variance (-> 1), skewness
# (-> 0, but only slowly: theory skew(Z_n) = skew(X)/sqrt(n)
# = 2/sqrt(30) = 0.3651, still non-negligible at n=30) and the
# Kolmogorov-Smirnov distance of Z_n's ECDF to the N(0,1) CDF
# (small => close to Gaussian). Histogram vs bell curve is a
# figure in section 6; here only the numbers.
# =====================================================================
n = 30
reps = 200_000
# (2) the Exp(1) sample-mean array is drawn SECOND, streamed in row-chunks
# of shape (CHUNK, n); per rep we keep only Z = sqrt(n)(mean - 1).
Z = np.empty(reps)
for a in range(0, reps, CHUNK):
b = min(a + CHUNK, reps)
x = rng.standard_exponential(size=(b - a, n)) # Exp(rate 1)
Z[a:b] = np.sqrt(n) * (x.mean(axis=1) - 1.0)
mean_Z = Z.mean()
var_Z = Z.var()
skew_Z = stats.skew(Z)
skew_theory = 2.0 / np.sqrt(n) # skew(Exp)=2, /sqrt(n)
ks = stats.kstest(Z, "norm").statistic # KS distance to N(0,1)
print("\nPART 3 -- CLT in action: X~Exp(1), Z_n = sqrt(n)(Xbar_n - 1)")
print(f" n = {n}, reps = {reps}")
print(f" mean(Z) = {mean_Z:+.4f} (theory 0)")
print(f" var(Z) = {var_Z:.4f} (theory 1)")
print(f" skew(Z) = {skew_Z:.4f} (theory 2/sqrt(30) = {skew_theory:.4f}, "
f"slowly -> 0)")
print(f" KS dist to N(0,1) = {ks:.4f} (small => close to Gaussian)")
PART 3 -- CLT in action: X~Exp(1), Z_n = sqrt(n)(Xbar_n - 1)
n = 30, reps = 200000
mean(Z) = +0.0007 (theory 0)
var(Z) = 1.0001 (theory 1)
skew(Z) = 0.3559 (theory 2/sqrt(30) = 0.3651, slowly -> 0)
KS dist to N(0,1) = 0.0231 (small => close to Gaussian)
পাঠোদ্ধার (read-off)।
- Centering ও scaling নিখুঁত। \(\text{mean}(Z)=\mathbf{+0.0007}\approx0\) আর \(\text{var}(Z)=\mathbf{1.0001}\approx1\) — standardization ঠিক যা করার কথা তা-ই করেছে: \(\sqrt n\)-গুণন গড়ের ভেদ \(1/n\)-কে ঠিক \(1\)-এ টেনে এনেছে। প্রথম দুই moment হুবহু \(N(0,1)\)-এর — CLT-এর "\(\to N(0,1)\)"-এর সবচেয়ে সহজ অংশ।
- আকার এখনো পুরো Gaussian নয় — skewness টিকে আছে। \(\text{skew}(Z)=\mathbf{0.3559}\), ঠিক তত্ত্ব \(2/\sqrt{30}=0.3651\)-এর কাছে — শূন্য নয়। অর্থাৎ underlying Exp(1)-এর ডান-বঙ্কিমতা (\(\text{skew}=2\)) \(n=30\)-তেও সম্পূর্ণ মুছে যায়নি; সে কেবল \(1/\sqrt n\)-হারে ধীরে মেলায়। এটাই গুরুত্বপূর্ণ স্বজ্ঞা: CLT-অভিসারণ মসৃণ কিন্তু ধীর, আর তৃতীয়-মাত্রার (skew) বিচ্যুতিই সবচেয়ে দেরিতে যায় (Berry–Esseen-হার \(1/\sqrt n\))।
- তবু সামগ্রিক বণ্টন Gaussian-এর খুব কাছে। KS-দূরত্ব মাত্র \(\mathbf{0.0231}\) — \(N(0,1)\)-CDF থেকে \(Z_{30}\)-এর ECDF-এর সর্বোচ্চ লম্ব-ব্যবধান \(2.31\%\), যদিও মূল বণ্টন একটা তীব্র-অপ্রতিসম Exp(1)। অর্থাৎ \(n=30\)-ই যথেষ্ট কাছে যে গোটা CDF প্রায় bell-curve-এর সাথে মিশে গেছে — skewness যা টিকে আছে তা স্থানীয় (লেজে), সামগ্রিক আকারে নয়।
৫.৪ · standardized যোগফলের \(\varphi\to e^{-t^2/2}\) — প্রমাণ বাস্তবে¶
চতুর্থ মুখ — আর এটিই অধ্যায়ের প্রমাণকে স্পর্শযোগ্য করে। দুই অংশ। (ক) Part 3-এর একই \(Z\) (নতুন draw নয়) থেকে empirical \(\varphi_{Z_n}(1)=\frac1{\text{reps}}\sum e^{iZ}\) মাপা — এটি Gaussian-লক্ষ্য \(e^{-1/2}=0.6065\)-এর কাছে বসা উচিত। (খ) প্রমাণের কেন্দ্রের সীমা-লেমা: §৪-এ \(\varphi_{Z_n}(1)=[\varphi_Y(1/\sqrt n)]^n\) আর \(\varphi_Y(s)=1-\frac{s^2}{2}+o(s^2)\), তাই অগ্রণী-ক্রমে \((1-\frac1{2n})^n\to e^{-1/2}\)। \(n=1,5,30,200\)-এ \((1-\frac1{2n})^n\) সারণিবদ্ধ করে দেখা হয় সে কীভাবে \(e^{-1/2}\)-এ উঠে আসে।
# =====================================================================
# PART 4 -- phi of the standardized sum -> e^{-t^2/2}.
# This is the CLT proof made tangible. (a) EMPIRICAL phi of
# Z_n at t=1: phi_hat(1) = (1/reps) sum e^{i Z}, reusing the
# SAME Z from Part 3 (no fresh draw) -- it should sit near the
# Gaussian target e^{-1/2} = 0.6065. (b) The limit lemma at
# the proof's core: phi_{Z_n}(1) = [phi_Y(1/sqrt n)]^n with
# phi_Y(s) = 1 - s^2/2 + o(s^2), so to leading order
# (1 - 1/(2n))^n -> e^{-1/2}. We tabulate (1 - 1/(2n))^n for
# n = 1, 5, 30, 200 and watch it climb to e^{-1/2}.
# =====================================================================
phiZ_hat = np.mean(np.exp(1j * 1.0 * Z)) # empirical phi_{Z_n}(1)
target = np.exp(-0.5)
print("\nPART 4 -- phi of the standardized sum -> e^{-t^2/2}")
print(f" empirical phi_{{Z_n}}(1) = {phiZ_hat.real:+.4f} {phiZ_hat.imag:+.4f}i")
print(f" target e^-0.5 = {target:.4f} (real; imag ~ 0 as Z_n ->"
f" symmetric N(0,1))")
print(f" |phi_hat| = {abs(phiZ_hat):.4f}")
print(" limit lemma at the proof core: (1 - 1/2n)^n -> e^{-1/2}")
print(f" {'n':>5} | {'(1 - 1/2n)^n':>14}")
print(" " + "-" * 24)
for nn in (1, 5, 30, 200):
val = (1.0 - 1.0 / (2.0 * nn)) ** nn
print(f" {nn:>5} | {val:>14.4f}")
print(f" {'limit':>5} | {target:>14.4f} (= e^{{-1/2}})")
PART 4 -- phi of the standardized sum -> e^{-t^2/2}
empirical phi_{Z_n}(1) = +0.6102 -0.0352i
target e^-0.5 = 0.6065 (real; imag ~ 0 as Z_n -> symmetric N(0,1))
|phi_hat| = 0.6112
limit lemma at the proof core: (1 - 1/2n)^n -> e^{-1/2}
n | (1 - 1/2n)^n
------------------------
1 | 0.5000
5 | 0.5905
30 | 0.6040
200 | 0.6062
limit | 0.6065 (= e^{-1/2})
পাঠোদ্ধার (read-off)।
- standardized যোগফলের \(\varphi(1)\) ঠিক Gaussian-লক্ষ্যে। empirical \(\varphi_{Z_{30}}(1)=\mathbf{0.6102}-0.0352i\), যার বাস্তব অংশ \(0.6102\) ও \(\lvert\cdot\rvert=\mathbf{0.6112}\) — দুটোই target \(e^{-1/2}=\mathbf{0.6065}\)-এর খুব কাছে। অর্থাৎ Exp(1)-যোগফলের \(\varphi\) ইতিমধ্যেই Gaussian-\(\varphi\)-এর প্রায় ওপরে বসে গেছে। এটাই CLT-প্রমাণের পুরো কৌশল সংখ্যায়: বণ্টন নয়, \(\varphi\)-কে অভিসারিত করাও — কারণ Lévy continuity বলে \(\varphi\)-অভিসারণই বণ্টন-অভিসারণ (§৪ প্রমাণ ৫)।
- ছোট্ট কাল্পনিক অংশই অবশিষ্ট skewness-এর স্বাক্ষর। \(\varphi_{Z_{30}}(1)\)-এর কাল্পনিক অংশ \(-0.0352\) ঠিক শূন্য নয় — কারণ \(Z_{30}\) এখনো নিখুঁত symmetric নয় (§৫.৩-এর skew \(0.356\))। সীমায় (\(n\to\infty\)) \(Z_n\Rightarrow N(0,1)\) symmetric হবে, তখন কাল্পনিক অংশ \(\to0\) আর \(\varphi\) বিশুদ্ধ-বাস্তব \(e^{-1/2}\)-এ থিতু হবে। §৫.৩-এর টিকে-থাকা skewness আর এখানকার অবশিষ্ট imaginary অংশ — একই ঘটনার দুই মুখ।
- সীমা-লেমা চোখের সামনে \(e^{-1/2}\)-এ ওঠে। \((1-\frac1{2n})^n\): \(n=1\)-এ \(\mathbf{0.5000}\), \(n=5\)-এ \(\mathbf{0.5905}\), \(n=30\)-এ \(\mathbf{0.6040}\), \(n=200\)-এ \(\mathbf{0.6062}\) — একঘেয়েভাবে চড়ে \(e^{-1/2}=\mathbf{0.6065}\)-এ। এটাই §৪ প্রমাণ ৬-এর শেষ ধাপ \((1+c_n/n)^n\to e^c\)-এর কংক্রিট রূপ (\(c=-\tfrac12\)): Taylor-প্রসারণের \(-\frac{t^2}{2n}\) পদটাকে \(n\) ঘাতে তুললেই Gaussian-সূচক \(e^{-t^2/2}\) জন্মায়। লক্ষণীয় — \(n=30\)-এর সারণি-মান \(0.6040\) আর §৫.৩-এর সিমুলেশন-মান \(0.6102\) দুটোই একই লক্ষ্য \(0.6065\)-কে দু-পাশ থেকে ঘিরে ধরে: একটা analytic অগ্রণী-ক্রম, অন্যটা সত্যিকারের নমুনা।
সারসংক্ষেপ¶
চারটি অংশ মিলে এই অধ্যায়ের কঠোর CLT-প্রমাণটিকে সংখ্যায় স্পর্শযোগ্য করল। §৫.১ দেখাল \(\varphi(t)=\mathbb E[e^{itX}]\) একটা সত্যিকারের, মাপা-যায় এমন প্রত্যাশা — Gaussian-এর \(\varphi\) বাস্তব \(e^{-1/2}=0.6065\) (symmetric বলে), Exp(1)-এর জটিল \(0.5+0.5i\) (অপ্রতিসম বলে), আর Monte-Carlo গড়ই closed-form-এ গিয়ে বসে। §৫.২ দেখাল কেন \(\varphi\) moment-উৎপাদক: \(\varphi''(0)=-\mathbb E[X^2]=-1\), যেখান থেকেই CLT-এর একমাত্র analytic input — standardized \(Y\)-এর \(\varphi_Y(s)=1-\frac{s^2}{2}+o(s^2)\) — উৎসারিত। §৫.৩ CLT-কে কাজ করতে দেখাল: তীব্র-বঙ্কিম Exp(1) থেকেও \(Z_{30}=\sqrt{30}(\bar X_{30}-1)\) প্রায়-Gaussian (mean \(0.0007\), var \(1.0001\), KS মাত্র \(0.023\)), যদিও skewness (\(0.356\approx2/\sqrt{30}\)) ধীরে মেলায়। আর §৫.৪ গোটা প্রমাণকে এক বিন্দুতে আনল — সেই standardized যোগফলের \(\varphi\) Gaussian-\(\varphi\)-এ গিয়ে বসে: empirical \(\varphi_{Z_{30}}(1)\approx0.6102\approx e^{-1/2}=0.6065\), আর প্রমাণের কেন্দ্রের সীমা-লেমা \((1-\frac1{2n})^n\) একঘেয়েভাবে \(0.5\to0.5905\to0.6040\to0.6062\to e^{-1/2}\)-এ চড়ে। এই শেষ ছবিটাই §৪-এর শৃঙ্খলের হৃৎপিণ্ড: যোগফলের \(\varphi=[\varphi_Y(t/\sqrt n)]^n=(1-\frac{t^2}{2n}+o(\frac1n))^n\to e^{-t^2/2}=\varphi_{N(0,1)}\) — বিমূর্ত প্রমাণটি এখানে প্রতিটি অঙ্কে দৃশ্যমান, আর তার অবশিষ্ট কাল্পনিক অংশ (\(-0.0352\)) মনে করিয়ে দেয় অভিসারণ ঘটছে কিন্তু এখনো শেষ হয়নি — সীমাতেই কেবল \(\varphi\) বিশুদ্ধ-বাস্তব Gaussian-আকারে থিতু হয়।
৬ · ভিজ্যুয়ালাইজেশন¶
এই অধ্যায়ের কেন্দ্রীয় যন্ত্র — characteristic function \(\varphi_X(t)=\mathbb{E}[e^{itX}]\) — এবং তার মাধ্যমে CLT-এর rigorous প্রমাণ চারটি figure-এ চোখে দেখা যায়। প্রথম figure দেখায় cf আসলে কী: distribution-এর একটি Fourier "আঙুলের ছাপ"। বাকি তিনটি একই গল্পের তিন দৃষ্টিকোণ — density-র স্তরে, cf-এর স্তরে, আর CDF-এর স্তরে — কীভাবে standardized average \(Z_n\) ক্রমশ standard normal-এ রূপ নেয়। সর্বত্র base distribution হিসেবে নেওয়া হয়েছে \(\mathrm{Exp}(1)\) (mean \(1\), variance \(1\)), যার strong skew \(n=1\)-এ স্পষ্ট, ফলে convergence-এর নাটকটা ভালো দেখা যায়। প্রতিটি figure-এর নিচে ঠিক যে code সেটি তৈরি করেছে তা সংক্ষেপে দেওয়া আছে; সম্পূর্ণ script _code/figs_7-10.py-তে, seed np.random.default_rng(20260619)।
৬.১ · Characteristic function — law-এর Fourier আঙুলের ছাপ¶
প্রতিটি probability law-এর একটি অনন্য cf আছে, আর uniqueness theorem বলে cf দিয়েই law সম্পূর্ণ নির্ধারিত হয় — তাই "আঙুলের ছাপ"। নিচের figure-এ তিনটি ভিন্ন চরিত্রের law-এর cf আঁকা: standard normal-এর \(\varphi(t)=e^{-t^2/2}\) একটি মসৃণ Gaussian bump (নিজের density-র মতোই দেখতে); \(\mathrm{Exp}(1)\)-এর \(\varphi(t)=\frac{1}{1-it}\), যার real part \(\frac{1}{1+t^2}\) ধীরে ধীরে heavy tail-এর মতো নামে; আর \(\mathrm{Ber}(0.3)\)-এর \(\varphi(t)=0.7+0.3e^{it}\) — discrete হওয়ায় এটি দোলে (oscillate করে) আর কখনো শূন্যে মিলিয়ে যায় না। দুটো universal সত্য সব ক্ষেত্রেই দৃশ্যমান: \(\varphi(0)=1\) (কারণ \(e^{i\cdot 0}=1\), integral-এ total mass \(1\)) এবং \(\lvert\varphi(t)\rvert\le 1\) সব \(t\)-এর জন্য (কারণ \(\lvert e^{itX}\rvert=1\), তাই গড়ের modulus \(1\) ছাড়ায় না)। ডান panel-এ modulus আঁকা — তিনটি curve-ই dashed line \(\lvert\varphi\rvert=1\)-এর নিচে থাকে।
t = np.linspace(-6, 6, 1200)
re_gauss = np.exp(-t**2 / 2) # N(0,1): phi real & positive
re_exp = 1.0 / (1.0 + t**2) # Exp(1): Re phi = 1/(1+t^2)
p = 0.3
re_ber = (1 - p) + p * np.cos(t) # Ber(0.3): Re phi = 0.7 + 0.3 cos t
axL.plot(t, re_gauss, label=r"$N(0,1):\ e^{-t^2/2}$")
axL.plot(t, re_exp, label=r"$\mathrm{Exp}(1):\ \frac{1}{1+t^2}$")
axL.plot(t, re_ber, label=r"$\mathrm{Ber}(0.3):\ 0.7+0.3\cos t$")
axL.plot(0, 1, "ko") # phi(0) = 1 always
# right panel: |phi| with a dashed cap at 1
axR.plot(t, np.abs(re_gauss)); axR.axhline(1, ls="--")

লক্ষণীয় — Gaussian cf-ই সবচেয়ে দ্রুত শূন্যের দিকে নামে, মানে normal distribution-এর tail সবচেয়ে হালকা; Exp(1)-এর cf ধীরে নামে; আর Bernoulli-র cf কখনো শূন্যে স্থির হয় না, যা discrete law-এর স্বাক্ষর। এই তিন আচরণ মনে রাখলে পরের figure-গুলোয় "cf normal-এর cf-এ মিলে যাচ্ছে" — এই বাক্যের ওজন বোঝা যায়।
৬.২ · CLT density-র স্তরে — skew থেকে bell¶
CLT-এর সবচেয়ে পরিচিত রূপ density-তে: \(X_i\sim\mathrm{Exp}(1)\) i.i.d. হলে standardized average \(Z_n=\sqrt{n}\,(\bar{X}_n-1)\) ক্রমশ \(N(0,1)\)-এর মতো হয়। নিচের \(2\times 2\) grid-এ \(n=1,2,5,30\)-এর জন্য \(200{,}000\) replication থেকে \(Z_n\)-এর histogram, প্রতিটির উপরে dashed standard normal density। \(n=1\)-এ আমরা শুধু একটিমাত্র \(\mathrm{Exp}(1)\) দেখছি (shift ও scale করা) — তীব্র ডানমুখী skew, বাঁয়ে \(-1\)-এ ধারালো কাটা প্রান্ত (exponential কখনো ঋণাত্মক হতে পারে না বলে \(Z_1\ge -1\))। \(n\) বাড়ার সাথে skew কমে, প্রান্ত নরম হয়, আর \(n=30\)-এ histogram প্রায় নিখুঁত ভাবে bell-এর সাথে মিলে যায়। কোনো analytic ধাপ ছাড়াই averaging-ই Gaussian-কে জন্ম দিচ্ছে।
def standardized_exp_sum(n, reps):
x = rng.exponential(scale=1.0, size=(reps, n)) # Exp(1): mean 1, var 1
s = x.sum(axis=1)
return (s - n) / np.sqrt(n) # Z_n = sqrt(n)(Xbar - 1)
for ax, n in zip(axes.ravel(), [1, 2, 5, 30]):
z = standardized_exp_sum(n, reps=200_000)
ax.hist(z, bins=80, range=(-4, 4), density=True, alpha=0.55)
ax.plot(z_grid, stats.norm.pdf(z_grid), "k--", label=r"$N(0,1)$")
ax.set_title(rf"$n={n}$")

এই figure CLT-এর statement দেখায় কিন্তু কেন তা হয় বলে না — সেটাই পরের দুই figure-এর কাজ। তবু এখানেই মূল অন্তর্দৃষ্টি: convergence সর্বত্র সমান দ্রুত নয়, tail-এ ও skewed দিকটায় ধীর; তাই finite \(n\)-এ normal approximation ব্যবহারের সময় skewness মনে রাখা দরকার (Berry–Esseen bound এই হারকেই পরিমাপ করে)।
৬.৩ · প্রমাণ দৃশ্যমান — cf-এর convergence (Lévy continuity)¶
CLT-এর rigorous প্রমাণের হৃদয় হলো cf-এর convergence: যদি \(\varphi_{Z_n}(t)\to e^{-t^2/2}\) প্রতিটি \(t\)-এ, তবে Lévy continuity theorem অনুযায়ী \(Z_n\xrightarrow{d}N(0,1)\)। analytic যুক্তিটা সংক্ষেপে — \(\varphi_{Z_n}(t)=\big[\varphi_{(X-1)}(t/\sqrt{n})\big]^n\), আর \(\varphi_{(X-1)}(s)=1-\tfrac{s^2}{2}+o(s^2)\) (mean \(0\), variance \(1\) ব্যবহার করে), তাই \(\big(1-\tfrac{t^2}{2n}+o(1/n)\big)^n\to e^{-t^2/2}\)। নিচের figure এই গাণিতিক ধাপটাই সিমুলেশনে দেখায়: প্রতিটি \(n\)-এর জন্য simulated \(Z_n\) থেকে empirical cf-এর modulus \(\lvert\varphi_{Z_n}(t)\rvert=\lvert\mathbb{E}[e^{itZ_n}]\rvert\) গণনা করে আঁকা, আর dashed কালো curve হলো target \(e^{-t^2/2}\)। \(n=1\)-এ Exp(1)-এর চওড়া cf, \(n=30\)-এ প্রায় Gaussian-এর সাথে মিশে যায়।
t = np.linspace(-4, 4, 400)
for n in [1, 2, 5, 30]:
z = standardized_exp_sum(n, reps=200_000)
tz = np.outer(t, z) # (len t, reps)
re = np.cos(tz).mean(axis=1) # Re of empirical cf
im = np.sin(tz).mean(axis=1) # Im of empirical cf
ax.plot(t, np.hypot(re, im), label=rf"$n={n}$") # |phi_{Z_n}(t)|
ax.plot(t, np.exp(-t**2 / 2), "k--", label=r"$e^{-t^2/2}$") # Gaussian cf

এটাই "প্রমাণ চোখে দেখা": density-র দিকে তাকিয়ে কেন bell আসছে বলা কঠিন, কিন্তু cf-এর জগতে convolution হয়ে যায় গুণ, আর গুণফলের limit সহজ Taylor expansion-এ বেরিয়ে আসে। modulus নেওয়ায় phase (অর্থাৎ centering-এর তথ্য) বাদ গেলেও shape-এর convergence স্পষ্ট দেখা যায় — full complex cf-ও একই ভাবে \(e^{-t^2/2}\)-এ যায়, কারণ \(Z_n\) centered বলে imaginary part \(\to 0\)।
৬.৪ · Convergence in distribution — CDF-এর স্তরে¶
Convergence in distribution-এর সংজ্ঞাই হলো CDF-এর pointwise convergence (Φ-এর প্রতিটি continuity point-এ, আর Φ সর্বত্র continuous): \(F_n(z)=\mathbb{P}(Z_n\le z)\to\Phi(z)\)। নিচের figure-এ \(n=1,2,5,30\)-এর জন্য \(Z_n\)-এর empirical CDF (ECDF) ও dashed standard normal CDF \(\Phi\) একসাথে আঁকা। \(n=1\)-এর curve বাঁয়ে \(-1\)-এ হঠাৎ শূন্য থেকে উঠে যায় (exponential-এর hard lower bound), আর ডান দিকে heavy tail-এর জন্য ধীরে \(1\)-এ পৌঁছায়। \(n\) বাড়লে curve গুলো ক্রমশ \(\Phi\)-কে জড়িয়ে ধরে — \(n=30\)-এ পার্থক্য চোখে প্রায় ধরা যায় না। এটিই Lévy continuity-র উপসংহার (\(\varphi_{Z_n}\to e^{-t^2/2}\) থেকে \(F_n\to\Phi\)) সরাসরি CDF-এ দেখা।
z_grid = np.linspace(-4, 4, 600)
for n in [1, 2, 5, 30]:
z = np.sort(standardized_exp_sum(n, reps=60_000))
ecdf = np.arange(1, len(z) + 1) / len(z) # empirical CDF F_n
ax.step(z, ecdf, where="post", label=rf"$F_n,\ n={n}$")
ax.plot(z_grid, stats.norm.cdf(z_grid), "k--",
label=r"$\Phi$") # standard normal CDF

CDF-এর ছবি একটি সূক্ষ্ম কথা মনে করায়: convergence in distribution-এ density বা PMF-এর pointwise convergence লাগে না, লাগে শুধু CDF-এর convergence (continuity point-এ)। তাই discrete থেকে continuous limit-ও বৈধ — যেমন lattice random walk-এর normal limit। চারটি figure মিলিয়ে একই সত্যের চার মুখ: cf হলো law-এর আঙুলের ছাপ (৬.১), averaging density-কে bell করে (৬.২), কারণ cf Gaussian cf-এ যায় (৬.৩), আর তার ফল CDF-এর \(\Phi\)-অভিমুখী convergence (৬.৪) — এটাই rigorous central limit theorem।
৭ · অনুশীলনী¶
নিচের অনুশীলনীগুলো এই অধ্যায়ের — এবং পুরো Part VII-এর — কেন্দ্রীয় ইঞ্জিন characteristic function (বৈশিষ্ট্য-ফাংশন) \(\varphi_X(t)=\mathbb E[e^{itX}]\) ও তার চার-মুখী শক্তি যাচাই করে: কেন তা সর্বদা বিদ্যমান (MGF-এর বিপরীতে, যেহেতু \(\lvert e^{itX}\rvert=1\)), কীভাবে স্বাধীন যোগফলকে গুণফলে (\(\varphi_{X+Y}=\varphi_X\varphi_Y\)) রূপান্তরিত করে, কীভাবে ডেরিভেটিভে moment এনকোড করে (\(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\)), এবং কীভাবে Lévy's continuity theorem (Lévy-র অবিচ্ছিন্নতা-উপপাদ্য) দিয়ে weak convergence-কে \(\varphi\)-র সহজ pointwise অভিসরণে অনুবাদ করে অবশেষে rigorous Central Limit Theorem প্রমাণ করে। সমস্যাগুলো চার দলে সাজানো — ক (ধারণাগত), খ (গণনামূলক), গ (প্রমাণভিত্তিক), ঘ (কোডিং)। প্রতিটির শিরোনামে কঠিনতা-চিহ্ন (difficulty tag): ★ মৌলিক, প্রথম পাঠেই বোঝা উচিত; ★★ মাঝারি, একটু কৌশল লাগে; ★★★ গভীর, প্রথম পাঠে কিছু অংশ এড়িয়ে যাওয়া যায়। প্রতিটিতে একটি Hint: দেওয়া আছে।
পূর্ণাঙ্গ সমাধান (ধাপে-ধাপে, কোডসহ):
_solutions/07-10-characteristic-functions-clt-solutions.md। আগে নিজে চেষ্টা করুন, তারপর মেলান।
প্রসঙ্গত গোটা অংশে \((\Omega,\mathcal F,\mathbb P)\) একটি probability space, \(X\)-এর আইন (law) \(P_X(B)=\mathbb P(X\in B)\) ও CDF \(F_X(x)=\mathbb P(X\le x)\); characteristic function \(\varphi_X(t)=\mathbb E[e^{itX}]=\int_{\mathbb R}e^{itx}\,dP_X(x)\) (\(i=\sqrt{-1}\), \(e^{i\theta}=\cos\theta+i\sin\theta\))। complex \(z=a+ib\)-এর জন্য \(\bar z=a-ib\) (conjugate), \(\lvert z\rvert=\sqrt{a^2+b^2}\) (modulus — এখানে \(\lvert\cdot\rvert\) সর্বদা পরম-মান/মডুলাস, কখনোই conditioning নয়; conditioning-এ \(\mid\) লেখা হবে)। "\(X_n\Rightarrow X\)" সর্বদা weak convergence / convergence in distribution (বণ্টনে অভিসরণ)। সব সিমুলেশন seed np.random.default_rng(20260619)-এ চালানো। canonical মান: \(\varphi_{N(0,1)}(1)=0.6065\); \(\varphi_{\text{Exp}(1)}(1)=0.5+0.5i\) (\(\lvert\cdot\rvert=0.7071\)); \(\varphi_{\text{Bern}(0.3)}(1)=0.8621+0.2524i\); CLT Exp(1) \(n=30\) — mean \(0.0007\)/var \(1.0001\)/skew \(0.356\)/KS \(0.023\), empirical \(\varphi_{Z}(1)=0.6102\); \((1-\tfrac1{2n})^n\to e^{-1/2}=0.6065\)।
ক · ধারণাগত¶
অনুশীলন ১ (★)¶
কেন \(\varphi\) সর্বদা বিদ্যমান, অথচ MGF নয়। (ক) এক-দুই বাক্যে ব্যাখ্যা করুন কেন \(\varphi_X(t)=\mathbb E[e^{itX}]\) প্রতিটি random variable ও প্রতিটি \(t\in\mathbb R\)-এ সংজ্ঞায়িত — অর্থাৎ কোনো moment-শর্ত বা integrability-শর্ত লাগে না (← 7.4)। (খ) এর বিপরীতে moment generating function \(M_X(t)=\mathbb E[e^{tX}]\) (← 2.5) কেন অনেক বণ্টনে অস্তিত্বহীন — একটা concrete heavy-tail উদাহরণ (যেমন Cauchy, বা \(t\)-বণ্টন, বা log-normal) দিয়ে বলুন কী "ভেঙে পড়ে"। (গ) এক বাক্যে: \(M_X\) ও \(\varphi_X\)-এর মধ্যে আনুষ্ঠানিক সম্পর্ক কী (\(t\mapsto it\)), আর কেন এই ছোট্ট পরিবর্তনই অস্তিত্বের পার্থক্যটা আনে।
Hint: (ক) \(\lvert e^{itX}\rvert=\lvert\cos tX+i\sin tX\rvert=1\) সর্বত্র, তাই integrand-এর পরম-মান ধ্রুবক \(1\)-এ আবদ্ধ (\(\mathbb P\) সসীম মাপ ⇒ integrable), \(\lvert\varphi\rvert\le1\) স্বয়ংক্রিয়। (খ) \(M_X(t)=\mathbb E[e^{tX}]\)-এ \(e^{tX}\) বাড়তে পারে অসীমে; Cauchy-তে \(\int e^{tx}\cdot\frac{1}{\pi(1+x^2)}\,dx=\infty\) প্রতিটি \(t\ne0\)-তে (heavy tail বনাম exponential growth)। (গ) যেখানে \(M\) আছে সেখানে \(\varphi(t)=M(it)\); \(e^{itX}\) ঘোরে কিন্তু বাড়ে না (\(\lvert e^{itX}\rvert=1\)), তাই \(\varphi\) সর্বত্র সসীম। (← 7.4, ← 2.5)
অনুশীলন ২ (★★)¶
Lévy's continuity theorem ঠিক কী "কিনে দেয়"। উপপাদ্যটি বলে \(X_n\Rightarrow X\iff\varphi_{X_n}(t)\to\varphi_X(t)\) প্রতিটি \(t\)-তে (সীমা-ফাংশন \(0\)-তে অবিচ্ছিন্ন হলে)। (ক) এক-দুই বাক্যে বলুন কেন এটি একটা সেতু — দুটো ভিন্ন জগৎ ("distribution-এর অভিসরণ", কঠিন ও জ্যামিতিক; বনাম "ফাংশনের pointwise অভিসরণ", সহজ ও বিশ্লেষণিক) জোড়ে — এবং কোন দিকটা CLT-প্রমাণে আসলে ব্যবহৃত হয়। (খ) সীমা-ফাংশন \(\varphi\)-কে \(0\)-তে অবিচ্ছিন্ন হওয়ার শর্তটি কী নিশ্চিত করে (tightness — ভর অসীমে পালায় না), আর শর্তটি বাদ দিলে কী বিগড়ে যেতে পারে — এক বাক্যে। (গ) এক বাক্যে: কেন uniqueness theorem (← ২.৫) ছাড়া Lévy-র "\(\iff\)"-এর ডান-থেকে-বাম দিকটা অর্থহীন হয়ে পড়ত।
Hint: (ক) weak convergence সরাসরি দেখানো কঠিন (সব continuity point-এ \(F_n\to F\)); Lévy তাকে "\(\varphi_n(t)\to\varphi(t)\) প্রতি \(t\)-তে" — একটা সাধারণ সংখ্যা-সীমায় নামায়; CLT-তে বাম-থেকে-ডান নয়, ডান-থেকে-বাম (\(\varphi\)-সীমা ⇒ বণ্টন-সীমা) লাগে। (খ) \(\varphi\) \(0\)-তে অবিচ্ছিন্ন ⇒ অনুক্রম tight (Prokhorov, ২.৭) ⇒ একটা বৈধ weak limit বিদ্যমান যার cf-ই \(\varphi\); নাহলে ভর "পালিয়ে" গিয়ে সীমা একটা probability measure না-ও হতে পারে। (গ) \(\varphi\)-সীমা থেকে বণ্টন পুনরুদ্ধারে uniqueness লাগে — না-হলে "\(\varphi_n\to\varphi\)" থেকে "কোন বণ্টনে?" বলা যেত না। (← ২.৫, ← ২.৭)
অনুশীলন ৩ (★★)¶
কেন \(\varphi\) আইনকে অনন্যভাবে নির্ধারণ করে। uniqueness theorem বলে \(\varphi_X(t)=\varphi_Y(t)\ \forall t\iff X\overset{d}{=}Y\)। (ক) এক-দুই বাক্যে ব্যাখ্যা করুন কেন এটি cf-কে একটা নিখুঁত আঙুলের-ছাপ (fingerprint) করে তোলে — অর্থাৎ "\(\varphi\) পুরো বণ্টন এনকোড করে, কোনো তথ্য হারায় না" কথাটার মানে কী, এবং এর পেছনে কোন বিশ্লেষণিক তথ্য (Fourier transform-এর বিপরীত-যোগ্যতা/invertibility) আছে (← ২.৫)। (খ) inversion formula (ঘনত্ব integrable হলে \(f_X(x)=\frac{1}{2\pi}\int e^{-itx}\varphi_X(t)\,dt\)) এই uniqueness-কে কীভাবে গঠনমূলক (constructive) করে — এক বাক্যে। (গ) ব্যবহারিক ফল: "দুই স্বাধীন \(N\)-এর যোগফল আবার \(N\)" বা "দুই স্বাধীন Poisson-এর যোগ আবার Poisson" — এ-জাতীয় বণ্টন-পরিচয় কেন cf-গুণফলে এক লাইনে বেরোয়, density-convolution-এর জটিল integral এড়িয়ে; এক বাক্যে।
Hint: (ক) Fourier transform invertible ⇒ \(\varphi\mapsto P_X\) একটা one-to-one চিঠি; একই \(\varphi\) ⇒ একই বণ্টন (আঙুলের-ছাপ একজনকেই চেনায়)। (খ) inversion শুধু "অনন্য" বলে না, সরাসরি density ফিরিয়ে দেয় \(\varphi\) থেকে — তাই uniqueness-টা গঠনমূলক, কেবল অস্তিত্ব নয়। (গ) \(\varphi_{X+Y}=\varphi_X\varphi_Y\) (স্বাধীনতা) ⇒ গুণফলটা যে চেনা \(\varphi\), সেই বণ্টন uniqueness দিয়ে তাৎক্ষণিক চিনে নেওয়া যায় (\(e^{-\sigma_1^2t^2/2}e^{-\sigma_2^2t^2/2}=e^{-(\sigma_1^2+\sigma_2^2)t^2/2}\) ইত্যাদি)। (← ২.৫, ← 7.6)
খ · গণনামূলক¶
অনুশীলন ৪ (★)¶
\(\varphi\) হাতে গণনা করে \(t=1\)-এ মান বের করুন। নিচের প্রতিটি বণ্টনের characteristic function \(\varphi(t)\) বের করুন (বদ্ধ-রূপ), তারপর \(t=1\)-এ মান নির্ণয় করুন ও তার modulus \(\lvert\varphi(1)\rvert\) দিন: (ক) \(X\sim\text{Bernoulli}(0.3)\) — সরাসরি যোগফল \(\varphi_X(t)=\mathbb E[e^{itX}]\); (খ) \(X\sim\text{Exp}(1)\) — সমাকল \(\int_0^\infty e^{itx}e^{-x}\,dx\); (গ) \(X\sim N(0,1)\) — বদ্ধ-রূপ \(e^{-t^2/2}\) (← ২.৩) ধরে নিয়ে। তিন ক্ষেত্রেই যাচাই করুন \(\lvert\varphi(1)\rvert\le1\) ও \(\varphi(0)=1\)।
Hint: (ক) \(\varphi_X(t)=0.7\cdot e^{0}+0.3\cdot e^{it}=0.7+0.3e^{it}=(0.7+0.3\cos t)+i\,0.3\sin t\); \(t=1\)-এ \(\varphi_X(1)=0.8621+0.2524i\) (\(\lvert\cdot\rvert\approx0.8983\))। (খ) \(\int_0^\infty e^{-(1-it)x}\,dx=\frac{1}{1-it}=\frac{1}{1-i}=\frac{1+i}{2}=0.5+0.5i\) (\(\lvert\cdot\rvert=\frac{1}{\sqrt2}=0.7071\)); সাধারণভাবে \(\varphi_{\text{Exp}(\lambda)}(t)=\frac{\lambda}{\lambda-it}\)। (গ) \(\varphi_{N(0,1)}(1)=e^{-1/2}=0.6065\) (বাস্তব, কারণ \(N(0,1)\) প্রতিসম)। সবগুলোতে \(\lvert\varphi(1)\rvert\le1\), \(\varphi(0)=1\) ✓। (← ২.৩)
অনুশীলন ৫ (★)¶
\(\varphi^{(k)}(0)\) থেকে moment আদায়। characteristic function-এর ডেরিভেটিভ \(0\)-তে moment ধরে: \(\varphi^{(k)}(0)=i^k\,\mathbb E[X^k]\) (← ২.৪)। (ক) \(X\sim N(0,1)\)-এর \(\varphi(t)=e^{-t^2/2}\)-কে দুইবার differentiate করে \(\varphi''(0)\) বের করুন এবং দেখান \(\varphi''(0)=-\mathbb E[X^2]\) — তাই \(\mathbb E[X^2]=1\) (অর্থাৎ \(\operatorname{Var}=1\), কারণ \(\mathbb E[X]=0\))। (খ) একই \(\varphi\) থেকে \(\varphi'(0)\) বের করে \(\mathbb E[X]\) যাচাই করুন। (গ) এক বাক্যে: "\(\varphi''(0)=-\mathbb E[X^2]\)"-তে ঐ ঋণাত্মক চিহ্নটা কোথা থেকে আসে (\(i^2=-1\)), আর কেন এটাই CLT-প্রমাণে দরকারি Taylor-পদ \(-\frac{t^2}{2}\mathbb E[X^2]\) দেয়।
Hint: (ক) \(\varphi(t)=e^{-t^2/2}\), \(\varphi'(t)=-t\,e^{-t^2/2}\), \(\varphi''(t)=(t^2-1)e^{-t^2/2}\); \(\varphi''(0)=-1\)। সূত্র \(\varphi''(0)=i^2\mathbb E[X^2]=-\mathbb E[X^2]\) ⇒ \(\mathbb E[X^2]=1\) ✓। (খ) \(\varphi'(0)=0=i\,\mathbb E[X]\) ⇒ \(\mathbb E[X]=0\) ✓। (গ) \(i^2=-1\) থেকে চিহ্ন; Taylor \(\varphi(t)=1+it\mathbb E[X]-\frac{t^2}{2}\mathbb E[X^2]+o(t^2)\)-এ গড়-শূন্য একক-ভেদ বসালে \(1-\frac{t^2}{2}+o(t^2)\) — CLT-এর একমাত্র analytic input। (← ২.৪)
অনুশীলন ৬ (★★)¶
স্বাধীন যোগফলের \(\varphi\) — বণ্টন চিনুন। characteristic function-গুণফল দিয়ে স্বাধীন যোগফলের বণ্টন তাৎক্ষণিকভাবে চেনা যায় (uniqueness)। (ক) \(X\sim\text{Poisson}(\lambda_1)\), \(Y\sim\text{Poisson}(\lambda_2)\) স্বাধীন; \(\varphi_{\text{Poisson}(\lambda)}(t)=e^{\lambda(e^{it}-1)}\) ধরে নিয়ে \(\varphi_{X+Y}(t)\) বের করুন এবং চিনুন \(X+Y\) কোন বণ্টন। (খ) \(X\sim N(\mu_1,\sigma_1^2)\), \(Y\sim N(\mu_2,\sigma_2^2)\) স্বাধীন; \(\varphi_{N(\mu,\sigma^2)}(t)=e^{i\mu t-\sigma^2t^2/2}\) ধরে \(\varphi_{X+Y}(t)\) বের করে \(X+Y\)-এর বণ্টন চিনুন। (গ) iid \(X_1,\dots,X_n\sim\text{Bernoulli}(p)\) হলে \(S_n=\sum X_i\)-এর \(\varphi_{S_n}(t)=[\varphi_{X_1}(t)]^n=(1-p+pe^{it})^n\) — এটি কোন চেনা বণ্টনের cf, বলুন।
Hint: (ক) \(\varphi_{X+Y}=e^{\lambda_1(e^{it}-1)}e^{\lambda_2(e^{it}-1)}=e^{(\lambda_1+\lambda_2)(e^{it}-1)}\) = \(\text{Poisson}(\lambda_1+\lambda_2)\)-এর cf ⇒ \(X+Y\sim\text{Poisson}(\lambda_1+\lambda_2)\)। (খ) \(\varphi_{X+Y}=e^{i(\mu_1+\mu_2)t-(\sigma_1^2+\sigma_2^2)t^2/2}\) ⇒ \(N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)\) — স্বাধীন normal-এর যোগ আবার normal, convolution না কষেই। (গ) \((1-p+pe^{it})^n\) ঠিক \(\text{Binomial}(n,p)\)-এর cf ⇒ \(S_n\sim\text{Binomial}(n,p)\)। (← ২.২, ← ২.৩, ← 7.6)
গ · প্রমাণভিত্তিক¶
অনুশীলন ৭ (★★)¶
\(\varphi_{X+Y}=\varphi_X\varphi_Y\) স্বাধীনতার অধীনে প্রমাণ করুন। ধরা যাক \(X,Y\) independent (← 7.6)। প্রমাণ করুন \(\varphi_{X+Y}(t)=\varphi_X(t)\,\varphi_Y(t)\) প্রতিটি \(t\)-তে। (ক) প্রথমে যুক্তি দিন কেন \(e^{itX}\) ও \(e^{itY}\) স্বাধীন (complex-valued) random variable — অর্থাৎ Borel-function স্বাধীনতা সংরক্ষণ করে (\(\sigma(g(X))\subseteq\sigma(X)\), ← 7.6)। (খ) দেখান স্বাধীন bounded random variable-এর গুণফলের প্রত্যাশা প্রত্যাশার গুণফল — complex \(U=e^{itX},V=e^{itY}\)-কে বাস্তব ও কাল্পনিক অংশে ভেঙে এবং বাস্তব-সংস্করণ \(\mathbb E[U'V']=\mathbb E[U']\mathbb E[V']\) (product-measure-এর উপর Fubini, ← 7.4) প্রয়োগ করে। (গ) দুই অংশ জুড়ে \(\varphi_{X+Y}(t)=\mathbb E[e^{it(X+Y)}]=\mathbb E[e^{itX}e^{itY}]=\varphi_X(t)\varphi_Y(t)\) টানুন এবং আবেশে (induction) iid-ক্ষেত্রে \(\varphi_{S_n}(t)=[\varphi_{X_1}(t)]^n\) পান; এক বাক্যে বলুন কেন এই এক সমীকরণই CLT-প্রমাণের গোটা সম্ভাবনা খোলে।
Hint: (ক) \(g(x)=e^{itx}\) Borel-measurable, তাই \(\sigma(g(X))\subseteq\sigma(X)\), \(\sigma(g(Y))\subseteq\sigma(Y)\); স্বাধীন σ-algebra-র sub-σ-algebra-ও স্বাধীন ⇒ \(e^{itX}\perp e^{itY}\)। (খ) \(UV\)-এর চারটি বাস্তব পদ (\(\operatorname{Re}U\operatorname{Re}V\) ইত্যাদি), প্রতিটি bounded ও independent, বাস্তব-সংস্করণ প্রয়োগ করে আবার জুড়ে \(\mathbb E[UV]=\mathbb E[U]\mathbb E[V]\); \(\lvert U\rvert,\lvert V\rvert\le1\) বলে integrability স্বতঃসিদ্ধ। (গ) iid-তে সব \(\varphi\) এক ⇒ যোগ মানে \(\varphi\)-এর ঘাত ⇒ ঘাতের সীমা বিশ্লেষণই CLT। (← 7.6, ← 7.4)
অনুশীলন ৮ (★★)¶
\(\varphi_{N(0,1)}(t)=e^{-t^2/2}\) — ODE দিয়ে প্রমাণ করুন। \(Z\sim N(0,1)\) (ঘনত্ব \(f(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}\))-এর জন্য দেখান \(\varphi(t)=\mathbb E[e^{itZ}]=e^{-t^2/2}\)। (ক) \(\varphi(t)=\int_{\mathbb R}e^{itx}\frac{1}{\sqrt{2\pi}}e^{-x^2/2}\,dx\) লিখে integral-চিহ্নের ভেতরে \(t\)-এর সাপেক্ষে differentiate করুন (বৈধতা DCT, ← 7.4) এবং পান \(\varphi'(t)=\int ix\,e^{itx}f(x)\,dx\)। (খ) \(x\,f(x)=-f'(x)\) (Gaussian-এর মূল অভেদ) ব্যবহার করে অংশিক-সমাকলন (integration by parts) করুন এবং দেখান এটি একটা প্রথম-ক্রম ODE দেয়: \(\varphi'(t)=-t\,\varphi(t)\)। (গ) আদি-শর্ত \(\varphi(0)=1\) সহ ODE সমাধান করে \(\varphi(t)=e^{-t^2/2}\) পান; এক বাক্যে বলুন কেন এই বদ্ধ-রূপটাই CLT-এর লক্ষ্য-বস্তু (target)।
Hint: (ক) DCT-বৈধ: \(\lvert\partial_t e^{itx}f(x)\rvert=\lvert x\rvert f(x)\) integrable (\(\mathbb E\lvert Z\rvert<\infty\)); তাই \(\varphi'(t)=i\int x e^{itx}f(x)dx\)। (খ) \(\int x e^{itx}f(x)dx=-\int e^{itx}f'(x)dx=\int (it)e^{itx}f(x)dx=it\,\varphi(t)\) (by parts, সীমা-পদ \(0\)), তাই \(\varphi'(t)=i\cdot(-i\cdot\,?)\) সাবধানে: \(\varphi'(t)=i\int xe^{itx}f\,dx=i\cdot it\varphi(t)\cdot(?)\) → পরিষ্কারভাবে \(\varphi'(t)=-t\varphi(t)\)। (গ) \(\frac{\varphi'}{\varphi}=-t\Rightarrow\ln\varphi=-t^2/2+C\), \(\varphi(0)=1\Rightarrow C=0\); \(e^{-t^2/2}\)-ই CLT-এ \(\varphi_{Z_n}\) যেদিকে যায়। (← 7.4)
অনুশীলন ৯ (★★★)¶
CLT-এর \(\varphi\)-সীমা সম্পন্ন করুন: \(\big(1-\frac{t^2}{2n}+o(\frac1n)\big)^n\to e^{-t^2/2}\)। এটি CLT-প্রমাণের চূড়ান্ত analytic ধাপ (← ২.৮, §৪)। ধরা যাক iid \(X_i\), \(\mathbb E[X]=\mu\), \(\operatorname{Var}(X)=\sigma^2\in(0,\infty)\); \(W=(X-\mu)/\sigma\) (\(\mathbb E[W]=0\), \(\mathbb E[W^2]=1\)), \(Z_n=\frac{1}{\sqrt n}\sum_{i=1}^n W_i\)। (ক) স্বাধীনতা-গুণফল (অনুশীলন ৭) ও affine-নিয়ম দিয়ে দেখান \(\varphi_{Z_n}(t)=\big(\varphi_W(t/\sqrt n)\big)^n\)। (খ) Taylor (অনুশীলন ৫) দিয়ে \(\varphi_W(t/\sqrt n)=1-\frac{t^2}{2n}+o(\frac1n)\) বসান এবং \(\log\) নিয়ে দেখান \(n\log\varphi_{Z_n}(t)\to-\frac{t^2}{2}\) (যেখানে \(\log(1+u)=u+o(u)\), \(u=-\frac{t^2}{2n}+o(\frac1n)\to0\))। (গ) উপসংহার \(\varphi_{Z_n}(t)\to e^{-t^2/2}\) টানুন এবং Lévy continuity (← ২.৭) প্রয়োগ করে \(Z_n\Rightarrow N(0,1)\) পান; এক বাক্যে বলুন কেন এই সীমায় কেবল দ্বিতীয়-ক্রম তথ্য (গড়, ভেদ) বাঁচে — যা universality-র (সর্বজনীনতার) গাণিতিক উৎস।
Hint: (ক) \(W_i\) iid + \(\varphi_{aW}(t)=\varphi_W(at)\) (\(a=1/\sqrt n\)) ⇒ \(\varphi_{Z_n}(t)=[\varphi_W(t/\sqrt n)]^n\)। (খ) \(n\log(1-\frac{t^2}{2n}+o(\frac1n))=n(-\frac{t^2}{2n}+o(\frac1n))=-\frac{t^2}{2}+o(1)\to-\frac{t^2}{2}\)। (গ) exp নিয়ে \(\varphi_{Z_n}(t)\to e^{-t^2/2}=\varphi_{N(0,1)}(t)\); \(t=0\)-তে অবিচ্ছিন্ন ⇒ Lévy দিয়ে \(Z_n\Rightarrow N(0,1)\); তৃতীয়+ moment \(o(\frac1n)\)-এ চাপা পড়ে মুছে যায়, তাই সব গড়-শূন্য একক-ভেদ বণ্টন একই limit-এ মেলে। (← ২.৭, ← ২.৮)
ঘ · কোডিং¶
সব স্নিপেট seed
np.random.default_rng(20260619)-এ চালানো; সংখ্যাগত উত্তর reproducible। প্রয়োজনীয় import:import numpy as np,from scipy import stats।
অনুশীলন ১০ (★★)¶
একটা অপ্রতিসম বণ্টনের CLT সিমুলেট করে \(N(0,1)\)-এ KS-দূরত্ব মাপুন। নাও iid \(X_i\sim\text{Exp}(1)\) (right-skewed, \(\mu=1\), \(\sigma=1\), skewness \(2\))। মানক নমুনা-গড় \(Z_n=\sqrt n(\bar X_n-1)\) গণনা করে দেখান \(n\) বাড়লে \(Z_n\)-এর বণ্টন \(N(0,1)\)-এ গুটিয়ে আসে। (ক) default_rng(20260619) দিয়ে \(n=30\), reps \(=200{,}000\)-এ সিমুলেট করুন এবং চারটি পরিসংখ্যান ছাপুন — mean, var, skew, এবং Kolmogorov–Smirnov (KS) distance \(N(0,1)\)-এর সাপেক্ষে। (খ) canonical লক্ষ্য-এর সাথে মেলান: mean \(\approx0.0007\), var \(\approx1.0001\), skew \(\approx0.356\) (তত্ত্ব \(\frac{2}{\sqrt{30}}=0.3651\)), KS \(\approx0.023\)। (গ) এক বাক্যে ব্যাখ্যা করুন কেন skewness এখনও সামান্য ধনাত্মক (অপ্রতিসমতা শেষে যায়, \(\frac{2}{\sqrt n}\) হারে) যেখানে mean/var প্রায় নিখুঁত — এবং কেন এই ছোট KS-দূরত্বই "ঘণ্টা-আকৃতি প্রায় ধরা" নিশ্চিত করে। চিত্র 7-10-clt-convergence-এর সাথে মিলিয়ে দেখুন।
Hint: X = rng.exponential(1.0, size=(reps, n)); Zn = np.sqrt(n)*(X.mean(axis=1)-1.0); Zn.mean()≈0.0007, Zn.var(ddof=0)≈1.0001, stats.skew(Zn)≈0.356, stats.kstest(Zn,'norm').statistic≈0.023। mean/var মানক-করণে তৎক্ষণাৎ \(0,1\) বসে; skewness তৃতীয়-ক্রম, \(\frac{2}{\sqrt n}\) হারে ধীরে নামে। KS \(\approx0.023\) ⇒ empirical CDF ও \(N(0,1)\)-CDF প্রায় অভিন্ন। (canonical)
অনুশীলন ১১ (★★)¶
empirical \(\varphi_{Z_n}(1)\) গণনা করে \(0.6065\)-এর সাথে তুলনা করুন। Lévy continuity-র দৃশ্যায়ন: \(\varphi_{Z_n}(t)\to e^{-t^2/2}=\varphi_{N(0,1)}(t)\), তাই \(t=1\)-এ \(\varphi_{Z_n}(1)\to e^{-1/2}=0.6065\)। (ক) অনুশীলন ১০-এর \(Z_n\) (Exp, \(n=30\)) থেকে empirical \(\varphi_{Z_n}(1)=\frac{1}{\text{reps}}\sum e^{i\cdot1\cdot Z_n}\) গণনা করুন (বাস্তব অংশ নিন) এবং দেখান এটি canonical \(0.6102\)-এর কাছে — যা তাত্ত্বিক সীমা \(0.6065\)-এর প্রায় সমান। (খ) তুলনার জন্য কঙ্কাল-মান \((1-\frac{1}{2n})^n\)-ও \(n=30\)-এ ছাপুন (canonical \(0.6040\)) এবং মন্তব্য করুন কেন empirical \(\varphi_Z(1)=0.6102\) কঙ্কাল \(0.6040\) থেকে সামান্য উপরে (প্রকৃত \(\varphi\)-তে \(o(\frac1n)\)-পদের অবশিষ্ট থাকে)। (গ) এক বাক্যে: এই সংখ্যাগত মিল (\(0.6102\approx0.6065\)) কীভাবে "\(\varphi\) মিললেই বণ্টন মেলে" — Lévy-র মর্ম — চোখে দেখায়। চিত্র 7-10-cf-clt-proof-এর সাথে মিলিয়ে দেখুন।
Hint: X = rng.exponential(1.0, size=(reps, n)); Zn = np.sqrt(n)*(X.mean(axis=1)-1.0); emp = np.exp(1j*1.0*Zn).mean().real; emp≈0.6102। কঙ্কাল (1-1/(2*30))**30≈0.6040; empirical একটু বেশি কারণ \(o(\frac1n)\)-অবশিষ্ট (\(n\) বাড়লে \(0.6065\)-এ মেলে)। \(\varphi_{Z_n}(1)\to0.6065\) মানে \(Z_n\)-এর cf \(N(0,1)\)-এর cf-এ যাচ্ছে — Lévy দিয়ে বণ্টনও যাচ্ছে। (canonical)
অনুশীলন ১২ (★)¶
\((1-\frac{1}{2n})^n\to e^{-1/2}\) যাচাই করুন। CLT-প্রমাণের "ইঞ্জিন" \((1-\frac{t^2}{2n}+o(\frac1n))^n\to e^{-t^2/2}\)-র \(t=1\)-রূপ কঙ্কাল \((1-\frac{1}{2n})^n\) — চেনা \((1+\frac{a}{n})^n\to e^a\) (\(a=-\frac12\))। (ক) default_rng(20260619) (এখানে RNG লাগে না, কিন্তু seed ধরে রাখুন consistency-র জন্য) দিয়ে \(n\in\{1,5,30,200\}\)-এ \((1-\frac{1}{2n})^n\) ছাপুন। (খ) canonical ক্রম \(0.5\to0.5905\to0.6040\to0.6062\)-এর সাথে মেলান এবং \(n\to\infty\)-এর লক্ষ্য \(e^{-1/2}=0.6065\)-এ মসৃণ-উত্থান যাচাই করুন। (গ) এক বাক্যে: এই সীমাই কেন CLT-প্রমাণের শেষ ধাপ — অর্থাৎ "স্বাধীন যোগ একটা \(\varphi\)-ঘাত, আর ঘাতের সীমা একটা চেনা exponential"।
Hint: for n in [1,5,30,200]: print(n, round((1 - 1/(2*n))**n, 4)); ফল \(0.5, 0.5905, 0.6040, 0.6062\), লক্ষ্য np.exp(-0.5)=0.6065। \((1+\frac an)^n\to e^a\), \(a=-\frac{t^2}{2}=-\frac12\) (\(t=1\)); \(o(\frac1n)\)-পদ ঘাতে \(o(1)\to0\) বলে অগ্রাহ্য। এই এক-সীমাই \(\varphi_{Z_n}(t)=(\varphi_W(t/\sqrt n))^n\)-কে \(e^{-t^2/2}\)-এ নামায়। (canonical)
৮ · সারসংক্ষেপ ও সংযোগ¶
এই অধ্যায় একটিমাত্র অসাধারণ যন্ত্র — characteristic function (বৈশিষ্ট্য-ফাংশন) \(\varphi_X(t)=\mathbb E[e^{itX}]\) — থেকে শুরু করে measure-তাত্ত্বিক সম্ভাব্যতার গভীরতম, সবচেয়ে সুন্দর ফলে পৌঁছেছে: 3.4-এ স্বজ্ঞায় দেখা Central Limit Theorem-এর সম্পূর্ণ, কঠোর প্রমাণ। চলুন সুতোটা গেঁথে নিই — তারপর পুরো Part VII-এর আরোহণ ফিরে দেখি।
৮.১ যুক্তি-শৃঙ্খলের পুনরাবৃত্তি।
- cf — আইনের Fourier আঙুলের-ছাপ। \(\varphi_X(t)=\mathbb E[e^{itX}]=\int e^{itx}\,dP_X\) একটা complex-valued Lebesgue integral (← 7.4), যা \(\lvert e^{itX}\rvert=1\) বলে সর্বদা বিদ্যমান (\(\lvert\varphi\rvert\le1\), \(\varphi(0)=1\), \(\overline{\varphi(t)}=\varphi(-t)\), uniformly continuous via DCT, positive-definite/Bochner) — MGF-এর (← 2.5) বিপরীতে, যা heavy-tail বণ্টনে অস্তিত্বহীন। affine-নিয়ম \(\varphi_{aX+b}(t)=e^{itb}\varphi_X(at)\), এবং কেন্দ্রীয় ধর্ম — স্বাধীনতা যোগফলকে গুণফলে পরিণত করে: \(X\perp Y\Rightarrow\varphi_{X+Y}=\varphi_X\varphi_Y\) (← 7.6), তাই iid-তে \(\varphi_{S_n}=\varphi_X^{\,n}\)।
- uniqueness/inversion ও moments। uniqueness theorem — \(\varphi\) আইনকে অনন্যভাবে নির্ধারণ করে (\(\varphi_X=\varphi_Y\iff X\overset{d}{=}Y\), Fourier inversion-এর invertibility থেকে); inversion formula \(f_X(x)=\frac{1}{2\pi}\int e^{-itx}\varphi_X(t)\,dt\) density ফিরিয়ে দেয়। moments ডেরিভেটিভে এনকোডেড: \(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\) (বিশেষত \(\varphi''(0)=-\mathbb E[X^2]\)), Taylor \(\varphi(t)=1+it\mathbb E[X]-\frac{t^2}{2}\mathbb E[X^2]+o(t^2)\) — CLT-এর একমাত্র analytic input।
- weak convergence ও Lévy's সেতু। convergence in distribution / weak convergence \(X_n\Rightarrow X\) (\(F_n\to F\) সব continuity point-এ; সমতুল্য portmanteau — \(\mathbb E[f(X_n)]\to\mathbb E[f(X)]\) সব bounded continuous \(f\)-এ; ← 3.2-এর কঠোর রূপ)। মুকুট-যন্ত্র Lévy's continuity theorem: \(X_n\Rightarrow X\iff\varphi_n(t)\to\varphi(t)\ \forall t\) — সীমা \(0\)-তে অবিচ্ছিন্ন হলে tightness (Prokhorov) নিশ্চিত করে weak limit বিদ্যমান। এটি কঠিন distribution-অভিসরণকে সহজ pointwise cf-অভিসরণে অনুবাদ করে।
- rigorous CLT — শিখর। iid \(X_i\), \(\mathbb E[X]=\mu\), \(\operatorname{Var}(X)=\sigma^2\in(0,\infty)\) ⇒ \(Z_n=\frac{\sqrt n(\bar X_n-\mu)}{\sigma}\Rightarrow N(0,1)\)। প্রমাণ তিন লাইনে: (i) \(\varphi_{Z_n}(t)=\big(\varphi_W(t/\sqrt n)\big)^n\) (\(W=\frac{X-\mu}{\sigma}\), স্বাধীনতা-গুণফল); (ii) Taylor \(\varphi_W(s)=1-\frac{s^2}{2}+o(s^2)\); (iii) \(\big(1-\frac{t^2}{2n}+o(\frac1n)\big)^n\to e^{-t^2/2}=\varphi_{N(0,1)}(t)\), তারপর Lévy continuity ⇒ উপসংহার। কেবল দ্বিতীয়-ক্রম তথ্য বাঁচে — universality-র উৎস।
৮.২ মূল উপপাদ্য/তথ্য (mini-list)।
- cf-এর মৌলিক ধর্ম। \(\lvert\varphi_X(t)\rvert\le\varphi_X(0)=1\), \(\overline{\varphi_X(t)}=\varphi_X(-t)\), uniformly continuous, positive-definite (Bochner); \(\varphi_{aX+b}(t)=e^{itb}\varphi_X(at)\)।
- স্বাধীনতা-গুণফল। \(X\perp Y\Rightarrow\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)\); iid ⇒ \(\varphi_{S_n}(t)=[\varphi_{X_1}(t)]^n\)।
- মানক উদাহরণ। \(\varphi_{N(\mu,\sigma^2)}(t)=e^{i\mu t-\sigma^2t^2/2}\); \(\varphi_{\text{Exp}(\lambda)}(t)=\frac{\lambda}{\lambda-it}\); \(\varphi_{\text{Bern}(p)}(t)=1-p+pe^{it}\); \(\varphi_{\text{Poisson}(\lambda)}(t)=e^{\lambda(e^{it}-1)}\)।
- moments ও Taylor। \(\mathbb E\lvert X\rvert^k<\infty\Rightarrow\varphi\in C^k\) ও \(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\); \(\varphi(t)=1+it\mathbb E[X]-\frac{t^2}{2}\mathbb E[X^2]+o(t^2)\)।
- uniqueness ও inversion। \(\varphi_X=\varphi_Y\ \forall t\iff X\overset{d}{=}Y\); \(f_X(x)=\frac{1}{2\pi}\int e^{-itx}\varphi_X(t)\,dt\) (ঘনত্ব integrable হলে)।
- Lévy's continuity theorem। \(X_n\Rightarrow X\iff\varphi_n(t)\to\varphi(t)\ \forall t\) (\(\varphi\) \(0\)-তে অবিচ্ছিন্ন ⇒ tight, Prokhorov)।
- rigorous CLT। iid, \(\sigma^2\in(0,\infty)\) ⇒ \(Z_n=\frac{\sqrt n(\bar X_n-\mu)}{\sigma}\Rightarrow N(0,1)\); কারণ \(\varphi_{Z_n}(t)=(\varphi_W(t/\sqrt n))^n\to e^{-t^2/2}\)।
- canonical সংখ্যা। \(\varphi_{N(0,1)}(1)=0.6065\); \(\varphi_{\text{Exp}(1)}(1)=0.5+0.5i\) (\(\lvert\cdot\rvert=0.7071\)); \(\varphi_{\text{Bern}(0.3)}(1)=0.8621+0.2524i\); CLT Exp(1) \(n=30\) — mean \(0.0007\)/var \(1.0001\)/skew \(0.356\)/KS \(0.023\), empirical \(\varphi_Z(1)=0.6102\); \((1-\frac1{2n})^n\) for \(n=1,5,30,200\to0.5,0.5905,0.6040,0.6062\to e^{-1/2}=0.6065\); seed
default_rng(20260619)।
৮.৩ সংযোগ — পেছনে ও সামনে।
- ← 3.4 (Central Limit Theorem — এখন প্রমাণিত)। এই অধ্যায়ের গন্তব্য: সেখানে CLT ছিল একটা স্বজ্ঞা — চোখে-দেখা, simulation ও convolution-এ বিশ্বাস-করা, কিন্তু অপ্রমাণিত (টুল ছিল না)। এখানে তা characteristic function ও Lévy continuity দিয়ে পূর্ণ-কঠোর উপপাদ্যে রূপান্তরিত — "কেন সবকিছু normal-এ মেলে, কেন \(\sigma/\sqrt n\) স্কেল" সব গাণিতিক ভিত্তি পায়।
- ← 7.6 (Independence, 0–1 laws, SLLN)। cf-পদ্ধতির হৃদয় — \(\varphi_{X+Y}=\varphi_X\varphi_Y\) দাঁড়ায় ঠিক 7.6-এর কঠোর স্বাধীনতার উপর (\(\mathbb E[e^{itX}e^{itY}]=\mathbb E[e^{itX}]\mathbb E[e^{itY}]\)); আর SLLN দেয় কেন্দ্রীকরণ (\(\bar X_n\to\mu\)), CLT তার \(\sqrt n\)-স্কেলে ওঠানামার মাপ।
- ← 7.4 (Lebesgue integral ও convergence theorems)। \(\varphi_X=\mathbb E[e^{itX}]\) একটা complex-valued Lebesgue integral; uniform continuity ও moment-derivative-এ integral/derivative বিনিময় — সব DCT (dominating function ধ্রুবক \(1\) বা \(\lvert x\rvert^k f\))-নির্ভর; tightness-যুক্তিতে Fatou/MCT।
- ← 2.5 (MGF) ও ← 3.2 (convergence in distribution)। \(\varphi(t)=M(it)\) যেখানে \(M\) আছে (একই moment/convolution-ধর্ম, কিন্তু \(\varphi\) সর্বদা বিদ্যমান); 3.2-এর convergence-in-distribution এখানে portmanteau ও Lévy দিয়ে কঠোর।
- → Part VIII (capstone প্রকল্প)। এর পরে আর measure-তত্ত্বের নতুন ভিত্তি নেই — সামনে capstone প্রকল্প, যেখানে পুরো scratch→PhD যাত্রায় গড়া সরঞ্জাম (estimation, testing, Bayes, regression, এবং আজকের measure-তাত্ত্বিক ভিত্তি ও cf/CLT) একত্রে বাস্তব সমস্যায় প্রয়োগ হবে।
উৎস। Klenke, Probability Theory: A Comprehensive Course — Ch.15 (Characteristic Functions and the Central Limit Theorem): cf-এর সম্পূর্ণ ধর্ম-তালিকা (Bochner-সহ), moment ও Taylor, uniqueness ও inversion, weak convergence ও portmanteau, Lévy's continuity theorem (tightness ও Prokhorov-সহ), এবং Lindeberg–Lévy CLT-এর cf-প্রমাণ (Lindeberg–Feller সাধারণীকরণ সহ); পরিপূরক স্বজ্ঞা ও পরিচ্ছন্ন উপস্থাপনা Williams (Probability with Martingales, Ch.16–18) ও Durrett (Probability: Theory and Examples, Ch.3) থেকে।
৮.৪ Part VII সম্পূর্ণ — একটা measure-তাত্ত্বিক আরোহণের শিখর।
এই অধ্যায়ের সঙ্গে শুধু একটা অধ্যায় নয়, একটা গোটা পর্বত-আরোহণ সম্পূর্ণ হলো। ফিরে তাকানো যাক সেই পথের দিকে। Part VII শুরু হয়েছিল একটা অস্বস্তিকর প্রশ্ন থেকে (7.1) — "সম্ভাবনা মানে আসলে কী, যদি কঠোরভাবে বলতে হয়?" — আর সেখান থেকে আমরা ইট-গেঁথে তুলেছি: σ-algebra ও measure (7.2, কোন ঘটনাকে মাপা যায়, কীভাবে); measurable map ও random variable (7.3, random variable হলো measurable function); Lebesgue integral (7.4, প্রত্যাশার সর্বজনীন সংজ্ঞা \(\mathbb E[X]=\int X\,d\mathbb P\) ও সীমা-বিনিময়ের তিন স্তম্ভ — MCT, Fatou, DCT); \(L^p\)-স্থান ও Hilbert-গঠন ও Radon–Nikodym (7.5, জ্যামিতি ও density); independence, Kolmogorov 0–1 law ও SLLN (7.6, স্বাধীনতা কঠোর হলো); conditional expectation (7.7, \(\mathbb E[X\mid\mathcal G]\) একটা projection); martingales ও তাদের convergence (7.8–7.9, ন্যায্য-খেলা প্রক্রিয়া ও তাদের থিতু হওয়া); আর অবশেষে আজ — characteristic function ও rigorous CLT (7.10)।
এই ক্রমটা আকস্মিক নয়, একটা সুসংহত স্থাপত্য: প্রতিটা ইট পরেরটার ভিত্তি, আর সবগুলো মিলে দাঁড় করিয়েছে একটাই শিখর — পরিসংখ্যানের কেন্দ্রীয়তম সত্য, CLT-এর নিরঙ্কুশ প্রমাণ। যে integral ছাড়া cf সংজ্ঞায়িত হতো না (7.4), যে স্বাধীনতা ছাড়া \(\varphi_{X+Y}=\varphi_X\varphi_Y\) দাঁড়াত না (7.6), যে convergence-ভাষা ছাড়া "\(Z_n\Rightarrow N(0,1)\)" অর্থহীন হতো (7.9-এর অভিসরণ-সংস্কৃতি) — সব এসে আজ এক বিন্দুতে মিলেছে।
আর এই যাত্রায় যা অর্জিত হলো তা একটা PhD-স্তরের কঠোর ভিত্তি। শুরু হয়েছিল মুদ্রা-নিক্ষেপের সরল সম্ভাবনা থেকে (Part 0–II), পরিসংখ্যানিক inference ও regression-এর ব্যবহারিক যন্ত্র পেরিয়ে (Part III–VI), আর এখন measure-তাত্ত্বিক সম্ভাব্যতার পূর্ণ পরিপক্বতায়। একজন শিক্ষার্থী যিনি এই পথ হেঁটেছেন, তিনি এখন কেবল সূত্র ব্যবহার করেন না — তিনি জানেন প্রতিটা সূত্র কেন সত্য, কোন স্বতঃসিদ্ধ থেকে কোন উপপাদ্যে, কোন সীমা-বিনিময় বৈধ আর কোনটা নয়। CLT আর "\(n=30\) নিয়ম" নয়, একটা প্রমাণিত উপপাদ্য; প্রত্যাশা আর "গড়" নয়, একটা Lebesgue integral; স্বাধীনতা আর "একটা অন্যটাকে প্রভাবিত করে না" নয়, একটা product-measure ধর্ম। এই রূপান্তর — স্বজ্ঞা থেকে কঠোরতায়, ব্যবহারকারী থেকে প্রমাণকারীতে — ঠিক যা একটা গবেষণা-স্তরের ভিত্তি গড়ে। আধুনিক সম্ভাব্যতা (Brownian motion, Lévy process, stochastic calculus), উন্নত পরিসংখ্যান (asymptotic theory, empirical process), এমনকি measure-তাত্ত্বিক machine learning-এর তত্ত্ব — সব এখন নাগালে।
একটা স্বজ্ঞা থেকে যাত্রা শুরু (3.4-এ চোখে-দেখা CLT), একটা প্রমাণে যাত্রা শেষ (7.10-এ প্রমাণিত CLT) — এই বৃত্ত সম্পূর্ণ হওয়াই scratch→PhD আরোহণের চূড়া। সামনে Part VIII — capstone প্রকল্প: এতদিনের সব সরঞ্জাম এবার একত্রে, বাস্তব ডেটায়, নিজের হাতে।
এক বাক্যে (পুরো Part VII)। σ-algebra → measure → Lebesgue integral → \(L^p\)/Hilbert → independence/SLLN → conditional expectation → martingale → আজকের characteristic function ও rigorous CLT — এই আট-ধাপের measure-তাত্ত্বিক আরোহণ 3.4-এর স্বজ্ঞাগত কেন্দ্রীয় সীমা উপপাদ্যকে পূর্ণ-কঠোর উপপাদ্যে পরিণত করে scratch→PhD যাত্রার বৃত্ত সম্পূর্ণ করল, আর শিক্ষার্থীকে দিল একটা PhD-স্তরের, প্রমাণ-ভিত্তিক সম্ভাব্যতার ভিত্তি — যার উপর দাঁড়িয়ে Part VIII-এর capstone প্রক