সমাধান — অধ্যায় ৭.১০ · Characteristic Functions ও Rigorous CLT¶

অধ্যায় ফাইল: part-7-measure-theoretic/07-10-characteristic-functions-clt.md (§৭ অনুশীলনী)। সংখ্যাগত উত্তর numpy/scipy.stats দিয়ে যাচাইযোগ্য; সব সিমুলেশন seed np.random.default_rng(20260619)-এ reproducible।

মূল সংজ্ঞা ও canonical তথ্য। characteristic function $\varphi_X(t)=\mathbb E[e^{itX}]=\int_{\mathbb R}e^{itx}\,dP_X(x)$ ($i=\sqrt{-1}$); $\lvert\varphi\rvert\le1$, $\varphi(0)=1$, $\overline{\varphi(t)}=\varphi(-t)$, uniformly continuous, positive-definite (Bochner)। affine: $\varphi_{aX+b}(t)=e^{itb}\varphi_X(at)$। স্বাধীনতা-গুণফল: $X\perp Y\Rightarrow\varphi_{X+Y}=\varphi_X\varphi_Y$। moments: $\varphi^{(k)}(0)=i^k\mathbb E[X^k]$ (বিশেষত $\varphi''(0)=-\mathbb E[X^2]$); Taylor $\varphi(t)=1+it\mathbb E[X]-\tfrac{t^2}{2}\mathbb E[X^2]+o(t^2)$। uniqueness: $\varphi_X=\varphi_Y\iff X\overset{d}{=}Y$। Lévy continuity: $X_n\Rightarrow X\iff\varphi_n(t)\to\varphi(t)\ \forall t$। rigorous CLT: iid, $\sigma^2\in(0,\infty)$ ⇒ $Z_n=\tfrac{\sqrt n(\bar X_n-\mu)}{\sigma}\Rightarrow N(0,1)$। canonical মান। $\varphi_{N(0,1)}(1)=e^{-1/2}=0.6065$; $\varphi_{\text{Exp}(1)}(1)=0.5+0.5i$ ($\lvert\cdot\rvert=0.7071$); $\varphi_{\text{Bern}(0.3)}(1)=0.8621+0.2524i$ ($\lvert\cdot\rvert\approx0.8983$); CLT Exp(1) $n=30$ — mean $0.0007$/var $1.0001$/skew $0.356$/KS $0.023$; empirical $\varphi_Z(1)=0.6102$; $(1-\tfrac1{2n})^n$ for $n=1,5,30,200\to0.5,0.5905,0.6040,0.6062\to e^{-1/2}=0.6065$; seed default_rng(20260619)।

ক · ধারণাগত (conceptual)¶

সমাধান ১ (★)¶

(ক) কেন $\varphi$ সর্বদা বিদ্যমান। characteristic function $\varphi_X(t)=\mathbb E[e^{itX}]$-এর integrand হলো $e^{itX}=\cos tX+i\sin tX$, যার পরম-মান $\lvert e^{itX}\rvert=\sqrt{\cos^2 tX+\sin^2 tX}=1$ — সর্বত্র, প্রতিটি $\omega$-তে। তাই integrand একটা ধ্রুবক $1$-এ আবদ্ধ; যেহেতু $\mathbb P$ একটা সসীম (probability) measure, ধ্রুবক ফাংশন integrable, আর তাই প্রত্যাশাটা প্রতিটি random variable ও প্রতিটি $t\in\mathbb R$-এর জন্য সংজ্ঞায়িত — কোনো moment-শর্ত, tail-শর্ত বা অন্য কোনো integrability-অনুমান লাগে না (7.4)। আনুষঙ্গিক ফল সরাসরি: $\lvert\varphi_X(t)\rvert\le\mathbb E\lvert e^{itX}\rvert=\mathbb E[1]=1$।

(খ) কেন MGF অনেক বণ্টনে অস্তিত্বহীন। moment generating function $M_X(t)=\mathbb E[e^{tX}]$-এ integrand $e^{tX}$ — এখানে exponent বাস্তব, তাই $X$ বড় হলে $e^{tX}$ অসীমে বাড়ে, ঘোরে না। heavy-tail বণ্টনে এই বৃদ্ধি tail-এর ক্ষয়কে ছাপিয়ে যায়। concrete: $X\sim\text{Cauchy}$, density $\frac{1}{\pi(1+x^2)}$; তখন প্রতিটি $t\ne0$-তে $$ M_X(t)=\int_{-\infty}^\infty e^{tx}\frac{1}{\pi(1+x^2)}\,dx=\infty, $$ কারণ $x\to+\infty$ (বা $t<0$ হলে $x\to-\infty$)-এ $e^{tx}$ exponentially বাড়ে অথচ $\frac{1}{1+x^2}$ কেবল polynomially ($\sim x^{-2}$) কমে — গুণফল integrable নয়। একই ভাঙন log-normal ও $t$-বণ্টনে: tail যথেষ্ট মোটা যে $e^{tX}$-এর প্রত্যাশা ফেটে যায়। তাই MGF থাকলেও তা কেবল $t=0$-র একটা প্রতিবেশে, অনেক বণ্টনে কেবল $t=0$-তেই (যা তথ্যহীন)।

(গ) সম্পর্ক ও কেন পার্থক্য। যেখানে $M_X$ একটা strip-এ existed, সেখানে $\varphi_X(t)=M_X(it)$ — অর্থাৎ $t\mapsto it$ (বাস্তব argument-কে imaginary axis-এ ঘোরানো)। এই একটিমাত্র পরিবর্তনই অস্তিত্বের পার্থক্যটা আনে: $e^{tX}$ (real exponent) বাড়ে, কিন্তু $e^{itX}$ (imaginary exponent) শুধু ঘোরে ($\lvert e^{itX}\rvert=1$, unit circle-এ থাকে) — তাই কখনো ফাটে না।

সমাধান ২ (★★)¶

(ক) সেতু — দুই জগৎ ও কোন দিক। Lévy's continuity theorem জোড়ে দুটো খুব ভিন্ন প্রকৃতির জগৎ:

distribution-এর convergence (অভিসরণ) ($X_n\Rightarrow X$): সংজ্ঞায় "$F_n(x)\to F(x)$ প্রতিটি continuity point-এ" — একটা জ্যামিতিক, কঠিন শর্ত, সরাসরি যাচাই করা দুঃসাধ্য (সব $x$-এ CDF মেলানো)।
ফাংশনের pointwise convergence ($\varphi_n(t)\to\varphi(t)$): প্রতিটি স্থির $t$-তে একটা সাধারণ সংখ্যা-সীমা — সহজ, বিশ্লেষণিক, প্রায়ই Taylor/বীজগণিতে সরাসরি কষা যায়।

সেতুর সমীকরণ: $X_n\Rightarrow X\iff\varphi_n(t)\to\varphi(t)\ \forall t$। CLT-প্রমাণে আসলে ডান-থেকে-বাম দিকটা ব্যবহৃত: আমরা analytically দেখাই $\varphi_{Z_n}(t)\to e^{-t^2/2}$ (সহজ pointwise সীমা), আর Lévy থেকে উপসংহার টানি $Z_n\Rightarrow N(0,1)$ (কঠিন distribution-সীমা)। সেতু না থাকলে এই অনুবাদ অসম্ভব হতো।

(খ) $0$-তে continuity ⇒ tightness। সীমা-ফাংশন $\varphi$ যদি $t=0$-তে অবিচ্ছিন্ন হয় (এবং $\varphi(0)=1$), তবে তা tightness নিশ্চিত করে — অর্থাৎ অনুক্রম $(P_{X_n})$-এর ভর "অসীমে পালায় না" (প্রতিটি $\epsilon$-এ একটা compact $[-M,M]$ আছে যাতে $\mathbb P(\lvert X_n\rvert>M)<\epsilon$ সব $n$-এ)। Prokhorov-এর উপপাদ্য (২.৭) দিয়ে tight অনুক্রমের একটা weakly-অভিসারী subsequence থাকে, যার cf-ই $\varphi$ — তাই $\varphi$ একটা বৈধ probability measure-এর cf, এবং পুরো অনুক্রম তাতে অভিসারী। শর্তটা বাদ দিলে: $\varphi_n$ pointwise কোনো $\varphi$-তে যেতে পারে যা $0$-তে অবিচ্ছিন্ন নয়, আর তখন ভর পালিয়ে গিয়ে সীমা একটা probability measure না-ও হতে পারে (উদাহরণ: $X_n\sim N(0,n)$-এর cf $e^{-nt^2/2}\to\mathbf 1_{\{t=0\}}$, যা $0$-তে অবিচ্ছিন্ন নয় — আর সত্যিই ভর অসীমে ছড়িয়ে যায়, কোনো weak limit নেই)।

(গ) কেন uniqueness অপরিহার্য। Lévy-র "$\iff$"-এর ডান-থেকে-বাম দিকটা ("$\varphi_n\to\varphi$ ⇒ $X_n\Rightarrow$ কিছু-একটা") অর্থপূর্ণ কেবল যদি $\varphi$ একটা অনন্য বণ্টন চিহ্নিত করে — না-হলে "$\varphi_n\to\varphi$" থেকে "কোন বণ্টনে অভিসারী?" বলা যেত না; uniqueness theorem (২.৫) ঠিক এই $\varphi\mapsto$ law mapping-টা one-to-one করে।

সমাধান ৩ (★★)¶

(ক) নিখুঁত আঙুলের-ছাপ ও invertibility। uniqueness theorem ($\varphi_X=\varphi_Y\ \forall t\iff X\overset{d}{=}Y$) cf-কে একটা নিখুঁত আঙুলের-ছাপ করে: যেমন আঙুলের-ছাপ একজন মানুষকে অনন্যভাবে চেনায়, $\varphi_X$ তেমনি $X$-এর পুরো বণ্টন ধরে রাখে, কোনো তথ্য হারায় না। এর পেছনের বিশ্লেষণিক তথ্য — $\varphi$ হলো বণ্টন $P_X$-এর Fourier transform, আর Fourier transform একটা বিপরীত-যোগ্য (invertible) রূপান্তর: $P_X\mapsto\varphi_X$ এবং $\varphi_X\mapsto P_X$ — দুদিকেই একটা one-to-one চিঠি। তাই একই $\varphi$ মানে একই $P_X$ (একই আঙুলের-ছাপ একজনকেই চেনায়)।

(খ) inversion formula constructive করে। uniqueness কেবল বলে "অনন্য" (existence-স্তরের তথ্য); inversion formula তাকে গঠনমূলক করে — ঘনত্ব integrable হলে $$ f_X(x)=\frac{1}{2\pi}\int_{-\infty}^\infty e^{-itx}\varphi_X(t)\,dt, $$ অর্থাৎ $\varphi$ থেকে সরাসরি density ফিরিয়ে দেওয়া হয় — শুধু "দুটো $\varphi$ এক হলে দুটো বণ্টন এক" নয়, বরং "এই $\varphi$ থেকে ঠিক এই density"।

(গ) ব্যবহারিক ফল — এক লাইনে বণ্টন-পরিচয়। স্বাধীন যোগফলের বণ্টন খুঁজতে density-convolution ($f_{X+Y}=f_X*f_Y$, একটা জটিল integral) এড়িয়ে শুধু cf গুণ করা যায়: $\varphi_{X+Y}=\varphi_X\varphi_Y$, তারপর গুণফলটা যে চেনা $\varphi$, সেই বণ্টন uniqueness দিয়ে তাৎক্ষণিক চিনে নেওয়া যায়। যেমন $N$: $e^{-\sigma_1^2t^2/2}\cdot e^{-\sigma_2^2t^2/2}=e^{-(\sigma_1^2+\sigma_2^2)t^2/2}$ ⇒ যোগফল $N(0,\sigma_1^2+\sigma_2^2)$; Poisson: $e^{\lambda_1(e^{it}-1)}e^{\lambda_2(e^{it}-1)}=e^{(\lambda_1+\lambda_2)(e^{it}-1)}$ ⇒ যোগফল $\text{Poisson}(\lambda_1+\lambda_2)$ — কোনো convolution না কষেই।

খ · গণনামূলক (computational)¶

সমাধান ৪ (★)¶

(ক) Bernoulli$(0.3)$. $X\in\{0,1\}$, $\mathbb P(X=1)=0.3$, $\mathbb P(X=0)=0.7$। সংজ্ঞা থেকে সরাসরি যোগফল: $$ \varphi_X(t)=\mathbb E[e^{itX}]=0.7\cdot e^{i\cdot0}+0.3\cdot e^{i\cdot1\cdot t}=0.7+0.3e^{it}=(0.7+0.3\cos t)+i\,(0.3\sin t). $$ $t=1$-এ: $\cos1=0.5403$, $\sin1=0.8415$, তাই $$ \varphi_X(1)=0.7+0.3(0.5403)+i\,0.3(0.8415)=0.8621+0.2524i,\qquad\lvert\varphi_X(1)\rvert=\sqrt{0.8621^2+0.2524^2}=0.8983. $$ যাচাই: $\varphi_X(0)=0.7+0.3=1$ ✓, $\lvert\varphi_X(1)\rvert=0.8983\le1$ ✓।

(খ) Exp$(1)$. density $f(x)=e^{-x}$ ($x\ge0$)। সমাকল: $$ \varphi_X(t)=\int_0^\infty e^{itx}e^{-x}\,dx=\int_0^\infty e^{-(1-it)x}\,dx=\left[\frac{-1}{1-it}e^{-(1-it)x}\right]_0^\infty=\frac{1}{1-it}, $$ (উপরের সীমায় $0$, কারণ $\lvert e^{-(1-it)x}\rvert=e^{-x}\to0$)। সাধারণভাবে $\varphi_{\text{Exp}(\lambda)}(t)=\frac{\lambda}{\lambda-it}$। $t=1$-এ: $$ \varphi_X(1)=\frac{1}{1-i}=\frac{1+i}{(1-i)(1+i)}=\frac{1+i}{2}=0.5+0.5i,\qquad\lvert\varphi_X(1)\rvert=\sqrt{0.5^2+0.5^2}=\frac{1}{\sqrt2}=0.7071. $$ যাচাই: $\varphi_X(0)=\frac{1}{1}=1$ ✓, $\lvert\varphi_X(1)\rvert=0.7071\le1$ ✓।

(গ) $N(0,1)$. বদ্ধ-রূপ $\varphi_X(t)=e^{-t^2/2}$ (← সমাধান ৮)। $N(0,1)$ প্রতিসম, তাই $\varphi$ বাস্তব-মানের। $t=1$-এ: $$ \varphi_X(1)=e^{-1/2}=0.6065\quad(\text{বাস্তব}),\qquad\lvert\varphi_X(1)\rvert=0.6065\le1. $$ যাচাই: $\varphi_X(0)=e^0=1$ ✓।

যাচাই-স্নিপেট।

import numpy as np
t = 1.0
phi_bern = 0.7 + 0.3*np.exp(1j*t)           # Bernoulli(0.3)
phi_exp  = 1/(1 - 1j*t)                      # Exp(1)
phi_norm = np.exp(-t**2/2)                   # N(0,1)
for name, z in [("Bern", phi_bern), ("Exp", phi_exp), ("Norm", phi_norm)]:
    print(f"{name}: phi(1) = {z:.4f}, |phi(1)| = {abs(z):.4f}")
# Bern: 0.8621+0.2524j, |.|=0.8983 ; Exp: 0.5000+0.5000j, |.|=0.7071 ; Norm: 0.6065, |.|=0.6065

সমাধান ৫ (★)¶

(ক) $\varphi''(0)$ ও $\mathbb E[X^2]$. $X\sim N(0,1)$, $\varphi(t)=e^{-t^2/2}$। ধাপে ধাপে differentiate: $$ \varphi'(t)=-t\,e^{-t^2/2},\qquad \varphi''(t)=\frac{d}{dt}\big(-t\,e^{-t^2/2}\big)=-e^{-t^2/2}+(-t)(-t)e^{-t^2/2}=(t^2-1)e^{-t^2/2}. $$ $t=0$-তে: $\varphi''(0)=(0-1)\cdot e^0=-1$। moment-সূত্র $\varphi^{(k)}(0)=i^k\mathbb E[X^k]$-তে $k=2$: $\varphi''(0)=i^2\mathbb E[X^2]=-\mathbb E[X^2]$। তাই $-\mathbb E[X^2]=-1\Rightarrow\mathbb E[X^2]=1$। যেহেতু $\mathbb E[X]=0$ (নিচে), $\operatorname{Var}(X)=\mathbb E[X^2]-(\mathbb E[X])^2=1-0=1$ ✓ ($N(0,1)$-এর variance (ভেদ) ঠিক $1$)।

(খ) $\varphi'(0)$ ও $\mathbb E[X]$. $\varphi'(0)=-0\cdot e^0=0$। সূত্রে $k=1$: $\varphi'(0)=i^1\mathbb E[X]=i\,\mathbb E[X]$, তাই $i\,\mathbb E[X]=0\Rightarrow\mathbb E[X]=0$ ✓।

(গ) ঋণাত্মক চিহ্ন ও CLT। চিহ্নটা আসে $i^2=-1$ থেকে: $\varphi''(0)=i^2\mathbb E[X^2]=-\mathbb E[X^2]$। এর সরাসরি ফল Taylor-প্রসারে: $\varphi(t)=\varphi(0)+\varphi'(0)t+\frac{\varphi''(0)}{2}t^2+o(t^2)=1+it\mathbb E[X]-\frac{t^2}{2}\mathbb E[X^2]+o(t^2)$। গড়-শূন্য একক-ভেদ ($\mathbb E[X]=0$, $\mathbb E[X^2]=1$) বসালে $\varphi(t)=1-\frac{t^2}{2}+o(t^2)$ — এটাই CLT-প্রমাণের একমাত্র analytic input (ঐ $-\frac{t^2}{2}$-ই শেষে $e^{-t^2/2}$ দেয়)।

যাচাই-স্নিপেট (সাংখ্যিক ডেরিভেটিভ)।

import numpy as np
phi = lambda t: np.exp(-t**2/2)
h = 1e-4
d1 = (phi(h) - phi(-h)) / (2*h)                 # phi'(0) ≈ 0
d2 = (phi(h) - 2*phi(0) + phi(-h)) / h**2       # phi''(0) ≈ -1
print("phi'(0) =", round(d1, 6), "-> E[X] =", round((d1/1j).real, 4))
print("phi''(0) =", round(d2, 4), "-> E[X^2] = -phi''(0) =", round(-d2, 4))   # 1.0

সমাধান ৬ (★★)¶

(ক) Poisson + Poisson. $\varphi_{\text{Poisson}(\lambda)}(t)=e^{\lambda(e^{it}-1)}$। স্বাধীনতা-গুণফল: $$ \varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)=e^{\lambda_1(e^{it}-1)}\cdot e^{\lambda_2(e^{it}-1)}=e^{(\lambda_1+\lambda_2)(e^{it}-1)}. $$ এটি ঠিক $\text{Poisson}(\lambda_1+\lambda_2)$-এর cf। তাই uniqueness দিয়ে $X+Y\sim\text{Poisson}(\lambda_1+\lambda_2)$ — Poisson-এর যোগ-ধর্ম (additivity)।

(খ) Normal + Normal. $\varphi_{N(\mu,\sigma^2)}(t)=e^{i\mu t-\sigma^2t^2/2}$। গুণফল: $$ \varphi_{X+Y}(t)=e^{i\mu_1 t-\sigma_1^2t^2/2}\cdot e^{i\mu_2 t-\sigma_2^2t^2/2}=e^{i(\mu_1+\mu_2)t-(\sigma_1^2+\sigma_2^2)t^2/2}, $$ যা ঠিক $N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)$-এর cf। তাই $X+Y\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)$ — স্বাধীন normal-এর যোগ আবার normal, কোনো convolution-integral না কষেই (uniqueness)।

(গ) iid Bernoulli → Binomial. iid $X_i\sim\text{Bernoulli}(p)$, $\varphi_{X_1}(t)=1-p+pe^{it}$। iid-গুণফল: $$ \varphi_{S_n}(t)=[\varphi_{X_1}(t)]^n=(1-p+pe^{it})^n, $$ যা ঠিক $\text{Binomial}(n,p)$-এর cf। তাই $S_n=\sum_{i=1}^n X_i\sim\text{Binomial}(n,p)$ — পরিচিত তথ্য ($n$টা Bernoulli-র যোগ = Binomial), cf-গুণফলে এক লাইনে।

যাচাই-স্নিপেট (Poisson additivity)।

import numpy as np
t, l1, l2 = 1.0, 2.0, 3.0
lhs = np.exp(l1*(np.exp(1j*t)-1)) * np.exp(l2*(np.exp(1j*t)-1))
rhs = np.exp((l1+l2)*(np.exp(1j*t)-1))
print(np.allclose(lhs, rhs))   # True  -> Poisson(2)+Poisson(3) = Poisson(5)

গ · প্রমাণভিত্তিক (proof-based)¶

সমাধান ৭ (★★)¶

দাবি। $X\perp Y$ ⇒ $\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)$ প্রতিটি $t$-তে।

(ক) $e^{itX}\perp e^{itY}$. $g(x)=e^{itx}$ একটা Borel-measurable ফাংশন ($\cos,\sin$ continuous, তাই Borel), সুতরাং $\sigma(g(X))\subseteq\sigma(X)$ এবং $\sigma(g(Y))\subseteq\sigma(Y)$ (একটা measurable map তার generating σ-algebra ছোট করে, 7.3)। $X\perp Y$ মানে $\sigma(X)\perp\sigma(Y)$ (স্বাধীন σ-algebra, 7.6); স্বাধীন σ-algebra-র sub-σ-algebra-গুলোও স্বাধীন। তাই $e^{itX}=g(X)$ ও $e^{itY}=g(Y)$ স্বাধীন (complex-valued) random variable।

(খ) স্বাধীন bounded-গুণফলের প্রত্যাশা = প্রত্যাশার গুণফল। $U=e^{itX}$, $V=e^{itY}$ — দুটোই bounded ($\lvert U\rvert,\lvert V\rvert\le1$, তাই integrability স্বতঃসিদ্ধ)। বাস্তব ও কাল্পনিক অংশে ভাঙি: $U=U_1+iU_2$, $V=V_1+iV_2$ যেখানে $U_1=\cos tX$ ইত্যাদি — প্রতিটি bounded ও $X$-(বা $Y$-)measurable, তাই $U_j\perp V_k$ সব $(j,k)$-তে। গুণফল $$ UV=(U_1V_1-U_2V_2)+i(U_1V_2+U_2V_1), $$ চারটি বাস্তব পদ। প্রতিটি পদে বাস্তব-সংস্করণ $\mathbb E[U_jV_k]=\mathbb E[U_j]\mathbb E[V_k]$ প্রযোজ্য — যা product-measure-এর উপর Fubini (7.4) দিয়ে প্রমাণিত (independent ⇒ joint law = product, তাই $\int U_jV_k\,d(P_X\otimes P_Y)=\int U_j\,dP_X\int V_k\,dP_Y$)। আবার জুড়ে: $$ \mathbb E[UV]=(\mathbb E U_1\mathbb E V_1-\mathbb E U_2\mathbb E V_2)+i(\mathbb E U_1\mathbb E V_2+\mathbb E U_2\mathbb E V_1)=(\mathbb E U_1+i\mathbb E U_2)(\mathbb E V_1+i\mathbb E V_2)=\mathbb E[U]\,\mathbb E[V]. $$

(গ) উপসংহার ও induction। $e^{it(X+Y)}=e^{itX}e^{itY}=UV$, তাই $$ \varphi_{X+Y}(t)=\mathbb E[e^{it(X+Y)}]=\mathbb E[UV]=\mathbb E[U]\mathbb E[V]=\varphi_X(t)\varphi_Y(t). $$ আবেশে (induction) $n$ পদে: $X_1,\dots,X_n$ স্বাধীন ⇒ $\varphi_{X_1+\cdots+X_n}(t)=\prod_{k=1}^n\varphi_{X_k}(t)$; iid-ক্ষেত্রে সবগুলো $\varphi$ এক, তাই $\varphi_{S_n}(t)=[\varphi_{X_1}(t)]^n$। কেন এটাই CLT খোলে: স্বাধীন যোগ এখন একটা $\varphi$-এর $n$-তম ঘাত — আর একটা সংখ্যার ঘাতের সীমা ($(1+\frac an)^n\to e^a$-জাতীয়) বিশ্লেষণ করা সহজ, তাই যোগফলের জটিল convolution একটা পরিচ্ছন্ন exponential-সীমায় নেমে আসে। $\blacksquare$

সমাধান ৮ (★★)¶

দাবি। $Z\sim N(0,1)$ ⇒ $\varphi(t)=\mathbb E[e^{itZ}]=e^{-t^2/2}$।

(ক) integral-চিহ্নের ভেতরে differentiate. density $f(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}$, তাই $\varphi(t)=\int_{\mathbb R}e^{itx}f(x)\,dx$। $t$-এর সাপেক্ষে differentiate করতে চাই; বৈধতা DCT (7.4) থেকে — $\big\lvert\partial_t\,e^{itx}f(x)\big\rvert=\lvert ix\,e^{itx}f(x)\rvert=\lvert x\rvert f(x)$, যা $t$-নিরপেক্ষভাবে integrable ($\int\lvert x\rvert f(x)\,dx=\mathbb E\lvert Z\rvert=\sqrt{2/\pi}<\infty$, একটা dominating function)। তাই derivative integral-এর ভেতরে নেওয়া যায়: $$ \varphi'(t)=\int_{\mathbb R}ix\,e^{itx}f(x)\,dx=i\int_{\mathbb R}x\,e^{itx}f(x)\,dx. $$

(খ) Gaussian-অভেদ ও by parts → ODE. মূল Gaussian-অভেদ: $f'(x)=-x\,f(x)$, অর্থাৎ $x\,f(x)=-f'(x)$। বসিয়ে এবং অংশিক-সমাকলন (integration by parts, সীমা-পদ $0$ কারণ $f(\pm\infty)=0$): $$ \int_{\mathbb R}x\,e^{itx}f(x)\,dx=-\int_{\mathbb R}e^{itx}f'(x)\,dx=\underbrace{-\big[e^{itx}f(x)\big]{-\infty}^{\infty}}\big)f(x)\,dx=it\,\varphi(t). $$ তাই $$ \varphi'(t)=i\cdot\big(it\,\varphi(t)\big)\cdot\frac{1}{?}\ \Rightarrow\ \varphi'(t)=i\int x e^{itx}f\,dx=i\cdot\frac{1}{i}\big(-t\varphi(t)\big)\ \Rightarrow\ \boxed{\varphi'(t)=-t\,\varphi(t)}. $$ (পরিষ্কারভাবে: }+\int_{\mathbb R}\big(it\,e^{itx$\int x e^{itx}f\,dx=it\varphi(t)$, তাই $\varphi'(t)=i\cdot it\varphi(t)=i^2t\varphi(t)=-t\varphi(t)$।) একটা প্রথম-ক্রম রৈখিক ODE।

(গ) ODE সমাধান। আদি-শর্ত $\varphi(0)=\mathbb E[e^0]=1$। সমীকরণ $\frac{\varphi'(t)}{\varphi(t)}=-t$ integrate করে $\ln\varphi(t)=-\frac{t^2}{2}+C$; $\varphi(0)=1\Rightarrow C=0$, তাই $$ \varphi(t)=e^{-t^2/2}. $$ কেন এটাই CLT-এর লক্ষ্য। CLT-প্রমাণে আমরা দেখাই $\varphi_{Z_n}(t)\to e^{-t^2/2}$; এই $e^{-t^2/2}$ যে ঠিক $N(0,1)$-এর cf, তা এই প্রমাণ থেকেই জানি — তাই Lévy continuity দিয়ে "$\varphi_{Z_n}\to\varphi_{N(0,1)}$" থেকে "$Z_n\Rightarrow N(0,1)$" উপসংহার টানা যায়। $\blacksquare$

যাচাই-স্নিপেট (সাংখ্যিক)।

import numpy as np
from scipy import integrate
t = 1.0
f = lambda x: np.exp(1j*t*x) * np.exp(-x**2/2) / np.sqrt(2*np.pi)
val, _ = integrate.quad(lambda x: f(x).real, -40, 40)
print("phi_N(1) =", round(val, 4), " vs e^-0.5 =", round(np.exp(-0.5), 4))  # 0.6065

সমাধান ৯ (★★★)¶

দাবি। iid $X_i$, $\mathbb E[X]=\mu$, $\operatorname{Var}(X)=\sigma^2\in(0,\infty)$; $W=\frac{X-\mu}{\sigma}$ ($\mathbb E[W]=0$, $\mathbb E[W^2]=1$), $Z_n=\frac{1}{\sqrt n}\sum_{i=1}^n W_i$ ⇒ $\varphi_{Z_n}(t)\to e^{-t^2/2}$, তাই $Z_n\Rightarrow N(0,1)$।

(ক) $\varphi_{Z_n}$ ঘাতে লিখি। $W_i$ iid (কারণ $X_i$ iid ও affine রূপান্তর iid রাখে)। affine-নিয়ম $\varphi_{aW}(t)=\varphi_W(at)$ ($a=1/\sqrt n$ একটা ধ্রুব স্কেল) এবং স্বাধীনতা-গুণফল (সমাধান ৭) মিলে: $$ \varphi_{Z_n}(t)=\varphi_{\frac{1}{\sqrt n}\sum W_i}(t)=\prod_{i=1}^n\varphi_{W_i}!\Big(\frac{t}{\sqrt n}\Big)=\Big(\varphi_W\big(t/\sqrt n\big)\Big)^n. $$

(খ) Taylor + $\log$. $\mathbb E[W^2]=1<\infty$, তাই $\varphi_W\in C^2$ এবং Taylor (সমাধান ৫): ছোট $s$-এ $\varphi_W(s)=1+is\mathbb E[W]-\frac{s^2}{2}\mathbb E[W^2]+o(s^2)=1-\frac{s^2}{2}+o(s^2)$। $s=t/\sqrt n$ ($n\to\infty$ ⇒ $s\to0$) বসিয়ে: $$ \varphi_W!\Big(\frac{t}{\sqrt n}\Big)=1-\frac{t^2}{2n}+o!\Big(\frac1n\Big). $$ এখন $\log$ নিই (বড় $n$-এ argument $1$-এর কাছে, তাই principal branch বৈধ): $\log(1+u)=u+o(u)$ যেখানে $u=-\frac{t^2}{2n}+o(\frac1n)\to0$, তাই $$ n\log\varphi_{Z_n}(t)=n\log\varphi_W!\Big(\frac{t}{\sqrt n}\Big)=n\Big(-\frac{t^2}{2n}+o!\Big(\frac1n\Big)\Big)=-\frac{t^2}{2}+o(1)\ \xrightarrow[n\to\infty]{}\ -\frac{t^2}{2}. $$

(গ) উপসংহার ও Lévy। exp নিয়ে: $$ \varphi_{Z_n}(t)=\exp\big(n\log\varphi_{Z_n}(t)\big)\ \to\ e^{-t^2/2}=\varphi_{N(0,1)}(t)\qquad\text{প্রতিটি }t\text{-তে}. $$ সীমা-ফাংশন $e^{-t^2/2}$ $t=0$-তে অবিচ্ছিন্ন (এবং মান $1$), তাই Lévy's continuity theorem (২.৭) প্রযোজ্য: $$ \boxed{\ Z_n\Rightarrow N(0,1).\ } $$ কেন universality। এই সীমায় Taylor-এর কেবল দ্বিতীয়-ক্রম পর্যন্ত ($\mathbb E[W]=0$, $\mathbb E[W^2]=1$) বেঁচে থাকে; তৃতীয় moment (skewness), চতুর্থ moment, বণ্টনের বাকি সব বিশদ $o(\frac1n)$-পদে চাপা পড়ে $n\to\infty$-এ মুছে যায়। তাই সব গড়-শূন্য একক-ভেদ বণ্টন একই $N(0,1)$-এ মেলে — এটাই universality (সর্বজনীনতা)-র গাণিতিক উৎস: মূল বণ্টন যত আলাদাই হোক, মানক যোগফল একই ঘণ্টা-আকৃতিতে গুটিয়ে আসে। $\blacksquare$

ঘ · কোডিং (coding)¶

সব স্নিপেট seed np.random.default_rng(20260619)-এ চালানো; সংখ্যাগত উত্তর reproducible। import: import numpy as np, from scipy import stats।

সমাধান ১০ (★★)¶

লক্ষ্য। iid $\text{Exp}(1)$ (right-skewed, $\mu=1$, $\sigma=1$, skewness $2$)-এর মানক নমুনা-গড় $Z_n=\sqrt n(\bar X_n-1)$, $n=30$-এ চার পরিসংখ্যান মেপে $N(0,1)$-এ নৈকট্য (বিশেষত KS-দূরত্ব) দেখা।

import numpy as np
from scipy import stats
rng = np.random.default_rng(20260619)
n, reps = 30, 200_000
X  = rng.exponential(1.0, size=(reps, n))          # iid Exp(1), mu=1, sigma=1
Zn = np.sqrt(n) * (X.mean(axis=1) - 1.0)           # মানক নমুনা-গড়
print("mean(Z) =", round(Zn.mean(), 4),            "(তত্ত্ব 0)")
print("var(Z)  =", round(Zn.var(ddof=0), 4),       "(তত্ত্ব 1)")
print("skew(Z) =", round(stats.skew(Zn), 4),
      "(তত্ত্ব 2/sqrt(30) =", round(2/np.sqrt(30), 4), "-> 0)")
print("KS to N(0,1) =", round(stats.kstest(Zn, 'norm').statistic, 4))

ফল (canonical)।

পরিসংখ্যান	সিমুলেশন	তত্ত্ব
$\operatorname{mean}(Z_n)$	$0.0007$	$0$
$\operatorname{var}(Z_n)$	$1.0001$	$1$
$\operatorname{skew}(Z_n)$	$0.356$	$\tfrac{2}{\sqrt{30}}=0.3651\ (\to0)$
$\text{KS}(Z_n,N(0,1))$	$0.023$	$\to0$

(খ) মিল। mean $0.0007\approx0$, var $1.0001\approx1$ — প্রায় নিখুঁত। skew $0.356$ তত্ত্বের $0.3651$-এর কাছে; KS $0.023$ — খুব ছোট।

(গ) ব্যাখ্যা। মানক-করণ গড়কে $0$ ও ভেদকে $1$-এ তৎক্ষণাৎ বসায় (নির্মাণ-অনুসারে $n$-নিরপেক্ষ), তাই mean/var প্রায় নিখুঁত। কিন্তু skewness একটা তৃতীয়-ক্রম তথ্য — মানক-করণে শূন্য হয় না, $\text{skew}(Z_n)=\frac{\text{skew}(X)}{\sqrt n}=\frac{2}{\sqrt n}$ হারে নামে, তাই $n=30$-এও $\approx0.365$ থাকে (অপ্রতিসমতা শেষ-অবধি যায়, কেবল $n\to\infty$-এ মুছে যায়)। ছোট KS-দূরত্ব ($0.023$) মানে empirical CDF ও $N(0,1)$-CDF-এর সর্বোচ্চ ফারাক নগণ্য — "ঘণ্টা-আকৃতি প্রায় ধরা"। মূল চিত্র (7-10-clt-convergence): একটা প্রবলভাবে ডান-হেলানো $\text{Exp}(1)$, মাত্র $30$টা গড় নিলে, প্রায় নিখুঁত ঘণ্টায় রূপ নেয় — CLT সত্যিই কাজ করছে।

সমাধান ১১ (★★)¶

লক্ষ্য। empirical $\varphi_{Z_n}(1)$ গণনা করে তাত্ত্বিক সীমা $e^{-1/2}=0.6065$-এর সাথে তুলনা (Lévy-র "$\varphi$ মিললেই বণ্টন মেলে" চোখে দেখা)।

import numpy as np
rng = np.random.default_rng(20260619)
n, reps, t = 30, 200_000, 1.0
X  = rng.exponential(1.0, size=(reps, n))
Zn = np.sqrt(n) * (X.mean(axis=1) - 1.0)
emp = np.exp(1j*t*Zn).mean().real                       # empirical varphi_Z(1)
print("empirical varphi_Z(1) =", round(emp, 4))         # 0.6102
print("skeleton (1-1/(2n))^n =", round((1 - 1/(2*n))**n, 4))   # 0.6040
print("target e^-0.5 =", round(np.exp(-0.5), 4))        # 0.6065

ফল। empirical $\varphi_{Z_n}(1)=0.6102$; কঙ্কাল $(1-\frac{1}{2\cdot30})^{30}=0.6040$; লক্ষ্য $e^{-1/2}=0.6065$।

(ক)–(খ) তুলনা। empirical $0.6102$ তাত্ত্বিক সীমা $0.6065$-এর খুব কাছে — এবং কঙ্কাল $0.6040$ থেকে সামান্য উপরে। কারণ কঙ্কাল $(1-\frac{1}{2n})^n$ Taylor-এর কেবল দ্বিতীয়-ক্রম পদ ধরে ($o(\frac1n)$ ফেলে দিয়ে), কিন্তু প্রকৃত $\varphi_{Z_n}(1)$-তে Exp$(1)$-এর উচ্চতর moment থেকে $o(\frac1n)$-অবশিষ্ট থাকে (skewness $\frac{2}{\sqrt n}$ এখনো নগণ্য নয়, $n=30$); $n$ বাড়লে দুটোই $0.6065$-এ মেলে।

(গ) ব্যাখ্যা। $\varphi_{Z_n}(1)=0.6102\approx0.6065=\varphi_{N(0,1)}(1)$ মানে — $Z_n$-এর characteristic function $N(0,1)$-এর cf-এর খুব কাছে চলে এসেছে। Lévy's continuity theorem বলে cf-এর এই নৈকট্যই (প্রতি $t$-তে) বণ্টনের নৈকট্য নিশ্চিত করে — "$\varphi$ মিললেই বণ্টন মেলে"। চিত্র 7-10-cf-clt-proof empirically $\varphi_{Z_n}(t)$-কে $e^{-t^2/2}$-এর দিকে এগোতে দেখায়, এই $t=1$-বিন্দুটাই তার একটা সংখ্যাগত ছাপ।

সমাধান ১২ (★)¶

লক্ষ্য। CLT-এর "ইঞ্জিন" $(1-\frac{t^2}{2n}+o(\frac1n))^n\to e^{-t^2/2}$-এর $t=1$-রূপ কঙ্কাল $(1-\frac{1}{2n})^n\to e^{-1/2}$ যাচাই।

import numpy as np
rng = np.random.default_rng(20260619)   # consistency-র জন্য seed; এই গণনায় RNG লাগে না
print("target e^-0.5 =", round(np.exp(-0.5), 4))        # 0.6065
for n in [1, 5, 30, 200]:
    print(f"n={n:>3}: (1 - 1/(2n))^n =", round((1 - 1/(2*n))**n, 4))

ফল (canonical)।

$n$	$\big(1-\tfrac{1}{2n}\big)^n$
$1$	$0.5$
$5$	$0.5905$
$30$	$0.6040$
$200$	$0.6062$
$\to\infty$	$e^{-1/2}=0.6065$

(খ) মিল। ক্রমটা $0.5\to0.5905\to0.6040\to0.6062$ — মসৃণভাবে, একঘেয়ে বেড়ে $e^{-1/2}=0.6065$-এর দিকে। এটি চেনা $(1+\frac an)^n\to e^a$-সীমা, এখানে $a=-\frac{t^2}{2}=-\frac12$ ($t=1$)।

(গ) ব্যাখ্যা। এই এক-সীমাই CLT-প্রমাণের শেষ ধাপ: স্বাধীনতা-গুণফল $Z_n$-এর cf-কে একটা $\varphi$-ঘাত $\big(\varphi_W(t/\sqrt n)\big)^n$ করে, আর Taylor $\varphi_W(t/\sqrt n)=1-\frac{t^2}{2n}+o(\frac1n)$ বসালে সেই ঘাত ঠিক $(1+\frac an)^n$-আকৃতি নেয়, যার সীমা একটা চেনা exponential $e^{-t^2/2}=\varphi_{N(0,1)}(t)$। $o(\frac1n)$-পদ ঘাতে গিয়ে $o(1)\to0$ বলে অগ্রাহ্য। তাই "স্বাধীন যোগ একটা $\varphi$-ঘাত, আর ঘাতের সীমা একটা চেনা exponential" — এই দুই তথ্য মিলেই Lévy-র মাধ্যমে CLT সম্পূর

পরিসংখ্যান	সিমুলেশন	তত্ত্ব
\(\operatorname{mean}(Z_n)\)	\(0.0007\)	\(0\)
\(\operatorname{var}(Z_n)\)	\(1.0001\)	\(1\)
\(\operatorname{skew}(Z_n)\)	\(0.356\)	\(\tfrac{2}{\sqrt{30}}=0.3651\ (\to0)\)
\(\text{KS}(Z_n,N(0,1))\)	\(0.023\)	\(\to0\)

\(n\)	\(\big(1-\tfrac{1}{2n}\big)^n\)
\(1\)	\(0.5\)
\(5\)	\(0.5905\)
\(30\)	\(0.6040\)
\(200\)	\(0.6062\)
\(\to\infty\)	\(e^{-1/2}=0.6065\)