সমাধান — অধ্যায় ৭.১০ · Characteristic Functions ও Rigorous CLT

অধ্যায় ফাইল: part-7-measure-theoretic/07-10-characteristic-functions-clt.md (§৭ অনুশীলনী)। সংখ্যাগত উত্তর numpy/scipy.stats দিয়ে verifiable; সব সিমুলেশন seed np.random.default_rng(20260619)-এ reproducible।

মূল সংজ্ঞা ও canonical তথ্য। characteristic function \(\varphi_X(t)=\mathbb E[e^{itX}]=\int_{\mathbb R}e^{itx}\,dP_X(x)\) (\(i=\sqrt{-1}\)); \(\lvert\varphi\rvert\le1\), \(\varphi(0)=1\), \(\overline{\varphi(t)}=\varphi(-t)\), uniformly continuous, positive-definite (Bochner)। affine: \(\varphi_{aX+b}(t)=e^{itb}\varphi_X(at)\)। independence product rule: \(X\perp Y\Rightarrow\varphi_{X+Y}=\varphi_X\varphi_Y\)। moments: \(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\) (বিশেষত \(\varphi''(0)=-\mathbb E[X^2]\)); Taylor \(\varphi(t)=1+it\mathbb E[X]-\tfrac{t^2}{2}\mathbb E[X^2]+o(t^2)\)। uniqueness: \(\varphi_X=\varphi_Y\iff X\overset{d}{=}Y\)। Lévy continuity: \(X_n\Rightarrow X\iff\varphi_n(t)\to\varphi(t)\ \forall t\)। rigorous CLT: iid, \(\sigma^2\in(0,\infty)\) ⇒ \(Z_n=\tfrac{\sqrt n(\bar X_n-\mu)}{\sigma}\Rightarrow N(0,1)\)। canonical মান। \(\varphi_{N(0,1)}(1)=e^{-1/2}=0.6065\); \(\varphi_{\text{Exp}(1)}(1)=0.5+0.5i\) (\(\lvert\cdot\rvert=0.7071\)); \(\varphi_{\text{Bern}(0.3)}(1)=0.8621+0.2524i\) (\(\lvert\cdot\rvert\approx0.8983\)); CLT Exp(1) \(n=30\) — mean \(0.0007\)/var \(1.0001\)/skew \(0.356\)/KS \(0.023\); empirical \(\varphi_Z(1)=0.6102\); \((1-\tfrac1{2n})^n\) for \(n=1,5,30,200\to0.5,0.5905,0.6040,0.6062\to e^{-1/2}=0.6065\); seed default_rng(20260619)।

---

ক · ধারণাগত (conceptual)

সমাধান ১ (★)

(ক) কেন \(\varphi\) সর্বদা বিদ্যমান। characteristic function \(\varphi_X(t)=\mathbb E[e^{itX}]\)-এর integrand হলো \(e^{itX}=\cos tX+i\sin tX\), যার পরম-মান \(\lvert e^{itX}\rvert=\sqrt{\cos^2 tX+\sin^2 tX}=1\) — সর্বত্র, প্রতিটি \(\omega\)-তে। তাই integrand একটা ধ্রুবক \(1\)-এ আবদ্ধ; যেহেতু \(\mathbb P\) একটা সসীম (probability) measure, ধ্রুবক ফাংশন integrable, আর তাই expectation-টা প্রতিটি random variable ও প্রতিটি \(t\in\mathbb R\)-এর জন্য সংজ্ঞায়িত — কোনো moment-শর্ত, tail-শর্ত বা অন্য কোনো integrability-অনুমান লাগে না (7.4)। আনুষঙ্গিক ফল সরাসরি: \(\lvert\varphi_X(t)\rvert\le\mathbb E\lvert e^{itX}\rvert=\mathbb E[1]=1\)।

(খ) কেন MGF অনেক distribution-এ অস্তিত্বহীন। moment generating function \(M_X(t)=\mathbb E[e^{tX}]\)-এ integrand \(e^{tX}\) — এখানে exponent বাস্তব, তাই \(X\) বড় হলে \(e^{tX}\) অসীমে বাড়ে, ঘোরে না। heavy-tail distribution-এ এই বৃদ্ধি tail-এর ক্ষয়কে ছাপিয়ে যায়। concrete: \(X\sim\text{Cauchy}\), density \(\frac{1}{\pi(1+x^2)}\); তখন প্রতিটি \(t\ne0\)-তে

\[ M_X(t)=\int_{-\infty}^\infty e^{tx}\frac{1}{\pi(1+x^2)}\,dx=\infty, \]

কারণ \(x\to+\infty\) (বা \(t<0\) হলে \(x\to-\infty\))-এ \(e^{tx}\) exponentially বাড়ে অথচ \(\frac{1}{1+x^2}\) কেবল polynomially (\(\sim x^{-2}\)) কমে — গুণফল integrable নয়। একই ভাঙন log-normal ও \(t\)-distribution-এ: tail যথেষ্ট মোটা যে \(e^{tX}\)-এর expectation ফেটে যায়। তাই MGF থাকলেও তা কেবল \(t=0\)-র একটা প্রতিবেশে, অনেক distribution-এ কেবল \(t=0\)-তেই (যা তথ্যহীন)।

(গ) সম্পর্ক ও কেন পার্থক্য। যেখানে \(M_X\) একটা strip-এ existed, সেখানে \(\varphi_X(t)=M_X(it)\) — অর্থাৎ \(t\mapsto it\) (বাস্তব argument-কে imaginary axis-এ ঘোরানো)। এই একটিমাত্র পরিবর্তনই অস্তিত্বের পার্থক্যটা আনে: \(e^{tX}\) (real exponent) বাড়ে, কিন্তু \(e^{itX}\) (imaginary exponent) শুধু ঘোরে (\(\lvert e^{itX}\rvert=1\), unit circle-এ থাকে) — তাই কখনো ফাটে না।

---

সমাধান ২ (★★)

(ক) সেতু — দুই জগৎ ও কোন দিক। Lévy's continuity theorem জোড়ে দুটো খুব ভিন্ন প্রকৃতির জগৎ:

• distribution-এর convergence (\(X_n\Rightarrow X\)): সংজ্ঞায় "\(F_n(x)\to F(x)\) প্রতিটি continuity point-এ" — একটা জ্যামিতিক, কঠিন শর্ত, সরাসরি verify করা দুঃসাধ্য (সব \(x\)-এ CDF মেলানো)।
• ফাংশনের pointwise convergence (\(\varphi_n(t)\to\varphi(t)\)): প্রতিটি স্থির \(t\)-তে একটা সাধারণ সংখ্যা-সীমা — সহজ, বিশ্লেষণিক, প্রায়ই Taylor/বীজগণিতে সরাসরি কষা যায়।

সেতুর সমীকরণ: \(X_n\Rightarrow X\iff\varphi_n(t)\to\varphi(t)\ \forall t\)। CLT-প্রমাণে আসলে ডান-থেকে-বাম দিকটা ব্যবহৃত: আমরা analytically দেখাই \(\varphi_{Z_n}(t)\to e^{-t^2/2}\) (সহজ pointwise সীমা), আর Lévy থেকে উপসংহার টানি \(Z_n\Rightarrow N(0,1)\) (কঠিন distribution-সীমা)। সেতু না থাকলে এই অনুবাদ অসম্ভব হতো।

(খ) \(0\)-তে continuity ⇒ tightness। সীমা-ফাংশন \(\varphi\) যদি \(t=0\)-তে continuous হয় (এবং \(\varphi(0)=1\)), তবে তা tightness নিশ্চিত করে — অর্থাৎ অনুক্রম \((P_{X_n})\)-এর ভর "অসীমে পালায় না" (প্রতিটি \(\epsilon\)-এ একটা compact \([-M,M]\) আছে যাতে \(\mathbb P(\lvert X_n\rvert>M)<\epsilon\) সব \(n\)-এ)। Prokhorov-এর theorem (২.৭) দিয়ে tight অনুক্রমের একটা weakly-convergent subsequence থাকে, যার cf-ই \(\varphi\) — তাই \(\varphi\) একটা বৈধ probability measure-এর cf, এবং পুরো অনুক্রম তাতে convergent। শর্তটা বাদ দিলে: \(\varphi_n\) pointwise কোনো \(\varphi\)-তে যেতে পারে যা \(0\)-তে continuous নয়, আর তখন ভর পালিয়ে গিয়ে সীমা একটা probability measure না-ও হতে পারে (উদাহরণ: \(X_n\sim N(0,n)\)-এর cf \(e^{-nt^2/2}\to\mathbf 1_{\{t=0\}}\), যা \(0\)-তে continuous নয় — আর সত্যিই ভর অসীমে ছড়িয়ে যায়, কোনো weak limit নেই)।

(গ) কেন uniqueness অপরিহার্য। Lévy-র "\(\iff\)"-এর ডান-থেকে-বাম দিকটা ("\(\varphi_n\to\varphi\) ⇒ \(X_n\Rightarrow\) কিছু-একটা") অর্থপূর্ণ কেবল যদি \(\varphi\) একটা অনন্য distribution চিহ্নিত করে — না-হলে "\(\varphi_n\to\varphi\)" থেকে "কোন distribution-এ convergent?" বলা যেত না; uniqueness theorem (২.৫) ঠিক এই \(\varphi\mapsto\) law mapping-টা one-to-one করে।

---

সমাধান ৩ (★★)

(ক) নিখুঁত আঙুলের-ছাপ ও invertibility। uniqueness theorem (\(\varphi_X=\varphi_Y\ \forall t\iff X\overset{d}{=}Y\)) cf-কে একটা নিখুঁত আঙুলের-ছাপ করে: যেমন আঙুলের-ছাপ একজন মানুষকে অনন্যভাবে চেনায়, \(\varphi_X\) তেমনি \(X\)-এর পুরো distribution ধরে রাখে, কোনো তথ্য হারায় না। এর পেছনের বিশ্লেষণিক তথ্য — \(\varphi\) হলো distribution \(P_X\)-এর Fourier transform, আর Fourier transform একটা বিপরীত-যোগ্য (invertible) রূপান্তর: \(P_X\mapsto\varphi_X\) এবং \(\varphi_X\mapsto P_X\) — দুদিকেই একটা one-to-one চিঠি। তাই একই \(\varphi\) মানে একই \(P_X\) (একই আঙুলের-ছাপ একজনকেই চেনায়)।

(খ) inversion formula constructive করে। uniqueness কেবল বলে "অনন্য" (existence-স্তরের তথ্য); inversion formula তাকে গঠনমূলক করে — density integrable হলে

\[ f_X(x)=\frac{1}{2\pi}\int_{-\infty}^\infty e^{-itx}\varphi_X(t)\,dt, \]

অর্থাৎ \(\varphi\) থেকে সরাসরি density ফিরিয়ে দেওয়া হয় — শুধু "দুটো \(\varphi\) এক হলে দুটো distribution এক" নয়, বরং "এই \(\varphi\) থেকে ঠিক এই density"।

(গ) ব্যবহারিক ফল — এক লাইনে distribution-পরিচয়। independent যোগফলের distribution খুঁজতে density-convolution (\(f_{X+Y}=f_X*f_Y\), একটা জটিল integral) এড়িয়ে শুধু cf গুণ করা যায়: \(\varphi_{X+Y}=\varphi_X\varphi_Y\), তারপর গুণফলটা যে চেনা \(\varphi\), সেই distribution uniqueness দিয়ে তাৎক্ষণিক চিনে নেওয়া যায়। যেমন \(N\): \(e^{-\sigma_1^2t^2/2}\cdot e^{-\sigma_2^2t^2/2}=e^{-(\sigma_1^2+\sigma_2^2)t^2/2}\) ⇒ যোগফল \(N(0,\sigma_1^2+\sigma_2^2)\); Poisson: \(e^{\lambda_1(e^{it}-1)}e^{\lambda_2(e^{it}-1)}=e^{(\lambda_1+\lambda_2)(e^{it}-1)}\) ⇒ যোগফল \(\text{Poisson}(\lambda_1+\lambda_2)\) — কোনো convolution না কষেই।

---

খ · গণনামূলক (computational)

সমাধান ৪ (★)

(ক) Bernoulli\((0.3)\). \(X\in\{0,1\}\), \(\mathbb P(X=1)=0.3\), \(\mathbb P(X=0)=0.7\)। সংজ্ঞা থেকে সরাসরি যোগফল:

\[ \varphi_X(t)=\mathbb E[e^{itX}]=0.7\cdot e^{i\cdot0}+0.3\cdot e^{i\cdot1\cdot t}=0.7+0.3e^{it}=(0.7+0.3\cos t)+i\,(0.3\sin t). \]

\(t=1\)-এ: \(\cos1=0.5403\), \(\sin1=0.8415\), তাই

\[ \varphi_X(1)=0.7+0.3(0.5403)+i\,0.3(0.8415)=0.8621+0.2524i,\qquad\lvert\varphi_X(1)\rvert=\sqrt{0.8621^2+0.2524^2}=0.8983. \]

verify: \(\varphi_X(0)=0.7+0.3=1\) ✓, \(\lvert\varphi_X(1)\rvert=0.8983\le1\) ✓।

(খ) Exp\((1)\). density \(f(x)=e^{-x}\) (\(x\ge0\))। integral:

\[ \varphi_X(t)=\int_0^\infty e^{itx}e^{-x}\,dx=\int_0^\infty e^{-(1-it)x}\,dx=\left[\frac{-1}{1-it}e^{-(1-it)x}\right]_0^\infty=\frac{1}{1-it}, \]

(উপরের সীমায় \(0\), কারণ \(\lvert e^{-(1-it)x}\rvert=e^{-x}\to0\))। সাধারণভাবে \(\varphi_{\text{Exp}(\lambda)}(t)=\frac{\lambda}{\lambda-it}\)। \(t=1\)-এ:

\[ \varphi_X(1)=\frac{1}{1-i}=\frac{1+i}{(1-i)(1+i)}=\frac{1+i}{2}=0.5+0.5i,\qquad\lvert\varphi_X(1)\rvert=\sqrt{0.5^2+0.5^2}=\frac{1}{\sqrt2}=0.7071. \]

verify: \(\varphi_X(0)=\frac{1}{1}=1\) ✓, \(\lvert\varphi_X(1)\rvert=0.7071\le1\) ✓।

(গ) \(N(0,1)\). বদ্ধ-রূপ \(\varphi_X(t)=e^{-t^2/2}\) (← সমাধান ৮)। \(N(0,1)\) symmetric, তাই \(\varphi\) বাস্তব-মানের। \(t=1\)-এ:

\[ \varphi_X(1)=e^{-1/2}=0.6065\quad(\text{real}),\qquad\lvert\varphi_X(1)\rvert=0.6065\le1. \]

verify: \(\varphi_X(0)=e^0=1\) ✓।

verification-স্নিপেট।

import numpy as np
t = 1.0
phi_bern = 0.7 + 0.3*np.exp(1j*t)           # Bernoulli(0.3)
phi_exp  = 1/(1 - 1j*t)                      # Exp(1)
phi_norm = np.exp(-t**2/2)                   # N(0,1)
for name, z in [("Bern", phi_bern), ("Exp", phi_exp), ("Norm", phi_norm)]:
    print(f"{name}: phi(1) = {z:.4f}, |phi(1)| = {abs(z):.4f}")
# Bern: 0.8621+0.2524j, |.|=0.8983 ; Exp: 0.5000+0.5000j, |.|=0.7071 ; Norm: 0.6065, |.|=0.6065

---

সমাধান ৫ (★)

(ক) \(\varphi''(0)\) ও \(\mathbb E[X^2]\). \(X\sim N(0,1)\), \(\varphi(t)=e^{-t^2/2}\)। ধাপে ধাপে differentiate:

\[ \varphi'(t)=-t\,e^{-t^2/2},\qquad \varphi''(t)=\frac{d}{dt}\big(-t\,e^{-t^2/2}\big)=-e^{-t^2/2}+(-t)(-t)e^{-t^2/2}=(t^2-1)e^{-t^2/2}. \]

\(t=0\)-তে: \(\varphi''(0)=(0-1)\cdot e^0=-1\)। moment-সূত্র \(\varphi^{(k)}(0)=i^k\mathbb E[X^k]\)-তে \(k=2\): \(\varphi''(0)=i^2\mathbb E[X^2]=-\mathbb E[X^2]\)। তাই \(-\mathbb E[X^2]=-1\Rightarrow\mathbb E[X^2]=1\)। যেহেতু \(\mathbb E[X]=0\) (নিচে), \(\operatorname{Var}(X)=\mathbb E[X^2]-(\mathbb E[X])^2=1-0=1\) ✓ (\(N(0,1)\)-এর variance ঠিক \(1\))।

(খ) \(\varphi'(0)\) ও \(\mathbb E[X]\). \(\varphi'(0)=-0\cdot e^0=0\)। সূত্রে \(k=1\): \(\varphi'(0)=i^1\mathbb E[X]=i\,\mathbb E[X]\), তাই \(i\,\mathbb E[X]=0\Rightarrow\mathbb E[X]=0\) ✓।

(গ) ঋণাত্মক চিহ্ন ও CLT। চিহ্নটা আসে \(i^2=-1\) থেকে: \(\varphi''(0)=i^2\mathbb E[X^2]=-\mathbb E[X^2]\)। এর সরাসরি ফল Taylor-প্রসারে: \(\varphi(t)=\varphi(0)+\varphi'(0)t+\frac{\varphi''(0)}{2}t^2+o(t^2)=1+it\mathbb E[X]-\frac{t^2}{2}\mathbb E[X^2]+o(t^2)\)। গড়-শূন্য একক-ভেদ (\(\mathbb E[X]=0\), \(\mathbb E[X^2]=1\)) বসালে \(\varphi(t)=1-\frac{t^2}{2}+o(t^2)\) — এটাই CLT-প্রমাণের একমাত্র analytic input (ঐ \(-\frac{t^2}{2}\)-ই শেষে \(e^{-t^2/2}\) দেয়)।

verification-স্নিপেট (সাংখ্যিক ডেরিভেটিভ)।

import numpy as np
phi = lambda t: np.exp(-t**2/2)
h = 1e-4
d1 = (phi(h) - phi(-h)) / (2*h)                 # phi'(0) ≈ 0
d2 = (phi(h) - 2*phi(0) + phi(-h)) / h**2       # phi''(0) ≈ -1
print("phi'(0) =", round(d1, 6), "-> E[X] =", round((d1/1j).real, 4))
print("phi''(0) =", round(d2, 4), "-> E[X^2] = -phi''(0) =", round(-d2, 4))   # 1.0

---

সমাধান ৬ (★★)

(ক) Poisson + Poisson. \(\varphi_{\text{Poisson}(\lambda)}(t)=e^{\lambda(e^{it}-1)}\)। independence product rule:

\[ \varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)=e^{\lambda_1(e^{it}-1)}\cdot e^{\lambda_2(e^{it}-1)}=e^{(\lambda_1+\lambda_2)(e^{it}-1)}. \]

এটি ঠিক \(\text{Poisson}(\lambda_1+\lambda_2)\)-এর cf। তাই uniqueness দিয়ে \(X+Y\sim\text{Poisson}(\lambda_1+\lambda_2)\) — Poisson-এর যোগ-ধর্ম (additivity)।

(খ) Normal + Normal. \(\varphi_{N(\mu,\sigma^2)}(t)=e^{i\mu t-\sigma^2t^2/2}\)। গুণফল:

\[ \varphi_{X+Y}(t)=e^{i\mu_1 t-\sigma_1^2t^2/2}\cdot e^{i\mu_2 t-\sigma_2^2t^2/2}=e^{i(\mu_1+\mu_2)t-(\sigma_1^2+\sigma_2^2)t^2/2}, \]

যা ঠিক \(N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)\)-এর cf। তাই \(X+Y\sim N(\mu_1+\mu_2,\sigma_1^2+\sigma_2^2)\) — independent normal-এর যোগ আবার normal, কোনো convolution-integral না কষেই (uniqueness)।

(গ) iid Bernoulli → Binomial. iid \(X_i\sim\text{Bernoulli}(p)\), \(\varphi_{X_1}(t)=1-p+pe^{it}\)। iid-গুণফল:

\[ \varphi_{S_n}(t)=[\varphi_{X_1}(t)]^n=(1-p+pe^{it})^n, \]

যা ঠিক \(\text{Binomial}(n,p)\)-এর cf। তাই \(S_n=\sum_{i=1}^n X_i\sim\text{Binomial}(n,p)\) — পরিচিত তথ্য (\(n\)টা Bernoulli-র যোগ = Binomial), cf-গুণফলে এক লাইনে।

verification-স্নিপেট (Poisson additivity)।

import numpy as np
t, l1, l2 = 1.0, 2.0, 3.0
lhs = np.exp(l1*(np.exp(1j*t)-1)) * np.exp(l2*(np.exp(1j*t)-1))
rhs = np.exp((l1+l2)*(np.exp(1j*t)-1))
print(np.allclose(lhs, rhs))   # True  -> Poisson(2)+Poisson(3) = Poisson(5)

---

গ · প্রমাণভিত্তিক (proof-based)

সমাধান ৭ (★★)

দাবি। \(X\perp Y\) ⇒ \(\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)\) প্রতিটি \(t\)-তে।

(ক) \(e^{itX}\perp e^{itY}\). \(g(x)=e^{itx}\) একটা Borel-measurable ফাংশন (\(\cos,\sin\) continuous, তাই Borel), সুতরাং \(\sigma(g(X))\subseteq\sigma(X)\) এবং \(\sigma(g(Y))\subseteq\sigma(Y)\) (একটা measurable map তার generating σ-algebra ছোট করে, 7.3)। \(X\perp Y\) মানে \(\sigma(X)\perp\sigma(Y)\) (independent σ-algebra, 7.6); independent σ-algebra-র sub-σ-algebra-গুলোও independent। তাই \(e^{itX}=g(X)\) ও \(e^{itY}=g(Y)\) independent (complex-valued) random variable।

(খ) independent bounded-গুণফলের expectation = expectation-এর গুণফল। \(U=e^{itX}\), \(V=e^{itY}\) — দুটোই bounded (\(\lvert U\rvert,\lvert V\rvert\le1\), তাই integrability স্বতঃসিদ্ধ)। বাস্তব ও কাল্পনিক অংশে ভাঙি: \(U=U_1+iU_2\), \(V=V_1+iV_2\) যেখানে \(U_1=\cos tX\) ইত্যাদি — প্রতিটি bounded ও \(X\)-(বা \(Y\)-)measurable, তাই \(U_j\perp V_k\) সব \((j,k)\)-তে। গুণফল

\[ UV=(U_1V_1-U_2V_2)+i(U_1V_2+U_2V_1), \]

চারটি বাস্তব পদ। প্রতিটি পদে বাস্তব-সংস্করণ \(\mathbb E[U_jV_k]=\mathbb E[U_j]\mathbb E[V_k]\) প্রযোজ্য — যা product-measure-এর উপর Fubini (7.4) দিয়ে প্রমাণিত (independent ⇒ joint law = product, তাই \(\int U_jV_k\,d(P_X\otimes P_Y)=\int U_j\,dP_X\int V_k\,dP_Y\))। আবার জুড়ে:

\[ \mathbb E[UV]=(\mathbb E U_1\mathbb E V_1-\mathbb E U_2\mathbb E V_2)+i(\mathbb E U_1\mathbb E V_2+\mathbb E U_2\mathbb E V_1)=(\mathbb E U_1+i\mathbb E U_2)(\mathbb E V_1+i\mathbb E V_2)=\mathbb E[U]\,\mathbb E[V]. \]

(গ) উপসংহার ও induction। \(e^{it(X+Y)}=e^{itX}e^{itY}=UV\), তাই

\[ \varphi_{X+Y}(t)=\mathbb E[e^{it(X+Y)}]=\mathbb E[UV]=\mathbb E[U]\mathbb E[V]=\varphi_X(t)\varphi_Y(t). \]

আবেশে (induction) \(n\) পদে: \(X_1,\dots,X_n\) independent ⇒ \(\varphi_{X_1+\cdots+X_n}(t)=\prod_{k=1}^n\varphi_{X_k}(t)\); iid-ক্ষেত্রে সবগুলো \(\varphi\) এক, তাই \(\varphi_{S_n}(t)=[\varphi_{X_1}(t)]^n\)। কেন এটাই CLT খোলে: independent যোগ এখন একটা \(\varphi\)-এর \(n\)-তম ঘাত — আর একটা সংখ্যার ঘাতের সীমা (\((1+\frac an)^n\to e^a\)-জাতীয়) বিশ্লেষণ করা সহজ, তাই যোগফলের জটিল convolution একটা পরিচ্ছন্ন exponential-সীমায় নেমে আসে। \(\blacksquare\)

---

সমাধান ৮ (★★)

দাবি। \(Z\sim N(0,1)\) ⇒ \(\varphi(t)=\mathbb E[e^{itZ}]=e^{-t^2/2}\)।

(ক) integral-চিহ্নের ভেতরে differentiate. density \(f(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}\), তাই \(\varphi(t)=\int_{\mathbb R}e^{itx}f(x)\,dx\)। \(t\)-এর সাপেক্ষে differentiate করতে চাই; বৈধতা DCT (7.4) থেকে — \(\big\lvert\partial_t\,e^{itx}f(x)\big\rvert=\lvert ix\,e^{itx}f(x)\rvert=\lvert x\rvert f(x)\), যা \(t\)-নিরপেক্ষভাবে integrable (\(\int\lvert x\rvert f(x)\,dx=\mathbb E\lvert Z\rvert=\sqrt{2/\pi}<\infty\), একটা dominating function)। তাই derivative integral-এর ভেতরে নেওয়া যায়:

\[ \varphi'(t)=\int_{\mathbb R}ix\,e^{itx}f(x)\,dx=i\int_{\mathbb R}x\,e^{itx}f(x)\,dx. \]

(খ) Gaussian-অভেদ ও by parts → ODE. মূল Gaussian-অভেদ: \(f'(x)=-x\,f(x)\), অর্থাৎ \(x\,f(x)=-f'(x)\)। বসিয়ে এবং অংশিক-integration (integration by parts, সীমা-পদ \(0\) কারণ \(f(\pm\infty)=0\)):

\[ \int_{\mathbb R}x\,e^{itx}f(x)\,dx=-\int_{\mathbb R}e^{itx}f'(x)\,dx=\underbrace{-\big[e^{itx}f(x)\big]_{-\infty}^{\infty}}_{=0}+\int_{\mathbb R}\big(it\,e^{itx}\big)f(x)\,dx=it\,\varphi(t). \]

তাই

\[ \varphi'(t)=i\cdot\big(it\,\varphi(t)\big)\cdot\frac{1}{?}\ \Rightarrow\ \varphi'(t)=i\int x e^{itx}f\,dx=i\cdot\frac{1}{i}\big(-t\varphi(t)\big)\ \Rightarrow\ \boxed{\varphi'(t)=-t\,\varphi(t)}. \]

(পরিষ্কারভাবে: \(\int x e^{itx}f\,dx=it\varphi(t)\), তাই \(\varphi'(t)=i\cdot it\varphi(t)=i^2t\varphi(t)=-t\varphi(t)\)।) একটা প্রথম-ক্রম linear ODE।

(গ) ODE সমাধান। আদি-শর্ত \(\varphi(0)=\mathbb E[e^0]=1\)। সমীকরণ \(\frac{\varphi'(t)}{\varphi(t)}=-t\) integrate করে \(\ln\varphi(t)=-\frac{t^2}{2}+C\); \(\varphi(0)=1\Rightarrow C=0\), তাই

\[ \varphi(t)=e^{-t^2/2}. \]

কেন এটাই CLT-এর লক্ষ্য। CLT-প্রমাণে আমরা দেখাই \(\varphi_{Z_n}(t)\to e^{-t^2/2}\); এই \(e^{-t^2/2}\) যে ঠিক \(N(0,1)\)-এর cf, তা এই প্রমাণ থেকেই জানি — তাই Lévy continuity দিয়ে "\(\varphi_{Z_n}\to\varphi_{N(0,1)}\)" থেকে "\(Z_n\Rightarrow N(0,1)\)" উপসংহার টানা যায়। \(\blacksquare\)

verification-স্নিপেট (সাংখ্যিক)।

import numpy as np
from scipy import integrate
t = 1.0
f = lambda x: np.exp(1j*t*x) * np.exp(-x**2/2) / np.sqrt(2*np.pi)
val, _ = integrate.quad(lambda x: f(x).real, -40, 40)
print("phi_N(1) =", round(val, 4), " vs e^-0.5 =", round(np.exp(-0.5), 4))  # 0.6065

---

সমাধান ৯ (★★★)

দাবি। iid \(X_i\), \(\mathbb E[X]=\mu\), \(\operatorname{Var}(X)=\sigma^2\in(0,\infty)\); \(W=\frac{X-\mu}{\sigma}\) (\(\mathbb E[W]=0\), \(\mathbb E[W^2]=1\)), \(Z_n=\frac{1}{\sqrt n}\sum_{i=1}^n W_i\) ⇒ \(\varphi_{Z_n}(t)\to e^{-t^2/2}\), তাই \(Z_n\Rightarrow N(0,1)\)।

(ক) \(\varphi_{Z_n}\) ঘাতে লিখি। \(W_i\) iid (কারণ \(X_i\) iid ও affine রূপান্তর iid রাখে)। affine-নিয়ম \(\varphi_{aW}(t)=\varphi_W(at)\) (\(a=1/\sqrt n\) একটা ধ্রুব স্কেল) এবং independence product rule (সমাধান ৭) মিলে:

\[ \varphi_{Z_n}(t)=\varphi_{\frac{1}{\sqrt n}\sum W_i}(t)=\prod_{i=1}^n\varphi_{W_i}\!\Big(\frac{t}{\sqrt n}\Big)=\Big(\varphi_W\big(t/\sqrt n\big)\Big)^n. \]

(খ) Taylor + \(\log\). \(\mathbb E[W^2]=1<\infty\), তাই \(\varphi_W\in C^2\) এবং Taylor (সমাধান ৫): ছোট \(s\)-এ \(\varphi_W(s)=1+is\mathbb E[W]-\frac{s^2}{2}\mathbb E[W^2]+o(s^2)=1-\frac{s^2}{2}+o(s^2)\)। \(s=t/\sqrt n\) (\(n\to\infty\) ⇒ \(s\to0\)) বসিয়ে:

\[ \varphi_W\!\Big(\frac{t}{\sqrt n}\Big)=1-\frac{t^2}{2n}+o\!\Big(\frac1n\Big). \]

এখন \(\log\) নিই (বড় \(n\)-এ argument \(1\)-এর কাছে, তাই principal branch বৈধ): \(\log(1+u)=u+o(u)\) যেখানে \(u=-\frac{t^2}{2n}+o(\frac1n)\to0\), তাই

\[ n\log\varphi_{Z_n}(t)=n\log\varphi_W\!\Big(\frac{t}{\sqrt n}\Big)=n\Big(-\frac{t^2}{2n}+o\!\Big(\frac1n\Big)\Big)=-\frac{t^2}{2}+o(1)\ \xrightarrow[n\to\infty]{}\ -\frac{t^2}{2}. \]

(গ) উপসংহার ও Lévy। exp নিয়ে:

\[ \varphi_{Z_n}(t)=\exp\big(n\log\varphi_{Z_n}(t)\big)\ \to\ e^{-t^2/2}=\varphi_{N(0,1)}(t)\qquad\text{for each }t. \]

সীমা-ফাংশন \(e^{-t^2/2}\) \(t=0\)-তে continuous (এবং মান \(1\)), তাই Lévy's continuity theorem (২.৭) প্রযোজ্য:

\[ \boxed{\ Z_n\Rightarrow N(0,1).\ } \]

কেন universality। এই সীমায় Taylor-এর কেবল দ্বিতীয়-ক্রম পর্যন্ত (\(\mathbb E[W]=0\), \(\mathbb E[W^2]=1\)) বেঁচে থাকে; তৃতীয় moment (skewness), চতুর্থ moment, distribution-এর বাকি সব বিশদ \(o(\frac1n)\)-পদে চাপা পড়ে \(n\to\infty\)-এ মুছে যায়। তাই সব গড়-শূন্য একক-ভেদ distribution একই \(N(0,1)\)-এ মেলে — এটাই universality (সর্বজনীনতা)-র গাণিতিক উৎস: মূল distribution যত আলাদাই হোক, মানক যোগফল একই ঘণ্টা-আকৃতিতে গুটিয়ে আসে। \(\blacksquare\)

---

ঘ · কোডিং (coding)

সব স্নিপেট seed np.random.default_rng(20260619)-এ চালানো; সংখ্যাগত উত্তর reproducible। import: import numpy as np, from scipy import stats।

সমাধান ১০ (★★)

লক্ষ্য। iid \(\text{Exp}(1)\) (right-skewed, \(\mu=1\), \(\sigma=1\), skewness \(2\))-এর মানক নমুনা-গড় \(Z_n=\sqrt n(\bar X_n-1)\), \(n=30\)-এ চার পরিসংখ্যান মেপে \(N(0,1)\)-এ নৈকট্য (বিশেষত KS-দূরত্ব) দেখা।

import numpy as np
from scipy import stats
rng = np.random.default_rng(20260619)
n, reps = 30, 200_000
X  = rng.exponential(1.0, size=(reps, n))          # iid Exp(1), mu=1, sigma=1
Zn = np.sqrt(n) * (X.mean(axis=1) - 1.0)           # মানক নমুনা-গড়
print("mean(Z) =", round(Zn.mean(), 4),            "(তত্ত্ব 0)")
print("var(Z)  =", round(Zn.var(ddof=0), 4),       "(তত্ত্ব 1)")
print("skew(Z) =", round(stats.skew(Zn), 4),
      "(তত্ত্ব 2/sqrt(30) =", round(2/np.sqrt(30), 4), "-> 0)")
print("KS to N(0,1) =", round(stats.kstest(Zn, 'norm').statistic, 4))

ফল (canonical)।

পরিসংখ্যান	সিমুলেশন	তত্ত্ব
\(\operatorname{mean}(Z_n)\)	\(0.0007\)	\(0\)
\(\operatorname{var}(Z_n)\)	\(1.0001\)	\(1\)
\(\operatorname{skew}(Z_n)\)	\(0.356\)	\(\tfrac{2}{\sqrt{30}}=0.3651\ (\to0)\)
\(\text{KS}(Z_n,N(0,1))\)	\(0.023\)	\(\to0\)

(খ) মিল। mean \(0.0007\approx0\), var \(1.0001\approx1\) — প্রায় নিখুঁত। skew \(0.356\) তত্ত্বের \(0.3651\)-এর কাছে; KS \(0.023\) — খুব ছোট।

(গ) ব্যাখ্যা। মানক-করণ গড়কে \(0\) ও ভেদকে \(1\)-এ তৎক্ষণাৎ বসায় (নির্মাণ-অনুসারে \(n\)-নিরপেক্ষ), তাই mean/var প্রায় নিখুঁত। কিন্তু skewness একটা তৃতীয়-ক্রম তথ্য — মানক-করণে শূন্য হয় না, \(\text{skew}(Z_n)=\frac{\text{skew}(X)}{\sqrt n}=\frac{2}{\sqrt n}\) হারে নামে, তাই \(n=30\)-এও \(\approx0.365\) থাকে (asymmetry শেষ-অবধি যায়, কেবল \(n\to\infty\)-এ মুছে যায়)। ছোট KS-দূরত্ব (\(0.023\)) মানে empirical CDF ও \(N(0,1)\)-CDF-এর সর্বোচ্চ ফারাক নগণ্য — "ঘণ্টা-আকৃতি প্রায় ধরা"। মূল চিত্র (7-10-clt-convergence): একটা প্রবলভাবে ডান-হেলানো \(\text{Exp}(1)\), মাত্র \(30\)টা গড় নিলে, প্রায় নিখুঁত ঘণ্টায় রূপ নেয় — CLT সত্যিই কাজ করছে।

---

সমাধান ১১ (★★)

লক্ষ্য। empirical \(\varphi_{Z_n}(1)\) গণনা করে তাত্ত্বিক সীমা \(e^{-1/2}=0.6065\)-এর সাথে তুলনা (Lévy-র "\(\varphi\) মিললেই distribution মেলে" চোখে দেখা)।

import numpy as np
rng = np.random.default_rng(20260619)
n, reps, t = 30, 200_000, 1.0
X  = rng.exponential(1.0, size=(reps, n))
Zn = np.sqrt(n) * (X.mean(axis=1) - 1.0)
emp = np.exp(1j*t*Zn).mean().real                       # empirical varphi_Z(1)
print("empirical varphi_Z(1) =", round(emp, 4))         # 0.6102
print("skeleton (1-1/(2n))^n =", round((1 - 1/(2*n))**n, 4))   # 0.6040
print("target e^-0.5 =", round(np.exp(-0.5), 4))        # 0.6065

ফল। empirical \(\varphi_{Z_n}(1)=0.6102\); কঙ্কাল \((1-\frac{1}{2\cdot30})^{30}=0.6040\); লক্ষ্য \(e^{-1/2}=0.6065\)।

(ক)–(খ) তুলনা। empirical \(0.6102\) তাত্ত্বিক সীমা \(0.6065\)-এর খুব কাছে — এবং কঙ্কাল \(0.6040\) থেকে সামান্য উপরে। কারণ কঙ্কাল \((1-\frac{1}{2n})^n\) Taylor-এর কেবল দ্বিতীয়-ক্রম পদ ধরে (\(o(\frac1n)\) ফেলে দিয়ে), কিন্তু প্রকৃত \(\varphi_{Z_n}(1)\)-তে Exp\((1)\)-এর উচ্চতর moment থেকে \(o(\frac1n)\)-অবশিষ্ট থাকে (skewness \(\frac{2}{\sqrt n}\) এখনো নগণ্য নয়, \(n=30\)); \(n\) বাড়লে দুটোই \(0.6065\)-এ মেলে।

(গ) ব্যাখ্যা। \(\varphi_{Z_n}(1)=0.6102\approx0.6065=\varphi_{N(0,1)}(1)\) মানে — \(Z_n\)-এর characteristic function \(N(0,1)\)-এর cf-এর খুব কাছে চলে এসেছে। Lévy's continuity theorem বলে cf-এর এই নৈকট্যই (প্রতি \(t\)-তে) distribution-এর নৈকট্য নিশ্চিত করে — "\(\varphi\) মিললেই distribution মেলে"। চিত্র 7-10-cf-clt-proof empirically \(\varphi_{Z_n}(t)\)-কে \(e^{-t^2/2}\)-এর দিকে এগোতে দেখায়, এই \(t=1\)-বিন্দুটাই তার একটা সংখ্যাগত ছাপ।

---

সমাধান ১২ (★)

লক্ষ্য। CLT-এর "ইঞ্জিন" \((1-\frac{t^2}{2n}+o(\frac1n))^n\to e^{-t^2/2}\)-এর \(t=1\)-রূপ কঙ্কাল \((1-\frac{1}{2n})^n\to e^{-1/2}\) verify।

import numpy as np
rng = np.random.default_rng(20260619)   # consistency-র জন্য seed; এই গণনায় RNG লাগে না
print("target e^-0.5 =", round(np.exp(-0.5), 4))        # 0.6065
for n in [1, 5, 30, 200]:
    print(f"n={n:>3}: (1 - 1/(2n))^n =", round((1 - 1/(2*n))**n, 4))

ফল (canonical)।

\(n\)	\(\big(1-\tfrac{1}{2n}\big)^n\)
\(1\)	\(0.5\)
\(5\)	\(0.5905\)
\(30\)	\(0.6040\)
\(200\)	\(0.6062\)
\(\to\infty\)	\(e^{-1/2}=0.6065\)

(খ) মিল। ক্রমটা \(0.5\to0.5905\to0.6040\to0.6062\) — মসৃণভাবে, monotone বেড়ে \(e^{-1/2}=0.6065\)-এর দিকে। এটি চেনা \((1+\frac an)^n\to e^a\)-সীমা, এখানে \(a=-\frac{t^2}{2}=-\frac12\) (\(t=1\))।

(গ) ব্যাখ্যা। এই এক-সীমাই CLT-প্রমাণের শেষ ধাপ: independence product rule \(Z_n\)-এর cf-কে একটা \(\varphi\)-ঘাত \(\big(\varphi_W(t/\sqrt n)\big)^n\) করে, আর Taylor \(\varphi_W(t/\sqrt n)=1-\frac{t^2}{2n}+o(\frac1n)\) বসালে সেই ঘাত ঠিক \((1+\frac an)^n\)-আকৃতি নেয়, যার সীমা একটা চেনা exponential \(e^{-t^2/2}=\varphi_{N(0,1)}(t)\)। \(o(\frac1n)\)-পদ ঘাতে গিয়ে \(o(1)\to0\) বলে অগ্রাহ্য। তাই "independent যোগ একটা \(\varphi\)-ঘাত, আর ঘাতের সীমা একটা চেনা exponential" — এই দুই তথ্য মিলেই Lévy-র মাধ্যমে CLT সম্পূর