সমাধান — অধ্যায় ৩.৫ · Random Processes; Poisson & Gaussian Processes¶

অধ্যায় ফাইল: part-3-convergence-processes/03-05-random-processes.md (§৭ অনুশীলনী)। সংখ্যাগত উত্তর numpy/scipy.stats দিয়ে যাচাইযোগ্য (seed উল্লেখ থাকলে reproducible)। মূল সংজ্ঞা: process $\{X_t\}$, mean $m(t)=\mathbb{E}[X_t]$, autocovariance $C(s,t)=\operatorname{Cov}(X_s,X_t)$। random walk $S_n=\sum_{i=1}^{n}X_i$; Poisson process rate $\lambda$ ($N(t)\sim\text{Poisson}(\lambda t)$, interarrival $\text{Exp}(\lambda)$); Brownian motion $m=0,\ C(s,t)=\min(s,t)$।

ক · ধারণাগত (conceptual)¶

সমাধান ১ (★)¶

মূল পার্থক্য. একটা random variable $X$ একটা outcome $\omega$-কে একটা সংখ্যায় পাঠায় ($\omega\mapsto X(\omega)\in\mathbb{R}$)। একটা stochastic process $\{X_t\}$ প্রতিটি সময় $t$-এর জন্য একটা random variable — তাই একটা outcome $\omega$ স্থির করলে আমরা পাই একটা গোটা ফাংশন $t\mapsto X_t(\omega)$, যাকে বলে sample path (বা realization)। সংক্ষেপে: random variable = একটা সংখ্যা; process = একটা র‍্যান্ডম ফাংশন।

Figure 1 (random walk)-এ কোথায় কী: - একটা স্থির ধাপ-সংখ্যা $n$ ধরুন — ছবির একটা উল্লম্ব রেখা (column)। ওই column বরাবর বিভিন্ন path যেসব মান নেয়, সেটাই random variable $S_n$-এর distribution। অর্থাৎ একটা random variable = এক column-এর মানগুলোর ছড়ানো। - এবার একটা পুরো বাঁকা রেখা (যেমন রঙিন path 1) দেখুন — এটা একটা স্থির outcome $\omega$-র জন্য $n\mapsto S_n(\omega)$, অর্থাৎ একটা sample path।

তাই process হলো অসংখ্য random variable ($S_0,S_1,S_2,\dots$) একসাথে বাঁধা, আর তাদের "একসাথে দেখা" রূপই sample path। এই দুই দৃষ্টিভঙ্গি (column-wise = প্রতিটি সময়ের distribution; row-wise = প্রতিটি পথের ইতিহাস) পুরো অধ্যায়ের চাবিকাঠি।

সমাধান ২ (★)¶

দুটি বর্ণনা একই Poisson process-কে দুদিক থেকে দেখে।

বর্ণনা (ক) — গণনা: "$N(t)\sim\text{Poisson}(\lambda t)$ ও independent increments।" Figure 2-তে এটা মেলে সিঁড়ির উচ্চতা-র সাথে: যেকোনো $t$-এ $N(t)$ = এ পর্যন্ত কতগুলো লাফ হয়েছে। independent increments মানে অ-overlapping সময়-জানালায় লাফ-সংখ্যা পরস্পর স্বাধীন — ছবিতে দূরবর্তী দুই অংশের আচরণ একে অন্যকে প্রভাবিত করে না।

বর্ণনা (খ) — অপেক্ষা: "interarrival time $\tau_k$ iid $\text{Exp}(\lambda)$।" এটা মেলে দুই লাফের মধ্যকার অনুভূমিক ফাঁক-এর সাথে — লাল দ্বিমুখী তীর $\tau_1,\tau_2,\tau_3$ ঠিক এই gap চিহ্নিত করে।

লম্বা সমতল অংশ = Exponential-এর লম্বা লেজ: Exponential$(\lambda)$-এর density $\lambda e^{-\lambda t}$-এর একটা লক্ষণীয় ডান লেজ আছে — বেশিরভাগ gap ছোট, কিন্তু মাঝে মাঝে একটা বড় gap আসে। ছবিতে $t\approx6$ থেকে $8.4$-এর লম্বা সমতল অংশটাই এমন একটা বিরল-কিন্তু-বড় interarrival time। অর্থাৎ "সিঁড়ির লম্বা ধাপ" = "একটা বড় Exponential অপেক্ষা" — বর্ণনা (খ)-এর সরাসরি প্রমাণ। (memoryless ধর্মের কারণেই gap-গুলো iid Exponential; এটিই (ক)↔(খ) সমতা ধরে রাখে।)

সমাধান ৩ (★★)¶

দাবিটি কেন সত্য — Gaussian process = সম্পূর্ণরূপে $(m, C)$: Gaussian process-এর সংজ্ঞাই হলো — যেকোনো সসীম সময়-সংগ্রহ $(X_{t_1},\dots,X_{t_k})$ একটা multivariate Normal। আর multivariate Normal একটা বিশেষ distribution যা সম্পূর্ণভাবে তার mean vector ও covariance matrix দিয়ে নির্ধারিত — অন্য কোনো প্যারামিটার লাগে না (সব higher moment এ দুটো থেকেই বেরোয়)। তাই প্রতিটি সসীম-মাত্রিক joint distribution ঠিক হয় শুধু $m(t_i)=\mathbb{E}[X_{t_i}]$ আর $C(t_i,t_j)=\operatorname{Cov}(X_{t_i},X_{t_j})$ দিয়ে; এই সব finite-dimensional distribution একত্রে পুরো process নির্ধারণ করে (Kolmogorov extension)। সুতরাং $m(\cdot)$ আর $C(\cdot,\cdot)$ জানলেই পুরো Gaussian process জানা।

কেন সাধারণ process-এ নয়: non-Gaussian process-এ একই $m,C$ থেকেও আলাদা higher moment (skewness, kurtosis, tail-নির্ভরতা) থাকতে পারে। যেমন একই mean ও covariance-যুক্ত দুটি process — একটা Gaussian, অন্যটা ভারী-লেজযুক্ত — সম্পূর্ণ আলাদা path-আচরণ দেখাতে পারে। তাই $(m,C)$ সেখানে অসম্পূর্ণ বর্ণনা।

Figure 3-এ covariance → path: ডান প্যানেলের heatmap হলো covariance matrix $K_{ij}=\min(t_i,t_j)$। বাঁ প্যানেলের path-গুলো ঠিক এই matrix থেকেই তৈরি: Cholesky $K=LL^\top$ বের করে $X=Lz$ ($z$ iid standard Normal) নিলে $\operatorname{Cov}(X)=L\,\mathbb{I}\,L^\top=K$ — অর্থাৎ চাহিদামতো covariance। তাই heatmap-এর গঠন (কর্ণে বড়, দূরে ছোট) সরাসরি path-এর আচরণ ঠিক করে: কাছাকাছি সময় বেশি সম্পর্কিত (মসৃণতার দিকে টানে), দূরের সময় কম।

সমাধান ৪ (★★)¶

strict stationarity: যেকোনো শিফট $h$ ও যেকোনো সময়-সংগ্রহে $$(X_{t_1+h},\dots,X_{t_k+h})\ \overset{d}{=}\ (X_{t_1},\dots,X_{t_k}),$$ অর্থাৎ পুরো joint distribution সময়-শিফটে অপরিবর্তিত।

weak (wide-sense) stationarity: কেবল প্রথম দুই moment শিফট-নিরপেক্ষ — $m(t)=\mu$ (ধ্রুবক) এবং $C(s,t)=\gamma(t-s)$ (কেবল lag-নির্ভর), আর $\operatorname{Var}(X_t)<\infty$।

কে কাকে imply করে: - strict + সসীম variance $\Rightarrow$ weak (যেহেতু পুরো distribution অপরিবর্তিত হলে mean ও covariance-ও অপরিবর্তিত)। - weak $\not\Rightarrow$ strict সাধারণভাবে — কারণ weak শুধু প্রথম দুই moment বাঁধে, higher moment সময়ের সাথে বদলাতে পারে।

Gaussian-এ সমতুল্য কেন: Gaussian process-এর প্রতিটি finite-dimensional distribution শুধু $m$ ও $C$ দিয়েই সম্পূর্ণ নির্ধারিত (সমাধান ৩)। তাই যদি $m$ ধ্রুবক ও $C$ কেবল lag-নির্ভর হয় (weak), তবে যেকোনো শিফটে পুরো joint distribution-ও অপরিবর্তিত (strict)। অর্থাৎ Gaussian-এ "দুই moment বাঁধা" = "পুরো distribution বাঁধা"।

Figure 4-এর স্বজ্ঞা: বাঁ (AR(1)) ক্রমে যেকোনো জানালা একই রকম দেখায় — mean ও spread বদলায় না → stationary। ডান (random walk) ক্রমে spread সময়ের সাথে বাড়ে ($\operatorname{Var}(S_t)=t$), তাই $C(t,t)$ ধ্রুবক নয় → weak stationarity-র শর্তই ভাঙে, অতএব non-stationary।

খ · গণনামূলক (computational)¶

সমাধান ৫ (★)¶

ধাপ $X_i=\pm1$ সমসম্ভাব্য: $\mathbb{E}[X_i]=0$, $\operatorname{Var}(X_i)=\mathbb{E}[X_i^2]=1$, এবং $i\ne j$-তে স্বাধীন।

(ক) linearity-তে $$\mathbb{E}[S_n]=\sum_{i=1}^{n}\mathbb{E}[X_i]=0,\qquad \operatorname{Var}(S_n)=\sum_{i=1}^{n}\operatorname{Var}(X_i)=n$$ (স্বাধীনতায় cross-covariance শূন্য)। তাই typical magnitude $\sqrt{\operatorname{Var}(S_n)}=\sqrt{n}$ — Figure 1-এর envelope।

(খ) $s\le t$ ধরুন। $S_t=S_s+\underbrace{(X_{s+1}+\dots+X_t)}_{S_s\text{-এর সাথে স্বাধীন}}$, তাই $$C(s,t)=\operatorname{Cov}(S_s,S_t)=\operatorname{Cov}(S_s,S_s)+\operatorname{Cov}(S_s,\text{পরের অংশ})=\operatorname{Var}(S_s)+0=s.$$ সাধারণভাবে $C(s,t)=\min(s,t)$ (এখানে $\sigma^2=1$ ধরে; নইলে $\min(s,t)\cdot\sigma^2$)।

(গ) $C(t,t)=\operatorname{Var}(S_t)=t$ — সময়ের সাথে বাড়ে, ধ্রুবক নয়। weak stationarity-র জন্য $C(t,t)$ ধ্রুবক হওয়া দরকার; তা না হওয়ায় random walk stationary নয়।

সমাধান ৬ (★)¶

rate $\lambda=2$ per hour।

(ক) $N(3)\sim\text{Poisson}(\lambda\cdot3)=\text{Poisson}(6)$। তাই $\mathbb{E}[N(3)]=6$, $\operatorname{Var}(N(3))=6$ (Poisson-এ mean = variance)।

(খ) প্রথম event-এর অপেক্ষা $\tau_1\sim\text{Exp}(\lambda)$, তাই গড় $\mathbb{E}[\tau_1]=1/\lambda=1/2=0.5$ hour ($=30$ মিনিট)।

(গ) $P(N(1)=0)=e^{-\lambda\cdot1}\frac{(\lambda)^0}{0!}=e^{-2}\approx0.135$। interarrival-যাচাই: $[0,1]$-এ কোনো event না হওয়া ⇔ প্রথম arrival $1$-এর পরে ⇔ $\tau_1>1$। $P(\tau_1>1)=e^{-\lambda\cdot1}=e^{-2}$ — একই উত্তর, যা (ক)↔(খ) বর্ণনার সমতা নিশ্চিত করে।

সমাধান ৭ (★★)¶

Brownian motion: $m(t)=0$, $C(s,t)=\min(s,t)$।

(ক) $\operatorname{Var}(W_t)=C(t,t)=t$। increment-এর জন্য ($s<t$): $$\operatorname{Var}(W_t-W_s)=\operatorname{Var}(W_t)+\operatorname{Var}(W_s)-2\operatorname{Cov}(W_s,W_t)=t+s-2\min(s,t)=t+s-2s=t-s.$$

(খ) $s<t$ ধরে $$\operatorname{Corr}(W_s,W_t)=\frac{\operatorname{Cov}(W_s,W_t)}{\sqrt{\operatorname{Var}(W_s)\operatorname{Var}(W_t)}}=\frac{\min(s,t)}{\sqrt{st}}=\frac{s}{\sqrt{st}}=\sqrt{\tfrac{s}{t}}.$$ (সময় যত দূরে, correlation তত কম — যেমন $s=0.3,t=0.7$-তে $\sqrt{3/7}\approx0.655$।)

(গ) $(W_1,W_2)$ Gaussian, mean vector $\mathbf{0}$, covariance matrix $$\Sigma=\begin{pmatrix}\min(1,1)&\min(1,2)\\\min(2,1)&\min(2,2)\end{pmatrix}=\begin{pmatrix}1&1\\1&2\end{pmatrix},\qquad (W_1,W_2)\sim\mathcal N\!\big(\mathbf{0},\ \Sigma\big).$$

সমাধান ৮ (★★)¶

AR(1): $X_t=\phi X_{t-1}+\varepsilon_t$, $\varepsilon_t$ iid $\mathcal N(0,\sigma^2)$, $\lvert\phi\rvert<1$, stationary।

(ক) stationarity-তে $\operatorname{Var}(X_t)=\operatorname{Var}(X_{t-1})=\gamma(0)$। $\varepsilon_t$ স্বাধীন বলে $$\gamma(0)=\operatorname{Var}(\phi X_{t-1}+\varepsilon_t)=\phi^2\gamma(0)+\sigma^2\ \Rightarrow\ \gamma(0)=\frac{\sigma^2}{1-\phi^2}.$$

(খ) $\gamma(h)=\operatorname{Cov}(X_t,X_{t+h})$। recursion $X_{t+h}=\phi X_{t+h-1}+\varepsilon_{t+h}$ থেকে ($h\ge1$) $\gamma(h)=\phi\,\gamma(h-1)$, তাই $$\gamma(h)=\phi^{\lvert h\rvert}\gamma(0)=\frac{\sigma^2}{1-\phi^2}\,\phi^{\lvert h\rvert},\qquad \rho(h)=\frac{\gamma(h)}{\gamma(0)}=\phi^{\lvert h\rvert}.$$

(গ) $\phi=0.7,\sigma^2=1$: $$\gamma(0)=\frac{1}{1-0.49}=\frac{1}{0.51}\approx1.961,\quad \gamma(1)=0.7\times1.961\approx1.373,\quad \rho(2)=0.7^2=0.49.$$ (এই $\gamma(0)\approx1.96$ ও দ্রুত-ক্ষীণ $\gamma(h)$-ই Figure 4-এর stem plot।)

গ · প্রমাণভিত্তিক (proof-based)¶

সমাধান ৯ (★★)¶

ধাপ $X_i$ iid, $\mathbb{E}[X_i]=0$, $\operatorname{Var}(X_i)=\sigma^2$, তাই $\operatorname{Cov}(X_i,X_j)=\sigma^2\,\mathbf{1}\{i=j\}$।

WLOG $s\le t$। bilinearity-তে $$ C(s,t)=\operatorname{Cov}(S_s,S_t)=\operatorname{Cov}!\Big(\sum_{i=1}^{s}X_i,\ \sum_{j=1}^{t}X_j\Big)=\sum_{i=1}^{s}\sum_{j=1}^{t}\operatorname{Cov}(X_i,X_j). $$ ভেতরের যোগফলে কেবল $i=j$ পদ অশূন্য ($=\sigma^2$); যেহেতু $i$ চলে $1$ থেকে $s$ পর্যন্ত আর $j$ চলে $1$ থেকে $t\ (\ge s)$ পর্যন্ত, ঠিক $s$টি match ($i=j=1,\dots,s$) পাওয়া যায়: $$C(s,t)=s\,\sigma^2=\min(s,t)\,\sigma^2.$$

বিশেষভাবে $C(t,t)=t\,\sigma^2=\operatorname{Var}(S_t)$, যা $t$-এর সাথে রৈখিকভাবে বাড়ে। weak stationarity-র জন্য $C(t,t)$ ধ্রুবক হওয়া আবশ্যক; তা না হওয়ায় random walk stationary নয়। $\blacksquare$

সমাধান ১০ (★★)¶

ধরা যাক $N_1,N_2$ স্বাধীন Poisson process, rate যথাক্রমে $\lambda_1,\lambda_2$, আর $N=N_1+N_2$।

Poisson process হওয়ার শর্ত যাচাই করি:

১. $N(0)=0$: $N_1(0)=N_2(0)=0$, তাই $N(0)=0$। ✓

২. independent increments: যেকোনো অ-overlapping জানালা-সেটে $N_1$-এর increment-গুলো পরস্পর স্বাধীন, $N_2$-এর-ও; আর $N_1\perp N_2$। তাই তাদের যোগফল $N=N_1+N_2$-এর increment-গুলোও অ-overlapping জানালায় পরস্পর স্বাধীন (স্বাধীন রাশির স্বাধীন ফাংশন)। ✓

৩. increment-এর distribution: যেকোনো $s<t$-এ $$N(t)-N(s)=\big(N_1(t)-N_1(s)\big)+\big(N_2(t)-N_2(s)\big),$$ দুটো পদ স্বাধীন, $\text{Poisson}(\lambda_1(t-s))$ ও $\text{Poisson}(\lambda_2(t-s))$। স্বাধীন Poisson-এর যোগফল Poisson, parameter যোগ: $$N(t)-N(s)\sim\text{Poisson}\big((\lambda_1+\lambda_2)(t-s)\big).$$ ✓

তিন শর্ত মেলায় $N$ একটা Poisson process, rate $\lambda_1+\lambda_2$। $\blacksquare$ (স্বজ্ঞা: দুটি স্বাধীন event-স্রোত একসাথে দেখলে আবার Poisson, আর rate কেবল যোগ হয় — superposition property।)

সমাধান ১১ (★★★)¶

increment stationary: Brownian motion-এর সংজ্ঞা থেকেই $W_t-W_s\sim\mathcal N(0,\,t-s)$ ($s<t$)। এর distribution শুধু $t-s$-এর উপর নির্ভর করে, $s,t$-এর আলাদা মানে নয়। তাই যেকোনো শিফট $a$-তে $W_{t+a}-W_{s+a}\sim\mathcal N(0,(t+a)-(s+a))=\mathcal N(0,t-s)$ — একই distribution। অতএব increment-গুলো stationary।

কিন্তু process নিজে stationary নয়: $\operatorname{Var}(W_t)=t$ সময়ের সাথে বাড়ে (সমাধান ৭), তাই $C(t,t)$ ধ্রুবক নয়।

increment-process $Y_k=W_k-W_{k-1}$ white noise: - mean: $\mathbb{E}[Y_k]=0$ (প্রতিটি increment-এর mean $0$)। - distribution: $Y_k\sim\mathcal N(0,\,k-(k-1))=\mathcal N(0,1)$ — সব $k$-তে একই, তাই identically distributed। - স্বাধীনতা: ব্যবধান $[k-1,k]$-গুলো অ-overlapping; Brownian motion-এর independent increments ধর্মে $Y_1,Y_2,\dots$ পরস্পর স্বাধীন।

iid $\mathcal N(0,1)$ ক্রমের autocovariance $\gamma(0)=1$, $\gamma(h)=0$ ($h\ne0$), mean ধ্রুবক — তাই $\{Y_k\}$ একটা white-noise, যা (strict ও weak উভয় অর্থে) stationary। $\blacksquare$ (শিক্ষা: non-stationary Brownian motion-এর "পার্থক্য নেওয়া" একটা stationary ক্রম দেয় — time-series-এ differencing-এর মূল ধারণা, 3.6/Part 5-এ ফিরবে।)

ঘ · কোডিং (coding)¶

সমাধান ১২ (★)¶

import numpy as np, matplotlib.pyplot as plt
rng = np.random.default_rng(0)
M, N = 500, 200
steps = rng.choice([-1, 1], size=(M, N))
walks = np.hstack([np.zeros((M, 1)), np.cumsum(steps, axis=1)])   # start at 0
n = np.arange(N + 1)

fig, (a1, a2) = plt.subplots(1, 2, figsize=(12, 4.5))
for i in range(80):                       # plot a subset for clarity
    a1.plot(n, walks[i], color="#1b6ca8", alpha=0.12, lw=0.8)
a1.plot(n,  np.sqrt(n), "--", color="#c0392b", lw=2, label=r"$\pm\sqrt{n}$")
a1.plot(n, -np.sqrt(n), "--", color="#c0392b", lw=2)
a1.set_xlabel("n"); a1.set_ylabel(r"$S_n$"); a1.legend()

emp_var = walks.var(axis=0)               # empirical Var(S_n) across 500 paths
a2.plot(n, emp_var, color="#1b6ca8", lw=2, label="empirical Var")
a2.plot(n, n, "--", color="#c0392b", lw=2, label=r"theory: $n$")
a2.set_xlabel("n"); a2.set_ylabel(r"Var($S_n$)"); a2.legend()
plt.tight_layout(); plt.show()

প্রত্যাশিত ফল: ডান প্যানেলে empirical variance-রেখা তাত্ত্বিক $y=n$-এর গায়ে বসে (ছোট sampling-গোলযোগসহ), নিশ্চিত করে $\operatorname{Var}(S_n)=n$। বাঁ প্যানেলে cloud-টা $\pm\sqrt{n}$ envelope ভরে — Figure 1-এর পুনরুৎপাদন।

সমাধান ১৩ (★★)¶

import numpy as np, matplotlib.pyplot as plt
rng = np.random.default_rng(1)
lam, T = 1.5, 20.0

def simulate_N_T(rng, lam, T):
    gaps, arr = [], 0.0
    while True:
        arr += rng.exponential(1/lam)
        if arr > T: break
        gaps.append(arr)               # store arrival times
    return len(gaps)                    # N(T)

# (a) mean of N(20) over many runs ~ lam*T = 30
vals = [simulate_N_T(rng, lam, T) for _ in range(5000)]
print("mean N(20) =", np.mean(vals), " (theory lam*T =", lam*T, ")")
# -> approx 30.0

# (b) interarrival gaps vs Exponential(lam) density
gaps = rng.exponential(1/lam, size=20000)
x = np.linspace(0, 6, 200)
plt.hist(gaps, bins=60, density=True, alpha=0.5, color="#2e8b57", label="simulated gaps")
plt.plot(x, lam*np.exp(-lam*x), color="#c0392b", lw=2, label=r"$\lambda e^{-\lambda x}$")
plt.xlabel("interarrival gap"); plt.ylabel("density"); plt.legend(); plt.show()

প্রত্যাশিত ফল: (ক) mean N(20) $\approx30$ — Poisson process-এ $\mathbb{E}[N(T)]=\lambda T$। (খ) histogram তাত্ত্বিক $\lambda e^{-\lambda x}$ curve-এর সাথে মেলে, নিশ্চিত করে interarrival time iid $\text{Exp}(\lambda)$।

সমাধান ১৪ (★★★)¶

import numpy as np, matplotlib.pyplot as plt
rng = np.random.default_rng(2)
t = np.linspace(0, 1, 200)
K = np.minimum.outer(t, t) + 1e-10*np.eye(len(t))   # C(s,t)=min(s,t)
L = np.linalg.cholesky(K)

# 10 paths for plotting
paths10 = L @ rng.standard_normal((len(t), 10))
for j in range(10):
    plt.plot(t, paths10[:, j], lw=1.2)
plt.plot(t,  np.sqrt(t), "--", color="#c0392b", lw=2, label=r"$\pm\sqrt{t}$")
plt.plot(t, -np.sqrt(t), "--", color="#c0392b", lw=2)
plt.xlabel("t"); plt.ylabel(r"$W_t$"); plt.legend(); plt.show()

# empirical Cov(W_0.3, W_0.7) over many paths
big = L @ rng.standard_normal((len(t), 20000))
i_s = np.argmin(np.abs(t - 0.3)); i_t = np.argmin(np.abs(t - 0.7))
cov_emp = np.cov(big[i_s], big[i_t])[0, 1]
print("empirical Cov(W_0.3, W_0.7) =", round(cov_emp, 3),
      " (theory min(0.3,0.7) = 0.3)")
# -> approx 0.30

প্রত্যাশিত ফল: path-গুলো সন্তত-কিন্তু-কাঁটা, $0$ থেকে শুরু হয়ে $\pm\sqrt{t}$ envelope-এ ছড়ায় (Figure 3 পুনরুৎপাদন)। empirical $\widehat{\operatorname{Cov}}(W_{0.3},W_{0.7})\approx0.30=\min(0.3,0.7)$ — নিশ্চিত করে covariance থেকে গড়া path-ই সঠিক covariance ধারণ করে।