رگرسیون پواسون

الگو:تحلیل رگرسیون در آمار، رگرسیون پواسون نوعی از تحلیل رگرسیون و زیرمجموعه‌ای از مدل‌های خطی تعمیم‌یافته است که برای تحلیل داده‌های حاصل از شمارش به کار می‌رود. اگر $𝐱 \in ℝ^{n}$ برداری از متغیر وابسته و مستقل باشد، فرم زیر را می‌گیرد:^[۱] الگو:وسط‌چین

\log (E (Y | 𝐱)) = 𝐚^{'} 𝐱 + b,

الگو:پایان وسط‌چین که در آن $𝐚 \in ℝ^{n}$ و $b \in ℝ$ . می‌توان فرم بالا را به این صورت نیز نوشت: الگو:وسط‌چین

\log (E (Y | 𝐱)) = θ^{'} 𝐱,

الگو:پایان وسط‌چین که در آن x بردار ( $𝐧 + 𝟏$ )-بعدی از متغیرهاست. با داشتن پارامتر رگرسیون پواسون $θ$ و بردار ورودی $𝐱$ ، می‌توان پیش‌بینی را به اینصورت بدست آورد: الگو:وسط‌چین

E (Y | 𝐱) = e^{(θ^{'} 𝐱)} .

الگو:پایان وسط‌چین

تخمین پارامترها بر اساس بیشینه درست نمایی

بردار متغیر وابسته $x$ است و $θ$ پارامتر مدل رگرسیون پوسان است، $Y$ متغیر مستقل است که آنرا با یک توزیع پوسان شبیه‌سازی می‌کنیم که میانگین آن در معادله پایین آمده‌است:^[۲] الگو:وسط‌چین $λ : = E (Y ∣ x) = e^{θ^{'} x},$ الگو:پایان وسط‌چین از این رو تابع احتمال این توزیع برابر است با: الگو:وسط‌چین $p (y ∣ x; θ) = \frac{λ^{y}}{y!} e^{- λ} = \frac{e^{y θ^{'} x} e^{- e^{θ^{'} x}}}{y!}$ الگو:پایان وسط‌چین حال اگر فرض کنیم که $m$ داده داریم یعنی $(x_{1}, y_{1}), \dots, (x_{m}, y_{m})$ و مقادیر متغیر مستقل از مجموعه اعداد طبیعی می‌آید یعنی $y_{1}, \dots, y_{m} \in ℕ$ و متغیرهای وابسته $n + 1$ هستند یعنی $x_{i} \in ℝ^{n + 1}, i = 1, \dots, m$ آنگاه احتمال متغیرهای مستقل به شرط مشاهده متغیرهای وابسته برابر خواهد شد با: الگو:وسط‌چین $p (y_{1}, \dots, y_{m} ∣ x_{1}, \dots, x_{m}; θ) = \prod_{i = 1}^{m} \frac{e^{y_{i} θ^{'} x_{i}} e^{- e^{θ^{'} x_{i}}}}{y_{i}!} .$ الگو:پایان وسط‌چین حال بر حسب اصل بیشینه‌سازی درست نمایی باید به دنبال پارامتری بگردیم که این درست نمایی به بیشترین مقدار خود برسد، یعنی تابع پایین بیشینه شود: الگو:وسط‌چین $L (θ ∣ X, Y) = \prod_{i = 1}^{m} \frac{e^{y_{i} θ^{'} x_{i}} e^{- e^{θ^{'} x_{i}}}}{y_{i}!} .$ الگو:پایان وسط‌چین از آنجا که تابع لگاریتم مطلقاً صعودی است به‌جای بیشینه کردن تابع درست نمایی می‌توان لگاریتم آن را بیشینه کرد که تابع را ساده‌تر می‌کند. به عبارتی دیگر همان پارامتری که لگاریتم تابع درست نمایی را بیشینه می‌کند، همان پارامتر، خودِ تابع درست نمایی را نیز بیشنه می‌کند. لگاریتم تابع با معادله پایین برابر خواهد شد: الگو:وسط‌چین $ℓ (θ ∣ X, Y) = \log L (θ ∣ X, Y) = \sum_{i = 1}^{m} (y_{i} θ^{'} x_{i} - e^{θ^{'} x_{i}} - \log (y_{i}!)) .$ الگو:پایان وسط‌چین از آنجا که $\sum_{i = 1}^{m} \log (y_{i}!)$ ثابت است و پارامتر $θ$ را در خود ندارد می‌توان آنرا از تابع حذف کرد و به تابع پایین رسید^[۲] الگو:وسط‌چین $ℓ (θ ∣ X, Y) = \sum_{i = 1}^{m} (y_{i} θ^{'} x_{i} - e^{θ^{'} x_{i}}) .$ الگو:پایان وسط‌چین حال برای پیدا کردن بیشینه تابعِ $ℓ (θ ∣ X, Y)$ باید گرادیان آنرا با صفر یکی کرد، یعنی $\frac{\partial ℓ (θ ∣ X, Y)}{\partial θ} = 0$ . این معادله اما جوابی در فرم بسته ندارد و باید جواب آنرا از روشی دیگر پیدا کرد. از آنجا که $- ℓ (θ ∣ X, Y)$ تابعی محّدب است، می‌توان به پارامتر بهینه یعنی پارامتری که $- ℓ (θ ∣ X, Y)$ را کمینه و $ℓ (θ ∣ X, Y)$ را بیشینه کند با روشهای بهینه‌سازی محّدب مانند گرادیان کاهشی رسید.