قضیه گوس-مارکوف

الگو:تحلیل رگرسیون در علم آمار، قضیه گوس-مارکف الگو:انگلیسی بیان می‌کند که در یک مدل خطی که خطاهای آن امید ریاضی صفر داشته، ناهمبسته بوده، و واریانسهای مساوی دارند، بهترین برآوردگر خطی نااریب برای ضرایب سیستم برابر برآوردگر کمترین مربعات می‌باشد. شرح مدل خطی به صورت دقیقتر اینگونه‌است که الگو:وسط‌چین $E(e{e}^{\prime })={\sigma }^{2}I.$ $E(e)=0,$ $Y=X\beta +e,$ الگو:پایان بطوری که $X$ ماتریس مدل بوده که معلوم و ثابت است، $\beta$ برداری نامعلوم با ابعاد $p\times 1$ در فضای $R^p$ است. بردار $e$ نیز بردار خطا می‌باشد. در اینجا بهترین به معنای آن است که برآوردگر مورد نظر کمترین واریانس را در مقایسه با سایر برآوردگرهای خطی، داشته باشد. لازم نیست جمله‌های خطا توزیع طبیعی داشته باشند یا توزیع مستقل و یکسان داشته باشند و فرض ضروری ناهمبسته بودن و واریانس همسانی جمله‌های خطا می‌باشد. این قضیه به افتخار کارل فریدریش گاوس و آندری مارکوف نام‌گذاری شده‌است.

صورت قضیه

تساوی زیر را که به شکل ماتریسی نوشته شده‌است، در نظر بگیرید: الگو:چپ‌چین $y=X\beta +\epsilon ,(y,\epsilon \in {ℝ}^n,\beta \in {ℝ}^K\text{ and }X\in {ℝ}^{n\times K})$ الگو:پایان چپ‌چین که فرم باز شدهٔ آن به شکل زیر در می‌آید: الگو:چپ‌چین $y_i=\sum _{j=1}^K{\beta }_j{X}_{ij}+{\epsilon }_i\mathrm{\forall }i=1,2,\dots ,n$ الگو:پایان چپ‌چین در اینجا ${\beta }_j$ پارامترهای غیر تصادفی و غیرقابل مشاهده می‌باشند، $X_{ij}$ متغیرهای توضیحی خوانده می‌شوند که غیرتصادفی و قابل مشاهده می‌باشند،$y_i$ و ${\epsilon }_i$ تصادفی می‌باشند. متغیرهای تصادفی ${\epsilon }_i$ «خطا» یا «اغتشاش» نامیده می‌شوند و باید بین آن‌ها و جمله‌های باقی‌مانده تمایز قائل شد. توجه کنید معمولاً با معرفی متغیر $X_{i(K+1)}=1$ در مدل رگرسیون خطی، جملهٔ ثابت ${\beta }_{K+1}$ را به مدل اضافه می‌کنند. قضیهٔ گاوس-مارکوف سه فرض اساسی در مورد متغیرهای تصادفی ${\epsilon }_i$ دارد:

• همهٔ آن‌ها دارای میانگین صفر می‌باشند:

الگو:چپ‌چین $\mathrm{E}[{\epsilon }_i]=0$الگو:پایان چپ‌چین

• جمله‌های خطا، واریانس همسانی دارند بدین معنی که واریانس آن‌ها محدود است:

الگو:چپ‌چین $\mathrm{Var}({\epsilon }_i)={\sigma }^2<\mathrm{\infty }$ الگو:پایان چپ‌چین

• جمله‌های خطای متمایز ناهمبسته می‌باشند:

الگو:چپ‌چین $\text{Cov}({\epsilon }_i,{\epsilon }_j)=0,\mathrm{\forall }i\ne j$ الگو:پایان چپ‌چین برآوردگر خطی ${\beta }_j$ یک ترکیب خطی به شکل زیر می‌باشد:

الگو:چپ‌چین ${\hat{\beta }}_j=c_{1j}{y}_1+\cdots +c_{nj}{y}_n$ الگو:پایان چپ‌چین ضرایب $c_{ij}$ در معادلهٔ بالا مستقل از ضرایب ${\beta }_j$ می‌باشند زیرا همان‌طور که گفته شد ${\beta }_j$ قابل مشاهده نیستند ولی می‌توانند تابعی از مقادیر $X_{ij}$ باشند زیرا این داده‌ها قابل مشاهده می‌باشند. یک برآوردگر، نااریب می‌باشد اگر و تنها اگر الگو:چپ‌چین $\mathrm{E}({\hat{\beta }}_j)={\beta }_j$ الگو:پایان چپ‌چین عبارت $\sum _{j=1}^K{\lambda }_j{\beta }_j$را که یک ترکیب خطی از ضرایب می‌باشد، در نظر بگیرید، میانگین مربعات خطا به شکل زیر تعریف می‌شود: الگو:چپ‌چین $\mathrm{E}[(\sum _{j=1}^K{\lambda }_j({\hat{\beta }}_j-{\beta }_j){)}^2]$ الگو:پایان چپ‌چین توجه کنید چون در اینجا برآوردگر تمام پارامترها نااریب می‌باشند در نتیجه عبارت بالا معادل واریانس ترکیب خطی مذکور می‌باشد. بهترین برآوردگر خطی نااریب بردار پارامترهای ${\beta }_j$ بدین معناست که ترکیب خطی پارامترها به ازای هر بردار $\lambda$، دارای کمترین میانگین مربعات خطا می‌باشد. این شرط معادل این است که عبارت زیر یک ماتریس مثبت نیمه معین باشد: الگو:چپ‌چین $\mathrm{Var}({\tilde{\beta }}_j)-\mathrm{Var}({\beta }_j)$ الگو:پایان چپ‌چین که در آن ${\tilde{\beta }}_j$ یک برآوردگر خطی نااریب می‌باشد. برآوردگر حداقل مربعات معمولی تابعی از $X$، $y$ و $X^{\prime }$(ترانهادهٔ ماتریس $X$) به فرم زیر می‌باشد: الگو:چپ‌چین ${\hat{\beta }}_j=(X^{\prime }X{)}^{-1}{X}^{\prime }y$ الگو:پایان چپ‌چین ایدهٔ اصلی اثبات این است که برآوردگر حداقل مربعات معمولی با هر برآوردگر خطی نااریب دیگر ناهمسبته می‌باشد. در ادامه به اثبات قضیه می‌پردازیم.

اثبات

$\tilde{\beta }=Cy$ به عنوان برآوردگر خطی $\beta$ در نظر بگیرید، ماتریس $C$ را می‌توان اینگونه $C=(X^{\prime }X{)}^{-1}X+D$ نوشت، که در آن$D$ یک ماتریس $K\times n$ و غیر صفر می‌باشد. در ادامهٔ اثبات نشان می‌دهیم واریانس این برآوردگر نمی‌تواند کمتر از واریانس برآوردگر حداقل مربعات معمولی $\hat{\beta }$ باشد. الگو:چپ‌چین

$\begin{array}{cc}\mathrm{E}\left[\tilde{\beta }\right]& =\mathrm{E}[Cy]\\ & =\mathrm{E}[((X^{\prime }X{)}^{-1}{X}^{\prime }+D)(X\beta +\epsilon )]\\ & =((X^{\prime }X{)}^{-1}{X}^{\prime }+D)X\beta +((X^{\prime }X{)}^{-1}{X}^{\prime }+D)\mathrm{E}[\epsilon ]\\ & =((X^{\prime }X{)}^{-1}{X}^{\prime }+D)X\beta & & \mathrm{E}[\epsilon ]=0\\ & =(X^{\prime }X{)}^{-1}{X}^{\prime }X\beta +DX\beta \\ & =(I_K+DX)\beta .\\ \end{array}$

الگو:پایان چپ‌چین شرط نااریب بودن برآوردگر بالا تنها در صورتی برقرار است که $DX=0$ باشد؛ بنابراین:

$\begin{array}{cc}\mathrm{Var}\left(\tilde{\beta }\right)& =\mathrm{Var}(Cy)\\ & =C\text{ Var}(y)C^{\prime }\\ & ={\sigma }^{2}C{C}^{\prime }\\ & ={\sigma }^2((X^{\prime }X{)}^{-1}{X}^{\prime }+D)(X(X^{\prime }X{)}^{-1}+D^{\prime })\\ & ={\sigma }^2((X^{\prime }X{)}^{-1}{X}^{\prime }X(X^{\prime }X{)}^{-1}+(X^{\prime }X{)}^{-1}{X}^{\prime }{D}^{\prime }+DX(X^{\prime }X{)}^{-1}+D{D}^{\prime })\\ & ={\sigma }^2(X^{\prime }X{)}^{-1}+{\sigma }^2(X^{\prime }X{)}^{-1}(DX{)}^{\prime }+{\sigma }^{2}DX(X^{\prime }X{)}^{-1}+{\sigma }^{2}D{D}^{\prime }\\ & ={\sigma }^2(X^{\prime }X{)}^{-1}+{\sigma }^{2}D{D}^{\prime }& & DX=0\\ & =\mathrm{Var}\left(\hat{\beta }\right)+{\sigma }^{2}D{D}^{\prime }& & {\sigma }^2(X^{\prime }X{)}^{-1}=\mathrm{Var}\left(\hat{\beta }\right)\end{array}$

چون $D{D}^{\prime }$ یک ماتریس مثبت نیمه معین می‌باشد بنابراین $\mathrm{Var}(\tilde{\beta })$ نمی‌تواند کمتر از $\mathrm{Var}(\hat{\beta })$ باشد و اثبات کامل می‌شود.

جستارهای وابسته

• رگرسیون خطی
• متغیرهای تصادفی مستقل با توزیع یکسان
• واریانس ناهمسانی

پانویس

1. Davison, Russell, MacKinnon, David. Econometric Theory And Methods Canada: Oxford university press, 2004.
2. ویکی‌پدیای انگلیسی

عرفان کریمی http://qed.econ.queensu.ca/ETM/data/