رگرسیون لارس

نحوه تخمین افزایشی ضرایب در رگرسیون کمترین زاویه (لارس)، در این شکل لارس ۱۱ ضریب برای مدل رگرسیون تولید می‌کند که با ۱۱ رنگ در شکل نشان داده شده‌اند. محور افقی مجموع نرمالیزه شده ضرایب را در ۱۱ مرحله نشان می‌دهد به این معنی که در هر مرحله مجموع ضرایب آن مرحله تقسیم بر مجموع ضرایب مرحله آخر می‌شود. محور عمودی اندازه ضرایب را در هر مرحله نشان می‌دهد. هر خطی سیاه عمودی نشان‌دهنده اضافه شدن یک ضریب جدید به مدل است. همان‌طور شکل نشان می‌دهد هر ضریب بعد از انتخاب شدن مرتباً تغییر خواهد کرد و این تغییر در راستای جهتی است که کمترین مربعات با متغیرهای مستقل اضافه شده ساخته‌است.

رگرسیون لارس یا رگرسیون کمترین زاویهالگو:یادچپ یکی از روش‌های تحلیل رگرسیون است که در آن ضرایب رگرسیون در یک فرایند افزایشی تخمین زده می‌شوند.

الگوریتم

در رگرسیون کمترین زاویه که به آن رگرسیون لارس هم گفته می‌شود، ضرایب رگرسیون در یک فرایند افزایشی به شکل زیر تخمین زده می‌شوند:

• در ابتدا تمام ضرایب ${\beta }_i$ با عدد صفر مقداردهی می‌شوند.
• متغیر مستقل $x_j$ که بیشترین ضریب همبستگی را با متغیر وابسته $y$ دارد انتخاب می‌شود.
• ${\beta }_j$ در جهت علامت ضریب همبستگی افزایش می‌یابد تا جایی که همبستگی متغیر دیگری مانند $x_k$ با مانده $r=y-\hat{y}$ از همبستگی $x_j$ با مانده فزونی بیابد.
• حال (${\beta }_j$, ${\beta }_k$) در جهت بردار بهینه‌ای که از کمترین مربعاتِ ($x_j$, $x_k$) به‌دست آمده افزایش داده می‌شود و همزمان مانده‌ها نیز محاسبه می‌شوند. متغیر دیگری پیدا می‌شود که همبستگی بیشتری با مانده متغیرهایی که تا به حال انتخاب شده‌اند داشته باشد، و به جمع متغیرهایی انتخاب شده اضافه می‌شود و این روند تا انتخاب تمام متغیرها ادامه خواهد یافت.

رگرسیون لارس مانند رگرسیون لَسو باعث می‌شوند مدل نهائی خلوت شود و بسیاری از ضرایبِ مدل صفر شود. این مدل برای داده‌هایی بُعد بالا مورد استفاده قرار می‌گیرد.

جستارهای وابسته

• رگرسیون خطی
• رگرسیون چندک
• رگرسیون لجستیک
• رگرسیون پواسون
• رگرسیون چند متغیره