نمایش مبدأ برای XGBoost

{{Infobox software
| name = Xgboost
| logo = XGBoost logo.png
| screenshot =
| caption =
| developer = The XGBoost Contributors
| status = Active
| released = {{Start date and age|2014|03|27}}
| latest release version = ۰٫۷۰
| latest release date = {{release date|2017|12|30}}
| operating system = [[لینوکس]]، [[مک‌اواس]]، [[مایکروسافت ویندوز]]
| programming language = [[سی پلاس‌پلاس]]
| genre = [[یادگیری ماشین]]
| license = [[مجوز آپاچی]] ۲٫۰
| website = {{URL|https://xgboost.ai/}}
}}
'''XGBoost<ref name="source-code">{{cite web|url=https://github.com/dmlc/xgboost|title=GitHub project webpage}}</ref>''' یک کتابخانه [[نرم‌افزار آزاد]] است که چارچوب تقویت گرادیان برای [[++C]]، [[جاوا (زبان برنامه‌نویسی)|جاوا]]، [[پایتون (زبان برنامه‌نویسی)|پایتون]]،<ref name="xgboost-python">{{Cite web|url=https://pypi.python.org/pypi/xgboost/|title=Python Package Index PYPI: xgboost|access-date=2016-08-01}}</ref> [[زبان R|R]],<ref name="xgboost-cran">{{Cite web|url=https://cran.r-project.org/web/packages/xgboost/index.html|title=CRAN package xgboost|access-date=2016-08-01}}</ref> و [[جولیا]]،<ref name="xgboost-julia">{{Cite web|url=http://pkg.julialang.org/?pkg=XGBoost#XGBoost|title=Julia package listing xgboost|access-date=2016-08-01|archive-date=18 اوت 2016|archive-url=https://web.archive.org/web/20160818144844/http://pkg.julialang.org/?pkg=XGBoost#XGBoost}}</ref> [[پرل]]<ref name="xgboost-perl">{{Cite web|url=https://metacpan.org/pod/AI::XGBoost|title=CPAN module AI::XGBoost|access-date=2020-02-09}}</ref> و [[اسکالا]] را فراهم می‌کند. در [[لینوکس]]،<ref name="xgboost-windows">{{Cite web|title=Installing XGBoost for Anaconda in Windows|url=https://www.ibm.com/developerworks/community/blogs/jfp/entry/Installing_XGBoost_For_Anaconda_on_Windows?lang=en|access-date=2016-08-01}}</ref> [[ویندوز]]، [[MacOS|مک‌اواس]]<ref name="xgboost-macos">{{Cite web|title=Installing XGBoost on Mac OSX|url=https://www.ibm.com/developerworks/community/blogs/jfp/entry/Installing_XGBoost_on_Mac_OSX?lang=en|access-date=2016-08-01}}</ref> کار می‌کند. هدف ارائه یک کتابخانه «مقیاس‌پذیر، قابل‌حمل و توزیع‌شده» (gbm, GBRT, GBDT) است. علاوه بر اجرای یک ماشین واحد، همچنین از چارچوب‌های پردازش توزیع‌شده [[آپاچی اسپارک]]، [[آپاچی هدوپ]]، [[آپاچی فلینک]] و [[داسک (نرم‌افزار)]] پشتیبانی می‌کند.<ref name="Dask-docs">{{Cite web|title=Dask Homepage|url=https://www.dask.org|url-status=live}}</ref><ref>{{Cite web|title=Distributed XGBoost with Dask — xgboost 1.5.0-dev documentation|url=https://xgboost.readthedocs.io/en/latest/tutorials/dask.html|access-date=2021-07-15|website=xgboost.readthedocs.io}}</ref> این [[الگوریتم انتخاب]] بسیاری از تیم‌های برندهٔ شماری از رقابت‌های یادگیری ماشین بود و محبوبیت و توجه زیادی به دست آورده‌است.<ref name="xgboost-competition-winners">{{Cite web|title=XGBoost - ML winning solutions (incomplete list)|url=https://github.com/dmlc/xgboost/tree/master/demo#machine-learning-challenge-winning-solutions|access-date=2016-08-01}}</ref>

== تاریخچه ==
XGBoost در ابتدا به عنوان یک پروژه تحقیقاتی توسط ''تیانگی چن'' به عنوان بخشی از گروه [[یادگیری عمیق|یادگیری عمیق ماشینی]] توزیع‌شده آغاز شد.<ref name="history">{{Cite web|url=http://homes.cs.washington.edu/~tqchen/2016/03/10/story-and-lessons-behind-the-evolution-of-xgboost.html|title=Story and Lessons behind the evolution of XGBoost|access-date=2016-08-01|archive-date=7 اوت 2016|archive-url=https://web.archive.org/web/20160807033610/http://homes.cs.washington.edu/~tqchen/2016/03/10/story-and-lessons-behind-the-evolution-of-xgboost.html}}</ref> در ابتدا به عنوان یک برنامه ترمینال (terminal application) آغاز شد که می‌توانست با استفاده از یک [[پرونده پیکربندی|فایل پیکربندی]] libsvm پیکربندی شود. پس از پیروزی در چالش یادگیری ماشین هیگز، به عنوان بخشی از چرخهٔ مسابقه شناخته شد. پس از آن بسته‌های زبان‌های پایتون و R ساخته شدند و اکنون برای بسیاری از زبان‌های دیگر مثل جولیا، Scala، جاوا و غیره بسته‌هایی دارد و در بین جامعه [[کگل]] که برای تعداد زیادی از رقابت‌ها از آن استفاده شده‌است، محبوب است.<ref name="xgboost-competition-winners2">{{Cite web|title=XGBoost - ML winning solutions (incomplete list)|url=https://github.com/dmlc/xgboost/tree/master/demo#machine-learning-challenge-winning-solutions|access-date=2016-08-01}}</ref>

خیلی زود با چندین بسته دیگر مورد استفاده قرار گرفت و در حال حاضر برای کاربران پایتون همراه با کتابخانهٔ scikit-learn و برای کاربران R همراه با بسته caret ارائه می‌شود.

== الگوریتم ==
الگوریتم <math>N</math> داده آموزشیِ <math>\{(x_i, y_i)\}_{i=1}^N</math>، یک تابع [[مشتق پذیر|مشتق‌پذیر]] [[تابع هزینه|هزینه]] <math>L(y, F(x))</math> و یک نرخ یادگیریِ <math>\alpha</math> به عنوان ورودی می‌گیرد و به این شکل مدل نهائی را می‌سازدː
# اولین مدل ضعیف عددی ثابت است که تابع هزینه را کمینه می‌کند:
#: <math>\hat{f}_{(0)}(x) = \underset{\theta}{\arg\min} \sum_{i=1}^N L(y_i, \theta).</math>
# برای <math>m=1</math>  تا <math>M</math>:
## [[گرادیان]] و [[ماتریس هسین|هسین]] به این شکل محاسبه می‌شوند
##: <math>\hat{g}_m(x_i)=\left[\frac{\partial L(y_i,f(x_i))}{\partial f(x_i)} \right]_{f(x)=\hat{f}_{(m-1)}(x)}.</math>
##: <math>\hat{h}_m(x_i)=\left[\frac{\partial^2 L(y_i,f(x_i))}{\partial f(x_i)^2} \right]_{f(x)=\hat{f}_{(m-1)}(x)}.</math>
## مدل برای داده‌های <math>\left\{x_i,-\frac{\hat{g}_m(x_i)}{\hat{h}_m(x_i)}\right\}_{i=1}^{N}</math>  به این شکل یادگرفته می‌شود:
##:<math>\hat{\phi}_m=\underset{\phi \in \mathbf{\Phi}}{\arg\min}\sum_{i=1}^{N}\frac{1}{2}\hat{h}_m(x_i)\left[-\frac{\hat{g}_m(x_i)}{\hat{h}_m(x_i)}-\phi(x_i) \right]^2.</math>
##:<math> \hat{f}_m(x)=\alpha \hat{\phi}_m(x).</math>
## مدل به این شکل به روز می‌شود:
##: <math>\hat{f}_{(m)}(x) = \hat{f}_{(m-1)}(x) + \hat{f}_m(x).</math>
# مدل نهائی عبارت است از <math>\hat{f}(x)=\hat{f}_{(M)}(x)=\sum_{m=0}^{M}\hat{f}_m(x).</math>

== جوایز ==
* جایزه جان چمبرز (۲۰۱۶)
* جایزه High Energy Physics meets Machine Learning (2016)

== جستارهای وابسته ==

* [[آدابوست]] 
* [[تقویت گرادیان]] 
* [[گرادیان]]
* [[ماتریس هسین]]

== منابع ==
{{پانویس|چپ‌چین=بله|۲}}
[[رده:نرم‌افزارهای ۲۰۱۴ (میلادی)]]
[[رده:نرم‌افزارهای آزاد نوشته‌شده با سی++]]
[[رده:نرم‌افزارهای داده‌کاوی و یادگیری ماشین]]
[[رده:نرم‌افزارهایی که از پروانه آپاچی استفاده می‌کنند]]