نمایش مبدأ برای تطبیق دامنه

[[پرونده:Transfer_learning_and_domain_adaptation.png|بندانگشتی| تفاوت بین تنظیمات مرسوم یادگیری ماشین و یادگیری انتقال، و موقعیت‌یابی تطبیق دامنه.|280x280پیکسل]]
'''تطبیق دامنه (به [[زبان انگلیسی|انگلیسی]]: Domain Adaptation)'''<ref>{{Cite journal|last=Ben-David|first=Shai|last2=Blitzer|first2=John|last3=Crammer|first3=Koby|last4=Kulesza|first4=Alex|last5=Pereira|first5=Fernando|last6=Wortman Vaughan|first6=Jennifer|date=2010|title=A theory of learning from different domains|url=https://link.springer.com/content/pdf/10.1007/s10994-009-5152-4.pdf|journal=Machine Learning|volume=79|issue=1–2|pages=151–175|doi=10.1007/s10994-009-5152-4|doi-access=free}}</ref> زمینه‌ای در [[یادگیری ماشینی]] است که به [[یادگیری انتقالی]] مربوط است. این سناریو زمانی رخ می‌دهد که ما بخواهیم از یک توزیع داده منبع یک مدل که روی داده هدف متفاوت (اما مرتبط) عملکرد خوبی داشته باشد یاد بگیریم. به عنوان مثال، یکی از وظایف [[مقابله با هرزنامه‌ها|مشکل رایج فیلتر هرزنامه]]، انطباق یک مدل از یک کاربر (توزیع منبع) به کاربر جدیدی است که به‌طور چشم‌گیری ایمیل‌های متفاوتی را دریافت می‌کند (توزیع هدف). همچنین نشان داده شده‌است که تطبیق دامنه برای یادگیری منابع نامرتبط سودمند است. توجه داشته باشید که وقتی بیش از یک توزیع منبع در دسترس باشد، به این مشکل تطبیق دامنه چند منبعی گفته می‌شود.<ref>{{Cite journal|last=Crammer|first=Koby|last2=Kearns|first2=Michael|last3=Wortman|first3=Jeniifer|date=2008|title=Learning from Multiple Sources|url=http://www.jmlr.org/papers/volume9/crammer08a/crammer08a.pdf|journal=Journal of Machine Learning Research|volume=9|pages=1757–1774}}</ref>

== بررسی اجمالی ==
تطبیق دامنه توانایی اعمال یک الگوریتم تعلیم دیده در یک یا چند «دامنه منبع» به یک «دامنه هدف» متفاوت (اما مرتبط) است. تطبیق دامنه زیرمجموعه‌ای از یادگیری انتقالی می‌باشد. در تطبیق دامنه، دامنه منبع و هدف همگی فضای ویژگی مشابهی دارند (اما توزیع‌های متفاوت). در مقابل، یادگیری انتقالی شامل مواردی است که فضای ویژگی دامنه هدف با فضا یا فضاهای ویژگی منبع متفاوت است.<ref name="survey multi-source">{{Cite journal|last=Sun|first=Shiliang|last2=Shi|first2=Honglei|last3=Wu|first3=Yuanbin|date=July 2015|title=A survey of multi-source domain adaptation|journal=Information Fusion|volume=24|pages=84–92|doi=10.1016/j.inffus.2014.12.003}}</ref> در واقع تطبیق دامنه حالتی از انتقال یادگیری را پوشش می‌دهد که در آن مدل قرار است یک وظیفه یکسان را که روی دامنه منبع یاد گرفته به دامنه هدف انتقال دهد.

=== انتقال دامنه ===
'''تغییر دامنه'''،<ref name="frustratingly">Sun, Baochen, Jiashi Feng, and Kate Saenko. "Return of frustratingly easy domain adaptation." In Thirtieth AAAI Conference on Artificial Intelligence. 2016.</ref> یا '''تغییر توزیعی'''،<ref>Amodei, Dario, Chris Olah, Jacob Steinhardt, Paul Christiano, John Schulman, and Dan Mané. "Concrete problems in AI safety." arXiv preprint arXiv:1606.06565 (2016).</ref> تغییری در تقسیم داده بین مجموعه داده آموزشی الگوریتم و مجموعه داده‌ای می‌باشد که هنگام استفاده از آن برای پیش‌بینی روی داده‌های جدید با آن رو به رو می‌شود. این تغییرات دامنه در کاربردهای عملی و صنعتی هوش مصنوعی رایج و معمول است. الگوریتم‌های متداول یادگیری ماشینی اغلب با تغییرات دامنه سازگار نیستند. جامعه مدرن یادگیری ماشینی استراتژی‌های مختلفی برای تلاش برای دستیابی به سازگاری بهتر دامنه دارد.<ref name="frustratingly"/>

=== انواع انتقال دامنه<ref>{{یادکرد وب|عنوان=Domain Adaptation problems in Machine learning|نشانی=https://medium.com/nerd-for-tech/domain-adaptation-problems-in-machine-learning-ddfdff1f227c|وبگاه=Nerd For Tech|تاریخ=2021-06-26|بازبینی=2022-12-30|کد زبان=en|نام=Vivek|نام خانوادگی=Muraleedharan}}</ref> ===

==== انتقال پیشین ('''به انگلیسی: Prior Shift)''' ====
برای انتقال پیشین، احتمالات پیشین کلاس‌ها متفاوت است، اما توزیع های شرطی معادل هستند، <math>p_S(x|y) = p_T(x|y)</math>. این می تواند برای مثال در تنظیمات تشخیص عیب رخ دهد، جایی که یک خط مشی تعمیر و نگهداری جدید ممکن است باعث خطای کمتری شود، یا در تشخیص نشت نفت قبل از وقوع یک حادثه رخ دهد.

==== انتقال متغیر ('''به انگلیسی: Covariate Shift)''' ====
این انتقال اغلب زمانی رخ می دهد که نوعی سوگیری انتخاب نمونه وجود داشته باشد. سوگیری انتخاب به عنوان احتمال تغییر یافته نمونه‌گیری تعریف می‌شود. به عنوان مثال، فرض کنید از شهری دیدن می‌کنید که اکثر مردم در مرکز آن زندگی می کنند و تراکم سکونت به عنوان تابعی از فاصله از مرکز کاهش می یابد. برای شما جالب است که آیا مردم فکر می کنند که شهر پرجمعیت است یا خیر. اگر در میدان اصلی نمونه برداری کنید، بیشتر با افرادی روبرو می شوید که در مرکز زندگی می کنند و احتمالاً پاسخ های "بله" زیادی دریافت خواهید کرد. ساکنانی که دورتر زندگی می‌کنند، که می‌گویند «نه»، در داده‌ها کمتر نشان داده شده‌اند. یکی دیگر از دلایل تغییر متغیرهای کمکی، داده‌های از دست رفته است. در عمل، داده ها ممکن است به دلیل از کار افتادن دستگاه‌های اندازه‌گیری یا به دلیل انصراف موضوع از بین بروند.

==== انتقال مفهوم ('''به انگلیسی: Concept Shift)''' ====
در مورد تغییر مفهوم، توزیع داده ها ثابت می ماند در حالی که پسین ها تغییر می کنند. به عنوان مثال، یک محیط پزشکی را در نظر بگیرید که در آن هدف، پیش‌آگهی برای بیمار بر اساس سن، شدت آنفولانزا، سلامت عمومی و وضعیت اجتماعی-اقتصادی آنها است. در کلاس ها در اصل به عنوان "رفع" و "عوارض" تعریف شده است. اما، در زمان آزمون، جنبه‌های دیگر به‌عنوان شکلی از «عارضه» شمرده می‌شوند و به این ترتیب برچسب‌گذاری می‌شوند. آنچه که طبقه مثبت و منفی را تشکیل می دهد و در نتیجه توزیع های پسینی را تشکیل می دهد، تغییر کرده است.

=== مثال‌ها ===
* یک الگوریتم تعلیم دیده بر روی سیم‌های خبری ممکن است مجبور باشد با مجموعه داده‌های جدیدی از اسناد زیست‌پزشکی سازگار شود.<ref>Daumé III, Hal. "Frustratingly easy domain adaptation." arXiv preprint arXiv:0907.1815 (2009).</ref>
* یک فیلتر هرزنامه که در طول آموزش بر روی گروه خاصی از کاربران ایمیل آموزش داده شده‌است، باید در هنگام استقرار با کاربر هدف جدید سازگار شود.<ref>Ben-David, Shai, John Blitzer, Koby Crammer, and Fernando Pereira. "Analysis of representations for domain adaptation." In Advances in neural information processing systems, pp. 137-144. 2007.</ref>
* استفاده از الگوریتم‌های تشخیصی هوش مصنوعی، آموزش‌دیده بر روی داده‌های برچسب‌دار مرتبط با بیماری‌های قبلی، به داده‌های بدون برچسب جدید مرتبط با [[دنیاگیری کووید-۱۹|همه‌گیری COVID-19]].<ref>{{Cite journal|last=Hu|first=Yipeng|last2=Jacob|first2=Joseph|last3=Parker|first3=Geoffrey J. M.|last4=Hawkes|first4=David J.|last5=Hurst|first5=John R.|last6=Stoyanov|first6=Danail|date=June 2020|title=The challenges of deploying artificial intelligence models in a rapidly evolving pandemic|url=https://www.nature.com/articles/s42256-020-0185-2|journal=Nature Machine Intelligence|language=en|volume=2|issue=6|pages=298–300|arxiv=2005.12137|doi=10.1038/s42256-020-0185-2|issn=2522-5839|doi-access=free}}</ref>
* یک تغییر ناگهانی اجتماعی، مانند شیوع بیماری همه‌گیر، می‌تواند باعث تغییر دامنه شود و باعث شود الگوریتم‌های یادگیری ماشینی که بر روی داده‌های مصرف‌کننده منسوخ شده‌اند، با شکست مواجه شوند و نیاز به مداخله داشته باشند.<ref>{{Cite news|last=Matthews|first=Dylan|title=AI disaster won't look like the Terminator. It'll be creepier.|url=https://www.vox.com/future-perfect/2019/3/26/18281297/ai-artificial-intelligence-safety-disaster-scenarios|accessdate=21 June 2020|work=Vox|date=26 March 2019|language=en}}</ref><ref>{{Cite news|title=Our weird behavior during the pandemic is messing with AI models|url=https://www.technologyreview.com/2020/05/11/1001563/covid-pandemic-broken-ai-machine-learning-amazon-retail-fraud-humans-in-the-loop/|accessdate=21 June 2020|work=MIT Technology Review|date=11 May 2020|language=en}}</ref>

سایر برنامه‌ها دربردارنده تشخیص محلی سازی [[وای-فای|وای فای]] و بسیاری از جنبه‌های [[بینایی رایانه‌ای|بینایی رایانه]] است.<ref name="survey multi-source">{{Cite journal|last=Sun|first=Shiliang|last2=Shi|first2=Honglei|last3=Wu|first3=Yuanbin|date=July 2015|title=A survey of multi-source domain adaptation|journal=Information Fusion|volume=24|pages=84–92|doi=10.1016/j.inffus.2014.12.003}}</ref>

== رسمی سازی ==
<math>X</math> را فضای ورودی (یا فضای توضیحات) باشد و <math>Y</math> را فضای خروجی (یا فضای برچسب) در نظر می‌گیریم. هدف یک الگوریتم یادگیری ماشینی دانستن یک [[مدل ریاضیاتی|مدل ریاضی]] (فرضیه) است. <math>h:X\to Y</math> قادر به چسباندن یک برچسب از <math>Y</math> به یک مثال از <math>X</math> می‌باشد. این مدل از یک نمونه یادگیری آموخته می‌شود <math>S=\{(x_i,y_i) \in (X \times Y)\}_{i=1}^m</math>.

معمولاً در [[یادگیری با نظارت|یادگیری تحت نظارت]] (بدون تطبیق دامنه)، فرض می‌کنیم که مثال‌های <math>{\displaystyle (x_{i},y_{i})\in S}</math>  از توزیع <math>{D_S}</math> از پشتیبانی <math>X\times Y</math> (ناشناخته و ثابت) به صورت i.i.d. نمونه‌گیری می‌شوند. سپس هدف یادگیری <math>h</math> (از <math>S</math>) است به طوری که کمترین خطای ممکن را برای برچسب زدن نمونه‌های جدید از توزیع <math>D_S</math> مرتکب شود.

تفاوت اصلی بین یادگیری تحت نظارت و تطبیق دامنه این است که در تطبیق دامنه ما دو توزیع داده <math>D_S</math> (توزیع داده منبع) و <math>D_T</math> (توزیع داده هدف) در فضای <math>X\times Y</math> بررسی می‌کنیم. تطبیق دامنه وظیفه‌ای است که در آن انتقال دانش از دامنه منلع <math>D_S</math> به دامنه هدف <math>D_T</math> انجام می‌شود. سپس هدف یادگیری <math>h</math> (از نمونه‌های برچسب‌دار یا بدون برچسب که از دو دامنه می‌آیند) است به طوری که کمترین خطای ممکن را در دامنه هدف <math>D_T</math> مرتکب شود.

'''مسئله اصلی این است:''' اگر یک مدل از یک دامنه منبع آموخته شود، ظرفیت آن برای برچسب گذاری صحیح داده های حاصل از دامنه هدف چقدر است؟

== انواع مختلف تطبیق دامنه ==
زمینه های مختلفی برای تطبیق دامنه وجود دارد. آنها در اطلاعات در نظر گرفته شده برای کار هدف متفاوت هستند.

* '''تطبیق دامنه نظارت شده:''' همه نمونه‌های در نظر گرفته شده برای منبع و هدف باید برچسب گذاری شوند.
* '''تطبیق دامنه نیمه نظارت شده:''' در این وضعیت، همه نمونه‌های منبع و مجموعه "کوچکی" از نمونه های هدف را برچسب‌دار و بقیه مجموعه هدف را بدون برچسب در نظر می گیریم.
* '''تطبیق دامنه بدون نظارت:''' نمونه آموزشی شامل مجموعه‌ای از مثال‌های منبع برچسب‌دار، مجموعه‌ای از نمونه‌های منبع بدون برچسب و مجموعه‌ای از نمونه‌های هدف بدون برچسب است.

==منابع==
{{پانویس}}
[[رده:یادگیری ماشین]]