نمایش مبدأ برای پرسپترون

{{یادگیری ماشین}}
<!-- '''پرسپترون''' (Perceptron) یک نوع [[شبکه عصبی مصنوعی|شبکهٔ عصبی مصنوعی]] است که در سال ۱۹۵۷ در [[:en:Cornell Aeronautical Laboratory|لابراتوار کرنل آرونوتیکال]] به وسیلهٔ [[:en:Frank Rosenblatt|فرانک روزنبلت]] ابداع شد. می‌توان آن را ساده‌ترین نوع شبکهٔ عصبی‌هایی که در آنها خروجی فقط به سمت جلو حرکت می‌کنند ([[:en:Feed-forward|Feedforward]]) در نظر گرفت: یک [[تفکیک کننده خطی|تفکیک کنندهٔ خطی]].
 -->
'''پرسپترون''' {{به انگلیسی|perceptron}} کوته‌نوشت '''نورون ادراکی''' یک الگوریتم [[یادگیری ماشین]] است که در دسته [[یادگیری با نظارت]] قرار می‌گیرد. الگوریتم پرسپترون یک الگوریتم [[:en:binary classification|دسته‌بندی دودویی]] (نوعی از دسته‌بندی که می‌تواند با توجه به بردار ورودی تصمیم بگیرد که این ورودی متعلق به یک کلاس هست یا خیر) است. این الگوریتم یک [[:en:linear classifier|دسته‌بند خطی]] است، به‌این معنا که پیش‌بینی‌هایش را باتوجه به [[ترکیب خطی]] وزن دار ورودی الگوریتم انجام می‌دهد. همچنین این الگوریتم به دلیل اینکه ورودی‌هایش را به صورت تک تک در زمان بررسی می‌کند، یک [[الگوریتم برخط]] می‌باشد. الگوریتم پرسپترون در سال ۱۹۵۷ در [[:en:Cornell Aeronautical Laboratory|لابراتوار کرنل آرونوتیکال]] به وسیلهٔ [[:en:Frank Rosenblatt|فرانک روزنبلت]] ابداع شد. در واقع این الگوریتم جزء اولین [[:en:artificoal neural network|شبکه‌های عصبی مصنوعی]] است که به‌کار گرفته شده‌است.

== تاریخچه ==
الگوریتم ''پرسپترون'' در سال ۱۹۵۷ در [[:en:Cornell Aeronautical Laboratory|لابراتوار کرنل آرونوتیکال]] توسط [[:en:Frank Rosenblatt|فرانک روزنبلت]]<ref>Rosenblatt, Frank (1957), The Perceptron--a perceiving and recognizing automaton. Report 85-460-1, Cornell Aeronautical Laboratory.</ref>
با سرمایه‌گذاری دفتر تحقیقات دریانوردی ایالات متحده<ref name="Olazaran">{{cite journal |author=Mikel Olazaran |title=A Sociological Study of the Official History of the Perceptrons Controversy |journal=Social Studies of Science |volume=26 |issue=3 |year=1996 |jstor=285702|doi=10.1177/030631296026003005 |pages=611–659}}</ref>
ابداع شد. پرسپترون بیشتر به عنوان یک دستگاه مد نظر بوده‌است تا یک برنامه؛ و با این‌که اولین پیاده‌سازی آن به صورت یک نرم‌افزار برای
[[:en:IBM 704|آی بی ام ۷۰۴]] بود؛ پس از آن به صورت سخت‌افزار اختصاصی "پرسپترون مارک ۱" پیاده‌سازی شد. این دستگاه برای تشخیص تصویر طراحی شده بود: مجموعه‌ای از ۴۰۰
[[:en:photocell|حسگر نور]]، که به صورت تصادفی به "[[یاخته عصبی|نورون]]"‌ها متصل شده‌اند. وزن‌ها در [[:en:Potentiometer|پتانسیومتر]]ها کدگذاری شده بودند، و بروزرسانی وزن‌ها در طول یادگیری با موتورهای الکتریکی صورت می‌گرفت.<ref name="bishop">{{cite book |first=Christopher M. |last=Bishop |year=2006 |title=Pattern Recognition and Machine Learning |url=https://archive.org/details/patternrecogniti0000bish |publisher=Springer}}</ref>

== تعریف ==
پرسپترون یک نوع [[:en:binary classifier|دسته‌بند دودودیی]] است که ورودی خود <math>x</math> (یک بردار متشکل [[عدد حقیقی|اعداد حقیقی]]) را به مقدار خروجی <math>f(x)</math> (یک اسکالر با مقادیر باینری) که به صورت زیر حساب می‌شود، متناظر می‌کند:
:<math>
f(x) = \begin{cases}1 & \text{if }w \cdot x + b> 0\\0 & \text{otherwise}\end{cases}
</math>

وب سرور با استفاده از شبکه عصبی [[پرسپترون چندلایه|پرسپترون چند لایه]] ای مدلسازی می شود. به طور کلی یک الگوریتم عصبی است که با توجه به ازدحام وب سرویس در شبکه چند لایه ای پیشبینی هایی را صورت میدهد تا سرور از کار نیافتد.[[پرونده:Perceptron.svg|400px|بندانگشتی|چپ|پرسپترون]]
<math>w</math> یک بردار از وزن‌هایی با مقادیر حقیقی است و <math>w \cdot x = \sum_{i = 1}^m w_i x_i</math> [[:en:dot product|ضرب داخلی]] بردار وزن و بردار ورودی است، که در آن <math>m</math> تعداد ورودی‌های پرسپترون است. در رابطه بالا <math>b</math> نشان‌دهنده بایاس است که وظیفه آن جابجا کردن مرز [[تصمیم‌گیری]] از مبدأ است و مقدار آن به ورودی‌ها بستگی ندارد.

در مسئله [[:en:binary classifier|دسته‌بندی دودودیی]] مقدار <math>f(x)</math> برای دسته‌بندی <math>x</math> بین دو کلاس <math>+</math> و <math>-</math> استفاده می‌شود. اگر <math>b</math> عددی منفی باشد، جمع وزن‌دار ورودی‌ها باید عدد مثبتی بزرگتر از <math>|b|</math> باشد تا خروجی پرسپترون <math>1</math> شود. به عبارت دیگر دسته‌بند پرسپترون مانند یک ابرصفحه است که فضای <math>m</math> بعدی را به دو قسمت تقسیم می‌کند، در این صورت <math>w</math> نشان‌دهنده بردار عمود برصفحه و <math>b</math> نشان‌دهنده عرض از مبدأ صفحه جداکننده است. به ازای نقاط داده شده به همراه برچسب آن‌ها
<math>((x_1,y_1),...,(x_n,y_n)</math> الگوریتم پرسپترون مقادیر <math>w</math> و <math>b</math> را به گونه‌ای می‌یابد که تمام نمونه‌ها توسط تابع <math>f</math> به‌درستی برچسب گذاری شوند یعنی
{{چپ‌چین}}
<math>\forall i \in \{1,...,n\} : f(x_i) = y_i.</math>
{{پایان چپ‌چین}}

اگر داده‌های مثبت و منفی قابلیت جداشدن توسط یک ابرصفحه را نداشته باشند الگوریتم پرسپترون متوقف نمی‌شود اما اگر داده‌ها خطی تفکیک‌پذیر باشند الگوریتم پرسپترون در تعداد متناهی مرحله پایان می‌یابد. معروف‌ترین تابعی که الگوریتم پرسپترون قادر به یادگیری آن نیست؛ تابع [[:en:XOR|یا مانع الجمع]] است.<ref>{{cite book |last=Liou |first=D. -R. |last2=Liou |first2=J. -W. |last3=Liou |first3=C. -Y. |title=Learning Behaviors of Perceptron |isbn=978-1-4775-5473-9 |publisher=iConcept Press |year=2013}}</ref>

در زمینه [[:en:artificial neural network|شبکهٔ‌های عصبی مصنوعی]] پرسپترون یک نوع [[:en:artificial neuron|نورون مصنوعی]] است که [[:en:activation function|تابع فعالیت]] آن [[تابع پله‌ای هویساید]] می‌باشد.

== الگوریتم یادگیری ==
[[پرونده:Perceptron algorithm.gif|500px|بندانگشتی|چپ|نحوه کار الگوریتم پرسپترون]]
الگوریتم پرسپترون یک الگوریتم تکرار شونده است، به این صورت که در ابتدا بردار وزن <math>w</math> و بایاس <math>b</math> به نحوی مقداردهی می‌شوند و سپس در هر مرحله، الگوریتم با توجه به نقاطی که درست دسته‌بندی نشده‌اند مقادیر وزن <math>w</math> و بایاس <math>b</math> را تغییر می‌دهد تا این نقاط به درستی دسته‌بندی شوند. اگر نقاط داده‌شده به صورت خطی تفکیک‌پذیر نباشند الگوریتم پرسپترون پایان نمی‌یابد اما در صورتی که نقاط خطی تفکیک‌پذیر باشند الگوریتم در تعداد متناهی مرحله پایان می‌یابد.

=== تعریف مسئله ===
متغیرهای زیر را تعریف می‌کنیم:
داده‌های آموزشی به صورت
<math>D = \{(x^{(1)},y^{(1)}),...(x^{(n)},y^{(n)})\}</math>
است که <math>y \in \{-1,1\}</math> و <math>x</math> بردار ورودی تغییریافته‌است (برای سادگی الگوریتم <math>y</math> را عضو مجموعه <math>\{-1,1\}</math> در نظرگرفته‌ایم، که <math>+1</math> نشان‌دهنده نمونه‌های مثبت و <math>-1</math> نشان‌دهنده نمونه‌های منفی است).
<math>x^{(i)}</math> و <math>y^{(i)}</math>نشان‌دهنده بردار ورودی و مقدار خروجی مدنظر برای <math>i</math> امین نمونه آموزشی است. <math>x^{(i)}_j</math> نشان‌دهنده <math>j</math> امین مؤلفه بردار <math>x^{(i)}</math> است. برای اینکه پارامترهای بایاس <math>b</math> و بردار وزن را به صورت یک بردار واحد در نظر بگیریم بردارهای ورودی <math>x</math> و بردار وزن <math>w</math> را به‌گونه‌ای تغییر می‌دهیم که
<math>x_0 = 1</math> و <math>w_0 = b</math> در این‌صورت
{{چپ‌چین}}
<math>w \cdot x = w_0 x_0 + \sum_{i = 1}^{m} w_i x_i = b + \sum_{i = 1}^{m} w_i x_i</math>
{{پایان چپ‌چین}}
تابع پرسپترون را نیز به صورت زیر تغییر می‌دهیم
{{چپ‌چین}}
<math>
f(x) = \begin{cases}1 & \text{if }w \cdot x> 0\\-1 & \text{otherwise}\end{cases}
</math>
{{پایان چپ‌چین}}

هدف پیدا کردن بردار وزن <math>w</math> به‌گونه‌ای است که برای نقاط داده‌شده <math>\{(x^{(1)},y^{(1)}),...(x^{(n)},y^{(n)}\}</math> داشته باشیم
{{چپ‌چین}}
<math>\forall i \in \{1,...n\} : f(x^{(i)}) = y^{(i)}</math>
{{پایان چپ‌چین}}

=== مراحل الگوریتم ===
الگوریتم در هر مرحله باتوجه به نقاطی که اشتباه دسته‌بندی شده‌اند بردار وزن را تغییر می‌دهد تا نقاط بیشتری را به درستی دسته‌بندی کند. الگوریتم در هر مرحله بردار وزن جدیدی را به‌دست می‌آورد. در ابتدا بردار وزن را برابر با صفر قرار می‌دهیم. بردار وزن را در مرحله <math>t</math> ام با <math>w^{(t)}</math> نشان می‌دهیم. اگر الگوریتم پس از <math>T</math> مرحله متوقف‌شود (تمام نقاط به درستی دسته‌بندی شوند)، <math>w^{(T)}</math> بردار وزن مورد نظر است. [[شبه‌کد]] الگوریتم پرسپترون در زیر نوشته‌شده‌است.

{{چپ‌چین}}
 '''input''': A training set <math>D</math>
 '''initialize''': <math>w^{(1)} = (0,...,0)</math>
  '''for''' t = 1,2 ,...
  if(<math>\exists i \;\;\; s.t \;\;\; y^{(i)} \times (w^{(t)} \cdot x^{(i)}) \le 0 </math>)
    <math>w^{(t + 1)} = w^{(t)} + y^{(i)} x^{(i)}</math>
  else
    <math>w^{(t+1)} = w^{(t)}</math>
{{پایان چپ‌چین}}
اگر <math>y^{(i)} \times (w^{(t)} \cdot x^{(i)}) \le 0</math> می‌توان گفت که تابع پرسپترون با بردار وزن <math>w^{(t)}</math> ورودی <math>x^{(i)}</math> را به اشتباه دسته‌بندی می‌کند. در این صورت بردار وزن به گونه‌ای تغییر می‌کند خطای کمتری روی <math>x^{(i)}</math> مرتکب شود و آن را به درستی دسته‌بندی کند. الگوریتم هنگامی پایان می‌یابد که برای تمامی نقاط داشته باشیم
{{چپ‌چین}}
<math>\forall i \in \{1,...,n\} \rightarrow y^{(i)} \times (w^{(T)} \cdot x^{(i)}) > 0.</math>
{{پایان چپ‌چین}}
و در این‌صورت خواهیم داشت
{{چپ‌چین}}
<math>\forall i \in \{1,...,n\} \rightarrow f(x^{(i)}) = y^{(i)}.</math>
{{پایان چپ‌چین}}
بنابراین <math>w^{(T)}</math> بردار وزن موردنظر است.<ref name="Mitchell2">{{cite book |last= Shwartz|first= Shai |date= 2014|title= Understanding Machine Learning |url= https://archive.org/details/understandingmac0000shal|page=[https://archive.org/details/understandingmac0000shal/page/92 92]}}</ref>

=== همگرایی الگوریتم ===
==== اثبات ====
== جستارهای وابسته ==
* [[ماشین بردار پشتیبانی]]
* [[رگرسیون لجستیک]]

== منابع ==
{{پانویس}}

[[رده:یادگیری ماشین]]
[[رده:الگوریتم‌های دسته‌بندی]]
[[رده:شبکه‌های عصبی]]
[[رده:شبکه‌های عصبی مصنوعی]]