نمایش مبدأ برای فیلترینگ اسپم بیزی

{{آمار بیزی}}
'''فیلترینگ اسپم بیزی''' یک [[روش علمی|روش]] [[آمار|آماری]] برای فیلترینگ ایمیل است. این روش از [[دسته‌بندی‌کننده نایو بیز]] (Naive Bayes) برای تشخیص ایمیل‌های [[اسپم]] استفاده می‌کند.

جیسون رِنی اولین برنامه کامپیوتری|برنامه فیلترینگ ایمیل به نام iFile را که از روش [[طبقه‌بندی]] بیز استفاده می‌کرد، در سال ۱۹۹۶ نوشت. این برنامه با قرار دادن ایمیل‌ها در [[پوشه رایانه|پوشه‌ها]]، آن‌ها را مرتب می‌کرد. اولین مقاله پژوهشی دربارهٔ فیلترینگ اسپم بیزی توسط سهامی(Sahami et al) و دیگران در سال ۱۹۹۸ انتشار یافت. روش‌های گوناگونی در این زمینه به صورت تحقیقاتی و همچنین نرم‌افزارهای تجاری پیاده‌سازی شده‌است. در سال ۲۰۰۲ میلادی، اصول فیلترینگ بیزی در مقاله‌ای که توسط پال گراهام نوشته و شرح داده شد و در دسترس عموم قرار گرفت.

فیلترینگ اسپم بیزی به یک سازوکار معروف برای تشخیص [[اسپم ایمیل|ایمیل‌های اسپم]] در میان ایمیل‌های غیر‌اسپم (گاهی به این ایمیل‌ها ham یا [[bacn]] نیز می‌گویند) تبدیل شد. تعداد زیادی از [[سرویس گیرنده|سرویس گیرنده‌های]] ایمیل، فیلترینگ اسپم بیزی را پیاده‌سازی کرده‌اند. همچنین کاربرها می‌توانند به صورت جداگانه [[فیلترینگ ایمیل|برنامه‌های فیلترینگ ایمیل]] را نصب کنند. از فیلترهای ایمیل طرف سرویس دهنده می‌توان [[DSPAM]] ،[[SpamAssassin]]، [[SpamBayes]] [[Bogofilter]] و [[Anti-Spam SMTP Proxy|ASSP]] را که از روش فیلترینگ اسپم بیزی استفاده می‌کنند را نام برد.

== فرایند ==
کلمات مشخص در ایمیل‌های غیر‌اسپم و اسپم دارای [[احتمالات|احتمال]] خاصی هستند. برای مثال اکثر کاربران در ایمیل‌های اسپم با کلمه "Viagra" برخورد می‌کنند اما به ندرت در ایمیل‌های عادی با این کلمه مواجه می‌شوند. فیلتر از قبل این احتمالات را نمی‌داند و باید آن‌ها را یاد بگیرد و برای خود بسازد. برای یادگیری فیلتر، کاربر باید به‌طور دستی مشخص کند که آیا ایمیل جدید اسپم است یا نه. فیلتر در هنگام یادگیری برای تمام کلمات، احتمال را محاسبه و آن‌ها را در دو دسته مختلف اسپم و غیر‌اسپم در پایگاه دادهٔ خود قرار می‌دهد. برای مثال فیلترهای اسپم بیزی احتمال بسیار بالایی برای کلمات "Viagra" و "refinance" در نظر می‌گیرند اما احتمال بسیار پایینی برای کلماتی که در ایمیل‌های صحیح دیده می‌شود محاسبه می‌کنند. نظیر نام و [[نام خانوادگی]] یا نام دوستانتان.

بعد از یادگیری، احتمال کلمه‌های ایمیل (به وسیلهٔ [[تابع احتمال|توابع احتمال]]) برای مشخص کردن این که ایمیل در چه دسته‌ای قرار می‌گیرد، استفاده می‌شود. هر کلمه در ایمیل به احتمال اسپم بودن ایمیل کمک می‌کند. بنابراین کلمات پر تکرار در ایمیل‌ها نقش مهمی در تشخیص اسپم بودن ایمیل دارند. به این کمک کردن احتمال posterior می‌گویند که براساس [[قضیه بیز]] محاسبه می‌گردد. سپس برای تمام کلمات احتمال اسپم بودن ایمیل محاسبه می‌گردد و اگر کل احتمالات از مقدار آستانه (۹۵٪) بیشتر شد، فیلتر برچسب اسپم بودن به آن ایمیل می‌زند.

مانند روش‌های دیگر، [[فیلترینگ اسپم]] ایمیل با برچسب اسپم به صورت خودکار به پوشه "Junk" منتقل می‌شود و حتی بعد از مدتی پاک خواهد شد. برخی از نرم‌افزارها برای مدتی خاص ایمیل را در قرنطینه برای بازبینی به وسیله کاربر قرار می‌دهند.

یادگیری اولیه معمولاً دارای خطاهای بالایی است (مثبت کاذب و منفی کاذب) که کاربر ابتدا باید آن را برای نرم‌افزار تمیزسازی کند. بعد از مدتی نرم‌افزار به صورت پویا خودش را وفق می‌دهد و اسپم‌ها را با دقت بالایی تشخیص می‌دهد.

برخی از فیلترها از نتیجهٔ ترکیب فیلترینگ اسپم بیزی و چندین فیلترینگ اکتشافی دیگر برای دقت بالاتر و همچنین وفق یافتن نرم‌افزار استفاده می‌کنند.

== پایه ریاضی ==
[[فیلتر ایمیل|فیلترهای ایمیل]] بیزی از مزایای [[قضیه بیز]] استفاده می‌کنند. قضیه بیز در چندین قسمت استفاده می‌شود:
* نخستین مرتبه، محاسبهٔ احتمال کلمه‌های موجود در پیام دریافت شده
* دومین مرتبه، محاسبهٔ احتمال اسپم بودن پیام براساس احتمال‌های به دست آمده از کلمه‌های پیام دریافتی
* سومین مرتبه، چگونگی برخورد با کلمه‌های کمیاب

=== محاسبه احتمال این که یک پیام شامل کلمات اسپم باشد ===
فرض می‌کنیم که پیام شامل کلمه "Replica" می‌باشد. اکثر افرادی که این پیام را دریافت می‌کنند می‌دانند که این پیام، اسپم است. به‌طور دقیق‌تر این پیام یک پیشنهاد فروش تقلبی ساعت‌های یک شرکت معروف را به ما می‌دهد. گرچه نرم‌افزار تشخیص اسپم این حقیقت را نمی‌داند و تمام آن چیزی که می‌داند چگونگی محاسبه احتمال کلمات است.

فرمولی که نرم‌افزار برای محاسبه احتمال کلمات استفاده می‌کند از [[قضیه بیز]] مشتق شده‌است:
:<math>\Pr(S|W) = \frac{\Pr(W|S) \cdot \Pr(S)}{\Pr(W|S) \cdot \Pr(S) + \Pr(W|H) \cdot \Pr(H)}</math>
و داریم:
* <math> Pr(S|W)\ </math>: احتمال این که پیام اسپم و کلمه "Replica" در آن باشد
* <math> Pr(S)\ </math>: احتمال اسپم بودن پیام‌ها
* <math> Pr(W|S)\ </math>: احتمال این که کلمه "Replica" در پیام‌های اسپم ظاهر شود
* <math> Pr(H)\ </math>: احتمال اسپم نبودن پیام‌ها (ham باشند)
* <math> P(W|H)\ </math>: احتمال این که کلمه "Replica" در پیام‌های غیر‌اسپم (ham) ظاهر شود

=== احتمال اسپم بودن ===
آمار اخیر نشان می‌دهد که احتمال اسپم بودن پیامی که دریافت می‌کنید حداقل ۸۰ درصد است:
:<math> \Pr(S) = 0.8 ;  \Pr(H) = 0.2</math>

گرچه اکثر نرم‌افزارهای تشخیص اسپم بیزی فرض می‌کنند هیچ دلیلی وجود ندارد که احتمال اسپم بودن پیام‌های دریافتی بیشتر از اسپم نبودن آن‌ها باشد و آن‌ها احتمال این دو را برابر در نظر می‌گیرند.
:<math> \Pr(S) = 0.5 ;  \Pr(H) = 0.5</math>

فیلترهایی که از این فرضیه استفاده می‌کنند گفته می‌شود که بیز نیست، یعنی آن‌ها هیچ تبعیضی بین ایمیل‌های دریافتی نمی‌گذارند. این فرضیه فرمول را ساده‌تر می‌کند:
:<math>\Pr(S|W) = \frac{\Pr(W|S)}{\Pr(W|S) + \Pr(W|H)}</math>

این کمیت به نام میزان اسپمگی (spamicity یا spaminess) شناخته می‌شود و می‌توانیم برای کلمه "Replica" آن را محاسبه کنیم. عدد <math>Pr(W|S)\ </math> در این فرمول تعداد تکرار کلمه "Replica" در پیام‌های اسپم در مرحله یادگیری است. به‌طور مشابه عدد <math>Pr(W|H)\ </math> تعداد تکرار کلمه "Replica" در پیام‌های غیر‌اسپم (ham) در مرحله یادگیری است. برای به دست آوردن تقریبی خوب، باید در مرحله یادگیری، تعداد پیام‌های اسپم و غیر‌اسپم به‌طور قابل توجهی زیاد باشد. همچنین با توجه به تغییر فرمول بیز، باید در مرحله یادگیری تعداد پیام‌های اسپم و غیر‌اسپم نیز با هم برابر باشند.
تشخیص این که پیام اسپم است یا نه، با در نظر گرفتن یک کلمه "Replica" کاری بسیار اشتباه است. به همین دلیل است که نرم‌افزارهای فیلترینگ اسپم بیز سعی می‌کنند که بر اساس چندین کلمه اسپم بودن یا نبودن را تشخیص دهند.

=== ترکیب احتمال‌های مستقل به دست آمده از کلمه‌های یک پیام ===
نرم‌افزار فیلترینگ اسپم بیزی فرض می‌کند که احتمال‌های کلمات موجود در یک متن دارای احتمال مستقل هستند. این یک فرض اشتباه در [[زبان‌های طبیعی]] مانند انگلیسی است، به عنوان مثال پیدا کردن احتمال یک کلمه به عنوان صفت بر احتمال آن کلمه وقتی به عنوان اسم استفاده می‌شود، تأثیر می‌گذارد. با این فرض فرمول دیگری از قضیه بیز استنتاج می‌شود:
:<math>p = \frac{p1 \cdot p2 \cdot \ldots \cdot pN}{p1 \cdot p2 \cdot \ldots \cdot pN + (1 - p1) \cdot (1 - p2) \cdot \ldots \cdot (1 - pN)}</math>
و داریم:
* <math>p</math> احتمال این که پیام دریافتی اسپم باشد
* <math>p1</math> احتمال این که کلمه اول در پیام دریافتی اسپم باشد. <math>p(S|W1)\ </math> (به عنوان مثال کلمه "Replica")
* <math>p2</math> احتمال این که کلمه دوم در پیام دریافتی اسپم باشد. <math>p(S|W2)\ </math> (به عنوان مثال کلمه "Watches")
* و الی کلمه N -۱
* <math>pN</math> احتمال این که کلمه Nاُم در پیام دریافتی اسپم باشد. <math>p(S|WN)\ </math> (به عنوان مثال کلمه "home")

با فرضیات بالا، نرم‌افزاری که به این طریق نوشته شود [[naive Bayes classifier]] نامند. 
برای تشخیص اسپم بودن پیام، نتیجه <math>p</math> با مقدار آستانه مقایسه می‌شود. اگر مقدار <math>p</math> کمتر از مقدار آستانه بود، پیام اسپم نیست (که به آن ham گفته می‌شود) در غیر این صورت پیام اسپم است.

=== چگونگی رفتار با کلمات کمیاب ===
اگر به کلمه‌ای برخورد کردیم که در مرحله یادگیری با آن برخورد نداشتیم، در نتیجه صورت و مخرج کسر هم در فرمول اصلی ([[قضیه بیز]]) و هم در فرمول اسپمگی (spamicity) صفر می‌شود. نرم‌افزار می‌تواند این کلمات را نادیده بگیرد و برای آن‌ها احتمال محاسبه نکند.

در حالت کلی کلماتی که دارای تکرار کمی در مرحله یادگیری باشند، مشکل‌زا خواهند شد. زیرا آن می‌تواند یک خطای اطمینان کورکورانه نسبت به اطلاعات جمع‌آوری شده باشد. راه حل بسیار ساده، نادیده گرفتن این گونه کلمات است.

با در نطر گرفتن [[قضیه بیز]]، [[متغیر تصادفی]] با [[توزیع بتا]]، دو دسته ایمیل‌های غیر‌اسپم (ham) و اسپم برای یک کلمه (مثل "Replica") است. تعدادی از نرم‌افزارها از احتمال صحیح قضیه بیز استفاده می‌کنند:
:<math>Pr'(S|W) = \frac{s \cdot Pr(S) + n \cdot Pr(S|W)}{s + n }</math>
و داریم:
* <math>Pr'(S|W)\ </math> احتمال صحیح این که کلمه داده شده در پیام‌های اسپم ظاهر شود
* <math>s\ </math> یک ضریب، که ما براساس پیش زمینه‌ای که در دریافت پیام‌های اسپم داریم، مشخص می‌شود
* <math>Pr(S)\ </math> احتمال این که تمام پیام‌های دریافتی اسپم باشند
* <math>n\ </math> تعداد تکرار کلمه در مرحله یادگیری
* <math>Pr(S|W)\ </math> مقدار اسپمگی (spamicity) این کلمه

این احتمال صحیح به جای مقدار اسپمگی (spamicity) در فرمول ترکیب احتمال‌های مستقل استفاده می‌شود.

مجدداً برای جلوگیری از مشکوک بودن بیش از اندازه به ایمیل‌های دریافتی <math>Pr(S)\ </math> می‌تواند برابر ۰.۵ در نظر گرفته شود. عدد <math>3</math> مقدار خوبی برای <math>s</math> می‌باشد که نشان دهنده این است که حداقل ۳ پیام در مرحله یادگیری شامل کلمه جاری است. این برای افزایش اطمینان نرم‌افزار است.

این فرمول می‌تواند گسترش پیدا کند و <math>n</math> برابر با صفر در نظر گرفته شود
(یعنی اسپمگی (spamicity) تعریف نشده‌است). بنابراین فرمول به صورت <math>Pr(S)\ </math> می‌شود.

=== راه‌های اکتشافی دیگر ===
کلمات بی‌طرف مانند "the" ،"a" ،"some" یا "is" در [[زبان انگلیسی]] یا مشابه این کلمات در زبان‌های دیگر را می‌توان نادیده گرفت. در حالت کلی، برخی از فیلترهای فیلترینگ بیزی تمام کلماتی که مقدار اسپمگی آن‌ها نزدیک به ۰٫۵ باشند را نادیده می‌گیرند که این تصمیم خوبی است. در این الگوریتم کلماتی که اسپمگی آن‌ها در اطراف ۰٫۰ (که مشخص‌کننده پیام‌های درست و غیر اسپم هستند) یا ۱٫۰ (که مشخص‌کننده پیام‌های درست و اسپم هستند) باشند، در نظر گرفته می‌شوند. به عنوان مثال یک روش می‌تواند ۱۰ کلمه‌ای را نگه دارد که [[قدر مطلق (ریاضی)|قدر مطلق]] <math>| 0.5 - pI |</math> از همه بیشتر باشد.

برخی از نرم‌افزارها کلماتی را نگه می‌دارند که چندین دفعه در مرحله یادگیری در پیام‌های مختلف ظاهر شده باشند.

برخی دیگر از نرم‌افزارها از الگوها (دنباله‌ای از کلمات) به جای کلمات [[زبان طبیعی]] استفاده می‌کنند. برای مثال، با یک پنجره لغزان چهار کلمه‌ای، این نرم‌افزارها اسپمگی را برای «Viagra is good for» به جای کلمات "Viagra" ،"is" ،"good" و "for" محاسبه می‌کنند. این روش حساسیت به متن را افزایش می‌دهد و [[اختلال بیزی]] را برای پایگاه داده‌های بزرگ کمتر می‌کند.

=== روش‌های ترکیبی ===
به دلیل بالا بودن خطاها در ابتدای استفاده از روش بیزی برای فیلترینگ اسپم، راه‌هایی برای ترکیب احتمال‌ها وجود دارد. این روش‌ها با فرضیاتی که از آمار و اطلاعات ورودی محاسبه می‌شود فرق دارد. این فرضیات به‌طور اساسی با فرمول‌هایی که با ترکیب احتمال‌ها به دست آوردیم فرق دارند.
برای مثال با فرض احتمال‌های مستقل و با استفاده از [[توزیع کی دو]] با درجهٔ آزادی <math>2 \cdot N</math> می‌توان فرمول زیر را داشت:
:<math>p = C^{-1}(-2 \cdot \ln(p1 \cdot p2 \cdot \ldots \cdot pN), 2 \cdot N)</math>
وقتی که <math>C^{-1}</math> [[توزیع معکوس کی دو|تابع توزیع معکوس کی دو]] باشد.
احتمال‌های مستقل می‌توانند با روش [[فرق‌گذاری مارکوین]] نیز ترکیب شوند.

== بحث ==

=== مزیت‌ها ===
مزیت فیلترینگ اسپم بیزی، یادگیری برای هر کاربر می‌باشد.

اسپم‌هایی که یک کاربر دریافت می‌کند معمولاً براساس فعالیت‌های کاربر در اینترنت می‌باشد. برای مثال، یک کاربر در یک خبرنامه ثبت نام می‌کند و ایمیل‌های آن خبرنامه را به عنوان اسپم می‌شناسد. این خبرنامه اینترنتی معمولاً دارای کلمات مشترک است که می‌تواند اسم خبرنامه یا [[آدرس ایمیل]] خبرنامه باشد. یک فیلتر اسپم بیزی در نهایت یک احتمال بالایی بر اساس الگوهای خاص کاربر در نظر می‌گیرد.

رفتار متفاوتی با ایمیل‌های غیر‌اسپم و قانونی‌ای که کاربر دریافت می‌کند خواهد داشت. برای مثال در یک شرکت، گاهی اسم شرکت، نام کارمندان یا نام مشتری‌ها در پیام‌ها ذکر می‌شود. فیلتر یک احتمال پایینی برای این دسته از اسامی تعیین می‌کند.

احتمال کلمات برای هر کاربر یکتا است و می‌تواند براساس استنتاج و یادگیری دوباره، مواردی که به‌طور اشتباه دسته بندی کرده‌است را تصحیح کند. براساس نتایج به دست آمده، دقت فیلترینگ اسپم بیزی بعد از یادگیری، اغلب بالاتر از قوانین از پیش تعریف شده توسط کاربر است.

این فیلترینگ می‌تواند به خوبی از [[مثبت کاذب|مثبت‌های کاذب]] جلوگیری کند. دسته بندی یک ایمیل غیر‌اسپم و قانونی را به یک ایمیل اسپم مثبت کاذب گویند. به عنوان مثال، اگر یک ایمیل شامل کلمه "Nigeria"، که در اکثر اسپم‌های [[کلاه برداری پول حرفه‌ای]] استفاده می‌شود باشد، قوانین از پیش تعریف شده بی‌درنگ ایمیل را به عنوان اسپم دسته بندی می‌کنند. یک فیلتر بیزی کلمه "Nigeria" را به عنوان کلمه ایمیل‌های اسپم می‌شناسد اما ممکن است کلمات مهم‌تری نسبت به آن در ایمیل وجود داشته باشند که اسپم بودن ایمیل را رد کند. به عنوان مثال اسم همسر شما می‌تواند به‌طور قطع ایمیل را غیر اسپم شناسایی کند.

=== اشکال‌ها ===
فیلترینگ اسپم بیزی مستعد [[زهر بیزی]] است، روشی که اسپمرها برای کاهش کارایی فیلترینگ‌های اسپمی که وابسته به فیلترینگ بیزی است، به کار می‌برند. فرستادن ایمیل‌های انبوه قانونی که معمولاً متن آن از روزنامه‌ها و منابع ادبی جمع‌آوری می‌شود، یک نمونه زهر بیزی است که اسپمرها انجام می‌دهند. تاکتیک‌های اسپمرها شامل قرار دادن کلمات تصادفی بی‌ضرر که معمولاً ربطی به اسپم ندارد نیز می‌باشد؛ که بدین وسیله امتیاز اسپم‌ها را نزد فیلترینگ‌های بیزی کاهش می‌دهند تا از فیلترینگ‌های اسپم بیزی فرار کنند.

از دیگر تکنیک‌های غلبه کردن بر فیلترینگ اسپم بیزی، قرار دادن تصویر به جای متن که می‌تواند دارای لینک نیز باشد. کل متن پیام یا قسمتی از آن با یک عکس که دقیقاً همان نوشته‌ها کشیده شده‌است جایگزین می‌شود. معمولاً فیلترهای اسپم نمی‌توانند عکس را پردازش کنند که آن معمولاً کلمات حساس مانند "Viagra" است. اگر چه اکثر سرویس‌های میل عکس‌های دارای لینک را به دلایل امنیتی نمایش نمی‌دهند. به علاوه اندازه یک عکس به بایت خیلی بیشتر از اندازه آن به متن است. بنابراین اسپمرها [[پهنای باند]] بیشتری نیاز دارند که پیام‌های شامل عکس را بفرستند. در نهایت، برخی از فیلترها پیام‌هایی که دارای اشکال گرافیکی زیادی باشند را به عنوان اسپم شناسایی می‌کنند.

استفاده از [[تشخیص نوری نویسه‌ها]] یکی از روش‌های بسیار کارا است که [[شرکت گوگل]] در [[جی میل]] برای عکس‌هایی با اندازه متوسط تا بزرگ انجام می‌دهد می‌باشد. با این روش متنی که در داخل عکس گنجانده شده‌است قابل تشخیص می‌شود.

== کاربردهای عمومی فیلترینگ بیزی ==
فیلترینگ بیزی به‌طور گسترده در تشخیص ایمیل‌های اسپم کاربرد دارد. اما این تکنیک می‌تواند هر نوع اطلاعاتی را دسته‌بندی کند. از این روش در [[علوم طبیعی]]، پزشکی و مهندسی استفاده شده‌است. یکی از نرم‌افزارهای دسته بندی عمومی [https://web.archive.org/web/20030202022200/http://ic.arc.nasa.gov/ic/projects/bayes-group/autoclass/ AutoClass] نام دارد. استفاده اولیهٔ آن برای دسته‌بندی ستاره‌ها براساس خصوصیات طیفی بود. اخیراً فرضیات جدیدی مبنی بر استفادهٔ مغز انسان از روش‌های بیزی برای طبقه‌بندی حس حرکتی و تصمیم بر چگونگی پاسخ‌های رفتاری مطرح شده‌است.

== منابع ==
{{پانویس}}
{{چپ‌چین}}
Wikipedia contributors, "[//en.wikipedia.org/w/index.php?title=Bayesian_spam_filtering&oldid=326320421 Bayesian spam filtering]," Wikipedia, The Free Encyclopedia, (accessed November 17, 2009).
{{پایان چپ‌چین}}

== پیوند به بیرون ==
{{چپ‌چین}}
* Guide to Bayesian spam filters: [http://lwn.net/Articles/172491/ part 1], [http://lwn.net/Articles/173910/ part 2].
* [http://mail.python.org/pipermail/python-dev/2002-August/028216.html Detailed explanation of Paul Graham's formulas] by Tim Peters
* [https://web.archive.org/web/20070703150601/http://radio.weblogs.com/0101454/stories/2002/09/16/spamDetection.html Gary Robinson's spam blog]
{{پایان چپ‌چین}}

[[رده:فیلترینگ اسپم]]
[[رده:کاربرد استنباط بیزی]]
[[رده:نظریه برآورد]]
[[رده:هرزه‌نگاره]]