مدل‌‌های انتشاری

الگو:یادگیری ماشین مدل‌های انتشاری الگو:انگلیسی در یادگیری ماشینی، دسته‌ای از مدل‌های متغیر پنهان الگو:انگلیسی هستند. این مدل‌ها نوعی زنجیره مارکوف هستند که با استفاده از استنباط بیزی تغییراتی آموزش داده می‌شوند. هدف مدل‌های انتشاری، یادگیری ساختار پنهان یک مجموعه داده با مدل‌سازی روشی است که در آن نقاط داده در فضای پنهان الگو:انگلیسی منتشر می‌شوند. در بینایی ماشین، این یعنی یک شبکه عصبی آموزش داده می‌شود تا با یادگیری معکوس فرایند انتشاری، با شروع از نویز گاوسی به تصاویر اصلی برسد.

تاریخچه

مدل‌های انتشاری در سال ۲۰۱۵ با ایده‌گرفتن از ترمودینامیک غیرتعادلی معرفی شدند.

ایده

مدل‌های انتشاری خانواده‌ای از مدل‌های مولد احتمالی هستند که به تدریج داده‌ها را با اضافه‌کردن نویز تخریب می‌کنند، سپس یادمی‌گیرند که این فرایند را برای تولید نمونه معکوس کنند. یک مدل انتشاری از دو زنجیره مارکوف استفاده می‌کند: یک زنجیره مستقیم که داده‌ها را به‌تدریج به نویز تبدیل می‌کند و یک زنجیره معکوس که نویز را به داده تبدیل می‌کند. اولی معمولاً با هدف تبدیل هر توزیع داده‌ای به یک توزیع پیشین ساده (مثلاً گاوسی استاندارد) به صورت دستی طراحی می‌شود، در حالی که زنجیره مارکوف دوم با یادگیری هسته‌های انتقال توسط شبکه‌های عصبی عمیق، اولی را معکوس می‌کند.

جزئیات

فرایند انتشار مستقیم

با داشتن یک نقطه داده نمونه‌برداری‌شده از یک توزیع داده واقعی ${𝐱}_0\sim q(𝐱)$، فرایند انتشار مستقیم الگو:انگلیسی را این‌گونه تعریف می‌کنیم که در آن مقدار کمی نویز گاوسی را در $T$ گام به نمونه ورودی اضافه می‌کنیم تا نمونه‌های نویزدار ${𝐱}_1,\dots ,{𝐱}_T$ تولید شود. اندازه گام‌ها توسط یک برنامه واریانس $\{{\beta }_t\in (0,1){\}}_{t=1}^T$ کنترل می‌شود.

الگو:وسط چین $q({𝐱}_t|{𝐱}_{t-1})=𝒩({𝐱}_t;\sqrt{1-{\beta }_t}{𝐱}_{t-1},{\beta }_t𝐈)q({𝐱}_{1:T}|{𝐱}_0)=\prod _{t=1}^{T}q({𝐱}_t|{𝐱}_{t-1})$ الگو:پایان وسط چین

نمونه داده به تدریج ویژگی‌های قابل مشاهده خود را با بزرگتر شدن گام $t$ از دست می‌دهد. درنهایت وقتی $T\to \mathrm{\infty }$، ${𝐱}_T$ معادل یک توزیع گاوسی همسان‌گرد خواهد شد.

یک ویژگی خوب فرایند فوق این است که می‌توانیم ${𝐱}_t$ را در هر گام دلخواه $t$ به صورت فرم بسته زیر با فرض ${\alpha }_t=1-{\beta }_t$ و ${\overline{\alpha }}_t=\prod _{i=1}^t{\alpha }_i$ محاسبه کنیم:

الگو:وسط چین $\begin{array}{ccc}{𝐱}_t& =\sqrt{{\alpha }_t}{𝐱}_{t-1}+\sqrt{1-{\alpha }_t}{\mathit{ϵ}}_{t-1}& {\mathit{ϵ}}_{t-1},{\mathit{ϵ}}_{t-2},\dots \sim 𝒩(\mathrm{𝟎},𝐈)\\ & =\sqrt{{\alpha }_t{\alpha }_{t-1}}{𝐱}_{t-2}+\sqrt{1-{\alpha }_t{\alpha }_{t-1}}{\overline{\mathit{ϵ}}}_{t-2}& {\overline{\mathit{ϵ}}}_{t-2}\text{ merges two Gaussians}\\ & =\dots \\ & =\sqrt{{\overline{\alpha }}_t}{𝐱}_0+\sqrt{1-{\overline{\alpha }}_t}\mathit{ϵ}\\ q({𝐱}_t|{𝐱}_0)& =𝒩({𝐱}_t;\sqrt{{\overline{\alpha }}_t}{𝐱}_0,(1-{\overline{\alpha }}_t)𝐈)\end{array}$ الگو:پایان وسط چین

توجه کنید که وقتی دو توزیع نرمال با واریانس‌های مختلف، $𝒩(\mathrm{𝟎},{\sigma }_1^2𝐈)$ و $𝒩(\mathrm{𝟎},{\sigma }_2^2𝐈)$ ادغام می‌کنیم، توزیع جدید $𝒩(\mathrm{𝟎},({\sigma }_1^2+{\sigma }_2^2)𝐈)$ خواهد بود. در رابطه بالا انحراف معیار برابر خواهد بود با: $$\sqrt{(1-{\alpha }_t)+{\alpha }_t(1-{\alpha }_{t-1})}=\sqrt{1-{\alpha }_t{\alpha }_{t-1}}$$

فرایند انتشار معکوس

اگر بتوانیم فرایند بالا را معکوس کنیم و از $q({𝐱}_{t-1}|{𝐱}_t)$ نمونه‌برداری کنیم، می‌توانیم نمونه واقعی را از ورودی نویز گاوسی ${𝐱}_T\sim 𝒩(\mathrm{𝟎},𝐈)$ دوباره ایجاد کنیم. توجه کنید که اگر ${\beta }_t$ به اندازه کافی کوچک باشد، $q({𝐱}_{t-1}|{𝐱}_t)$ نیز گوسی خواهد بود. متأسفانه، ما نمی‌توانیم $q({𝐱}_{t-1}|{𝐱}_t)$ را به راحتی تخمین بزنیم زیرا برای این کار باید از کل مجموعه‌داده استفاده کنیم، بنابراین باید مدلِ $p_{\theta }$ را برای تقریب این احتمالات شرطی به منظور اجرای فرایند انتشار معکوس یاد بگیریم.

الگو:وسط چین $p_{\theta }({𝐱}_{0:T})=p({𝐱}_T)\prod _{t=1}^T{p}_{\theta }({𝐱}_{t-1}|{𝐱}_t)p_{\theta }({𝐱}_{t-1}|{𝐱}_t)=𝒩({𝐱}_{t-1};{\mathit{\mu }}_{\theta }({𝐱}_t,t),{\mathrm{\Sigma }}_{\theta }({𝐱}_t,t))$ الگو:پایان وسط چین

احتمال شرطی معکوس زمانی قابل حل است که روی ${𝐱}_0$ شرط شود:

الگو:وسط چین $q({𝐱}_{t-1}|{𝐱}_t,{𝐱}_0)=𝒩({𝐱}_{t-1};\tilde{\mathit{\mu }}({𝐱}_t,{𝐱}_0),{\tilde{\beta }}_t𝐈)$ الگو:پایان وسط چین

با اعمال قاعده بیز داریم:

الگو:وسط چین $\begin{array}{cc}q({𝐱}_{t-1}|{𝐱}_t,{𝐱}_0)& =q({𝐱}_t|{𝐱}_{t-1},{𝐱}_0)\frac{q({𝐱}_{t-1}|{𝐱}_0)}{q({𝐱}_t|{𝐱}_0)}\\ & \propto \exp (-\frac{1}{2}(\frac{({𝐱}_t-\sqrt{{\alpha }_t}{𝐱}_{t-1}{)}^2}{{\beta }_t}+\frac{({𝐱}_{t-1}-\sqrt{{\overline{\alpha }}_{t-1}}{𝐱}_0{)}^2}{1-{\overline{\alpha }}_{t-1}}-\frac{({𝐱}_t-\sqrt{{\overline{\alpha }}_t}{𝐱}_0{)}^2}{1-{\overline{\alpha }}_t}\left)\right)\\ & =\exp (-\frac{1}{2}(\frac{{𝐱}_t^2-2\sqrt{{\alpha }_t}{𝐱}_t{𝐱}_{t-1}+{\alpha }_t{𝐱}_{t-1}^2}{{\beta }_t}+\frac{{𝐱}_{t-1}^2-2\sqrt{{\overline{\alpha }}_{t-1}}{𝐱}_0{𝐱}_{t-1}+{\overline{\alpha }}_{t-1}{𝐱}_0^2}{1-{\overline{\alpha }}_{t-1}}-\frac{({𝐱}_t-\sqrt{{\overline{\alpha }}_t}{𝐱}_0{)}^2}{1-{\overline{\alpha }}_t}\left)\right)\\ & =\exp (-\frac{1}{2}((\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\overline{\alpha }}_{t-1}}){𝐱}_{t-1}^2-(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{𝐱}_t+\frac{2\sqrt{{\overline{\alpha }}_{t-1}}}{1-{\overline{\alpha }}_{t-1}}{𝐱}_0){𝐱}_{t-1}+C({𝐱}_t,{𝐱}_0)\left)\right)\end{array}$ الگو:پایان وسط چین

با توجه به تابع چگالی توزیع گاوسی، میانگین و واریانس را می‌توان به صورت زیر به‌دست‌آورد:

الگو:وسط چین $\begin{array}{cc}{\tilde{\beta }}_t& =1/(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\overline{\alpha }}_{t-1}})=1/(\frac{{\alpha }_t-{\overline{\alpha }}_t+{\beta }_t}{{\beta }_t(1-{\overline{\alpha }}_{t-1})})=\frac{1-{\overline{\alpha }}_{t-1}}{1-{\overline{\alpha }}_t}\cdot {\beta }_t\\ {\tilde{\mathit{\mu }}}_t({𝐱}_t,{𝐱}_0)& =(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{𝐱}_t+\frac{\sqrt{{\overline{\alpha }}_{t-1}}}{1-{\overline{\alpha }}_{t-1}}{𝐱}_0)/(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\overline{\alpha }}_{t-1}})\\ & =(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{𝐱}_t+\frac{\sqrt{{\overline{\alpha }}_{t-1}}}{1-{\overline{\alpha }}_{t-1}}{𝐱}_0)\frac{1-{\overline{\alpha }}_{t-1}}{1-{\overline{\alpha }}_t}\cdot {\beta }_t\\ & =\frac{\sqrt{{\alpha }_t}(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}{𝐱}_t+\frac{\sqrt{{\overline{\alpha }}_{t-1}}{\beta }_t}{1-{\overline{\alpha }}_t}{𝐱}_0\\ \end{array}$ الگو:پایان وسط چین

می‌دانیم که ${𝐱}_0=\frac{1}{\sqrt{{\overline{\alpha }}_t}}({𝐱}_t-\sqrt{1-{\overline{\alpha }}_t}{\mathit{ϵ}}_t)$ و با جایگذاری در عبارات بالا خواهیم داشت:

الگو:وسط چین $\begin{array}{cc}{\tilde{\mathit{\mu }}}_t& =\frac{\sqrt{{\alpha }_t}(1-{\overline{\alpha }}_{t-1})}{1-{\overline{\alpha }}_t}{𝐱}_t+\frac{\sqrt{{\overline{\alpha }}_{t-1}}{\beta }_t}{1-{\overline{\alpha }}_t}\frac{1}{\sqrt{{\overline{\alpha }}_t}}({𝐱}_t-\sqrt{1-{\overline{\alpha }}_t}{\mathit{ϵ}}_t)\\ & =\frac{1}{\sqrt{{\alpha }_t}}({𝐱}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\overline{\alpha }}_t}}{\mathit{ϵ}}_t)\end{array}$ الگو:پایان وسط چین

تابع هزینه برای آموزش فرایند انتشاری

برای تقریب توزیع احتمال شرطی در فرایند انتشار معکوس $p_{\theta }({𝐱}_{t-1}|{𝐱}_t)=𝒩({𝐱}_{t-1};{\mathit{\mu }}_{\theta }({𝐱}_t,t),{\mathrm{\Sigma }}_{\theta }({𝐱}_t,t))$ نیاز به یادگیری یک شبکه عصبی داریم. درواقع می‌خواهیم ${\mathit{\mu }}_{\theta }$ را آموزش دهیم که ${\tilde{\mathit{\mu }}}_t=\frac{1}{\sqrt{{\alpha }_t}}({𝐱}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\overline{\alpha }}_t}}{\mathit{ϵ}}_t)$ را پیش‌بینی کند. از آن‌جایی که ${𝐱}_t$ به‌عنوان ورودی مدل هنگام آموزش داده می‌شود، می‌توانیم با تغییر عبارت نویز گاوسی ${\mathit{ϵ}}_t$ را از ورودی در گام $t$ پیش‌بینی کنیم:

الگو:وسط چین $\begin{array}{cc}{\mathit{\mu }}_{\theta }({𝐱}_t,t)& =\frac{1}{\sqrt{{\alpha }_t}}({𝐱}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\overline{\alpha }}_t}}{\mathit{ϵ}}_{\theta }({𝐱}_t,t))\\ \to {𝐱}_{t-1}& =𝒩({𝐱}_{t-1};\frac{1}{\sqrt{{\alpha }_t}}({𝐱}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\overline{\alpha }}_t}}{\mathit{ϵ}}_{\theta }({𝐱}_t,t)),{\mathrm{\Sigma }}_{\theta }({𝐱}_t,t))\end{array}$ الگو:پایان وسط چین

پس تابع هزینه برای کمینه کردن اختلاف از $\tilde{\mathit{\mu }}$ به صورت زیر خواهد بود:

الگو:وسط چین $\begin{array}{cc}{L}_t& ={𝔼}_{{𝐱}_0,\mathit{ϵ}}[\frac{1}{2\Vert {\mathrm{\Sigma }}_{\theta }({𝐱}_t,t){\Vert }_2^2}\Vert {\tilde{\mathit{\mu }}}_t({𝐱}_t,{𝐱}_0)-{\mathit{\mu }}_{\theta }({𝐱}_t,t){\Vert }^2]\\ & ={𝔼}_{{𝐱}_0,\mathit{ϵ}}[\frac{1}{2\Vert {\mathrm{\Sigma }}_{\theta }{\Vert }_2^2}\Vert \frac{1}{\sqrt{{\alpha }_t}}({𝐱}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\overline{\alpha }}_t}}{\mathit{ϵ}}_t)-\frac{1}{\sqrt{{\alpha }_t}}({𝐱}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\overline{\alpha }}_t}}{\mathit{ϵ}}_{\theta }({𝐱}_t,t)){\Vert }^2]\\ & ={𝔼}_{{𝐱}_0,\mathit{ϵ}}[\frac{(1-{\alpha }_t{)}^2}{2{\alpha }_t(1-{\overline{\alpha }}_t)\Vert {\mathrm{\Sigma }}_{\theta }{\Vert }_2^2}\Vert {\mathit{ϵ}}_t-{\mathit{ϵ}}_{\theta }({𝐱}_t,t){\Vert }^2]\\ & ={𝔼}_{{𝐱}_0,\mathit{ϵ}}[\frac{(1-{\alpha }_t{)}^2}{2{\alpha }_t(1-{\overline{\alpha }}_t)\Vert {\mathrm{\Sigma }}_{\theta }{\Vert }_2^2}\Vert {\mathit{ϵ}}_t-{\mathit{ϵ}}_{\theta }(\sqrt{{\overline{\alpha }}_t}{𝐱}_0+\sqrt{1-{\overline{\alpha }}_t}{\mathit{ϵ}}_t,t){\Vert }^2]\end{array}$ الگو:پایان وسط چین

در مقاله نشان داده شده‌است که آموزش مدل انتشاری با تابع هزینه زیر بهتر انجام می‌شود:

الگو:وسط چین $\begin{array}{cc}{L}_t^{\text{simple}}& ={𝔼}_{t\sim [1,T],{𝐱}_0,{\mathit{ϵ}}_t}[\Vert {\mathit{ϵ}}_t-{\mathit{ϵ}}_{\theta }({𝐱}_t,t){\Vert }^2]\\ & ={𝔼}_{t\sim [1,T],{𝐱}_0,{\mathit{ϵ}}_t}[\Vert {\mathit{ϵ}}_t-{\mathit{ϵ}}_{\theta }(\sqrt{{\overline{\alpha }}_t}{𝐱}_0+\sqrt{1-{\overline{\alpha }}_t}{\mathit{ϵ}}_t,t){\Vert }^2]\end{array}$ الگو:پایان وسط چین

و تابع هزینه نهایی به صورت $L_{\text{simple}}=L_t^{\text{simple}}+C$ خواهد بود ($C$ یک مقدار ثابت مستقل از $\theta$ است).

محدودیت‌ها

فرایند نمونه‌گیری از DDPM با دنبال‌کردن زنجیره مارکوف فرایند انتشار معکوس بسیار کند است، زیرا تعداد گام‌ها $T$ می‌تواند تا یک یا چند هزار مرحله باشد. در گفته شده «به عنوان مثال، نمونه‌گیری ۵۰ هزار عکس با اندازه ۳۲ × ۳۲ از یک DDPM حدود ۲۰ ساعت طول می‌کشد، اما انجام این کار با یک GAN روی یک پردازنده گرافیکی Nvidia 2080 Ti کمتر از یک دقیقه زمان می‌برد.»

کاربرد

بینایی ماشین

مدل‌هایی انتشاری برای تولید، بخش‌بندی، فراتفکیک‌پذیری، تغییر و تعمیر الگو:انگلیسی تصاویر به کار می‌روند. همچنین در تولید ویدئو، تشخیص ناهنجاری، تحلیل تصاویر پزشکی و بینایی سه‌بعدی کاربرد دارد.

پردازش زبان‌های طبیعی

مدل‌های انتشاری همچنین برای تولید و ترجمه متن استفاده می‌شوند.

جستارهای وابسته

• زنجیره مارکوف
• استنباط بیزی تغییراتی
• خودرمزگذار متغیر