میان-همبستگی

مقایسه دیداری هم‌گشت، میان-همبستگی، و خودهمبستگی. برای عملیاتی که تابع f را درگیر می‌کنند، و با این فرض که ارتفاع f برابر ۱٫۰ است، مقدار نتیجه در ۵ نقطه متفاوت توسط مناطق حاشور خورده زیر هر نقطه نشان‌داده شده‌است. همچنین تقارن عمودی برای f همان دلیلی است که $f*g$ و $f\star g$ در این مثال یکسان هستند.

میان-همبستگی الگو:به انگلیسی در پردازش سیگنال، نوعی «اندازه شباهت» برای دو سری، به عنوان تابعی از «جابجایی» یکی نسبت به دیگری است. به میان-همبستگی، ضرب نقطه‌ای کشویی یا ضرب داخلی کشویی هم گفته می‌شود. از این روش معمولاً برای جستجوی یک سیگنال بزرگ برای یافتن یک سیگنال کوچکتر (که به آن ویژگی الگو:به انگلیسی گفته می‌شود) استفاده می‌شود. این روش در بازشناخت الگو، تحلیل ذره منفرد، برش‌نگاری الکترون، متوسط‌گیری، تحلیل رمز و نوروفیزیولوژی کاربردهایی دارد. میان-همبستگی در طبیعت خود شباهت‌هایی با هم‌گشت دو تابع دارد. در خودهمبستگی، که میان-همبستگی یک سیگنال با خودش است، در تأخیر صفر، همیشه یک قله (پیک) وجود دارد، و اندازه آن همان انرژی سیگنال است.

در احتمالات و آمار، اصطلاح میان-همبستگی به همبستگی بین دو موجودیت از بردارهای تصادفی $𝐗$ و $𝐘$ اشاره دارد، درحالیکه همبستگی برای یک بردار تصادفی $𝐗$ همان همبستگی بین موجودیت‌های خود $𝐗$ است، که ماتریس همبستگی $𝐗$ را تشکیل می‌دهد. اگر هرکدام از $𝐗$ و $𝐘$ یک متغیر تصادفی نرده‌ای باشد، که این موضوع در سری‌های زمانی مکرر رخ می‌دهد، آنوقت همبستگی نمونه‌های زمانی مختلف $𝐗$ را با نام خودهمبستگی $𝐗$ می‌شناسیم، و میان-همبستگی $𝐗$ با $𝐘$ در طول زمان همان میان-همبستگی زمانی است. در احتمالات و آمار، تعریف همبستگی همیشه شامل یک عامل استانداردسازی است به این شیوه که مقادیر همبستگی‌ها باید بین -۱ و +۱ باشد.

اگر $X$ و $Y$ دو متغیر تصادفی مستقل با توابع چگالی احتمال $f$ و $g$ به ترتیب باشند، آنوقت چگالی احتمال تفریق $Y-X$ به صورت صوری توسط میان-همبستگی $f\star g$ معرفی می‌شود (در مفهوم پردازش سیگنال)؛ با این حال، از این اصطلاحات در احتمالات و آمار استفاده نمی‌شود. در مقابل، هم‌گشت $f*g$ (معادل میان-همبستگی $f(t)$ و $g(-t)$) برابر تابع چگالی احتمال برای مجموع $X+Y$ است.

میان-همبستگی برای سیگنال‌های قطعی

برای توابع پیوسته $f$ و $g$، میان-همبستگی به این صورت تعریف می‌شود:

که معادل است با

$(f\star g)(\tau )\triangleq \underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}\overline{f(t-\tau )}g(t)dt$

که در آن $\overline{f(t)}$ به مزدوج مختلط $f(t)$ اشاره دارد، و $\tau$ همان جابجایی است که به آن تأخیر (lag) هم گفته می‌شود (یک ویژگی در $f$ در زمان $t$ در $g$ در زمان $t+\tau$ اتفاق می‌افتد).

اگر $f$ و $g$ هر دو توابعی متناوب پیوسته با دوره تناوب $T$ باشند، انتگرال از $-\mathrm{\infty }$ تا $\mathrm{\infty }$ را می‌توان با انتگرال در هر بازه $[t_0,t_0+T]$ با طول $T$ جایگزین کرد:

که معادل است با

$(f\star g)(\tau )\triangleq \underset{t_0}{\overset{t_0+T}{\int }}\overline{f(t-\tau )}g(t)dt$

به صورت مشابه، برای توابع گسسته، میان-همبستگی به این صورت تعریف می‌شود:

که معادل است با

$(f\star g)[n]\triangleq \sum _{m=-\mathrm{\infty }}^{\mathrm{\infty }}\overline{f[m-n]}g[m]$.

برای توابع گسسته محدود $f,g\in {ℂ}^N$، میان-همبستگی (دایره‌وار) به این صورت تعریف می‌شود:

که معادل است با

$(f\star g)[n]\triangleq \sum _{m=0}^{N-1}\overline{f[(m-n{)}_{\text{mod}N}]}g[m]$.

برای توابع گسسته محدود $f\in {ℂ}^N$, $g\in {ℂ}^M$، میان-همبستگی هسته‌ای به این صورت تعریف می‌شود:

که در آن $K_g=[k(g,T_0(g)),k(g,T_1(g)),\dots ,k(g,T_{N-1}(g))]$ یک بردار از توابع هسته‌ای $k(\cdot ,\cdot ):{ℂ}^M\times {ℂ}^M\to ℝ$ است و $T_i(\cdot ):{ℂ}^M\to {ℂ}^M$ یک تبدیل همگر (آفین) است.

بخصوص، $T_i(\cdot )$ می‌تواند یک تبدیل ترجمه دایره‌ای، تبدیل دورانی، یا تبدیل مقداری یا غیره باشد. میان-همبستگی هسته‌ای دارد میان-همبستگی را از فضای خطی به فضای هسته گسترش می‌دهد. میان-همبستگی معادل ترجمه است، میان-همبستگی هسته‌ای معادل هر تبدیل همگر (آفین) است، که شامل ترجمه، دوران، و مقیاس‌دهی و غیره است.

شرح

به عنوان مثال، دو تابع با مقدار حقیقی $f$ و $g$ را در نظر بگیرید که فقط به اندازه یک انتقال ناشناخته در طول محور x با هم تفاوت دارند. می‌توان از میان-همبستگی استفاده کرد تا این موضوع را یافت که چقدر باید $g$ را در طول محور x انتقال داد تا آن را با $f$ یکسان‌سازی کرد. فرمول به صورت اساسی تابع $g$ را در طول محور x می‌لغزاند، و در این بین انتگرال حاصل‌ضرب آن‌ها را در هر مکان محاسبه می‌کند. دو تابع موقعی تطابق دارند که مقدار $(f\star g)$ حداکثر شده باشد. این به آن دلیل است که موقعی که قله‌ها (مساحت مثبت) تراز گردند، آن‌ها مشارکت بالایی در انتگرال دارند. به صورت مشابه، موقعی که فرورفتگی‌ها (مناطق منفی) تراز شوند، آن‌ها نیز یک مشارکت مثبت در انتگرال می‌سازند، زیرا حاصل‌ضرب دو عدد منفی، مثبت است.

پویانمایی که به صورت دیداری نشان‌دهنده آن است که چگونه میان-همبستگی محاسبه می‌شود.

با توابع مختلط-مقدار $f$ و $g$، و گرفتن مزدوج $f$ اطمینان حاصل می‌شود که قله‌های تراز شده (یا فرورفتگی‌های تراز شده) با مولفه‌های موهومی در انتگرال به صورت مثبت مشارکت دارند.

در اقتصادسنجی، گاهی به میان-همبستگی تأخیری میان-خودهمبستگی الگو:به انگلیسی می‌گویند.الگو:Rp

میان-همبستگی برای بردارهای تصادفی

تعریف

برای بردارهای تصادفی $𝐗=(X_1,\dots ,X_m{)}^{\mathrm{T}}$ و $𝐘=(Y_1,\dots ,Y_n{)}^{\mathrm{T}}$، که هرکدام شامل عناصر تصادفی است که مقدار چمداشتی و واریانس آن‌ها موجود است، ماتریس میان-همبستگی برای $𝐗$ و $𝐘$ به این صورت تعریف می‌شودالگو:Rp

و که ابعاد دارد. اگر به صورت مولفه‌وار بخواهیم بنویسیم:

${\mathrm{R}}_{𝐗𝐘}=\left[\begin{array}{cccc}\mathrm{E}[X_1{Y}_1]& \mathrm{E}[X_1{Y}_2]& \cdots & \mathrm{E}[X_1{Y}_n]\\ \\ \mathrm{E}[X_2{Y}_1]& \mathrm{E}[X_2{Y}_2]& \cdots & \mathrm{E}[X_2{Y}_n]\\ \\ ⋮& ⋮& \ddots & ⋮\\ \\ \mathrm{E}[X_m{Y}_1]& \mathrm{E}[X_m{Y}_2]& \cdots & \mathrm{E}[X_m{Y}_n]\end{array}\right]$

لازم نیست بردارهای $𝐗$ و $𝐘$ ابعاد یکسانی داشته باشند، و حتی می‌توانند یک مقدار اسکالر (نرده‌ای) باشند.

مثال

برای مثال، اگر $𝐗={(X_1,X_2,X_3)}^{\mathrm{T}}$ و $𝐘={(Y_1,Y_2)}^{\mathrm{T}}$ بردارهای تصادفی باشند، آنوقت ${\mathrm{R}}_{𝐗𝐘}$ یک ماتریس $3\times 2$ بعدی است که در آن عنصر $(i,j)$-ام برابر $\mathrm{E}[X_i{Y}_j]$ است.

تعریف برای بردارهای تصادفی مختلط

اگر $𝐙=(Z_1,\dots ,Z_m{)}^{\mathrm{T}}$ و $𝐖=(W_1,\dots ,W_n{)}^{\mathrm{T}}$ بردارهای تصادفی مختلط باشند، که هرکدام شامل متغیرهای تصادفی باشند که مقدار چشمداشتی و واریانس آن‌ها موجود باشد، ماتریس میان-همبستگی برای $𝐙$ و $𝐖$ به این صورت تعریف می‌شود

${\mathrm{R}}_{𝐙𝐖}\triangleq \mathrm{E}[𝐙{𝐖}^{\mathrm{H}}]$

که در آن ${}^{\mathrm{H}}$ نشان‌دهنده ترانهاد هرمیتین است.

میان-همبستگی برای فرایندهای تصادفی

در تحلیل سری زمانی و آمار، میان-همبستگی برای یک جفت از فرایندهای تصادفی برابر همبستگی بین مقادیر فرایندها در زمان‌های متفاوت، به عنوان یک تابع از دو زمان است. اگر فرض کنیم $(X_t,Y_t)$ یک جفت از فرایندهای تصادفی باشد، و $t$ هر نقطه در زمان باشد ($t$ برای فرایندهای زمان-گسسته می‌تواند عدد صحیح باشد یا برای یک فرایند زمان-پیوسته می‌تواند یک عدد حقیقی باشد). آنوقت $X_t$ یک مقدار (یا تحقق) است که توسط یک اجرای معین از فرایند در زمان $t$ ایجاد شده‌است.

تابع میان-همبستگی

فرض کنید که فرایند دارای میانگین‌های ${\mu }_X(t)$ و ${\mu }_Y(t)$ نیز واریانس‌های ${\sigma }_X^2(t)$ و ${\sigma }_Y^2(t)$ در زمان $t$ برای هر $t$ باشد. آنوقت تعریف میان-همبستگی بین زمان‌های $t_1$ و $t_2$ به این صورت استالگو:Rp

که در آن $\mathrm{E}$ همان عملگر مقدار چشمداشتی است. توجه کنید که این عبارت ممکن است تعریف نشده باشد.

تابع میان-همبستگی

با تفریق میانگین قبل از ضرب، منجر به ایجاد میان-کوواریانس بین زمان‌های $t_1$ و $t_2$ می‌شود:الگو:Rp

توجه کنید که این عبارت برای همه سری‌های زمانی و فرایندها خوش-تعریف نیست، زیرا میانگین یا واریانس ممکن است موجود نباشد.

تعریف برای فرایندهای تصادفی در مفهوم گسترده مانا

فرض کنید $(X_t,Y_t)$ نمایش‌دهنده یک جفت از فرایندهای تصادفی باشد که به صورت متصل مانای با مفهوم گسترده اند. آنوقت تابع میان-کوواریانس و تابع میان-همبستگی به این صورت معین می‌شوند.

تابع میان-همبستگی

یا به صورت معادل

${\mathrm{R}}_{XY}(\tau )=\mathrm{E}\left[X_{t-\tau }\overline{Y_t}\right]$

تابع میان-کوواریانس

یا به صورت معادل

${\mathrm{K}}_{XY}(\tau )=\mathrm{E}\left[(X_{t-\tau }-{\mu }_X)\overline{(Y_t-{\mu }_Y)}\right]$

که در آن ${\mu }_X$ و ${\sigma }_X$ برابر میانگین و انحراف معیار برای فرایند $(X_t)$ هستند، که این مقادیر به علت مانا بودن در زمان ثابت اند؛ و به صورت مشابه برای $(Y_t)$، به همان ترتیب. شکست در تجزیه (خطای نحوی): {\displaystyle \operatorname{E}[\]} نشان‌دهنده مقدار چشمداشتی است. این موضوع که میان-همبستگی و میان-کوواریانس از $t$ مستقل‌اند، دقیقاً یک اطلاعات اضافی است (فرای این موضوع که به صورت منفرد با مفهوم گسترده مانا هستند) این موضوع توسط این نیازمندی منتقل می‌شود که $(X_t,Y_t)$ دارای ویژگی مانای با مفهوم گسترده متصل است.

میان-همبستگی برای یک جفت از فرایندهای تصادفی متصل با مفهوم گسترده مانا را توسط میانگین‌گیری ضرب نمونه‌های اندازه‌گیری شده از یک فرایند و نمونه‌های اندازه‌گیری شده از دیگری (و انتقال زمانی آن) قابل تخمین است. نمونه‌های موجود در میانگین می‌تواند یک زیرمجموعه دلخواه از از همه نمونه‌های سیگنال باشد (مثلا نمونه‌های موجود در یک پنجره زمانی محدود یا یک زیرنمونه‌گیریالگو:Which از یکی از سیگنال‌ها). برای تعداد بالایی از نمونه‌ها، این میانگین به میان-همبستگی درست همگرا می‌شود.

نرمال‌سازی

این موضوع در بعضی از رشته‌ها (مثل آمار و تحلیل سری زمانی) معمول است که تابع میان-همبستگی را نرمال‌سازی کنند، تا به یک ضریب همبستگی پیرسون وابسته به زمان برسیم. با این حال، در رشته‌های دیگر (مثل مهندسی) از نرمال‌سازی معمولاً صرف‌نظر می‌شود، و اصطلاح‌های «میان-همبستگی» و «میان-کوواریانس» به جای هم به کار می‌روند.

تعریف میان-همبستگی نرمال‌سازی شده برای یک فرایند تصادفی به این صورت است

${\rho }_{XX}(t_1,t_2)=\frac{{\mathrm{K}}_{XX}(t_1,t_2)}{{\sigma }_X(t_1){\sigma }_X(t_2)}=\frac{\mathrm{E}\left[(X_{t_1}-{\mu }_{t_1})\overline{(X_{t_2}-{\mu }_{t_2})}\right]}{{\sigma }_X(t_1){\sigma }_X(t_2)}$.

اگر تابع ${\rho }_{XX}$ خوش-تعریف باشد، باید مقدار آن در بازه $[-1,1]$ بیافتد که در آن ۱ نشان‌دهنده همبستگی کامل و -۱ نشان‌دهنده ضد-همبستگی کامل است.

برای فرایندهای تصادفی با مفهوم گسترده مانا، تعریف اینگونه است

${\rho }_{XY}(\tau )=\frac{{\mathrm{K}}_{XY}(\tau )}{{\sigma }_X{\sigma }_Y}=\frac{\mathrm{E}\left[(X_t-{\mu }_X)\overline{(Y_{t+\tau }-{\mu }_Y)}\right]}{{\sigma }_X{\sigma }_Y}$.

نرمال‌سازی مهم است زیرا هم تفسیرکردن خودهمبستگی به صورت یک همبستگی یک اندازه قدرت وابستگی آماری بدون مقیاس فراهم می‌کند، و هم به این دلیل که نرمال‌سازی تأثیراتی روی ویژگی‌های آماری خودهمبستگی تخمین‌زده شده دارد.

ویژگی‌ها

ویژگی تقارن

برای فرایندهای تصادفی با مفهوم گسترده مانای متصل، تابع میان-همبستگی دارای این ویژگی ویژگی تقارن است:الگو:Rp

${\mathrm{R}}_{XY}(t_1,t_2)=\overline{{\mathrm{R}}_{YX}(t_2,t_1)}$

به همان ترتیب برای فرایندهای WSS متصل:

${\mathrm{R}}_{XY}(\tau )=\overline{{\mathrm{R}}_{YX}(-\tau )}$

تحلیل تأخیر زمانی

میان-همبستگی‌ها برای تعیین تأخیر زمانی بین دو سیگنال مفید اند، مثل برای تعیین تأخیر زمانی برای انتشار سیگنالهای صوتی در صول یک آرایه میکروفنی.الگو:Clarify بعد از محاسبه میان-همبستگی بین دو سیگنال، ماکزیمم (یا مینیمم اگر سیگنال‌ها به صورت منفی همبسته باشند) برای تابع میان-همبستگی، نشان‌دهنده نقطه‌ای در زمان است که سیگنال‌ها به صورت بهینه تراز شده‌اند؛ یعنی تأخیر زمانی بین دو سیگنال توسط آرگومان ماکزیمم، یا arg max برای میان-همبستگی تعیین می‌شود، مثلاً در

${\tau }_{\mathrm{d}\mathrm{e}\mathrm{l}\mathrm{a}\mathrm{y}}=\underset{t\in ℝ}{\mathrm{a}\mathrm{r}\mathrm{g}\mathrm{m}\mathrm{a}\mathrm{x}}((f\star g)(t))$

اصطلاح‌شناسی در پردازش تصویر

میان-همبستگی صفر-نرمال‌سازی شده (ZNCC)

برای کاربردهای پردازش تصویر، که در آن روشنایی تصویر و الگو می‌توانند به علت نوردهی یا معرض‌قرارگیری تغییر کنند، می‌توان تصاویر را از اول نرمال‌سازی کرد. این موضوع معمولاً در هر گام با تفریق میانگین و تقسیم بر انحراف معیار انجام می‌شود؛ یعنی، میان-همبستگی یک الگو $t(x,y)$ با یک زیرتصویر $f(x,y)$ به این صورت است

$\frac{1}{n}\sum _{x,y}\frac{1}{{\sigma }_f{\sigma }_t}(f(x,y)-{\mu }_f)(t(x,y)-{\mu }_t)$.

که در آن $n$ برابر تعداد پیکسل‌ها در $t(x,y)$ و $f(x,y)$ است و ${\mu }_f$ برابر میانگین $f$ و ${\sigma }_f$ برابر انحراف معیار $f$ است.

در اصطلاح آنالیز تابعی، این موضوع را می‌توان به صورت ضرب نقطه‌ای دو بردار نرمال‌سازی شده تصور کرد؛ یعنی اگر،

$F(x,y)=f(x,y)-{\mu }_f$

و

$T(x,y)=t(x,y)-{\mu }_t$

آنوقت مجموع بالا برابر است با

$⟨\frac{F}{\Vert F\Vert },\frac{T}{\Vert T\Vert }⟩$

که در آن $⟨\cdot ,\cdot ⟩$ برابر ضرب داخلی، و $\Vert \cdot \Vert$ برابر نرم L² norm است. کوشی-شوارتز آنوقت این پیامد را دارد که برد ZNCC برابر در بازه $[-1,1]$ است.

از این رو اگر $f$ و $t$ ماتریس‌های حقیقی باشند، میان-همبستگی نرمال‌سازی شده شان برابر کسینوس زاویه بین بردارهای واحد $F$ و $T$ است، و از این رو اگر و فقط اگر موقعی $1$ است که $F$ برابر $T$ (ضربدر یم مقدار نرده‌ای مثبت) باشد.

همبستگی نرمال‌سازی شده یکی از روش‌های استفاده شده برای تطابق الگو است، این فرایندی است که برای یافتن رخداد یک الگو، یا شیء در داخل یک تصویر استفاده می‌شود. این همچنین یک نسخه دو-بعدی برای ضریب همبستگی ضرب-گشتاوری پیرسون است.

میان-همبستگی نرمال‌شده (NCC)

NCC مشابه ZNCC است با این تنها تفاوت که در آن مقدار میانگین محلی برای شدت‌ها تفریق نمی‌شود:

$\frac{1}{n}\sum _{x,y}\frac{1}{{\sigma }_f{\sigma }_t}f(x,y)t(x,y)$

سامانه‌های غیرخطی

برای استفاده از میان-همبستگی برای سامانه‌های غیرخطی باید احتیاط کرد. در شرایط معین، که بستگی به ویژگی‌های ورودی دارد، میان-همبستگی بین ورودی و خروجی یک سامانه با داینامیک غیرخطی برای تاثیرهای غیرخطی معین می‌تواند کاملاً ناپیدا است. این موضوع به این دلیل بروز می‌کند که بعضی از گشتاورهای درجه‌دوم می‌تواند برابر صفر باشد، و این موضوع می‌تواند به صورت غیرصحیح پیشنهاد بدهد که یک «همبستگی» کم (در مفهوم وابستگی آماری) بین دو سیگنال وجود دارد، اما دو سیگنال در واقع به صورت قوی توسط دینامیک غیرخطی مرتبط هستند.