نمایش مبدأ برای الگوریتم جریان داده‌ها

در [[علم رایانه]] '''الگوریتم جریان داده‌ها''' {{به انگلیسی|Streaming algorithm}} [[الگوریتم|الگوریتمی]] ست برای پردازش [[جریان داده]]‌ها که به صورت توالی از آیتم‌ها به عنوان ورودی هستند و از یک یا تعداد محدودی گذرگاه می‌توانند مورد بررسی قرار بگیرند. در واقع این الگوریتم دنباله‌ای از داده را به عنوان ورودی دریافت کرده و یک سری تابع روی آن‌ها اعمال می‌کند. این الگوریتم حافظه مورد نیاز (کمتر از اندازه واقعی خود ورودی) و زمان پردازش هر آیتم را هم محدود می‌کند. این محدودیت‌ها به این معناست که این الگوریتم جواب تقریبی بر اساس یک خلاصه یا «طرحی» از جریان داده‌ها در حافظه تولید می‌کند.

== تاریخچه ==
اگرچه مطالعه الگوریتم جریان توسط مونرو و پاترسون<ref>Munro & Paterson (1980)</ref> دراوایل ۱۹۸۰ آغاز شد اما توسط [[:en: Philippe Flajolet|Philippe Flajolet]] و نایجل مارتین در ۱۹۸۲–۱۹۸۳ باعث شد<ref name="FLO">Flajolet & Martin (1985)</ref> موضوعات مرتبط به الگوریتم‌های جریان برای اولین بار به رسمیت شناخته شود و در یک مقاله در سال ۱۹۹۶ توسط نوگا آلون، یوسی ماتیاس، و ماریو<ref name="three">Alon, Matias & Szegedy (1996)</ref> محبوب شد. نویسندگان این مقاله بعداً جایزه گودل در سال ۲۰۰۵ را «برای سهم بنیادی شان نسبت به الگوریتم‌های جریانی» کسب کردند. از آن زمان کار زیادی حول الگوریتم‌های جریان داده انجام شد که طیف متنوعی از زمینه‌های علوم کامپیوتر از قبیل تئوری، پایگاه داده، شبکه و [[پردازش زبان‌های طبیعی|پردازش زبان طبیعی]] را گسترش داد. الگوریتم‌های نیمه جریانی در سال ۲۰۰۵ به عنوان یک فرمت از الگوریتم‌های جریانی ارائه شد که برای تعداد ثابت یا لگاریتمی از گذرگاه‌ها روی مجموعهٔ داده‌ها امکان‌پذیر است.

== مدل‌ها ==
در مدل جریان داده‌ها، برخی یا همه داده‌های ورودی که قابل عملیات هستند، برای دسترسی تصادفی از روی دیسک یا حافظه در دسترس نیستند، اما به عنوان یک جریان داده پیوسته سریع تر می‌رسند. جریان را می‌توان به صورت دنباله‌ای از نقاط تعریف کرد که می‌تواند تنها یک بار یا تعداد کمی در دسترس قرار بگیرد. بسیاری از ادبیات جریانی با آمار کامپیوتری روی داده‌های توزیعی که برای ذخیره کردن بسیار بزرگ هستند، مرتبط است. برای این دسته از مشکلات یک بردار a = (<math>a_1</math> , … , <math>a_n</math>) تعریف می‌کنیم که به صفر مقداردهی اولیه می‌کنیم که در یک جریان داده آمادهٔ به روزرسانی می‌باشد. هدف از این الگوریتم محاسبه توابعی از a با استفاده از فضای بسیار کمتری نسبت به فضایی که دقیقاً اشغال می‌کند، است. دو مدل رایج برای به روزرسانی هر جریان وجود دارد، به نام "مدل درخواست نقدی" (به [[زبان انگلیسی|انگلیسی]]:cash register) و "مدل گردان (به [[زبان انگلیسی|انگلیسی]] turnstile).<ref>Gilbert et al. (2001)</ref>
در مدل درخواست نقدی، هر به روزرسانی به فرم (i,c) می‌باشد به‌طوری‌که  <math>a_1</math> توسط c عدد صحیح مثبت افزایش می‌یابد. در مدل گردان هیچ‌کدام از<math>a_i</math>ها منفی نیستند. چندین مقاله نیز مدل «پنجره کشویی» را مطرح گرده‌اند. در این مدل، تابع مورد نظربرای محاسبه بیش از یک پنجره با اندازه ثابت در جریان داده دارد. هنگامی که جریان داده پیشرفت کند، یک آیتم از انتهای این جریان حذف شده و یک آیتم جدید جای آن را می‌گیرد.
{{سخ}}
علاوه بر مشکلاتی که در فرکانس بالا ایجادمیشود، مشکلات دیگر نیز بررسی شده‌است. تعدادی از مسائل گراف، با  [[ماتریس همسایگی]]  یا  [[فهرست همسایگی]]  که به صورت جریانی تعریف شده باشند، حل شده‌است. تعدادی از مشکلات این حوزه نیز به order(حجم و ترتیب و تعداد آیتم‌ها) یک جریان بستگی دارد. (مثلاً توابع نامتقارن) به‌طور مثال شمارش تعداد  [[:en:Inversion(discrete mathematics)|نابه جایی‌ها]] در یک توالی داده مثلاً یک آرایه و یافتن  [[طولانی‌ترین زیررشته صعودی]] . در واقع الگوریتم‌های مطرح برای رسیدن به این خواسته‌ها به طول رشته داده بستگی دارد و هرچه تعداد آیتم‌های این توالی داده‌ها بیشتر باشد، [[زمان اجرای الگوریتم]] و رسیدن به مطلوب سؤال یشتر می‌شود، در واقع مفهوم order به معنی میزان زمان اجرای الگوریتم و تعداد عملیات‌های انجام شده در یک الگوریتم و پیچیدگی الگوریتم می‌باشد. با توجه به حجم داده‌ها، مدل جریان داده‌ها در پیدا کردن نابه جایی‌ها یک محیط طبیعی برای طراحی کارآمد است. ما مجموعه‌ای از الگوریتم‌های جریانی کارآمد، برای تخمین تعداد نابه جایی‌ها در یک جایگشت به دست می‌آوریم. بهترین order برای این الگوریتم‌ها [[الگوریتم قطعی]] (deterministic) است که در<math> O(log  n)</math> انجام می‌شود (عبارت <math> O(log  n)</math> به این مفهوم است که وقتی طول رشته داده ما n باشد زمان اجرای الگوریتم و همان order الگوریتم یک ضریبی از <math>log  n</math>  می‌باشد).

== تحلیل و ارزیابی ==
عملکرد یک الگوریتم در جریانی از داده‌ها توسط سه عامل اساسی اندازه‌گیری می‌شود:
* تعداد عملیات‌ها و گذرهایی که روی اعضای آن توالی داده انجام می‌شود.
* حافظه موجود.
* زمان اجرای الگوریتم
{{سخ}}
این الگوریتم‌ها شباهت‌های بسیاری با [[الگوریتم برخط]] دارند، زیرا هر دو نیاز به تصمیم‌گیری و پردازش و اجرای عملیات دارند قبل از اینکه تمام داده‌ها در دسترس باشند، یعنی در ابتدای شروع کار الگوریتم، ورودی این الگوریتم‌ها به‌طور کامل در اختیار الگوریتم نیست و به صورت ترتیبی و مرحله مرحله انجام می‌شود اما این شباهت به معنی یکسانی نیست. الگوریتم‌های جریان داده‌ها تنها حافظهٔ در دسترس را محدود کرده‌اند اما آن‌ها ممکن است انجام یک عمل را به تأخیر بیندازند تا یک گروه از نقاط برسند، در حالی که الگوریتم‌های برخط به محض اینکه نقطه‌ای برسد، عملیات را انجام می‌دهند. در واقع الگوریتم‌های جریانی حافظهٔ در دسترس شان را می‌توانند تغییر دهند و حافظه‌شان از <math> O(n)</math> است اما حافظهٔ در دسترس الگوریتم‌های برخط ثابت و از <math> O(1)</math> می‌باشد. در نتیجه این تفاوت‌ها داریم که الگوریتم‌های جریانی به‌طور نهایی می‌توانند اجرای درست عملیات خود را آزمایش کنند اما آزمایش کردن برای الگوریتم برخط هرمرحله انجام می‌شود{{سخ}}
اگر الگوریتمی تقریبی باشد، دقت جواب فاکتور کلیدی می‌شود. دقت پاسخ اغلب به صورت (<math> \delta </math> , <math> \epsilon </math>) بیان می‌شود که در آن اشتباه و خطای پاسخ از  <math> \epsilon </math> با احتمال کمتر است.

== کاربردها ==
الگوریتم جریان داده‌ها چندین کابرد در حوزه  [[شبکه رایانه‌ای]]  از قبیل کنترل پیوندهای شبکه برای  [[:en:Elephant flow|جریان‌های بزرگ داده]]، شمارش تعداد جریان‌های متمایز، برآورد توزیع اندازه جریان و غیره دارد.<ref>Xu (2007)</ref> هم‌چنین تعدادی کابرد در زمینهٔ [[پایگاه داده]] دارد مانند تخمین اندازه  [[:en:join|پیوندها]].{{سخ}}
به عنوان مثال در زمینه ارتباطات :۳ میلیارد تماس‌های تلفنی در آمریکا هر روز ۳۰ میلیارد ایمیل‌های روزانه، ۱ میلیارد اس‌ام‌اس وجود دارد که ذخیره تمام این داده‌ها در حافظه با دسترسی تصادفی برای پردازش غیرممکن است؛ که راه حل این مسئله [[پردازش رایانه‌ای داده‌ها|پردازش داده‌ها]] به عنوان یک جریان و بردازش روی این داده‌ها می‌باشد.

== چندمسئله حل شده با الگوریتم جریان داده‌ها ==
=== ممان فرکانسی ===

k مین ممان فرکانسی از مجموعه فرکانس‌ها به اسم a ایگونه تعریف می‌شود:  <math> F_k (a) = \sum_{i=1}^n a_i^k </math>{{سخ}}
اولین ممان <math> F_1</math> به سادگی مجموع فرکانس‌هاست (به عنوان مثال، تعداد کل). رخداد<math> F_2</math> برای محاسبه خواص آماری از داده‌ها، مانند [[شاخص جینی]] مورد استفاده است. <math> F_\infty</math>  به عنوان فرکانس عضو پرفرکانس‌ترین تعریف می‌شود.{{سخ}}
مقاله بدوی از آلون، ماتیاس و Szegedy به مشکل برآورد لحظات فرکانس پرداخته است.

==== محاسبه ممان فرکانسی ====
یک روش مستقیم برای پیدا کردن ممان‌های فرکانس نیاز به حفظ یک ثبات <math> m_i</math> برای همه عناصر متمایز<math> a_i</math>  که عضو (۱٬۲٬۳٬۴، …، N) می‌باشد که به حداقل حافظه با حدود<math> \Omega(n) </math> نیاز دارند.<ref name="three"/> اما ما باید محدودیت فضا مواجه هستیم و نیاز به یک الگوریتم است که در حافظه بسیار پایین‌تر محاسبه کند. به این می‌توان با استفاده از تقریب به جای ارزش‌های دقیق دست یافت. یک الگوریتمی که محاسبه می‌کند یک تقریب (<math> \delta </math> , <math> \epsilon </math>) از <math> F_k</math>  که <math> \epsilon </math>  به عنوان پارامتر تقریب و  <math> \delta </math> به عنوان پارامتر اطمینان است. .<ref>Bar-Yossef, Ziv; Jayram, T. S. ; Kumar, Ravi; Sivakumar, D. ; Trevisan, Luca (2002-09-13). Rolim, José D. P. ; Vadhan, Salil, eds. Counting Distinct Elements in a Data Stream. Lecture Notes in Computer Science. Springer Berlin Heidelberg. pp. 1–10. {{ISBN|978-3-540-44147-2|en}}.</ref>

===== محاسبه <math> F_0</math> عناصر متمایز در جریان داده =====
====== الگوریتم FM-Sketch ======
فلاجولت {{به انگلیسی|Flajolet}} وهمکاران در روش احتمالاتی از شمارش که از یک مقاله نوشتهٔ رابرت موریس الهام گرفته شده بود، شمارش تعداد زیادی از حوادث در ثبات‌های کوچک را معرفی کرد. موریس در مقاله خود می‌گوید که اگر نیاز به دقت، کاهش یافته‌است، یک شمارنده  <math>n</math> می‌تواند با یک شمارنده <math>log  n</math> جایگزین شود که در <math> loglog  n</math> بیت ذخیره می‌شود.<ref>Flajolet, Philippe (1985-03-01). "Approximate counting: A detailed analysis". BIT Numerical Mathematics. 25 (1): 113–134. doi:10.1007/BF01934993. ISSN 0006-3835</ref> فلاجولت {{به انگلیسی|Flajolet}} وهمکاران این روش را با استفاده از تابع هش <math>h</math> که عناصر را به صورت یکنواخت در فضای هش توزیع می‌کند (یک رشته عدد باینری به طول  <math>L</math>)، بهبود بخشیدند.
<math>h : [m] -> [0,2^L-1] </math>{{سخ}}
فرض کنید bit(y,k) نشان‌دهنده بیت k ام در عدد باینری y است :   <math>\sum_{k>=0} bit(y,k)*2^k </math>{{سخ}}
{{سخ}}
فرض کنید <math>\rho(y) </math> نشان‌دهنده کم ارزش‌ترین بیت ۱ در نمایش باینری عدد <math>y_i</math> با یک قرارداد و تعریف مناسب از <math>\rho(0)</math>
می‌باشد. <math>\begin{cases} Min(bit(y,k)) \quad if\quad y>0  \\ L \qquad\qquad\qquad     if \quad y=0 \end{cases}</math>{{سخ}}
فرض کنید A یک دنباله‌ای از داده‌ها به طول M است که کاردینالیتی مورد نیاز را مشخص می‌کند. فرض کنید BITMAP[0..L-1] فضای هش می‌باشد که <math>\rho(hashedvalues) </math> در آنجا ثبت می‌شود. الگوریتم زیر کاردینالیتی تقریبی A را مشخص می‌کند.{{سخ}}
{{چپ‌چین}}
Procedure FM-Sketch:

  for i in 0 to L − 1 do
  BITMAP[i]:=0
  end for
  for x in A: do
  Index:=ρ(hash(x))
  i
  end if
  end for
  B:= Position of left most 0 bit of BITMAP[]
  return 2^B
{{پایان چپ‌چین}}
{{سخ}}
اگر n عنصر متمایز و جدا در جریان داده وجود داشته باشد:

برای همه <math>i\gg log n </math> ، در این صورت: BITMAP[i]=0{{سخ}}
برای همه  <math>i\ll log n </math> ، در این صورت: BITMAP[i] = 1{{سخ}}
برای همه <math>i\approx log n </math> ، در این صورت BITMAP[i] عددی اطراف ۰ و ۱ می‌شود.

====== الگوریتم ارزش k امین مینیمم ======
الگوریتم قبلی اولین تلاش و مرحله برای تقریب <math>F_0 </math> در جریان داده‌ها توسط فلاجولت و مارتین توصیف می‌کند. الگوریتم یک تابع هش تصادفی را انتخاب می‌کند که به‌طور یکنواخت مقادیر را به فضای هش می‌برد.{{سخ}}
باریوسف و همکاران الگوریتم مقدار k امین مینیمم برای تعیین تعداد عناصر متمایز در جریان داده‌ها را معرفی کردند. آن‌ها از یک تابع هش مشابه استفاده کردند که مقادیر رو بین ۰ و ۱ می‌برد (عملیات نرمال کردن)<math>h : [m] -> [0,1] </math> . اما آن‌ها یک مقدار محدود t را برای تعداد عناصر موجود در فضای هش یعنی بازه [۰٬۱] ثابت کردند. مقدار t از <math>O(\dfrac{1}{\epsilon_2} ) </math> می‌باشد. الگوریتم KVM مقدار هش شدهٔ کوچک‌ترین t را نگه می‌دارد. پس ازاینکه همه m مقدار داده دریافت شد ، <math>v = Max(h(a_i)) </math> تا بتواند به وسیله آن   <math>F_0^\prime = \dfrac{t}{v}</math>را حساب کند. در بازه فضای یکنواخت هش، آن‌ها انتظار دارند که کمترین مقدار t از <math>O(\dfrac{t}{F_0} ) </math> کمتر باشد.{{سخ}}
{{چپ‌چین}}
<pre>
Procedure 2 K-Minimum Value

Initialize first t values of KMV
for a in a1 to an do
if h(a) <Max(KMV) then
Remove Max(KMV) from KMV set
Insert h(a) to KMV
end if
end for
return t/Max(KMV)
</pre>

{{پایان چپ‌چین}}

====== تحلیل پیچیدگی الگوریتم KMV ======
الگوریتم یافتن مقدار k امین مینیمم می‌تواند در <math>O((\dfrac{1}{\epsilon_2}).log(m)) ) </math> از بیت‌های حافظه پیاده‌سازی شود. هش کردن هر مقدار <math>O(log(m)) ) </math> از بیت‌های حافظه را نیاز دارد؛ و تعداد هش کردن مقادیر نیز از <math>O(\dfrac{1}{\epsilon_2} ) </math>
می‌باشد. اگر مقدار هش شده t در درخت باینری قرار داده شود، زمان دسترسی به آن به مقدار <math>O(\dfrac{1}{\epsilon} ) </math> کاهش یافته و به‌طور کلی الگوریتم به <math>O((\dfrac{1}{\epsilon}).log(m)) ) </math> کاهش می‌یابد.

===== محاسبه <math>F_k </math> =====
آلون و همکاران <math>F_x </math> را با تعریف متغیری تصادفی که به وسیله فضا و زمان داده شده قابل محساسبه است، تخمین زدند. مقدار
<math>E[x] </math> یعنی مقدار میانگین وزن‌دار این [[متغیر تصادفی]] بیانگر مقدار تقریبی <math>F_k </math> می‌باشد.{{سخ}}
طول داده m از قبل محاسبه شده‌است.{{سخ}}
متغیر تصادفی X این‌گونه تعریف می‌شود:
* <math>a_p </math> یک مقدار تصادفی از دنباله A با شماره p می‌باشد:<math>a_p=l \in(1,2,3,\ldots, n) </math>
* فرض کنید <math>r=|\{q:q\geq p,a_q=l\}|</math> نشان‌دهنده تعداد رخداد'' l'' به عنوان عضوی از دنباله A با تعریف {{mvar|a<sub>p</sub>}}
* متغیر تصادفی X با تعریف  <math>X=m(r^k-(r-1)^k)</math>  می‌باشد.
فرض کنید <math>S_1 </math> از <math> O( \dfrac{n^{1-\dfrac{1}{k}}}{\lambda^2} ) </math>  باشد و <math>S_2 </math> از<math>O(log(\dfrac{1}{\epsilon}) ) </math> باشد، در این صورت الگوریتم <math>S_2 </math> را به عنوان یک متغیرتصادفی با مقادیر ''Y''<sub>1</sub>'',Y''<sub>2</sub>'',... ,Y<sub>S</sub>''<sub>2</sub> و مقدار میانگین ''Y'' درنطر می‌گیرد. به‌طوری‌که {{mvar|Y<sub>i</sub>}} مقدار متوسط {{mvar|X<sub>ij</sub>}} برای همه ۱ ≤ ''j'' ≤ ''S''<sub>1</sub> می‌باشد.{{سخ}}
اکنون مقدار<math>E[X] </math> را محاسبه می‌کنیم:{{سخ}}
{{چپ‌چین}}
<math>\begin{array}{lll}
E(X) &=& \sum_{i=1}^{n} \sum_{i=1}^{m_i} (j^k-(j-1)^k) \\
&=& \frac{m}{m} [(1^k+(2^k-1^k)+\ldots+ (m_{1}^{k} - (m_{1}-1)^{k})) \\
&&\;+\; (1^k+(2^k-1^k)+\ldots+ (m_{2}^{k} - (m_{2}-1)^{k}))+\ldots \\
&&\;+\; (1^k+(2^k-1^k)+\ldots+ (m_{n}^{k} - (m_{n}-1)^{k}))] \\
&=& \sum_{i=1}^{n} m_{i}^{k} = F_{k}
\end{array}</math>
{{پایان چپ‌چین}}

====== پیچیدگی<math>F_k </math> ======
باتوجه به الگوریتم بالا برای محاسبه <math>F_k </math> که در آن متغیر تصادفی ''X'' دو مقدار <math>a_p </math> و <math>r </math> را ذخیره می‌کند پس متوجه می‌شویم برای محاسبه ''X'' به log(n) بیت برای ذخیره کردن <math>a_p </math> و log(n) بیت برای ذخیره کردن <math>r </math> نیازمندیم. تعداد کل متغیرتصادفی ''X'' از <math>S_1 * S_2 </math> محاسبه می‌شود؛ بنابراین کل الگوریتم از <math>O\left(\dfrac{k\log{1 \over \varepsilon}}{\lambda^{2}}n^{1-{1 \over k}}\left(\log n + \log m\right)\right)</math> می‌باشد.

====== روش مشابه برای محاسبه <math>F_k </math> ======
الگوریتم قبلی <math>F_2 </math> را در <math>O( \sqrt{n}(\log m + \log n))</math> از حافظه محاسبه می‌کرد. آلون و همکاران ساده شده این الگوریتم را با استفاده از چهار [[متغیر تصادفی مستقل]] که مقادیر رو در بازه   <math>[-1,1] </math>  هش می‌کند. این کار پیچیدگی الگوریتم را به <math>O\left(\dfrac{\log{1\over\varepsilon}}{\lambda^{2}}\left(\log n + \log m\right)\right)</math> کاهش می‌دهد.

=== بزرگان الگوریتم‌های جریان داده‌ها ===
برخی از الگوریتم‌های قابل توجه به جهت یافتن شایع‌ترین و محبوب‌ترین عناصر در یک جریان داده‌ها:
* [[:en: Boyer–Moore majority vote algorithm|Boyer–Moore majority vote algorithm]]
* Karp-Papadimitriou-Shenker algorithm
* [[:en: Count–min sketch|تعداد مینمم‌های مطرح]]
* نمونه مهم شده
* [[:en: Lossy Count Algorithm|شمارش‌سازی با اتلاف]]
* نمونه‌گیری و نگهداری
* چند مرحله [[:en: Bloom filter|فیلتر بلووم]]
* طرح شمارش
* نمونه‌گیری کمک‌کننده طرح

=== تشخیص رویداد ===
تشخیص رویدادها در جریان داده اغلب با استفاده از یک الگوریتم بزرگان که در بالا ذکر شده‌است، انجام می‌شود. شایع‌ترین عناصر و میزان فرکانس و تکرار با استفاده یکی از این الگوریتمها تعیین می‌شود، سپس بیشترین افزایشی که در طول زمان گذشته رخ داده گزارش شود. این رویکرد می‌تواند با استفاده از میانگین متحرک نمایی و [[واریانس]] عادی و نرمال شده تصفیه شود.
.<ref>Schubert, E. ; Weiler, M. ; Kriegel, H. P. (2014). SigniTrend: scalable detection of emerging topics in textual streams by hashed significance thresholds. Proceedings of the 20th ACM SIGKDD international conference on Knowledge discovery and data mining - KDD '14. pp. 871–880. doi:10.1145/2623330.2623740. {{شابک|978-1-4503-2956-9}}</ref>

=== شمارش عناصر متمایز ===
شمارش تعداد عناصر متمایز در یک جریان (گاهی اوقات ممان<math>F_0 </math> خوانده می‌شود) مشکل دیگری است که به خوبی مورد مطالعه قرار گرفته‌است. اولین الگوریتم برای آن توسط فلاجولت و مارتین ارائه شده‌است. در سال ۲۰۱۰ کین، نلسون و ودراف یک الگوریتم مجانبی بهینه برای این مشکل پیدا کرده‌اند.<ref>Kane, Nelson & Woodruff (2010)</ref> این الگوریتم از {{math|''O''(''ε''<sup>2</sup> + log ''d'')}} برای حافظه و فضا، بدترین حالت به روزرسانی و زمانش از {{math|''O''(1)}}، هم‌چنین توابع هش جهانی و یک مجموعه از ''r'' هش مستقل به‌طوری که{{math|1=''r'' = Ω(log(1/''ε'') / log log(1/''ε''))}}استفاده می‌کند.

=== آنتروپی ===
با استفاده از آنتروپی توزیع ترافیک می‌توان نشان داد در طیف گسترده‌ای از برنامه‌های کاربردی نظارت بر شبکه مانند تشخیص ناهنجاری، خوشه بندی برای آشکار ساختن الگوهای جالب، و طبقه‌بندی ترافیک ازآن استفاده می‌شود. با این حال، تحقق این سود بالقوه در عمل نیاز به الگوریتم‌های دقیق است که بتوانند بر روی لینک‌های با سرعت بالا با پردازنده و حافظه مورد نیاز پایین عمل کنند. در این راستا دو الگوریتم وجود دارد که اولین الگوریتم برای برآورد آنتروپی توسط شباهت ساختاری با کار منی آلون و همکاران الهام گرفته‌است که برای برآورد ممان‌های فرکانس از آن استفاده می‌شود و الگوریتم دوم که در آن با مشاهدات عملکرد الگوریتم جریان به جدا کردن آیتم‌های فرکانس بالا (یا فیل‌ها) از موارد با فرکانس پایین می‌رسیم.

آنتروپی یک مجموعه از فرکانس‌های <math>\mathbf{a}</math> به صورت
<math>F_k(\mathbf{a}) = \sum_{i=1}^n
\frac{a_i}{m}\log{\frac{a_i}{m}}</math> تعریف می‌شود که در آن <math>m = \sum_{i=1}^n a_i</math>.
برآورد این مقدار در یک جریان توسط این افراد انجام شده‌است:
* McGregor و همکاران
* Do Ba و همکاران
* Lall و همکاران
* Chakrabarti و همکاران

=== یادگیری آنلاین ===
مقاله اصلی: [[:en: Online machine learning|یادگیری آنلاین ماشین]]
یادگیری یک مدل (به عنوان مثال یک [[طبقه‌بندی آماری]]) از طریق گذراندن یک مجموعه آموزش:
* [[:en: Feature hashing|هش کردن ویژگی‌ها]]
* [[:en: Stochastic gradient descent|گرادیان نزولی تصادفی]]

== کران پایین ==
کران پایین برای بسیاری از مشکلات جریان داده که مطالعه شده‌اند محاسبه شده‌است. تا کنون، متداول‌ترین روش برای محاسبه این کران استفاده از پیچیدگی‌های ارتباطی است.

== بیشتر مطالعه کنید ==
** [[:en: Data stream mining|کاویدن جریانی از داده‌ها]]
* [[:en: Data stream clustering|خوشه‌بندی جریانی از داده‌ها]]
* [[الگوریتم برخط]]
* [[:en: Stream processing|پردازش جریانی]]
* [[:en: Sequential algorithm|الگوریتم ترتیبی]]

== پانویس ==
{{پانویس|۲}}

== منابع ==
* {{citation
  | title = The space complexity of approximating the frequency moments
  | last1=Alon | first1=Noga | author1-link = Noga Alon
  | last2=Matias | first2=Yossi
  | last3=Szegedy | first3=Mario | author3-link = Mario Szegedy
  | year = 1999
  | doi=10.1006/jcss.1997.1545
  | journal = [[Journal of Computer and System Sciences]]
  | volume = 58
  | issue = 1
  | issn = 0022-0000
  | pages = 137&ndash;147}}. First published as {{citation
  | contribution = The space complexity of approximating the frequency moments
  | last1=Alon | first1=Noga
  | last2=Matias | first2=Yossi
  | last3=Szegedy | first3=Mario
  | doi=10.1145/237814.237823
  | year = 1996
  | title = [[Symposium on Theory of Computing|Proceedings of the 28th ACM Symposium on Theory of Computing (STOC 1996)]]
  | isbn = 0-89791-785-5
  | pages = 20&ndash;29}}.
* {{citation | contribution = Models and issues in data stream systems | last1 = Babcock | first1 = Brian | last2 = Babu | first2 = Shivnath | last3 = Datar | first3 = Mayur | last4 = Motwani | first4 = Rajeev | author4-link = Rajeev Motwani | last5 = Widom | first5 = Jennifer | author5-link = Jennifer Widom | url = http://infolab.usc.edu/csci599/Fall2002/paper/DML2_streams-issues.pdf | doi = 10.1145/543613.543615 | pages = 1–16 | title = Proceedings of the 21st ACM SIGMOD-SIGACT-SIGART Symposium on Principles of Database Systems (PODS 2002) | year = 2002 | accessdate = ۱ ژوئن ۲۰۱۷ | archive-date = ۹ ژوئیه ۲۰۱۷ | archive-url = https://web.archive.org/web/20170709081550/http://infolab.usc.edu/csci599/Fall2002/paper/DML2_streams-issues.pdf | url-status = dead }}.
* {{citation
  | title = Surfing Wavelets on Streams: One-Pass Summaries for Approximate Aggregate Queries
  | last1=Gilbert|first1=A. C. |author1-link= Anna C. Gilbert
  | last2=Kotidis|first2=Y.
  | last3=Muthukrishnan|first3=S.
  | last4=Strauss|first4=M. J.
  | url = http://www.vldb.org/conf/2001/P079.pdf
  | journal = Proceedings of the International Conference on Very Large Data Bases
  | pages = 79&ndash;88
  | year = 2001}}.
* {{citation | last1 = Kane | first1 = Daniel M.
 | last2 = Nelson | first2 = Jelani
 | last3 = Woodruff | first3 = David P.
 | title = An optimal algorithm for the distinct elements problem
 | book-title = Proceedings of the twenty-ninth ACM SIGMOD-SIGACT-SIGART symposium on Principles of database systems
 | series = PODS '10
 | year = 2010
 | isbn = 978-1-4503-0033-9
 | pages = 41&ndash;52
 | url = http://doi.acm.org/10.1145/1807085.1807094
 | doi = 10.1145/1807085.1807094
 | publisher = ACM
 | location = New York, NY, USA
}}.
* {{citation
  | title = A simple algorithm for finding frequent elements in streams and bags
  | last1=Karp|first1=R. M. | author1-link = Richard Karp
  | last2=Papadimitriou|first2=C. H. | author2-link = Christos Papadimitriou
  | last3=Shenker|first3=S. | author3-link = Scott Shenker
  | year = 2003
  | volume = 28 | issue = 1 | pages = 51–55 | doi = 10.1145/762471.762473
  | journal = ACM Transactions on Database Systems}}.
* {{citation
  | contribution = Data streaming algorithms for estimating entropy of network traffic
  | last1 = Lall
  | first1 = Ashwin
  | last2 = Sekar
  | first2 = Vyas
  | last3 = Ogihara
  | first3 = Mitsunori
  | last4 = Xu
  | first4 = Jun
  | last5 = Zhang
  | first5 = Hui
  | title = Proceedings of the Joint International Conference on Measurement and Modeling of Computer Systems (ACM SIGMETRICS 2006)
  | doi = 10.1145/1140277.1140295
  | url = ftp://ftp.cs.rochester.edu/pub/papers/theory/05.tr886.Data_streamg_algms_for_estimating_entropy_of_network_traffic.pdf
  | year = 2006
  }}{{پیوند مرده|date=سپتامبر ۲۰۱۹ |bot=InternetArchiveBot }}.
* {{citation
  | title = A Tutorial on Network Data Streaming
  | last1 = Xu | first1=Jun (Jim)
  | url = http://www.cc.gatech.edu/~jx/reprints/talks/sigm07_tutorial.pdf
  | year = 2007}}.
* Heath, D. , Kasif, S. , Kosaraju, R. , Salzberg, S. , Sullivan, G. , "Learning Nested Concepts With Limited Storage", Proceeding IJCAI'91 Proceedings of the 12th international joint conference on Artificial intelligence - Volume 2, Pages 777-782, Morgan Kaufmann Publishers Inc. San Francisco, CA, USA ©۱۹۹۱
* http://dl.acm.org

== پیوند به بیرون ==
* [https://web.archive.org/web/20100617185154/http://www.cs.princeton.edu/~moses/papers/stream-kmedian.ps Princeton Lecture Notes]
* [http://people.csail.mit.edu/indyk/GEOSTREAM/geostream-bib.ps Streaming Algorithms for Geometric Problems], by [[Piotr Indyk]], MIT
* [http://www.dagstuhl.de/de/program/calendar/semhp/?semnr=05291 Dagstuhl Workshop on Sublinear Algorithms]
* [http://www.cs.umass.edu/~mcgregor/papers/07-openproblems.pdf List of open problems in streaming] (compiled by [[Andrew McGregor]]) from discussion at the IITK Workshop on Algorithms for Data Streams, 2006.
* [http://groups.csail.mit.edu/cag/streamit/index.shtml StreamIt - programming language and compilation infrastructure by MIT CSAIL] {{Webarchive|url=https://web.archive.org/web/20170521133430/http://groups.csail.mit.edu/cag/streamit/index.shtml |date=۲۱ مه ۲۰۱۷ }}
* [https://archive.today/20080127205615/http://domino.research.ibm.com/comm/research_projects.nsf/pages/esps.spade.html IBM Spade - Stream Processing Application Declarative Engine]
* [http://www-01.ibm.com/software/data/infosphere/streams/ IBM InfoSphere Streams]

'''آموزش و نظرسنجی'''
* [http://www.cs.rutgers.edu/~muthu/stream-1-1.ps Data Stream Algorithms and Applications] by [[S. Muthu Muthukrishnan]]
* [http://ilpubs.stanford.edu:8090/535/1/2002-19.pdf Stanford STREAM project survey]
* [http://www.eecs.harvard.edu/~michaelm/postscripts/im2005b.pdf Network Applications of Bloom filters], by Broder and Mitzenmacher
* [http://www.cc.gatech.edu/~jx/reprints/talks/sigm07_tutorial.pdf Xu's SIGMETRICS 2007 tutorial]
* [http://www.cs.mcgill.ca/~denis/notes09.pdf Lecture notes from Data Streams course at Barbados in 2009], by [[Andrew McGregor]] and [[S. Muthu Muthukrishnan]]

'''وبگاه دروس'''
* [http://www.cs.dartmouth.edu/~ac/Teach/CS85-Fall09/ Dartmouth]
* [http://stellar.mit.edu/S/course/6/fa07/6.895/ MIT]
* [http://dsp.rice.edu/courses/elec631 Rice]
* [http://www.cs.rutgers.edu/~muthu/str05.html Rutgers]
* [https://web.archive.org/web/20090909014654/http://www.cse.buffalo.edu/%7Eatri/courses/data-stream/ University at Buffalo]

[[رده:الگوریتم جریان داده‌ها]]
[[رده:الگوریتم‌ها]]