الگوریتم امروز

وبلاگ تخصصی الگوریتم

الگوریتم امروز

وبلاگ تخصصی الگوریتم

وبلاگ علمی و مخصوص مباحث الگوریتمی است.
نظر خصوصی نگذارید چون جواب نمی‌دهم نظر عمومی بگذارید بدون نام هم که باشد همانجا جواب می‌دهم.

بایگانی

۸۵ مطلب در دی ۱۳۹۲ ثبت شده است

می خواهیم با اضافه کردن طوقه به گراف فعلی، کاری کنیم که markov chain ما به یک توزیع دلخواه همگرا شود.
متغیر ما اینجا احتمال یالها است (رفتن از یک حالت مساله به حالت دیگر).
توزیع یکنواخت:
x = (x1,...,xn)
xi*pij=xj*pji
اگر x برداری باشد که به آن همگرا می شویم و pij احتمال رفتن از i به j باشد؛ در صورتی که شرط بالا برقرار باشد به توزیع دلخواه x می رسیم.
در حالت خاص تقارن (pij=pji) به توزیع یکنواخت می رسیم. (معادل گراف بدون جهت)
برای برقرار شدن شرط بالا باید به شکل زیر احتمالها را به روز کنیم:
different i,j
pij = min(1,xi/xj) if xi is a neighbor of xj
pij = 0 otherwise
else
pii = 1-sum(pij) (different i,j)
یعنی برای به روز کردن احتمالها به جای اینکه چندین طوقه اضافه کنیم، یک طوقه اضافه می کنیم اما وزن یالها را طوری تغییر می دهیم که به توزیع مورد نظرمان برسیم (pij=xi/xj) و بقیه احتمال را به طوقه می دهیم (pii).
۰ نظر موافقین ۰ مخالفین ۰ ۲۱ دی ۹۲ ، ۱۷:۵۰
سپیده آقاملائی

ایده ی monte carlo: یک مجموعه تصادفی از فضا را انتخاب می کند و یک الگوریتم قطعی روی آن انجام می دهد. این کار را تکرار می کند.

این کار معادل این است که یک random walk روی فضای مساله بزنیم تا به جواب برسیم.

در تحلیل این روش احتمال انتخاب جواب نسبت تعداد جوابها به کل فضا است.

(almost uniform sampler: نمونه گیری که در آن احتمال یکنواخت بودن از یک اپسیلون کمتر باشد.)

برای بهبود آن نمونه گیری را در دو مرحله انجام می دهیم:

-فضای نمونه را به زیر مجموعه هایی افراز می کنیم که احتمال انتخاب هر کدام یکسان باشد و یکی را با احتمال متناسب با تعداد اعضایش انتخاب می کنیم.

-احتمال انتخاب یک عضو از زیر مجموعه هم یکسان باشد و یکی از آنها را یکنواخت انتخاب می کنیم.

با این کار احتمال انتخاب شدن هر عضو یکنواخت است. (مثل قبل)

می توانیم این کار را با تعداد بیشتری مرحله انجام بدهیم، یعنی در هر مرحله ی الگوریتم از جواب قبلی استفاده کنیم و از روی آن جواب جدید را بسازیم.

مثلا در روشهای افزایشی، هر بار از جواب قبلی استفاده کنیم و دو حالت داریم: یا این عضو جدید در جواب تاثیر دارد یا نه. با حساب کردن احتمال تغییر جواب می توانیم احتمال رسیدن به جواب نهایی را به دست بیاوریم.

این کار معادل markov chain روی فضای مساله است، چون دیگر احتمال رسیدن به هر وضعیت یکسان نیست. (متناسب با اعضای آن مجموعه است.)

برای اینکه این روش جواب بدهد باید دو شرط همگرایی markov chain برقرار باشند: همبند بودن و ب.م.م طول دورهای گراف=1 باشد.

برای برقرار شدن شرط اول که کاری نمیشه کرد؛ ولی برای برقرار شدن ب.م.م طول دورها = 1 می توانیم طوقه (دور با طول 1 یال: از هر راس به خودش) اضافه کنیم که اگر به اندازه ی n-d(u) باشه احتمال یکنواخت هم میشه و تبدیل به random walk میشه.


۰ نظر موافقین ۰ مخالفین ۰ ۲۱ دی ۹۲ ، ۱۷:۰۲
سپیده آقاملائی

الآن بار اول است که بعد از اینکه random walk یاد گرفتم و الآن می بینم که اون الگوریتمی که یک عمر نمی فهمیدم چرا درست کار می کنه این بوده.

خب اگر تصادفی حرکت کنه، در زمان بینهایت کل فضا را طی می کنه و مزیتش اینه که حافظه نیاز نداره.

گرافش هم فکر کنم حتی ساخته نمیشه و چون ربات در هر جهتی حرکت می کنه فقط از این استفاده میشه که احتمال اینکه به هر جهتی حرکت کنه مساویه.

صرفا از نظر شباهت گفتم فکر کنم چیزهای دیگه ای هم داشت.

۰ نظر موافقین ۰ مخالفین ۰ ۲۰ دی ۹۲ ، ۱۱:۰۶
سپیده آقاملائی

این سوال تمرین ما که هیچ جوری حل نمی شد: (به درخواست دوستان)

http://www.madalgo.au.dk/img/SS2010/Course%20Material/Tuesday_Patrascu_Handouts.pdf

۰ نظر موافقین ۰ مخالفین ۰ ۱۹ دی ۹۲ ، ۰۳:۰۷
سپیده آقاملائی
۰ نظر موافقین ۰ مخالفین ۰ ۱۸ دی ۹۲ ، ۱۷:۳۹
سپیده آقاملائی
الآن اینجا ثابت کرده که رادیکال n تا ناحیه رو قطع می کنه بعد من همینو نوشتم کم کردن ازم! :))
(مرجع همون پست قبلی)
۰ نظر موافقین ۰ مخالفین ۰ ۱۸ دی ۹۲ ، ۱۳:۰۶
سپیده آقاملائی

http://www.madalgo.au.dk/img/SS2010/Course%20Material/Orthogonal%20Range%20Queries%20Basic%20Methods.pdf

۰ نظر موافقین ۰ مخالفین ۰ ۱۸ دی ۹۲ ، ۱۲:۳۵
سپیده آقاملائی

سوال 1- سوال 1 پست قبلی (خوشه بندی که شکل دارد و DBSCAN هم دارد)

سوال 2- روشهای تشخیص outlier را توضیح دهید.

سوال 3- آیا با شبکه عصبی که از تابع سیگموئید استفاده می کند می توان نمونه های زیر را جدا کرد؟ (نمونه های (0,0) (0,1) (1,1) مربوط به یک کلاس و (1,0) مربوط به کلاس دیگر)

سوال 4- در یک شبکه بیز، کدام متغیرها از هم مستقلند و کدام متغیرها وابسته؟ تابع احتمال توام آنها را بنویسید و برای (یک مقدار داده شده در مساله) حساب کنید.

۱ نظر موافقین ۰ مخالفین ۰ ۱۸ دی ۹۲ ، ۱۲:۱۵
سپیده آقاملائی
۱ نظر موافقین ۰ مخالفین ۰ ۱۷ دی ۹۲ ، ۲۱:۱۲
سپیده آقاملائی



۰ نظر موافقین ۰ مخالفین ۰ ۱۷ دی ۹۲ ، ۱۹:۱۷
سپیده آقاملائی