এক্সপেক্টেশন-ম্যাক্সিমাইজেশন (EM) কী?

EM অ্যালগরিদম

EM (এক্সপেক্টেশন-ম্যাক্সিমাইজেশন) অ্যালগরিদম একটি বিখ্যাত পুনরাবৃত্তমূলক শোধন অ্যালগরিদম যা প্যারামিটার অনুমান আবিষ্কারের জন্য ব্যবহার করা যেতে পারে। এটিকে k-মিনস প্যারাডাইমের একটি প্রসারন হিসেবে বিবেচনা করা যেতে পারে, যা একটি বস্তuerthe ক্লাস্টারের সাথে যুক্ত করে যাতে এটি সবচেয়ে বেশি সাদৃশ্যপূর্ণ, ক্লাস্টার গড়ের ওপর ভিত্তি করে।

EM প্রতিটি বস্তুকে একটি ক্লাস্টারের সাথে একটি ওজন অনুযায়ী যুক্ত করে যা সদস্যতার সম্ভাবনা নির্দেশ করে। অন্য কথায়, ক্লাস্টারগুলির মধ্যে কঠোর সীমানা নেই। এইভাবে, নতুন গড়গুলি ওজনযুক্ত মাপের ওপর ভিত্তি করে গণনা করা হয়।

EM অ্যালগরিদমের ধাপসমূহ

EM প্যারামিটারের প্রাথমিক অনুমান বা "অনুমান" দিয়ে শুরু করে (সমষ্টিগতভাবে প্যারামিটার ভেক্টর হিসেবে সংজ্ঞায়িত)। এটি প্যারামিটার ভেক্টর দ্বারা তৈরি মিশ্রণ ঘনত্বের বিপরীতে বস্তুগুলিকে পুনরাবৃত্তমূলকভাবে পুনরায় স্কোর করে। পুনরায় স্কোর করা বস্তুগুলি প্যারামিটার অনুমান আপডেট করতে ব্যবহৃত হয়। প্রতিটি বস্তুর একটি xác suất থাকে যে এটি একটি নির্দিষ্ট সেট অ্যাট্রিবিউট মান ধারণ করতে পারেそれが দেওয়া যে এটি একটি প্রদত্ত ক্লাস্টারের সদস্য ছিল। অ্যালগরিদম নিম্নরূপ:

• প্রাথমিক অনুমান: প্যারামিটার ভেক্টরের একটি প্রাথমিক অনুমান করা হয় — এর মধ্যে রয়েছে kটি বস্তু র‍্যান্ডমলি নির্বাচন করে ক্লাস্টার গড় বা কেন্দ্র সংজ্ঞায়িত করা (k-মিনস পার্টিশনিং-এ যেভাবে), এবং অন্যান্য প্যারামিটারের অনুমান করা।
• পুনরাবৃত্তমূলক শোধন: নিম্নলিখিত দুটি ধাপ অনুযায়ী প্যারামিটার (বা ক্লাস্টার) শোধন করা হয়:
  • (ক) এক্সপেক্টেশন ধাপ (E-step): প্রতিটি বস্তু xᵢ ক্লাস্টার Cₖ-এ সম্ভাবনা অনুযায়ী আসাইন করা হয়: P(xᵢ ∈ Cₖ) = p(Cₖ|xᵢ) = p(Cₖ)p(xᵢ|Cₖ)/p(xᵢ), যেখানে p(xᵢ|Cₖ) = N(mₖ, Eₖ(xᵢ)) গড় mₖ-এর চারদিকে আশা Eₖ সহ সাধারণ (গাউসিয়ান) বিতরণ অনুসরণ করে। অন্য কথায়, এই ধাপটি বস্তু xᵢ-এর প্রতিটি ক্লাস্টারের জন্য ক্লাস্টার সদস্যতার সম্ভাবনা গণনা করে। এই সম্ভাবনাগুলো বস্তু xᵢ-এর "আশা করা" ক্লাস্টার সদস্যতা।
  • (খ) ম্যাক্সিমাইজেশন ধাপ (M-step): উপরের সম্ভাবনা অনুমান ব্যবহার করে মডেল প্যারামিটার পুনঃঅনুমান (বা শোধন) করা হয়। উদাহরণস্বরূপ, mₖ = (1/n) Σᵢ xᵢ P(xᵢ ∈ Cₖ) / Σⱼ P(xᵢ ∈ Cⱼ)।

এই ফেজটি ডেটা দেওয়া অবস্থায় বরাদ্দের সম্ভাবনাকে "ম্যাক্সিমাইজ" করার ধাপ।

EM-এর বৈশিষ্ট্য ও অ্যাপ্লিকেশন

EM অ্যালগরিদম সহজ এবং বোঝার সহজে বাস্তবায়ন করা যায়। এটি দ্রুত 수렴 করে কিন্তু গ্লোবাল অপ্টিমামে পৌঁছাতে পারে না। নির্দিষ্ট প্রকারের অপ্টিমাইজেশন ফাংশনের জন্য কনভার্জেন্স গ্যারান্টি করা থাকে। কম্পিউটেশনাল কমপ্লেক্সিটি d (ইনপুট বৈশিষ্ট্যের সংখ্যা), n (আইটেমের সংখ্যা), এবং t (পুনরাবৃত্তির সংখ্যা) এর ওপর লিনিয়ার। বেয়েসিয়ান ক্লাস্টারিং কৌশল ক্লাস-কন্ডিশনাল প্রোবাবিলিটি ডেন্সिटির গণনা লক্ষ্য করে। সেগুলো সাধারণত পরিসংখ্যান সম্প্রদায়ে ব্যবহৃত হয়।

উদ্যোগে, AutoClass একটি বিখ্যাত বেয়েসিয়ান ক্লাস্টারিং কৌশল যা EM অ্যালগরিদমের একটি পরিবর্তিত সংস্করণ ব্যবহার করে। সেরা ক্লাস্টারিং প্রদত্ত ক্লাস্টার của একটি বস্তু জানা অবস্থায় বস্তুর অ্যাট্রিবিউট পূর্বাভাস করার ক্ষমতা সর্বাধিক করে। AutoClass ক্লাস্টারের সংখ্যাও অনুমান করতে পারে। এটি বিভিন্ন ডোমেনে ব্যবহৃত হয়েছে এবং ইনফ্রা-রেড জ্যোতির্বিজ্ঞান ডেটার ভিত্তিতে তারার একটি নতুন ক্লাস আবিষ্কার করতে সক্ষম হয়েছে।