অ্যাট্রিবিউট সিলেকশন মেজার্স কী?

একটি অ্যাট্রিবিউট সিলেকশন মেজার হল একটি হিউরিস্টিক যা স্প্লিটিং টেস্ট বেছে নেয় যা একটি ক্লাস-লেবেলড ট্রেনিং টাপলসের একটি গবন ডেটা পার্টিশন, D, কে সিঙ্গেল ক্লাসে "সেরা"ভাবে আলাদা করে।

যদি এটি স্প্লিটিং ক্রাইটেরিয়ার ফলাফল অনুযায়ী D কে ছোট পার্টিশনে ভাগ করতে পারে, আদর্শভাবে প্রতিটি পার্টিশন পিউর হতে পারে (অর্থাৎ, কিছু টাপলস যা একটি প্রদত্ত পার্টিশনে পড়ে সেগুলো একই ক্লাসের অন্তর্গত হতে পারে)।

কনসেপচুয়ালি, "সেরা" স্প্লিটিং ক্রাইটেরিয়া হল সেই পদ্ধতিটি যা প্রায় এমন ফলাফল দেয়। অ্যাট্রিবিউট সিলেকশন মেজার্সকে স্প্লিটিং রুলস বলা হয় কারণ সেগুলো নির্ধারণ করে যে একটি প্রদত্ত নোডে টাপলসগুলো কীভাবে ভাগ করা হবে।

অ্যাট্রিবিউট সিলেকশন মেজার প্রদত্ত ট্রেনিং টাপলসগুলোর জন্য প্রতিটি অ্যাট্রিবিউটকে সংজ্ঞায়িত করে একটি র‍্যাঙ্কিং সমর্থন করে। মেজারের জন্য সেরা পদ্ধতिवালা অ্যাট্রিবিউটটিকে প্রদত্ত টাপলসের জন্য স্প্লিটিং অ্যাট্রিবিউট হিসেবে নির্বাচন করা হয়।

যদি স্প্লিটিং অ্যাট্রিবিউট কনস্ট্যান্ট-ভ্যালুড হয় বা যদি এটি বাইনারি ট্রি-র ইশতেহার দেওয়া হয়, সেই অনুযায়ী, একটি স্প্লিট পয়েন্ট বা একটি স্প্লিটিং সাবসেটও স্প্লিটিং ক্রাইটেরিয়ার একটি উপাদান হিসেবে সিদ্ধান্ত নেওয়া উচিত।

পার্টিশন D-এর জন্য জেনারেট করা ট্রি নোডটি স্প্লিটিং ক্রাইটেরিয়ার সাথে লেবেল করা হয়, ব্রাঞ্চগুলো ক্রাইটেরিয়ার প্রতিটি ফলাফলের জন্য বৃদ্ধি পায়, এবং টাপলসগুলো অনুযায়ী আলাদা করা হয়। তিনটি বিখ্যাত অ্যাট্রিবিউট সিলেকশন মেজার রয়েছে যেগুলো হল ইনফরমেশন গেইন, গেইন রেশিও, এবং জিনি ইন্ডেক্স।

Information gain - ইনফরমেশন গেইন ব্যবহার করা হয় সেরা ফিচার/অ্যাট্রিবিউট বেছে নেওয়ার জন্য যা একটি ক্লাস সম্পর্কে সর্বোচ্চ তথ্য দেয়। এটি এনট্রপির পদ্ধতি অনুসরণ করে যখন রুট নোড থেকে লিফ নোড পর্যন্ত এনট্রপির লেভেল কমাতে লক্ষ্য করে।

নোড N পার্টিশন D-এর টাপলসগুলকে সংজ্ঞায়িত করে বা ধারণ করে। সবচেয়ে বড় ইনফরমেশন গেইন বিশিষ্ট অ্যাট্রিবিউটটিকে নোড N-এর জন্য স্প্লিটিং অ্যাট্রিবিউট হিসেবে নির্বাচন করা হয়। এই অ্যাট্রিবিউট ফলাফলস্বরূপ সাবডিভিশনে টাপলসগুলকে সংজ্ঞায়িত করতে প্রয়োজনীয় ডেটা ন্যূনতম করে এবং এই সাবডিভিশনে কমপক্ষে র‍্যান্ডমনেস বা "অশুদ্ধতা" প্রতিফলিত করে।

Gain ratio - ইনফরমেশন গেইন মেজার চূড়ান্ত ফলাফলবিশিষ্ট টেস্টের দিকে বায়াসড। এটি বেশি মান বিশিষ্ট অ্যাট্রিবিউট সিলেক্ট করতে পারে। উদাহরণস্বরূপ, একটি অ্যাট্রিবিউট বিবেচনা করুন যা একটি ইউনিক আইডেন্টিফায়ার হিসেবে কাজ করে, যার মধ্যে প্রোডাক্ট আইডি রয়েছে।

প্রোডাক্ট আইডি-এ একটি স্প্লিট প্রচুর পার্টিশন তৈরি করতে পারে, প্রতিটি শুধু একটি টাপলস ধারণ করে। যেহেতু প্রতিটি পার্টিশন প্রামাণিক, এই পার্টিশনিংয়ের ভিত্তিতে ডেটা সেট D কে সংজ্ঞায়িত করতে প্রয়োজনীয় ইনফো হবে Info_product_ID(D) = 0।

Gini index - জিনি ইন্ডেক্স CART-এ ব্যবহার করা যেতে পারে। জিনি ইন্ডেক্স D-এর অশুদ্ধতা, একটি ডেটা পার্টিশন বা ট্রেনিং টাপলসের সংগ্রহ, হিসাব করে:

$$\mathrm{Gini(D)=1-\displaystyle\sum\limits_{i=1}^m p_i^2}$$

যেখানে p_i হল একটি টাপলস D-এ ক্লাস C_i-তে থাকার সম্ভাবনা এবং এটি |C_i,D|/|D| দ্বারা হিসাব করা হয়।