অ্যাট্রিবিউট সাবসেট সিলেকশন অপ্রাসঙ্গিক বা রিডান্ডান্ট অ্যাট্রিবিউট (বা ডাইমেনশন) সরিয়ে ডেটাসেটের আকার কমায়। অ্যাট্রিবিউট সাবসেট সিলেকশনের লক্ষ্য হলো অ্যাট্রিবিউটের একটি মিনিমাম সেট আবিষ্কার করা যাতে পরবর্তী ডেটা ক্লাসের প্রোবেবিলিটি ডিস্ট্রিবিউশন যেন সব অ্যাট্রিবিউট ব্যবহার করে প্রাপ্ত আসল ডিস্ট্রিবিউশন যতটা সম্ভব নিকটতম হয়।
n অ্যাট্রিবিউটের জন্য, 2n সম্ভাব্য সাবসেট থাকে। অ্যাট্রিবিউটের অপ্টিমাল সাবসেটের জন্য একটি এক্সহাস্টিভ সার্চ অত্যন্ত ব্যয়বহুল হতে পারে, বিশেষ করে n এবং ডেটা ক্লাসের সংখ্যা বেড়ার সাথে সাথে। তাই হিউরিস্টিক পদ্ধতি যা একটি রিডিউসড সার্চ স্পেস এক্সপ্লোর করে, সাধারণত অ্যাট্রিবিউট সাবসেট সিলেকশনের জন্য ব্যবহার করা হয়।
এই পদ্ধতিগুলো সাধারণত 그리डी (greedy) হয় কারণ অ্যাট্রিবিউট স্পেসে সার্চ করার সময় সেগুলো সময়ে যা ভালো লাগে সেটি চয়ন করে। তাদের কৌশল হলো একটি লোকালি অপ্টিমাল চয়ন তৈরি করা আশা করে যে এটি গ্লোবালি অপ্টিমাল সমাধানത്തো prowadবে। এই গ্রিডি টেকনিক প্র্যাকটিসে দক্ষ এবং অপ্টিমাল সমাধানের নিকটে পৌঁছাতে পারে।
"সেরা" এবং "সর্বনিম্ন" অ্যাট্রিবিউট সাধারণত স্ট্যাটিস্টিক্যাল সিগনিফিকেন্স টেস্ট দিয়ে নির্ধারণ করা হয়, যা অনুমান করে যে অ্যাট্রিবিউটগুলো একে অপরের থেকে স্বাধীন। কিছু ভিন্ন অ্যাট্রিবিউট ইভ্যালুয়েশন মেজার ব্যবহার করা যায়, যেন ইনফরমেশন গেইন মেজার যা ডিসিশন ট্রি কনস্ট্রাক্ট করতে klasyfikেশনের জন্য ব্যবহৃত হয়।
অ্যাট্রিবিউট সাবসেট সিলেকশনের বেসিক হিউরিস্টিক মেথডগুলো নিচের টেকনিকগুলো অন্তর্ভুক্ত করে:
স্টেপওয়াইজ ফরওয়ার্ড সিলেকশন (Stepwise forward selection)
প্রসেসটি একটি নাল সেট অ্যাট্রিবিউট দিয়ে শুরু হয় কম করা সেট হিসেবে। প্রাথমিক অ্যাট্রিবিউটের সেরা টি নির্ধারণ করা হয় এবং কম করা সেটে যোগ করা হয়। প্রতিটি পরবর্তী ইটারেশনে বা স্টেপে, বাকি প্রাথমিক অ্যাট্রিবিউটগুলো সেটে যোগ করা হয়।
স্টেপওয়াইজ ব্যাকওয়ার্ড এলিমিনেশন (Stepwise backward elimination)
প্রসেসটি সম্পূর্ণ অ্যাট্রিবিউট সেট দিয়ে শুরু হয়। প্রতিটি ফেজে, সেটে থাকা সবচেয়ে খারাপ অ্যাট্রিবিউটটি এলিমিনেট করা হয়।
ফরওয়ার্ড সিলেকশন এবং ব্যাকওয়ার্ড এলিমিনেশনের কম্বিনেশন (Combination of forwarding selection and backward elimination)
স্টেপওয়াইজ ফরওয়ার্ড সিলেকশন এবং ব্যাকওয়ার্ড এলিমিনেশন টেকনিক কম্বাইন করা যায় যাতে, প্রতিটি ফেজে, প্রসেসটি সেরা অ্যাট্রিবিউট সিলেক্ট করে এবং বাকি অ্যাট্রিবিউট থেকে সবচেয়ে খারাপটি এলিমিনেট করে।
ডিসিশন ট্রি ইন্ডাকশন (Decision tree induction)
ডিসিশন ট্রি অ্যালগরিদম, যেন ID3, C4.5, এবং CART, প্রাথমিকভাবে ক্লাসিফিকেশনের জন্য ডিজাইন করা হয়েছিল। ডিসিশন ট্রি ইন্ডাকশন একটি ফ্লোচার্ট-লাইক স্ট্রাকচার তৈরি করে যেখানে প্রতিটি ইন্টারন্যাল (নন-লীফ) নোড একটি অ্যাট্রিবিউটে একটি টেস্ট ডিনোট করে, প্রতিটি ব্রাঞ্চ টেস্টের ফলাফল কোরেসপন্ড করে, এবং প্রতিটি এক্সটার্নাল (লীফ) নোড একটি ক্লাস প্রেডিকশন ডিনোট করে। প্রতিটি নোডে, অ্যালগরিদম "সেরা" অ্যাট্রিবিউট সিলেক্ট করে ইনফরমেশনকে সINGLE ক্লাসে পার্টিশন করতে।
যখন ডিসিশন ট্রি ইন্ডাকশন অ্যাট্রিবিউট সাবসেট সিলেকশনের জন্য ব্যবহার করা হয়, একটি ট্রি দেওয়া ডেটা থেকে বিল্ড করা হয়। ট্রিতে যেসব অ্যাট্রিবিউট অকর নয়, সেগুলো অপ্রাসঙ্গিক বলে বিবেচনা করা হয়। ট্রিতে উপস্থিত অ্যাট্রিবিউটের সেট কম করা সাবসেট গঠন করে।
