একটি ক্লাসিফিকেশন পদ্ধতি যেটি বিবেচনাযোগ্য পরীক্ষা পায়েছে তা হল সাপোর্ট ভেক্টর মেশিন (SVM)। এই পদ্ধতির রুট স্ট্যাটিস্টিক্যাল লার্নিং থিওরিতে এবং এই ব্যবহারের ক্ষেত্রে প্রমিশিং এম্পিরিক্যাল ফলাফল দেখিয়েছে, হ্যান্ডরিটেন ডিজিট আইডেন্টিফিকেশন থেকে টেক্সট ক্লাসিফিকেশন পর্যন্ত।
SVM হাই-ডাইমেনশনাল ডেটাও হ্যান্ডেল করে এবং ডাইমেনশনালিটির অভিশাপ সমস্যা এড়ায়। এই পদ্ধতির দ্বিতীয় উপাদান হল এটি ডিসিশন বাউন্ডারি ডিফাইন করে ট্রেনিং ইনস্ট্যান্সের একটি সাবসেট ব্যবহার করে, যাকে সাপোর্ট ভেক্টর বলা হয়।
SVM কে এক্সপ্লিসিটলি এই ধরনের হাইপারপ্লেন দেখতে ট্রেন করা যেতে পারে লিনিয়ারলি সেপারেবল ডেটাতে। এটি অর্জন করা যায় SVM মেথডলজি কীভাবে নন-লিনিয়ারলি সেপারেবল ডেটাতে এক্সটেন্ড করা যায় সেটা দেখিয়ে। ডেটা সেট লিনিয়ারলি সেপারেবল; অর্থাৎ, একটি হাইপারপ্লেন খুঁজে বের করা যায় যার একপাশে সব স্কোয়ার এবং অন্য পাশে সব সার্কেল থাকে।
লিনিয়ার মডেলের ক্যাপাসিটি ও মার্জিন
একটি লিনিয়ার মডেলের ক্যাপাসিটি এর মার্জিনের সাথে ইনভার্সলি রিলেটেড। ছোট মার্জিনवाले মডেলের লার্জার ক্যাপাসিটি থাকে কারণ সেগুলো আরও ফ্লেক্সিবল এবং কিছু ট্রেনিং সেট ফিট করতে পারে, বড় মার্জিনवाले মডেলের বিপরীতে। SRM প্রিন্সিপল অনুযায়ী, যত ক্যাপাসিটি বড় হয়, জেনারালাইজেশন এরর বাউন্ড তত বড় হয়। অতএব, ডিসিশন বাউন্ডারির মার্জিন ম্যাক্সিমাইজ করে লিনিয়ার ক্লাসিফায়ার তৈরি করা ডিজায়irable যাতে তাদের ওৰস্ট-কেস জেনারালাইজেশন এরর মিনিমাইজ হয়।
একটি লিনিয়ার SVM হল একটি ক্লাসিফায়ার যা হাইএস্ট মার্জিনযুক্ত একটি হাইপারপ্লেন খুঁজে বের করে, যাকে ম্যাক্সিমাল মার্জিন ক্লাসিফায়ার বলা হয়। SVM কীভাবে এমন একটি বাউন্ডারি শিখে, সেটা বুঝতে কিছু প্রিলিমিনারি অ্যানালাইসিস করা যায় ডিসিশন বাউন্ডারি এবং লিনিয়ার ক্লাসিফায়ারের মার্জিন সম্পর্কে।
SVM-এর বৈশিষ্ট্য
SVM লার্নিং প্রোব্লেম কনভেক্স অপ্টিমাইজেশন ইস্যু হিসেবে ফরমুলেট করা যায়, যেখানে কার্যকর অ্যালগরিদম উপলব্ধ থাকে গ্লোবাল মিনিমাম খুঁজে বের করার জন্য অবজেক্টিভ ফাংশনের। অন্যান্য ক্লাসিফিকেশন মেথড, যার মধ্যে রুল-বেসড ক্লাসিফায়ার এবং আর্টিফিশিয়াল নিউরাল নেটওয়ার্ক, গ্রিডি-বেসড পদ্ধতি ব্যবহার করে হাইপোথিসিস স্পেস সার্চ করে। такие মেথড কেবল লোকালি অপ্টিমাম সমাধান খুঁজে পাওয়ায় ختم হয়।
SVM ক্যাপাসিটি কন্ট্রোল ইমপ্লিমেন্ট করে ডিসিশন বাউন্ডারির মার্জিন বড়িয়ে। ইউজারকে কিছু প্যারামিটার দিতে হয় যার মধ্যে কার্নেল ফাংশনের টাইপ এবং স্ল্যাক ভেরিয়েবল এর জন্য কস্ট ফাংশন C।
SVM ক্যাটাগরিক্যাল ডেটা ক্লাসিফাই করতে ব্যবহার করা যেতে পারে ডামি ভেরিয়েবল লার্ন করে প্রতিটি ক্যাটাগরিক্যাল অ্যাট্রিবিউট ভ্যালুর জন্য যা ডেটাতে দেখায়। উদাহরণস্বরূপ, যদি মেরিটাল স্ট্যাটাসের তিনটি ভ্যালু থাকে যেমন সিঙ্গেল, ম্যারিড, ডিভোর্সড এবং একটি বাইনারি ভেরিয়েবল লার্ন করা যায় প্রতিটি অ্যাট্রিবিউট ভ্যালুর জন্য।
