একাধিক হাইপোথেসিস কম্বাইন করার প্রভাব একটি থিওরেটিক্যাল ডিভাইস দিয়ে চেক করা যেতে পারে যাকে বায়াস-ভ্যারিয়েন্স ডিকম্পোজিশন বলা হয়। অনুমান করুন অসংখ্য আলাদা ট্রেনিং সেট রয়েছে একই সাইজের এবং সেগুলো ব্যবহার করে অসংখ্য ক্লাসিফায়ার তৈরি করা হয়।
একটি টেস্ট ইনস্ট্যান্স সব ক্লাসিফায়ার দ্বারা ট्रीট করা হয়, এবং একটি একক আউটপুট বালক ভোট দ্বারা ডिसাইড করা হয়। এই পরিস্থিতিতে, এরর হয় কারণ কোনো লার্নিং ডিজাইন পারফেক্ট নয়। এরর রেট ভিত্তি করবে কীভাবে মেশিন লার্নিং পদ্ধতিগুলো সমস্যায় ফিট হয়, এবং এছাড়া নয়েজের প্রভাবও রয়েছে ডেটায়, যা কখনও শিখা সম্ভব নয়।
অনুমান করুন এক্সপেক্টেড এরর রেট কম্পিউট করা হয়ে গেছে লিংকড ক্লাসিফায়ারের এরর গড় করে অসংখ্য আলাদাভাবে বাছাই করা টেস্ট উদাহরণের ওপর। একটি নির্দিষ্ট লার্নিং অ্যালগরিদমের এরর রেট যেটাকে এর বায়াস বলা হয় লার্নিং প্রোব্লেমের জন্য এবং এটি মাপে কীভাবে লার্নিং মেথড সমস্যায় ফিট হয়।
এটি একটি লার্নিং অ্যালগরিদমের "পারসিস্টেন্ট" এরর কম্পিউট করে যা ডিলিট করা যাবে না এমনকি অসংখ্য ট্রেনিং গ্রুপ ধরে রাখলেও। এটি প্র্যাকটিক্যাল সিচুয়েশনে সঠিকভাবে কম্পিউট করা যাবে না; এটি কেবল অ্যাপ্রক্সিমেট করা যাবে।
এক শিখা মডেলে এররের দ্বিতীয় উৎস হল নির্দিষ্ট ট্রেনিং সেট যা ব্যবহার করা হয়েছে, যা আশায়ক ফাইনাইট এবং তাই রিয়েল পপুলেশন অফ ইনস্ট্যান্সের পুরোপুরি প্রতিনিধিত্বমূলক নয়।
এই এলিমেন্টের এরর এক্সপেক্টেড ভ্যালু, সকল সম্ভাব্য ট্রেনিং গ্রুপের ওপর দেওয়া সাইজ এবং সকল সম্ভাব্য টেস্ট সেটের ওপর, যেটাকে লার্নিং মেথডের ভ্যারিয়েন্স বলা হয় সেই ইস্যুর জন্য। একটি ক্লাসিফায়ারের পূর্ণ এক্সপেক্টেড এরর তৈরি হয় বায়াস এবং ভ্যারিয়েন্সের যোগফল - এটি হল বায়াস-ভ্যারিয়েন্স ডিকম্পোজিশন।
বায়াস-ভ্যারিয়েন্স ডিকম্পোজিশন 스퀟েড এরর দিয়ে ম্যাথেম্যাটিক্যাল প্রেডিকশনের কন্টেক্সটে শিখা হয়েছিল, যেখানে এটি ইমপ্লিমেন্ট করার একটি উইডলি অ্যাকসেপ্টেড উপায় রয়েছে। য edir, ক্লাসিফিকেশনের জন্য পরিস্থিতি স্পষ্ট নয়, এবং বিভিন্ন প্রতিযোগী ডিকম্পোজিশন প্রস্তাবিত হয়েছে।
ব্যাগিং (Bagging)
ব্যাগিং লার্নিং পদ্ধতির অস্থিরতা নালিফাই করার চেষ্টা করে পূর্বে বর্ণিত ফেজটি সিমুলেট করে একটি দেওয়া ট্রেনিং সেট ব্যবহার করে। প্রতিবার একটি ফ্রেশ, আলাদা ট্রেনিং ডেটাসেট স্যাম্পল করার বদলে, প্রাথমিক ট্রেনিং ডেটা অ্যাল্টার করা হয় কিছু ইনস্ট্যান্স রিমুভ করে এবং অন্যগুলো কপি করে। ইনস্ট্যান্সগুলো র্যান্ডমলি স্যাম্পল করা হয়, রিপ্লেসমেন্টসহ, প্রাথমিক ডেটাসেট থেকে একটি নতুন তৈরি করতে একই সাইজের। এই স্যাম্পলিং প্রসেস অবশ্যই কিছু ইনস্ট্যান্স কপি করে এবং অন্যগুলো রিমুভ করে।
রিস্যাম্পলিং দ্বারা তৈরি ডেটাসেটগুলো একে অপরের থেকে আলাদা কিন্তু স্বাধীন নয় কারণ সেগুলো একটি ডেটাসেটের ওপর বেসড। যেরকম, এটা বের হয়েছে যে ব্যাগিং একটি কম্বাইনড মডেল তৈরি করে যা প্রাথমিক ট্রেনিং ডেটা থেকে বিল্ট ইনডিভিজুয়াল মডেলের চেয়ে উল্লেখযোগ্যভাবে ভালো পারফর্ম করে, এবং কখনওあのね এসেনশিয়ালি ওৰস নয়।