জেনারালাইজড লিনিয়ার মডেল (Generalized Linear Models - GLMs) ক্যাটেগরিক্যাল রেসপন্স ভেরিয়েবল মডেলিং-এ লিনিয়ার রিগ্রেশন ব্যবহারের তাত্ত্বিক ভিত্তি প্রদান করে। GLM-এ, রেসপন্স ভেরিয়েবল y-এর ভ্যারিয়েন্স, y-এর গড় মানের একটি ফাংশন, যleun লিনিয়ার রিগ্রেশন-এ y-এর ভ্যারিয়েন্স কনস্ট্যান্ট।
GLM-এর বৈশিষ্ট্য
GLMs হল سنتুন্যাল লিনিয়ার মডেলের একটি প্রসারন। এই অ্যালগরিদম লগ-লikelihud ম্যাক্সিমাইজ করে ডেটায় জেনারালাইজড লিনিয়ার মডেল ফিট করে। প্যারামিটার রেগুলারাইজেশনের জন্য ইলাস্টিক নেট পেনাল্টি ব্যবহার করা যেতে পারে। মডেল ফিটিং ক্যালকুলেশন প্যারালেল, খুব দ্রুত, এবং নন-জিরো কোএফিসিয়েন্ট বিশিষ্ট প্রিডিক্টরের নির্দিষ্ট সংখ্যার জন্য খুব ভালো স্কেল করে।
GLM-এর দুটি প্রধান ধরন
১. লজিস্টিক রিগ্রেশন (Logistic Regression)
বিভিন্ন ঘটনার প্রোবাবিলিটি মডেল করে প্রিডিক্টর ভেরিয়েবলগুলির একটি সেটের লিনিয়ার ফাংশন হিসেবে।
২. পয়সন রিগ্রেশন (Poisson Regression)
কাউন্ট ডেটা প্রায়শই পয়সন ডিস্ট্রিবিউশন ফলো করে এবং সাধারণত পয়সন রিগ্রেশন ব্যবহার করে মডেল করা হয়।
লগ-লিনিয়ার মডেল (Log-linear Models)
লগ-লিনিয়ার মডেল ডিসক্রিট মাল্টিডাইমেনশনাল প্রোবাবিলিটি ডিস্ট্রিবিউশন সঠিকভাবে অনুমান করে। এগুলো ডেটা কিউব সেলের সাথে সম্পর্কিত প্রোবাবিলিটি মান অনুমান করতে ব্যবহার করা যেতে পারে। উদাহরণস্বরূপ, city, item, year, এবং sales অ্যাট্রিবিউটের ডেটা দেওয়া থাকলে, লগ-লিনিয়ার পদ্ধতিতে সব অ্যাট্রিবিউট ক্যাটেগরিক্যাল হতে হবে এবং কন্টিনিউअস-ভ্যালুড অ্যাট্রিবিউট (যেমন sales) ডিসক্রিটাইজ করতে হবে।
এই পদ্ধতি প্রদত্ত অ্যাট্রিবিউটের জন্য ৪-ডি বেস কিউবอยেডের প্রতিটি সেলের প্রোবাবিলিটি অনুমান করতে পারে, city-item, city-year, city-sales-এর ২-ডি কিউবอยেড এবং item-year-sales-এর ৩-ডি কিউবอยেডের ওপর ভিত্তি করে। এই পদ্ধতিতে, ইটেরেটিভ পদ্ধতি ব্যবহার করে হাই-অর্ডার ডেটা কিউব লো-অর্ডার থেকে তৈরি করা যায়।
এই পদ্ধতি অনেক ডাইমেনশন পর্যন্ত খুব ভালো স্কেল করে। প্রেডিকশনের বাইরে, লগ-লিনিয়ার মডেল ডেটা কমপ্রেশন (কারণ লো-অর্ডার কিউবอยেড সাধারণত বেস কিউবোয়েডের চেয়ে কম জায়গা নেয়) এবং ডেটা স্মুথিং (কারণ লো-অর্ডার কিউবอยেডের সেল কাউন্ট বেস কিউবোয়েডের চেয়ে স্যাম্পলিং ভ্যারিয়েশনের কম অধীন) এর জন্য উপকারী।
ডিসিশন ট্রি প্রেডিকশন (Regression & Model Trees)
ডিসিশন ট্রি ইন্ডাকশন ক্লাস লেবেলের বদলে কন্টিনিউয়াস (অর্ডারড) মান প্রেডিক্ট করার জন্য উপযোগী। প্রেডিকশনের জন্য দুটি ধরনের ট্রি: রিগ্রেশন ট্রি এবং মডেল ট্রি। রিগ্রেশন ট্রি CART লার্নিং সিস্টেমের অংশ হিসেবে প্রস্তাবিত হয়েছিল।
প্রতিটি রিগ্রেশন ট্রি লিফ একটি কন্টিনিউয়াস-ভ্যালুড প্রেডিকশন সংরক্ষণ করে, যা সেই লিফে পৌঁছানো ট্রেনিং টাপলের প্রেডিক্টেড অ্যাট্রিবিউটের গড় মান। বিপরীতভাবে, মডেল ট্রিতে প্রতিটি লিফ একটি রিগ্রেশন মডেল এবং প্রেডিক্টেড অ্যাট্রিবিউটের জন্য একটি মাল্টিভেরিয়েট লিনিয়ার ইকুয়েশন ধারণ করে। রিগ্রেশন এবং মডেল ট্রি সাধারণত লিনিয়ার রিগ্রেশন চেয়ে বেশি কার্যকর হয় যখন ডেটা একটি সাধারণ লিনিয়ার মডেল দ্বারা ভালোভাবে বর্ণনা করা যায় না।
