ডকুমেন্ট ক্লাস্টারিং অনসুপারভাইজডভাবে ফাইল সংগঠনের একটি গুরুত্বপূর্ণ কৌশল। যখন ডকুমেন্টগুলো টার্ম ভেক্টর (term vectors) হিসেবে প্রতীকীভূত করা হয়, তখন ক্লাস্টারিং পদ্ধতি প্রযোজ্য হয়। ডকুমেন্ট স্পেস সাধারণত উচ্চ-ডাইমেনশনাল, সেকতো থেকে হাজারো ডাইমেনশন পর্যন্ত।
ডাইমেনশনালিটির অভিশাপ (curse of dimensionality) কারণে, ডকুমেন্টগুলোকে প্রথমে একটি নিম্ন-ডাইমেনশনাল সাবস্পেসে প্রজেক্ট করা যৌক্তিক যাতে ডকুমেন্ট স্পেসের সিমান্টিক কাঠামো স্পষ্ট হয়। নিম্ন-ডাইমেনশনাল সিমান্টিক স্পেসে, سنتুন্যাল ক্লাস্টারিং অ্যালগরিদম প্রযোজ্য হয়।
ডকুমেন্ট ক্লাস্টারিং অ্যানালাইসিসের পদ্ধতিসমূহ
১. স্পেকট্রাল ক্লাস্টারিং (Spectral Clustering)
স্পেকট্রাল ক্লাস্টারিং পদ্ধতিটি প্রথমে মূল ডেটার ওপর স্পেকট্রাল এমবেডিং (ডাইমেনশন্যালিটি রিডাকশন) করে, এবং তারপর রিডাক্টেড ডকুমেন্ট স্পেসের ওপর سنتুন্যাল ক্লাস্টারিং অ্যালগরিদম (যেমন k-মিনস) প্রয়োগ করে।
স্পেকট্রাল ক্লাস্টারিং-এর কাজের ফলাফল ইহার ক্ষমতা দেখায় অত্যন্ত নন-লিনিয়ার ডেটা হ্যান্ডেল করার (ডেটা স্পেসের প্রতিটি লোকাল এলাকায় উচ্চ কর্বেচার আছে)। এর ডিফারেনশিয়াল জ্যামিতির সাথে শক্তিশালী liên kết ফাইল স্পেসের ম্যানিফোল্ড কাঠামো খুঁজে বের করার যোগ্যতা দেয়।
সীমাবদ্ধতা: এই স্পেকট্রাল ক্লাস্টারিং অ্যালগরিদমগুলো নন-লিনিয়ার এমবেডিং (ডাইমেনশন্যালিটি রিডাকশন) ব্যবহার করে, যা শুধু "ট্রেনিং" ডেটার ওপর উপস্থাপিত থাকে। এমবেডিং শিখতে কিছু ডেটা পয়েন্ট ব্যবহার করতে হয়। যখন ডেটাসেট বড়, такой একটি এমবেডিং শিখা কম্পিউটেশনালি ব্যয়বহুল। এটি বড় ডেটাসেটে স্পেকট্রাল ক্লাস্টারিং-এর প্রয়োগ সীমাবদ্ধ করে।
২. মিক্সচার মডেল (Mixture Model)
মিক্সচার মডেল ক্লাস্টারিং পদ্ধতি টেক্সট ডেটাকে একটি মিক্সচার মডেল দিয়ে মডেল করে, যা প্রায়শই মাল্টিনোমিয়াল কম্পোনেন্ট মডেল জড়িত। ক্লাস্টারিং দুটি ধাপে সম্পন্ন হয়:
- টেক্সট ডেটা এবং যেকোনো অতিরিক্ত পূর্ব জ্ঞান ব্যবহার করে মডেল প্যারামিটার অনুমান করা।
- অনুমানিত মডেল প্যারামিটার ব্যবহার করে ক্লাস্টার অনুমান করা। মিক্সচার মডেল কীভাবে সংজ্ঞায়িত হয়েছে তার ওপর নির্ভর করে, এই পদ্ধতিগুলো শব্দ এবং ডকুমেন্ট একসাথে ক্লাস্টার করতে পারে।
Probabilistic Latent Semantic Analysis (PLSA) এবং Latent Dirichlet Allocation (LDA) হল এমন পদ্ধতির দুটি উদাহরণ। ক্লাস্টারিং পদ্ধতির সুবিধা হল ক্লাস্টারগুলো ফাইলের তুলনামূলক বিশ্লেষণ সমর্থন করার জন্য ডিজাইন করা যেতে পারে।
৩. ল্যাটেন্ট সিমান্টিক ইন্ডেক্সিং (LSI) এবং লোক্যালিটি প্রিজার্ভিং ইন্ডেক্সিং (LPI)
LSI এবং LPI পদ্ধতি হল লিনিয়ার ডাইমেনশন্যালিটি রিডাকশন পদ্ধতি। LSI এবং LPI-এ ট্রান্সফরমেশন ভেক্টর (এমবেডিং ফাংশন) অর্জন করা হয়। এমন এমবেডিং ফাংশন সর্বত্র উপস্থাপিত থাকে; তাই ডেটার অংশ ব্যবহার করে এমবেডিং ফাংশন শেখা যায় এবং যেকোনো ডেটাকে নিম্ন-ডাইমেনশনাল স্পেসে এমবেড করা যায়।
LSI-এর লক্ষ্য হল মূল ডকুমেন্ট স্পেসের সেরা সাবস্পেস এপ্রক্সিমেশন খুঁজে বের করা গ্লোবাল রিকন্সট্রাকশন এরর ন্যূনতম করার অর্থে। অন্য কথায়, LSI ডকুমেন্ট প্রতীকীকরণের জন্য সবচেয়ে প্রতিনিধিত্বমূলক ফিচারের চেয়ে সবচেয়ে ডিসক্রিমিনেটিভ ফিচার অন্বেষণ করে। তাই, LSI ভিন্ন সিমান্টিক্স বিশিষ্ট ডকুমেন্ট ডিসক্রিমিনেট করার জন্য অপ্টিমাল নাও হতে পারে, যা ক্লাস্টারিং-এর চূড়ান্ত লক্ষ্য।
