ব্যাক প্রোপাগেশন ব্যবহার করে নিউরাল নেটওয়ার্ক শিখুন
একটি নিউরাল নেটওয়ার্ক হল অ্যালগরিদমের একটি সিকোয়েন্স যা ডেটার একটি সেটে মৌলিক সম্পর্ক চিহ্নিত করার চেষ্টা করে একটি প্রক্রিয়ার মাধ্যমে যা মানব মস্তিষ্কের কাজ করার পদ্ধতির নকল করে। এই পদ্ধতিতে, নিউরাল নেটওয়ার্ক নিউরোনের সিস্টেমকে উপস্থাপন করে, যেন জৈব বা কৃত্রিম।
নিউরাল নেটওয়ার্ক হল কগনিটিভ সিস্টেমে শেখার (তত্কালীন অনুমানিত) প্রক্রিয়া এবং মস্তিষ্কের স্নায়ু ফাংশন অনুযায়ী মডেল করা বিশ্লেষণাত্মক পদ্ধতি যা বিদ্যমান তথ্য থেকে ক 이른বা লার্নিং প্রক্রিয়া চালানোর পরে অন্যান্য পর্যবেক্ষণ থেকে নতুন পর্যবেক্ষণ (নির্দিষ্ট ভেরিয়েবলে) পূর্বাভাস দিতে সক্ষম।
ব্যাক প্রোপাগেশনের ধাপসমূহ
নেটওয়ার্ক একটি ট্রেনিং ইনস্ট্যান্স গ্রহণ করে এবং, নেটওয়ার্কে বর্তমান ওজন ব্যবহার করে, আউটপুট বা আউটপুটগুলো গণনা করে।
ব্যাক প্রোপাগেশন গণনা করা ফলাফল এবং প্রত্যাশিত (বাস্তব ফলাফল) এর পার্থক্য নির্ণয় করে এরর (error) গণনা করে।
এররটি ওয়েবের মাধ্যমে ফিরিয়ে পাঠানো হয় এবং ওজনগুলো এডজাস্ট করা হয় এরর ন্যূনতম করার জন্য, তাই নাম ব্যাক প্রোপাগেশন কারণ এররগুলো নেটওয়ার্কের মাধ্যমে পিছনে প্রেরিত হয়।
ব্যাক প্রোপাগেশন অ্যালগরিদম নেটওয়ার্কের মোট এরর গণনা করে প্রতিটি ট্রেনিং ইনস্ট্যান্সে উৎপন্ন মানগুলো বাস্তব ভ্যালুর সাথে তুলনা করে। এটি আউটপুট লেয়ারের ওজনগুলো পরিবর্তন করে এরর কমাতে, কিন্তু সরিয়ে ফেলতে পারে না। যাইহোক, অ্যালগরিদম এখানেই শেষ হয় না।
এটি পূর্বের নোডগুলোর দিকে দোষটা প্রেরিত করে এবং সেসব নোড সংযুক্ত ওজনগুলোকেও পরিবর্তন করে, আরও মোট এরর কমাতে। দোষ বরাদ্দ করার নির্দিষ্ট কাঠামো অপরিহার্য নয়। সাফ করতে হয় যে ব্যাক প্রোপাগেশন একটি জটিল নিউমেরিক্যাল প্রসেস ব্যবহার করে যেটি এক্টিভেশন ফাংশনের আংশিক ডেরিভেটিভ নেওয়া দরকার।
ওজন পরিবর্তন করার এই পদ্ধতিকে জেনারেলাইজড ডেল্টা রুল (generalized delta rule) বলা হয়। জেনারেলাইজড ডেল্টা রুল ব্যবহার করার সাথে সম্পর্কিত দুটি অত্যাবশ্যক প্যারামিটার রয়েছে। पहला হল মোমেন্টাম (momentum), যা প্রতিটি ইউনিটের ওজনগুলোর "দিক" পরিবর্তন করার প্রবণতা বর্ণনা করে।
অর্থাৎ, প্রতিটি ওजन মনে রাখে এটি বড় হচ্ছে কি ছোট, এবং মোমেন্টাম সেটিকে একই দিকে চলতে থাকতে বাধ্য করে। বড় মোমেন্টাম সহ একটি নেটওয়ার্ক নতুন ট্রেনিং ইনস্ট্যান্সের প্রতি ধীরে প্রতিক্রিয়া জানায় যা ওজনগুলো উল্টাতে চায়। যদি মোমেন্টাম কম হয়, তবে ওजनগুলো আরও মুক্তভাবে অসিলেট করতে পারে।
লার্নিং রেট (learning rate) নিয়ন্ত্রণ করে ওজন কত দ্রুত পরিবর্তিত হয়। লার্নিং রেটের সেরা পদ্ধতি হল বড় দিয়ে শুরু করা এবং নেটওয়ার্ক ট্রেন্ড হওয়ার সাথে সাথে ধীরে ধীরে কমিয়ে আনা। প্রাথমিকভাবে, ওজনগুলো র্যান্ডম, তাই উচ্চ অসিলেশন সেরা ওজনগুলোর সমীপস্থলে পৌঁছাতে সাহায্য করে। যাইহোক, নেটওয়ার্ক যতটা অপ্টিমাল সমাধানের কাছে যায়, লার্নিং রেট অবশ্যই কমাতে হবে যাতে নেটওয়ার্ক গ্লোবাল অপ্টিমাল ওজনে ফাইন-টিউন করতে পারে।
