একটি আর্টিফিশিয়াল নিউরাল নেটওয়ার্কের একটি বেশি জটিল মেকানিজম রয়েছে পারসেপট্রন মডেলের চেয়ে। মাল্টিলেয়ার আর্টিফিশিয়াল নিউরাল নেটওয়ার্কে বেশ কিছু মেথড রয়েছে যেগুলো নিম্নরূপ:
নেটওয়ার্কে এর ইনপুট এবং আউটপুট লেয়ারের মধ্যে একাধিক ইন্টারমিডিয়েট লেয়ার থাকতে পারে। takich ইন্টারমিডিয়েট লেয়ারগুলোকে হিডেন লেয়ার বলা হয় এবং এই লেয়ারগুলিতে ইনস্টল করা নোডগুলোকেই হিডেন নোড বলা হয়। ফলস্বরূপ আর্কিটেকচারকে মাল্টিলেয়ার নিউরাল নেটওয়ার্ক বলা হয়।
একটি ফিড-ফরওয়ার্ড নিউরাল নেটওয়ার্কে, একটি লেয়ারের নোডগুলো শুধু পরবর্তী লেয়ারের নোডের সাথে কানেক্টেড থাকে। পারসেপট্রন হল একটি সিঙ্গেল-লেয়ার, ফিড-ফরওয়ার্ড নিউরাল নেটওয়ার্ক কারণ এটিতে শুধু একটি লেয়ার নোড রয়েছে আউটপুট লেয়ার যা কমপ্লেক্স নিউমেরিক্যাল অপারেশন ইমপ্লিমেন্ট করে। একটি রিকারেন্ট নিউরাল নেটওয়ার্কে, লিংকগুলো একই লেয়ারের ভিতরের নোড বা এক লেয়ার থেকে পূর্ববর্তী লেয়ারগুলোর নোড কানেক্ট করতে পারে।
নেটওয়ার্ক সাইন ফাংশন ছাড়া অ্যাক্টিভেশন ফাংশনের অন্যান্য মেথড ব্যবহার করতে পারে। বিভিন্ন অ্যাক্টিভেশন ফাংশনের উদাহরণ: লিনিয়ার, সিগময়েড (লজিস্টিক), এবং হাইপারবোলিক ট্যাঞ্জেন্ট ফাংশন। এই অ্যাক্টিভেশন ফাংশনগুলো হিডেন এবং আউটপুট নোডকে তাদের ইনপুট প্যারামিটারগুলোর নন-লিনিয়ার আউটপুট ভ্যালু আউটপুট করতে সক্ষম করে।
এই অতিরিক্ত জটিলতাগুলো মাল্টিলেয়ার নিউরাল নেটওয়ার্ককে ইনপুট এবং আউটপুট ভেরিয়েবলের মধ্যে আরও জটিল সম্পর্ক মডেল করতে সক্ষম করে। উদাহরণগুলো দুটি হাইপারপ্লেন ব্যবহার করে ক্লাসিফাই করা যেতে পারে যা ইনপুট স্পেসকে তাদের নিজস্ব ক্লাসে ভাগ করে।
ANN মডেলের ওয়েট শিখতে, একটি কার্যকর অ্যালগরিদম প্রয়োজন যা সঠিক সমাধানে কনভার্জ করে যখন পর্যাপ্ত পরিমাণ ট্রেনিং ডেটা দেওয়া হয়। একটি পদ্ধতি হল নেটওয়ার্কের প্রতিটি হিডেন নোড বা আউটপুট নোডকে একটি আলাদা পারসেপট্রন ইউনিট হিসেবে বিবেচনা করা এবং একই ওয়েট আপডেট ফর্মুলা ব্যবহার করা।
এই পদ্ধতি কাজ করবে না কারণ হিডেন নোডের সঠিক আউটপুট সম্পর্কে কোনো অপ্ররি জ্ঞান নেই। এটার ফলে এরর টার্ম, (y - y'), প্রতিটি হিডেন নোডের সাথে সম্পর্কিত নির্ধারণ করা কঠিন হয়। গ্রেডিয়েন্ট ডিসেন্ট মেথডের ওপর ভিত্তি করে একটি নিউরাল নেটওয়ার্কের ওয়েট শিখার জন্য একটি মেথডলজি নিচে দেখানো হল।
ANN লার্নিং অ্যালগরিদমের উদ্দেশ্য হল ওয়েট w এর একটি সেট ডিটারমাইন করা যা টোটাল সম অফ স্কোয়ারড এরর মিনিমাইজ করে -
$$\mathrm{E(w)\:=\:\frac{1}{2}\displaystyle\sum\limits_{i=1}^N (Y_{i}-Y^{'}_i)^2}$$
সম অফ স্কোয়ারড এরর w-র ওপর ডিপেন্ড করে কারণ প্রেডিক্টেড ক্লাস y' হিডেন এবং আউটপুট নোডে অ্যাসাইন করা ওয়েটের একটি ফাংশন। কেসগুলোতে, ANN-এর আউটপুট একটি নন-লিনিয়ার ফাংশন তার প্যারামিটারগুলোর কারণ এর অ্যাক্টিভেশন ফাংশনের চয়েন্স যেমন সিগময়েড বা tanh ফাংশন।
