ডিপফেক এবং AI-জেনারেটেড ভিডিয়ো এখন থাকা থাকবে। কিন্তু গত কয়েক বছরে, তাদের কোয়ালিটি এবং পরিমাণ বেড়েছে, অনেক মানুষকে জাতীয় নিরাপত্তা এবং ব্যক্তিগত গোপনীয়তা নিয়ে চিন্তিত করে দিয়েছে।
তবুও, বেনামী অনলাইন ব্যবহারকারীরা কতটুকু কঠোর চেষ্টা করলেন তাদের নকল ভিডিয়োকে বাস্তবসম্মত করতে, তারা কখনো অ্যাডভান্সড ফেসিয়াল রিকগনিশন সফটওয়্যার পার করতে পারেনি। এপর্যন্ত।
ফেস রিকগনিশন API ফেলানো
দক্ষিণ কোরিয়ার সுவনে সুনগক্যাঙ্কওয়ান বিশ্ববিদ্যালয়ের গবেষকরা বর্তমান ডিপফেক প্রযুক্তির গুণমান পরীক্ষা করল। তারা উভয় Amazon এবং Microsoft APIs টেস্ট করল ওপেন-সোর্স এবং সাধারণত ব্যবহৃত ডিপফেক ভিডিয়ো জেনারেটিং সফটওয়্যার ব্যবহার করে দেখতে সেগুলো কতটুকু পারফর্ম করে।
গবেষকরা হলিউড সেলিব্রিটির চেহারা ব্যবহার করল। স olid ডিপফেক তৈরি করার জন্য, সফটওয়্যারে একই ব্যক্তির বিভিন্ন কোণ থেকে উচ্চ গুণমানের অনেক ছবি দরকার, যা সেলিব্রিটির জন্য সাধারণ লোকদের চেয়ে অনেক সহজে পাওয়া যায়।
গবেষকরা Microsoft এবং Amazon-এর API-কে বেঞ্চмар্ক হিসেবে ব্যবহার করার সিদ্ধান্ত নিল কারণ উভয় কোম্পানিই সেলিব্রিটি ফেস রিকগনিশন সার্ভিস অফার করে। তারা পাবলিকলি উপলব্ধ ডেটাসেট ব্যবহার করল এবং ঠিক ৮,০০০টির বেশি ডিপফেক তৈরি করল। প্রতিটি ডিপফেক ভিডিয়ো থেকে, তারা একাধিক ফেসশট এক্সট্রাক্ট করল এবং প্রশ্নানুসন্ধানের APIs-এ জমা দিল।
Microsoft-এর Azure Cognitive Services-এর সাথে, গবেষকরা সিস্টেমটিকে ৭৮ শতাংশ সময় ফেলাতে পেরল ডিপফেক ব্যবহার করে। Amazon-এর ফলাফল কিছুটা ভালো ছিল, ৬৮ শতাংশ জমা দেওয়া চেহারা রিয়েল হিসেবে চিহ্নিত করা হয়।
ডিপফেক ডিটেক্টর সম্পর্কে কী?
ডিপফেক ডিটেক্টর মোরের কম ডিপফেকের মত কাজ করে। ডিটেক্টররা সফটওয়্যার যেগুলো মেশিন লার্নিং মডেল ব্যবহার করে ট্রেন করা হয়েছে কীভাবে ডিপফেক ভিডিয়ো ডিটেক্ট করবে।
তবে হাইপার-রিয়েলিস্টিক ভিডিয়ো তৈরি করার বদলে ডিটেক্টর ফেলানোর জন্য, ডিপফেক এখন প্রতিটি ফ্রেমে adversarial examples অন্তর্ভুক্ত করতে পারে AI সিস্টেমকে বিভ্রান্ত করতে। বস্তুতঃ, এই ধরনের ডিপফেক আক্রমণের সাফল্য হার ৭৮ থেকে ৯৯ শতাংশ পর্যন্ত।
এটা আরও খারাপ হচ্ছে
ডিপফেক একটি মেশিন লার্নিং অ্যাপ্লিকেশন। একটা এমন ডিপফেক বানাতে যা রিমোটলি কনভিন্সিং, আপনাকে একই ব্যক্তির সैंकड़ো ছবি দরকার বিভিন্ন কোণ থেকে এবং বিভিন্ন ইমোশন দিয়ে।
বিশাল পরিমাণ ডেটার প্রয়োজনের কারণে, কেউ ভাবে শুধু বড় অনলাইন প্রেজেন্স वाले লোকেরা রিস্কে, যেন সেলিব্রিটি এবং রাজনীতিবিদ। কিন্তু সেটি আর সত্য নয়।
Deeptrace অনুযায়ী, অনলাইনে ডিপফেকের সংখ্যা ৩৩০ শতাংশ বেড়েছে এক বছরের কমে—অক্টোবর ২০১৯ থেকে জুন ২০২০। না বুলবেন, ডিপফেক মেকাররা যে সফটওয়্যার এবং অ্যালগরিদম ব্যবহার করে সেগুলো শক্তিশালী এবং সহজে পাওয়া যাচ্ছে।
কে ডিপফেকের ঝুঁকিতে?
ডিপফেক প্রথম মেইনস্টریم হলে, প্রাইমরি চিন্তা ছিল প্রাইভেসি এবং ন্যাশনাল সিকিউরিটি। লোকেরা ভয় পেলো রাজনীতিবিদ এবং অফিসিয়াল গভার্নমেন্ট ওয়ার্কারদের ভিডিয়ো ফুটেজ আর বিশ্বাসযোগ্য নয়।
কিন্তু ডিপফেক যেসব সিকিউরিটি রিস্ক পোজ করে সেটি উপেক্ষা করা কখনও দায়িত্বশীল হবে না, একাধিক সার্ভে খুঁজে পেয়েছে ডিপফেক মেকাররা রাজনীতি বিভ্রান্ত করার তত আগ্রহী নন। অনলাইনে অধিকাংশ ডিপফেক ভিডিয়ো দুটি ক্যাটাগরিতে ভাগ করা যায়: সেলিব্রিটি ইন্টারভিউর মজার ভিডিয়ো, এবং সিনেমা ও পর্নোগ্রাফিক মেটেরিয়াল।
যাইহোক, সাম্প্রতিক গবেষণা সেলিব্রিটি ফেস ব্যবহার করল ডিপফেক হাই কোয়ালিটি নিশ্চিত করতে APIs ফেলাতে, সেটি মানে নয় আপনি কম ডেটা দিয়ে ডিপফেক বানাতে পারবেন না। অবশ্য, সেগুলো অ্যাডভান্সড ফেসিয়াল রিকগনিশন সিস্টেম ফেলাতে পারে না, কিন্তু তারা অন্য মানুষকে ফেলাতে পর্যাপ্ত কনভিন্সিং হতে পারে।
আজকাল, সোশ্যাল প্রেজেন্স যেকোনো ব্যক্তির ডিপফেক কনভিন্সিংলি বানানো যায়। তাদের কয়েকটা আপনার ছবি এবং হয়তো একটি ভিডিও যেখানে আপনি আছেন দরকার। ফলস্বরূপ ডিপফেক কোয়ালিটিতে কম হতে পারে, কিন্তু এটা করা যায় এবং ক্ষতিগ্রস্ত করতে পারে।
ভবিষ্যৎ এখনও অজানা
ডিপফেকের অবস্থা নিয়ে অনেক কন্ট্রাডিক্টরি প্রেডিকশন আছে, কারণ সেগুলো যাবার নয় যেকোনো সময়।
কিছু এক্সপেক্ট করে একটি আপোক্যালিপ্টিক সাইবার ভবিষ্যৎ যেখানে আপনি অনলাইনে যেকোনো ফুটেজে বিশ্বাস করতে পারবেন না। অন্যদের আরও অপটিমিস্টিক, ডিপফেককে অ্যানিমেশনের সাথে তুলনা করে বলে এতে কন্টেন্ট প্রোডাকশনে ভবিষ্যৎ থাকতে পারে।
