ডিপফেকস এবং এআই-জেনারেটেড ভিডিও এখানে থাকার জন্য। কিন্তু বিগত কয়েক বছরে, তারা গুণমান এবং পরিমাণে বেড়েছে, যা জাতীয় নিরাপত্তা এবং ব্যক্তিগত গোপনীয়তা নিয়ে অনেক লোককে উদ্বিগ্ন করে তুলেছে।
তবুও, বেনামী অনলাইন ব্যবহারকারীরা তাদের নকল ভিডিওকে বাস্তবসম্মত করার জন্য যতই কঠোর চেষ্টা করুক না কেন, তারা কখনই অতীতের উন্নত ফেসিয়াল রিকগনিশন সফ্টওয়্যার পেতে পারেনি। এখন পর্যন্ত।
বোকা বানানোর মুখ শনাক্তকরণ APIs
দক্ষিণ কোরিয়ার সুওনের সুংকিয়ঙ্কওয়ান বিশ্ববিদ্যালয়ের গবেষকরা বর্তমান ডিপফেক প্রযুক্তির গুণমান পরীক্ষা করেছেন। তারা ওপেন সোর্স এবং সাধারণত ব্যবহৃত ডিপফেক ভিডিও জেনারেটিং সফ্টওয়্যার ব্যবহার করে অ্যামাজন এবং মাইক্রোসফ্ট API উভয়ই পরীক্ষা করেছে যে তারা কতটা ভাল পারফর্ম করে।
গবেষকরা হলিউড সেলিব্রিটিদের মুখ ব্যবহার করেছেন। কঠিন ডিপফেক তৈরি করার জন্য, সফ্টওয়্যারটির একই ব্যক্তির বিভিন্ন কোণ থেকে প্রচুর উচ্চ-মানের চিত্র প্রয়োজন, যা সাধারণ মানুষের পরিবর্তে সেলিব্রিটিদের অর্জন করা অনেক সহজ৷
গবেষকরা মাইক্রোসফ্ট এবং অ্যামাজনের এপিআইকে তাদের গবেষণার জন্য মানদণ্ড হিসাবে ব্যবহার করার সিদ্ধান্ত নিয়েছে কারণ উভয় সংস্থাই সেলিব্রিটি ফেস রিকগনিশন পরিষেবা সরবরাহ করে। তারা সর্বজনীনভাবে উপলব্ধ ডেটাসেট ব্যবহার করেছে এবং মাত্র 8,000 ডিপফেক তৈরি করেছে। প্রতিটি ডিপফেক ভিডিও থেকে, তারা একাধিক ফেসশট বের করেছে এবং API-এ জমা দিয়েছে প্রশ্নবিদ্ধ৷
মাইক্রোসফ্টের Azure কগনিটিভ সার্ভিসের সাথে, গবেষকরা ডিপফেক ব্যবহার করে 78 শতাংশ সময় সিস্টেমটিকে বোকা বানাতে সক্ষম হয়েছেন। Amazon-এর ফলাফলগুলি কিছুটা ভাল ছিল, জমা দেওয়া মুখগুলির 68 শতাংশ আসল হিসাবে চিহ্নিত হয়েছে৷
ডিপফেক ডিটেক্টর সম্পর্কে কি?
ডিপফেক ডিটেক্টর কমবেশি একইভাবে কাজ করে যেমন ডিপফেক করে। ডিটেক্টর হল এমন সফ্টওয়্যার যাকে মেশিন লার্নিং মডেল ব্যবহার করে কীভাবে ডিপফেক ভিডিও শনাক্ত করতে হয় সে সম্পর্কে প্রশিক্ষণ দেওয়া হয়েছিল৷
কিন্তু ডিটেক্টরদের বোকা বানানোর জন্য হাইপার-রিয়্যালিস্টিক ভিডিও তৈরিতে ফোকাস করার পরিবর্তে, ডিপফেকগুলি এখন এআই সিস্টেমকে বিভ্রান্ত করার জন্য প্রতিটি ফ্রেমে প্রতিপক্ষের উদাহরণ অন্তর্ভুক্ত করতে পারে। প্রকৃতপক্ষে, এই ধরনের ডিপফেক আক্রমণের সাফল্যের হার 78 থেকে 99 শতাংশ পর্যন্ত।
এটা আরও খারাপ হচ্ছে
ডিপফেকস একটি মেশিন লার্নিং অ্যাপ্লিকেশন। এমনকি দূর থেকে বিশ্বাসযোগ্য এমন একটি তৈরি করতে, আপনাকে বিভিন্ন কোণ থেকে একই ব্যক্তির মুখের শত শত ছবি এবং বিভিন্ন আবেগ প্রদর্শন করতে হবে।
প্রচুর পরিমাণে ডেটার প্রয়োজনের কারণে, কেউ মনে করবে যে কেবলমাত্র সেলিব্রিটি এবং রাজনীতিবিদদের মতো বিশাল অনলাইন উপস্থিতি সহ লোকেরাই ঝুঁকিতে রয়েছে৷ কিন্তু সেটা আর হয় না।
ডিপট্রেসের মতে, অক্টোবর 2019 থেকে জুন 2020 পর্যন্ত এক বছরের মধ্যে অনলাইনে ডিপফেকের সংখ্যা 330 শতাংশ বেড়েছে৷ উল্লেখ করার মতো নয়, ডিপফেক নির্মাতারা যে সফ্টওয়্যার এবং অ্যালগরিদমগুলি ব্যবহার করে তা আরও শক্তিশালী এবং আরও সহজলভ্য এবং অ্যাক্সেসযোগ্য হয়ে উঠছে৷
ডিপফেকের ঝুঁকিতে কে আছে?
যখন ডিপফেকগুলি প্রথম মূলধারায় পরিণত হয়েছিল, তখন প্রাথমিক উদ্বেগগুলি গোপনীয়তা এবং জাতীয় নিরাপত্তার জন্য ছিল৷ লোকেরা আশঙ্কা করেছিল যে রাজনীতিবিদ এবং সরকারী সরকারি কর্মীদের ভিডিও ফুটেজ আর বিশ্বাস করা যাবে না।
কিন্তু যদিও নিরাপত্তা ঝুঁকি ডিপফেক পোজকে উপেক্ষা করা দায়িত্বজ্ঞানহীন হবে, একাধিক সমীক্ষায় দেখা গেছে যে ডিপফেক নির্মাতারা এখনও রাজনীতিতে বিরক্ত করতে আগ্রহী নন। অনলাইনে বেশিরভাগ ডিপফেক ভিডিওগুলিকে দুটি বিভাগে ভাগ করা যেতে পারে:সেলিব্রিটিদের সাক্ষাৎকারের মজার ভিডিও এবং চলচ্চিত্র এবং পর্নোগ্রাফিক সামগ্রী৷
যদিও সাম্প্রতিক অধ্যয়নটি সেলিব্রিটি মুখগুলি ব্যবহার করে পরিচালিত হয়েছিল যাতে নিশ্চিত করা হয় যে API গুলিকে বোকা বানানোর জন্য ডিপফেকগুলি উচ্চ মানের ছিল, তার মানে এই নয় যে আপনি কম ডেটা দিয়ে ডিপফেক তৈরি করতে পারবেন না। অবশ্যই, তারা উন্নত ফেসিয়াল রিকগনিশন সিস্টেমকে বোকা বানানোর সুযোগ নাও পেতে পারে, কিন্তু তারা অন্য লোকেদের প্রতারণা করার জন্য যথেষ্ট বিশ্বাসী হতে পারে।
আজকাল, সামাজিক উপস্থিতি সহ কারও ডিপফেকগুলি বিশ্বাসযোগ্যভাবে তৈরি করা যেতে পারে। তাদের যা দরকার তা হল আপনার কয়েকটি ফটো এবং সম্ভবত একটি ভিডিও যাতে আপনি উপস্থিত হন৷ ফলস্বরূপ ডিপফেকের গুণমান কম হতে পারে, তবে এটি এখনও সম্ভব এবং ক্ষতিকারক হতে পারে৷
ভবিষ্যত এখনও অজানা
ডিপফেকগুলির অবস্থা সম্পর্কে অনেক পরস্পরবিরোধী ভবিষ্যদ্বাণী রয়েছে, কারণ সেগুলি শীঘ্রই যে কোনও সময় চলে যাচ্ছে না৷
কেউ কেউ একটি অ্যাপোক্যালিপটিক সাইবার ভবিষ্যত আশা করে যেখানে আপনি অনলাইনে আসা কোনো ফুটেজকে বিশ্বাস করতে পারবেন না। অন্যরা আরও আশাবাদী, ডিপফেককে অ্যানিমেশনের সাথে তুলনা করে এবং বলে যে এটি সামগ্রী উৎপাদনে ভবিষ্যত থাকতে পারে।
