ডিপফেকের ৬টি প্রধান বিপদ এবং কীভাবে তা চিহ্নিত করা যায়

এমন একটি বিশ্বে যেখানে আপনার অনলাইন পরিচয় সরাসরি আপনার সাথে লিঙ্ক করে, নিখুঁত প্রতিলিপির সম্ভাবনা উদ্বেগজনক। কিন্তু ডিপফেক প্রযুক্তির আবির্ভাবের সাথে আমরা ঠিক এমনটাই সম্মুখীন হয়েছি।

প্রযুক্তি যেমন সস্তা এবং ব্যবহার করা সহজ হয়ে ওঠে, ডিপফেকের বিপদ কী? উপরন্তু, আপনি কিভাবে একটি ডিপফেক বনাম আসল চুক্তি খুঁজে পেতে পারেন?

ডিপফেক কি?

একটি ডিপফেক হল মিডিয়াকে দেওয়া নাম যেখানে ভিডিও বা চিত্রের একজন ব্যক্তিকে অন্য কারো সাদৃশ্য দিয়ে প্রতিস্থাপিত করা হয়। শব্দটি "গভীর শিক্ষা" এবং "জাল" এর একটি পোর্টম্যান্টু এবং বাস্তবসম্মত-এবং-সিন্থেটিক মিডিয়া তৈরি করতে মেশিন লার্নিং অ্যালগরিদম এবং কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে৷

এটির সবচেয়ে মৌলিকভাবে, আপনি অন্য মডেলের উপর চাপানো একটি মুখ খুঁজে পেতে পারেন। এটির দ্রুত বিকাশমান সবচেয়ে খারাপ সময়ে, ডিপফেক প্রযুক্তি সন্দেহাতীত শিকারদের জাল পর্নোগ্রাফিক ভিডিও, জাল খবর, প্রতারণা এবং আরও অনেক কিছুতে সেলাই করে৷

আপনি আমাদের ডিপফেক ব্যাখ্যাকারীতে প্রযুক্তির উত্স সম্পর্কে আরও পড়তে পারেন৷

ডিপফেকের বিপদ কি?

জাল ছবি সবসময় বিদ্যমান ছিল. কোনটি নকল এবং কোনটি নয় তা খুঁজে বের করা জীবনের একটি সাধারণ অংশ, বিশেষ করে ডিজিটালাইজড মিডিয়ার উত্থানের পরে। কিন্তু ডিপফেক প্রযুক্তি যে সমস্যাগুলি তৈরি করে তা ভিন্ন, যা নকল ছবি এবং নকল ভিডিওতে অতুলনীয় নির্ভুলতা নিয়ে আসে৷

বৃহত্তর শ্রোতাদের কাছে আঘাত করা প্রথম ডিপফেক ভিডিওগুলির মধ্যে একটি হল জর্ডান পিল একটি ভিডিওতে বারাক ওবামার ছদ্মবেশ ধারণ করেছেন যেটি হাতে থাকা সমস্যাটি নিয়ে আলোচনা করছে:

ভিডিওটি অশোধিত দেখাচ্ছে, একটি অদ্ভুত ভয়েস এবং ক্লোন করা মুখে দানাদার শিল্পকর্ম রয়েছে। তবুও, এটি ডিপফেক প্রযুক্তির চিত্র তুলে ধরে।

অথবা আপনি কি কখনও ভেবে দেখেছেন যে কিয়ানু রিভসের পরিবর্তে স্মিথ দ্য ম্যাট্রিক্সে নিও চরিত্রে অভিনয় করলে কেমন হতো (মানে, কে না?!)? আর অবাক হবেন না:

এই দুটি ভিডিও দূষিত নয়, কম্পাইল করতে শত শত ঘন্টা মেশিন লার্নিং লাগে। কিন্তু একই প্রযুক্তি যে কেউ শেখার পর্যাপ্ত সময় এবং এটির সাথে যেতে কম্পিউটিং শক্তি সহ উপলব্ধ। ডিপফেক প্রযুক্তি ব্যবহারে বাধা প্রাথমিকভাবে বেশ বেশি ছিল। কিন্তু প্রযুক্তির উন্নতি হওয়ায় এবং প্রবেশের বাধা উল্লেখযোগ্যভাবে কমে যাওয়ায়, লোকেরা ডিপফেকের জন্য নেতিবাচক এবং ক্ষতিকারক ব্যবহার খুঁজে পায়।

আমরা ডিপফেকগুলির অন্ধকার দিকের দিকে নজর দেওয়ার আগে, এখানে জিম ক্যারি দ্য শাইনিং-এ জ্যাক নিকলসনকে প্রতিস্থাপন করছেন:

1. সেলিব্রিটিদের বৈশিষ্ট্যযুক্ত জাল প্রাপ্তবয়স্ক উপাদান

ডিপফেক প্রযুক্তির প্রধান হুমকিগুলির মধ্যে একটি হল সিন্থেটিক অ্যাডাল্ট ম্যাটেরিয়াল, বা ডিপফেক পর্ণ যেমন এটি পরিচিত৷ এমা ওয়াটসন, নাটালি পোর্টম্যান এবং টেলর সুইফ্টের মতো বিশিষ্ট মহিলা সেলিব্রিটিদের মুখ সমন্বিত হাজার হাজার জাল প্রাপ্তবয়স্ক ভিডিও রয়েছে৷

সকলেই ডিপফেক মেশিন লার্নিং অ্যালগরিদম ব্যবহার করে একজন মহিলা প্রাপ্তবয়স্ক অভিনেত্রীর শরীরে সেলিব্রিটি মুখ সেলাই করে এবং সমস্তই অসংখ্য প্রাপ্তবয়স্ক বিষয়বস্তু ওয়েবসাইট জুড়ে লক্ষ লক্ষ ভিউ আকর্ষণ করে৷

তবুও এই সাইটগুলির কোনটিই সেলিব্রিটি ডিপফেক সম্পর্কে কিছু করে না৷

ডিপফেক ডিটেকশন এবং অ্যানালাইসিস ফার্ম সেনসিটির সিইও এবং প্রধান বিজ্ঞানী জর্জিও প্যাট্রিনি বলেছেন, "যতক্ষণ না তাদের কাছে তাদের নামিয়ে নেওয়ার এবং ফিল্টার করার চেষ্টা করার জন্য একটি শক্তিশালী কারণ নেই, ততক্ষণ কিছুই ঘটবে না।" "লোকেরা এখনও এই ধরণের উপাদানগুলিকে এই ওয়েবসাইটগুলিতে কোনও পরিণতি ছাড়াই আপলোড করতে মুক্ত থাকবে যেগুলি লক্ষ লক্ষ লোক দেখেছে৷"

ভিডিওগুলি শোষণমূলক এবং শিকার-মুক্ত থেকে অনেক দূরে, যেমন কিছু ডিপফেক নির্মাতারা অভিযোগ করেন৷

2. নকল প্রাপ্তবয়স্কদের উপাদান যা নিয়মিত ব্যক্তিদের বৈশিষ্ট্যযুক্ত

সেলিব্রিটিদের বৈশিষ্ট্যযুক্ত সিন্থেটিক পর্নের চেয়ে খারাপ আর কী? এটা ঠিক:নকল প্রাপ্তবয়স্ক উপাদান যা সন্দেহাতীত মহিলাদের বৈশিষ্ট্যযুক্ত। একটি সংবেদনশীল গবেষণা সামাজিক মেসেজিং অ্যাপ, টেলিগ্রামে একটি ডিপফেক বট উন্মোচন করেছে, যা 100,000 টিরও বেশি ডিপফেক নগ্ন ছবি তৈরি করেছে। অনেক ছবি সোশ্যাল মিডিয়া অ্যাকাউন্ট থেকে চুরি করা হয়েছে, যেখানে বন্ধু, বান্ধবী, স্ত্রী, মা ইত্যাদি দেখানো হয়েছে৷

ডিপফেক প্রযুক্তিতে বট একটি বড় অগ্রগতি, কারণ ইমেজ আপলোডারের ডিপফেক, মেশিন লার্নিং বা এআই সম্পর্কে বিদ্যমান জ্ঞানের প্রয়োজন হয় না। এটি একটি স্বয়ংক্রিয় প্রক্রিয়া যার জন্য একটি একক চিত্র প্রয়োজন৷ উপরন্তু, টেলিগ্রাম বট শুধুমাত্র মহিলাদের ছবি নিয়ে কাজ করে বলে মনে হয়, এবং প্রিমিয়াম সাবস্ক্রিপশন (আরো ছবি, অপসারিত ওয়াটারমার্ক) হাস্যকরভাবে সস্তা৷

সেলিব্রিটি ডিপফেকের মতো, টেলিগ্রাম বট ডিপফেক ছবিগুলি শোষণমূলক, অপমানজনক এবং অনৈতিক। তারা সহজেই একজন স্বামী, অংশীদার, পরিবারের সদস্য, সহকর্মী বা বসের ইনবক্সে তাদের পথ খুঁজে পেতে পারে, প্রক্রিয়ায় জীবন ধ্বংস করে। ব্ল্যাকমেল এবং অন্যান্য ধরণের চাঁদাবাজির সম্ভাবনা খুব বেশি এবং এটি প্রতিশোধ পর্নের মতো বিদ্যমান সমস্যাগুলি থেকে হুমকিকে বাড়িয়ে তোলে৷

টেলিগ্রামে ডিপফেক পোস্ট করা আরেকটি সমস্যা তৈরি করে। টেলিগ্রাম হল একটি গোপনীয়তা-কেন্দ্রিক মেসেজিং পরিষেবা যা এর ব্যবহারকারীদের সাথে খুব বেশি হস্তক্ষেপ করে না। এটিতে পর্ণ বট এবং প্রাপ্তবয়স্ক সামগ্রী সম্পর্কিত অন্যান্য বটগুলি সরানোর নীতি রয়েছে তবে এই ক্ষেত্রে কিছুই করেনি৷

3. প্রতারণার উপাদান

আপনি ওবামার ভূমিকায় জর্ডান পিলকে দেখেছেন। সেই ভিডিওতে তিনি ডিপফেকের বিপদ সম্পর্কে সতর্ক করছেন। ডিপফেক প্রযুক্তি সংক্রান্ত একটি প্রধান উদ্বেগ হল যে কেউ একটি ভিডিও তৈরি এবং প্রকাশ করবে এতটাই বাস্তবসম্মত যে এটি কোনো না কোনো ট্র্যাজেডির দিকে নিয়ে যায়৷

স্কেলের সবচেয়ে চরম প্রান্তে, লোকেরা বলে যে ডিপফেক ভিডিও সামগ্রী যুদ্ধের সূত্রপাত করতে পারে। কিন্তু অন্যান্য প্রধান পরিণতিও আছে। উদাহরণস্বরূপ, একটি বড় কর্পোরেশন বা ব্যাঙ্কের সিইও একটি ক্ষতিকারক বিবৃতি প্রদান করে এমন একটি ডিপফেক ভিডিও স্টক মার্কেট ক্র্যাশের কারণ হতে পারে৷ আবার, এটা চরম। কিন্তু সত্যিকারের লোকেরা একটি ভিডিও দেখতে এবং যাচাই করতে পারে, যেখানে বিশ্বব্যাপী বাজারগুলি তাৎক্ষণিকভাবে সংবাদে প্রতিক্রিয়া দেখায় এবং স্বয়ংক্রিয় বিক্রির ঘটনা ঘটে।

বিবেচনা করা অন্য জিনিস ভলিউম হয়. ডিপফেক সামগ্রী তৈরি করা ক্রমশ সস্তা হয়ে উঠলে, এটি একই ব্যক্তির বিভিন্ন টোন, স্থান, শৈলী এবং আরও অনেক কিছুতে একই জাল বার্তা প্রদানের উপর ফোকাস করে একই ব্যক্তির বিপুল পরিমাণ ডিপফেক সামগ্রীর সম্ভাবনা বাড়ায়৷

4. আসল উপাদান অস্বীকার করা

প্রতারণামূলক উপাদানের একটি এক্সটেনশন হিসাবে, আপনাকে অবশ্যই বিবেচনা করতে হবে যে ডিপফেকগুলি অবিশ্বাস্যভাবে বাস্তবসম্মত হয়ে উঠবে। এতটাই যে লোকেরা প্রশ্ন করতে শুরু করবে যে কোনও ভিডিও বাস্তব কিনা, বিষয়বস্তু নির্বিশেষে।

যদি কেউ অপরাধ করে এবং একমাত্র প্রমাণ ভিডিও হয়, তাহলে "এটি একটি ডিপফেক, এটি মিথ্যা প্রমাণ" বলে তাদের থামানোর কী আছে? বিপরীতভাবে, কেউ খুঁজে পেতে ডিপফেক ভিডিও প্রমাণ লাগানোর বিষয়ে কী?

5. জাল চিন্তা নেতা এবং সামাজিক যোগাযোগ

ইতিমধ্যেই অনেকগুলি দৃষ্টান্ত রয়েছে যার মধ্যে ডিপফেক কন্টেন্ট চিন্তার নেতা হিসাবে জাহির করা হয়েছে৷ LinkedIn এবং Twitter-এর প্রোফাইলগুলি কৌশলগত সংস্থাগুলিতে উচ্চ-র্যাঙ্কিং ভূমিকার বিশদ বিবরণ দেয়, তবুও এই ব্যক্তিদের অস্তিত্ব নেই এবং সম্ভবত ডিপফেক প্রযুক্তি ব্যবহার করে তৈরি করা হয়েছে৷

এটি বলেছে, এটি একটি ডিপফেক-নির্দিষ্ট সমস্যা নয়। সময়ের শুরু থেকে, সরকার, গুপ্তচরবৃত্তির নেটওয়ার্ক এবং কর্পোরেশনগুলি তথ্য সংগ্রহ করতে, এজেন্ডা পুশ করতে এবং কারসাজি করতে নকল প্রোফাইল এবং ব্যক্তিত্ব ব্যবহার করেছে৷ .

6. ফিশিং স্ক্যাম, সোশ্যাল ইঞ্জিনিয়ারিং এবং অন্যান্য স্ক্যাম

নিরাপত্তার ক্ষেত্রে সামাজিক প্রকৌশল ইতিমধ্যেই একটি সমস্যা। মানুষ অন্য লোকেদের বিশ্বাস করতে চায়। এটা আমাদের প্রকৃতিতে আছে। কিন্তু সেই বিশ্বাস নিরাপত্তা লঙ্ঘন, ডেটা চুরি এবং আরও অনেক কিছু হতে পারে। সোশ্যাল ইঞ্জিনিয়ারিং-এর জন্য প্রায়ই ব্যক্তিগত যোগাযোগের প্রয়োজন হয়, সেটা ফোনে, ভিডিও কল ব্যবহার করা ইত্যাদি।

ধরুন কেউ ডিপফেক প্রযুক্তি ব্যবহার করে ডিরেক্টর নকল করতে পারে সিকিউরিটি কোড বা অন্যান্য সংবেদনশীল তথ্যে অ্যাক্সেস পেতে। সেক্ষেত্রে, এটি ডিপফেক কেলেঙ্কারীর বন্যার দিকে নিয়ে যেতে পারে৷

কিভাবে ডিপফেকগুলিকে সনাক্ত ও সনাক্ত করতে হয়

ডিপফেকের গুণমান বৃদ্ধির সাথে সাথে, একটি ডিপফেক খুঁজে বের করা গুরুত্বপূর্ণ। প্রারম্ভিক দিনগুলিতে, কিছু সহজ কথা ছিল:অস্পষ্ট ছবি, ভিডিও দুর্নীতি এবং শিল্পকর্ম এবং অন্যান্য অসম্পূর্ণতা। যাইহোক, প্রযুক্তি ব্যবহার করার খরচ দ্রুত হ্রাসের সাথে সাথে এই সমস্ত টেলটেল সমস্যাগুলি হ্রাস পাচ্ছে৷

ডিপফেক কন্টেন্ট সনাক্ত করার কোন নিখুঁত উপায় নেই, তবে এখানে চারটি সহজ টিপস রয়েছে:

1. বিশদ বিবরণ . ডিপফেক প্রযুক্তি যতটা ভালো হয়ে উঠছে, এখনও কিছু বিট রয়েছে যার সাথে এটি লড়াই করছে। বিশেষ করে, ভিডিওগুলির মধ্যে সূক্ষ্ম বিবরণ, যেমন চুলের নড়াচড়া, চোখের নড়াচড়া, গালের গঠন এবং বক্তৃতার সময় নড়াচড়া এবং মুখের অস্বাভাবিক ভাব। চোখের নড়াচড়া একটা বড় কথা। যদিও ডিপফেকগুলি এখন কার্যকরভাবে চোখ বুলাতে পারে (প্রথম দিনগুলিতে, এটি একটি বড় কথা ছিল), চোখের চলাচল এখনও একটি সমস্যা।
2. আবেগ . বিশদে বাঁধা আবেগ। যদি কেউ একটি দৃঢ় বিবৃতি দেয়, তারা বিশদ বিবরণ প্রদান করার সময় তাদের মুখ বিভিন্ন আবেগ প্রদর্শন করবে। ডিপফেকস একজন প্রকৃত ব্যক্তির মতো আবেগের গভীরতা প্রদান করতে পারে না।
3. অসংগতি . ভিডিওর মান সর্বকালের সর্বোচ্চ। আপনার পকেটে থাকা স্মার্টফোনটি 4K তে রেকর্ড এবং প্রেরণ করতে পারে। কোনো রাজনৈতিক নেতা যদি কোনো বিবৃতি দিচ্ছেন, তা হলো উচ্চ স্তরের রেকর্ডিং সরঞ্জামে ভরা একটি কক্ষের সামনে। অতএব, দরিদ্র রেকর্ডিং গুণমান, ভিজ্যুয়াল এবং শ্রবণযোগ্য উভয়ই একটি উল্লেখযোগ্য অসঙ্গতি।
4. উৎস . ভিডিওটি কি একটি যাচাইকৃত প্ল্যাটফর্মে প্রদর্শিত হচ্ছে? সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলি বিশ্বব্যাপী স্বীকৃত ব্যক্তিদের নকল করা না হয় তা নিশ্চিত করতে যাচাইকরণ ব্যবহার করে। অবশ্যই, সিস্টেমের সাথে সমস্যা আছে। কিন্তু একটি বিশেষ করে গুরুতর ভিডিও কোথা থেকে স্ট্রিম করা হচ্ছে বা হোস্ট করা হচ্ছে তা যাচাই করলে তা বাস্তব কিনা তা খুঁজে বের করতে সাহায্য করবে। ইন্টারনেটে ছবিটি পাওয়া যায় এমন অন্যান্য অবস্থানগুলি প্রকাশ করতে আপনি একটি বিপরীত চিত্র অনুসন্ধান করার চেষ্টাও করতে পারেন।

ডিপফেকগুলি চিহ্নিত করা এবং প্রতিরোধ করার জন্য সরঞ্জামগুলি

ডিপফেক দেখানোর বিরুদ্ধে লড়াইয়ে আপনি একা নন। বেশ কয়েকটি বড় প্রযুক্তি কোম্পানি ডিপফেক সনাক্তকরণের জন্য সরঞ্জামগুলি তৈরি করছে, যখন অন্যান্য প্ল্যাটফর্মগুলি স্থায়ীভাবে ডিপফেকগুলিকে ব্লক করার জন্য পদক্ষেপ নিচ্ছে৷

উদাহরণস্বরূপ, মাইক্রোসফ্টের ডিপফেক সনাক্তকরণ সরঞ্জাম, মাইক্রোসফ্ট ভিডিও প্রমাণীকরণকারী, কয়েক সেকেন্ডের মধ্যে বিশ্লেষণ করবে, ব্যবহারকারীকে এর সত্যতা সম্পর্কে অবহিত করবে (উদাহরণের জন্য নীচের GIF দেখুন)। একই সময়ে, অ্যাডোব আপনাকে ম্যানিপুলেশন থেকে রক্ষা করার জন্য বিষয়বস্তুকে ডিজিটালভাবে স্বাক্ষর করতে সক্ষম করে।

Facebook এবং Twitter এর মতো প্ল্যাটফর্মগুলি ইতিমধ্যেই ক্ষতিকারক ডিপফেকগুলিকে নিষিদ্ধ করেছে (দ্য ম্যাট্রিক্সে উইল স্মিথের মতো ডিপফেকগুলি এখনও ন্যায্য খেলা), যখন Google নকল অডিও স্নিপেটগুলিকে মোকাবেলা করার জন্য একটি টেক্সট-টু-স্পিচ বিশ্লেষণ টুল নিয়ে কাজ করছে৷

আপনি যদি আপনার জাল মিডিয়া শনাক্তকরণ দক্ষতার উপর ব্রাশ করতে চান, স্পটিং এবং শেখার জন্য আমাদের জাল সনাক্তকরণ পরীক্ষার তালিকা দেখুন৷

ডিপফেক আসছে—এবং তারা আরও ভালো হচ্ছে

বিষয়টির সত্যতা হল যে যেহেতু ডিপফেকগুলি 2018 সালে মূলধারায় আঘাত হানে, তাই তাদের প্রাথমিক ব্যবহার হল মহিলাদের অপব্যবহার করা৷ সেলিব্রেটি মুখ ব্যবহার করে নকল পর্ণ তৈরি করা হোক বা সোশ্যাল মিডিয়ায় কারও কাছ থেকে কাপড় খুলে ফেলা হোক, সবই বিশ্বজুড়ে নারীদের শোষণ, কারসাজি এবং হেয় করার দিকে মনোনিবেশ করে৷

কোন সন্দেহ নেই দিগন্তে ডিপফেকের বিদ্রোহ রয়েছে। এই ধরনের প্রযুক্তির উত্থান জনসাধারণের জন্য বিপদ ডেকে আনে, তবুও এর অগ্রযাত্রাকে থামানোর জন্য খুব কম অবলম্বন আছে।