ডিপফেকের ৬টি বড় খতরা এবং সেগুলো চিহ্নিত করার উপায়

যে বিশ্বে আপনার অনলাইন পরিচয় সরাসরি আপনার সাথে লিঙ্কড, সেখানে সার্বাঙ্গিন প্রতিলিপির সম্ভাবনা চিন্তাজনক। কিন্তু ডিপফেক (deepfake) প্রযুক্তির উদ্ভবে আমরা ঠিক সেই সম্মুখীন হচ্ছি।

প্রযুক্তি যত সস্তা এবং সহজ হচ্ছে ব্যবহার করা, ডিপফেকের খতরাগুলো কী? আরও, আপনি একটি ডিপফেক এবং আসলে সত্য জিনিসের মধ্যে পার্থক্য কীভাবে করবেন?

ডিপফেক কী?

ডিপফেক হলো মিডিয়াকে দেওয়া নাম যেখানে ভিডিও বা ইমেজে একটি ব্যক্তিকে অন্য কারো অনুরূপতা দিয়ে রিপ্লেস করা হয়। এই টার্মটি "ডিপ লার্নিং" (deep learning) এবং "ফেক" (fake)-এর একটি পোর্টমান্টো (portmanteau) এবং মেশিন লার্নিং অ্যালগরিদম এবং আর্টিফিশিয়াল ইন্টেলিজেন্স ব্যবহার করে বাস্তবসম্মত কিন্তু সিন্থেটিক মিডিয়া তৈরি করে।

সর্বাধিক বেসিক লেভেলে, আপনি একটি মুখ অন্য মডেলের ওপর সুপারিম্পোজড খুঁজে পেতে পারেন। এর দ্রুত বিকশিত সবচেয়ে খারাপ রূপে, ডিপফেক প্রযুক্তি অননিভেজ্ঞ শিকারদের নকল পর্নোগ্রাফিক ভিডিও, নকল নিউজ, হোক্স, এবং আরও অনেক কিছুর সাথে সেলাই করে।

আপনি প্রযুক্তির উৎপত্তি সম্পর্কে আরও পড়তে পারেন আমাদের ডিপফেক এক্সপ্লেনারে।

ডিপফেকের খতরা কী?

নকল ইমেজ সবসময় থেকে আছে। কী নকল এবং কী নকল নয় সেটি বের করা ডিজিটাইজড মিডিয়ার উত্থানের পর জীবনের একটি সাধারণ অংশ। কিন্তু ডিপফেক প্রযুক্তি যে সমস্যাগুলো সৃষ্টি করে সেগুলো ভিন্ন, নকল ইমেজ এবং নকল ভিডিওতে অপূর্ব নির্ভুলতা আনে।

বাড়ি অডিয়েন্সে পৌঁছানোর প্রথম ডিপফেক ভিডিওটি ছিল জর্ডান পিল (Jordan Peele) বারাক ওবামার অনুকরণ করছেন একটি ভিডিওতে যা বিষয়টি আলোচনা করছিল:

ভিডিওটি கெ مرّة দেখায়, একটা অদ্ভুত ভয়েস এবং ক্লোন্ড মুখে গ্রেইনি আর্টিফ্যাক্টস। তবুও, এটি ডিপফেক প্রযুক্তি ইলাস্ট্রেট করে।

অথবা আপনি কখনো চিন্তা করেছেন কেমন হতো যদি উইল স্মিথ (Will Smith) দ্য ম্যাট্রিক্স-এ নিও (Neo) খেলতেন কিয়ানু রিভস (Keanu Reeves)-র বদলে (আমি মানে, কে চিন্তা করলো না?!)? আর চিন্তা করবেন না:

এই দুটি ভিডিও ম্যালিশিয়াস নয়, এগুলো কম্পাইল করতে সেকড়ো ঘণ্টার মেশিন লার্নিং লাগেছে। কিন্তু একই প্রযুক্তি কারো কাছে উপলব্ধ যার কাছে পর্যাপ্ত সময় আছে শিখতে এবং কম্পিউটিং পাওয়ার আছে। ডিপফেক প্রযুক্তি ব্যবহার করার বাধা প্রাথমিকতে доста বেশি ছিল। কিন্তু যেহেতু প্রযুক্তি উন্নত হচ্ছে এবং এন্ট্রি ব্যারিয়ার উল্লেখযোগ্যভাবে কমছে, লোকজন ডিপফেকের নেগেটিভ এবং হানিকারক ব্যবহার খুঁজে পাচ্ছে।

ডিপফেকের অন্ধকার পাশে যাওয়ার আগে, এখানে জিম ক্যারি (Jim Carrey) দ্য শাইনিং-এ জ্যাক निकलসন (Jack Nicholson)-কে রিপ্লেস করেছেন:

১. সেলিব্রিটির সাথে নকল অডাল্ট ম্যাটেরিয়াল

ডিপফেক প্রযুক্তি থেকে বড় হুমকির একটি হলো সিন্থেটিক অডাল্ট ম্যাটেরিয়াল, বা ডিপফেক পর্ন যেন এটা জানা যায়। হাজার হাজার নকল অডাল্ট ভিডিও আছে প্রমুখ নারী সেলিব্রিটির মুখে, যেন এম্মা ওয়াটসন (Emma Watson), নাটালি পোর্টম্যান (Natalie Portman), এবং টেইলর সুইফট (Taylor Swift)।

সব মেশিন লার্নিং অ্যালগরিদম ব্যবহার করে সেলিব্রিটির মুখ একটি ফিমেল অডাল্ট একট্রেসের শরীরে সেলাই করেছে, এবং সবগুলো संख্যা নো পর্নোগ্রাফিক ওয়েবসাইটে মিলিয়ন মিলিয়ন ভিউ আকর্ষণ করেছে।

তবুও এই সাইটগুলোর কোনোটিই সেলিব্রিটি ডিপফেকের বিষয়ে কিছু করছে না।

"যতক্ষণ না তাদের এগুলো সরাতে এবং ফিল্টার করার একটি শক্তিশালী কারণ থাকে, কিছুই হবেনা," সেনসিটি (Sensity)-র সিইও এবং চিফ সায়েন্টিস্ট জর্জিও প্যাট্রিনি (Giorgio Patrini) বলেন, একটি ডিপফেক ডিটেকশন এবং অ্যানালাইসিস ফার্ম। "লোকজন এই টাইপের ম্যাটেরিয়াল আপলোড করতে স্বাধীন থাকবে কোনো ফলাফল ছাড়া সেই ওয়েবসাইটগুলোর যা মিলিয়ন মিলিয়ন লোক দেখে।"

ভিডিওগুলো এক্সপ্লয়েটেটিভ এবং ভিক্টিম-ফ্রি দূরে, যেন কিছু ডিপফেক ক্রিয়েটর দাবি করে।

২. সাধারণ মানুষের সাথে নকল অডাল্ট ম্যাটেরিয়াল

সেলিব্রিটিকে ফিচার করা সিন্থেটিক পর্নের চেয়ে কী খারাপ? সেটি হচ্ছে: অননিভেজ্ঞ মহিলাদের সাথে নকল অডাল্ট ম্যাটেরিয়াল। একটি সেনসিটি স্টাডি একটি ডিপফেক বট আবিষ্কার করেছে সোশ্যাল মেসেজিং অ্যাপ, টেলিগ্রাম (Telegram)-এ, যেটি ১০০,০০০-এর বেশি ডিপফেক নুড ইমেজ তৈরি করেছিল। ছবির অনেকগুলো সোশ্যাল মিডিয়া অ্যাকাউন্ট থেকে চুরি করা, যেন বন্ধু, গার্লফ্রেন্ড, পত্নী, মা, ইত্যাদি।

বটটি ডিপফেক প্রযুক্তিতে একটি বড় এডভান্সমেন্ট, কারণ ইমেজ আপলোডারকে ডিপফেক, মেশিন লার্নিং, বা এআইর প্রাক-এক্সিস্টিং নলেজ দরকার নেই। এটি একটি অটোমেটেড প্রক্রিয়া যেটি একটি একক ইমেজ দিয়ে চলে। יתר, টেলিগ্রাম বটটি শুধু মহিলাদের ছবির সাথে কাজ করে বলে মনে হয়, এবং প্রিমিয়াম সাবস্ক্রিপশন (আরো ছবি, ওয়াটারмар্ক রিমুভড) অবিশ্বাস্যভাবে সস্তা।

সেলিব্রিটি ডিপফেকের মত, টেলিগ্রাম বট ডিপফেক ইমেজগুলো এক্সপ্লয়েটেটিভ, অ্যাবিউসিভ, এবং অমোরাল। সেগুলো সহজে একজন স্বামি, পার্টনার, পরিবারের সদস্য, কালিগ, বা বসের ইনবক্সে পৌঁছাতে পারে, জীবন ধ্বংস করে। ব্ল্যাকমেইল এবং অন্যান্য এক্সটর্সনের সম্ভাবনা খুব বেশি এবং এটি রিভেঞ্জ পর্নের মত বিদ্যমান ইস্যুর হুমকি বেড়িয়ে দিয়েছে।

টেলিগ্রামে ডিপফেক পোস্ট করা আর একটি ইস্যু সৃষ্টি করে। টেলিগ্রাম একটি প্রাইভেসি-ফোকাসড মেসেজিং সার্ভিস যা তার ব্যবহারকারীদের সাথে বেশি ইন্টারফেয়ার করে না। এর পর্ন বট এবং অডাল্ট ম্যাটেরিয়াল সম্পর্কিত অন্যান্য বট রিমুভ করার একটি পলিসি আছে কিন্তু এই কেসে কিছুই করলো না।

৩. হোক্স ম্যাটেরিয়াল

আপনি জর্ডান পিল ওবামা খেলেছেন দেখেছেন। সেই ভিডিওতে, সে ডিপফেকের হুমকি সম্পর্কে সতর্কতা দিচ্ছিল। ডিপফেক প্রযুক্তি সম্পর্কে একটি বড় চিন্তা হলো কেউ একটি এত বাস্তবসম্মত ভিডিও তৈরি এবং পাবলিশ করবে যা একটি ট্র্যাজেডি লিড করবে।

সর্বাধিক চরম কেসে, লোকজন বলে ডিপফেক ভিডিও কন্টেন্ট একটি যুদ্ধ ট্রিগার করতে পারে। কিন্তু অন্যান্য বড় পরিণতিও আছে। উদাহরণস্বরূপ, একটি বড় কর্পোরেশন বা ব্যাংক সিইওর একটি ডিপফেক ভিডিও ড্যামেজিং স্টেটমেন্ট দিচ্ছে শেয়ার বাজার ক্র্যাশ করতে পারে। আবার, এটা চরম। কিন্তু বাস্তব মানুষ একটি ভিডিও চেক এবং ভেরিফাই করতে পারে, যেখানে গ্লোবাল মার্কেট নিউজে তাৎক্ষণিক রিয়্যাক্ট করে, এবং অটোমেটেড সেল-অফ হয়।

অন্য যে বিষয়টি বিবেচনা করা উচিত সেটি হলো ভলিউম। ডিপফেক কন্টেন্ট ক্রিয়েট করার খরচ যেহেতু কমছে, এটি একই ব্যক্তির বিশাল পরিমাণে ডিপফেক কন্টেন্টের সম্ভাবনা উত্থাপন করে, একই নকল মেসেজ বিভিন্ন টোন, স্থান, স্টাইলে ডেলিভার করার ফোকাসে।

৪. আসল ম্যাটেরিয়াল অস্বীকার করা

হোক্স ম্যাটেরিয়ালের একটি এক্সটেনশন হিসেবে, আপনাকে বিবেচনা করতে হবে যে ডিপফেক অত্যন্ত বাস্তবসম্মত হয়ে যাবে। এতটাই যে লোকজন একটি ভিডিও আসল কিনা নকল সেটি প্রশ্ন করা শুরু করবে, কন্টেন্ট যেন যেকোনো হোক।

যদি কেউ অপরাধ করে এবং একমাত্র প্রমাণ ভিডিও, কী তাদের "এটা ডিপফেক, এটা মিথ্যা প্রমাণ" বলতে রোকে? বিপরীতে, কেউ খুঁজে বের করার জন্য ডিপফেক ভিডিও প্রমাণ প্ল্যান্ট করা কেমন?

৫. নকল থট লিডার এবং সোশ্যাল কন্ট্যাক্ট

ডিপফেক কন্টেন্ট পজ করার många উদাহরণ ইতিমধ্যে আছে থট লিডার হিসেবে। লিংকডইন এবং টুইটারে প্রোফাইল হাই-র‍্যাঙ্কিং রোল স্ট্র্যাটেজিক অর্গানাইজেশনে ডিটেইল করে, কিন্তু এই লোকজন অস্তিত্বে নেই এবং সম্ভবত ডিপফেক প্রযুক্তি ব্যবহার করে জেনারেট করা।

そう言うと, এটি ডিপফেক-স্পেসিফিক ইস্যু নয়। সৃষ্টির ডॉन থেকে, গভর্নমেন্ট, স্পায়িং নেটওয়ার্ক, এবং কর্পোরেশন নকল প্রোফাইল এবং পারসোনা ব্যবহার করেছে তথ্য সংগ্রহ, এজেন্ডা পুশ, এবং ম্যানিপুলেট করার জন্য।

৬. ফিশিং স্ক্যাম, সোশ্যাল ইঞ্জিনিয়ারিং, এবং অন্যান্য স্ক্যাম

সোশ্যাল ইঞ্জিনিয়ারিং ইতিমধ্যে একটি ইস্যু সিকিউরিটির ক্ষেত্রে। লোকজন অন্য লোকজনের ওপর আস্থা রাখতে চায়। এটি আমাদের প্রকৃতিতে আছে। কিন্তু সেই আস্থা সিকিউরিটি ব্রিচ, ডেটা থেফট, এবং আরও অনেক কিছুর দিকে নিয়ে যেতে পারে। সোশ্যাল ইঞ্জিনিয়ারিং প্রায়শই পারসোনাল কন্ট্যাক্ট চায়, সেটি ফোনে হোক, ভিডিও কল ব্যবহার করে, ইত্যাদি।

মান লিন কেউ ডিপফেক প্রযুক্তি ব্যবহার করে একটি ডিরেক্টরকে মিমিক করে সিকিউরিটি কোড বা অন্যান্য সংবেদনশীল ইনফরমেশন অ্যাক্সেস করতে পারে। সেক্ষেত্রে, এটা ডিপফেক স্ক্যামের একটি বाढ় আনতে পারে।

ডিপফেক চিহ্নিত এবং সনাক্ত করা

ডিপফেক যেহেতু গুণগতভাবে বেড়ছে, একটি ডিপফেক চিহ্নিত করা কীভাবে করা যায় সেটি গুরুত্বপূর্ণ। প্রাথমিক দিনগুলোতে, কিছু সিম্পল টেল ছিল: ব্লurry ইমেজ, ভিডিও করাপশন এবং আর্টিফ্যাক্টস, এবং অন্যান্য অপূর্ণতা। তবে, এই টেলটেল ইস্যুগুলো কমছে যখন প্রযুক্তি ব্যবহার করার খরচ দ্রুত কমছে।

ডিপফেক কন্টেন্ট সনাক্ত করার কোনো পারফেক্ট উপায় নেই, কিন্তু এখানে চারটি হ্যান্ডি টিপস:

1. ডিটেইলস। ডিপফেক প্রযুক্তি যত ভালো হচ্ছে, এখনও কিছু বিষয়ে সমস্যা হয়। বিশেষ করে, ভিডিওতে ফাইন ডিটেইলস, যেন চুলের মুভমেন্ট, চোখের মুভমেন্ট, গালের কাঠামো এবং স্পিচের সময় মুভমেন্ট, এবং অনন্যাচারাল ফেশিয়াল এক্সপ্রেশন। চোখের মুভমেন্ট একটি বড় টেল। যদিও ডিপফেক এখন ব্লিংক করতে পারে কার্যকরভাবে (প্রাথমিক দিনগুলোতে, এটি একটি মেজর টেল ছিল), চোখের মুভমেন্ট এখনও একটি ইস্যু।
2. ইমোশন। ডিটেইলস সাথে সম্পর্কিত ইমোশন। কেউ যদি একটি শক্তিশালী স্টেটমেন্ট দেন, তাদের মুখ ডেলিভারির সময় ইমোশনের একটি র‍েঞ্জ প্রদর্শন করবে। ডিপফেক একই গভীরতার ইমোশন ডেলিভার করতে পারে না যেন একজন বাস্তব মানুষ।
3. ইনকনসিস্টেন্সি। ভিডিও কোয়ালিটি সর্বকালের হাই। আপনার পকেটের স্মার্টফোন ৪কে রেকর্ড এবং ট্রান্সমিট করতে পারে। যদি একটি পলিটিক্যাল লিডার একটি স্টেটমেন্ট দেন, সেটি টপ টিয়ার রেকর্ডিং ইকুইপমেন্ট থেকে ভরা একটা রুমের সামনে হয়। তাই, খারাপ রেকর্ডিং কোয়ালিটি, ভিজ্যুয়াল এবং অডিবল দুটোই, একটি উল্লেখযোগ্য ইনকনসিস্টেন্সি।
4. সোর্স। ভিডিও একটি ভেরিফাইড প্ল্যাটফর্মে আসছে কিনা? সোশ্যাল মিডিয়া প্ল্যাটফর্ম ভেরিফিকেশন ব্যবহার করে বিশ্বব্যাপি চেনাব 얼굴이 লোকজনের মিমিক করা নিশ্চিত করতে। হ্যাঁ, সিস্টেমগুলোর সাথে ইস্যু আছে। কিন্তু একটি বিশেষত ইগরেগিয়াস ভিডিও কোথা থেকে স্ট্রিমিং হচ্ছে বা হোস্ট করা হচ্ছে সেটি চেক করলে আপনি বুঝতে পারবেন এটা আসল কিনা। আপনি রিভার্স ইমেজ সার্চও ট্রাই করতে পারেন ইন্টারনেটে ছবি অন্যান্য কোথায় পাওয়া যায় সেটি খুঁজে বের করতে।

ডিপফেক চিহ্নিত এবং প্রতিরোধ করার টুলস

আপনি ডিপফেক চিহ্নিত করার লড়াইতে একা নন। বেশ কিছু বড় টেক কোম্পানি ডিপফেক ডিটেকশনের টুল ডেভেলপ করছে, অন্যান্য প্ল্যাটফর্ম ডিপফেক স্থায়ীভাবে ব্লক করার ধাপ নিচ্ছে।

উদাহরণস্বরূপ, মাইক্রোসফ্টের ডিপফেক ডিটেকশন টুল, মাইক্রোসফ্ট ভিডিও অথেনটিকেটর (Microsoft Video Authenticator), সেকেন্ডের মধ্যে অ্যানালাইজ করবে, ব্যবহারকারীরকে এর অথেনটিসিটি সম্পর্কে ইনফর্ম করবে (নিচের জিআইএফ দেখুন উদাহরণের জন্য)। একই সাথে, অ্যাডোব (Adobe) আপনাকে কন্টেন্ট ডিজিটালি সাইন করতে সক্ষম করে যাতে সেটি ম্যানিপুলেশন থেকে রক্ষা পায়।

ফেইসবুক এবং টুইটারের মতো প্ল্যাটফর্ম ইতিমধ্যে ম্যালিশিয়াস ডিপফেক ব্যান করেছে (উইল স্মিথ ইন দ্য ম্যাট্রিক্স এখনও ফেয়ার গেম), যখন গুগল একটি টেক্স্ট-টু-স্পিচ অ্যানালাইসিস টুল ডেভেলপ করছে ফেক অডিও স্নিপেটের বিরুদ্ধে লড়াই için।

আপনি যদি আপনার ফেক মিডিয়া ডিটেকশন স্কিল ব্রাশ আপ করতে চান, আমাদের ফেক ডিটেকশন টেস্টের তালিকা চেক আউট করুন চিহ্নিত করার এবং শিখতে।

ডিপফেক আসছে—এবং তারা আরও ভালো হচ্ছে

বিষয়টি হলো ২০১৮ সালে ডিপফেক মেইনস্ট্রিমে হিট করার পর থেকে, তাদের প্রাইমারি ইউজ হচ্ছে মহিলাদের অপব্যবহার করা। সেটি হোক সেলিব্রিটি মুখে নকল পর্ন তৈরি করা বা সোশ্যাল মিডিয়া থেকে কেউর কাপড় উতাহার করা, সব ফোকাস verdens স্ট্রীকে এক্সপ্লয়েট, ম্যানিপুলেট, এবং ডিগ্রেড করার ওপর।

এতে কোনো সন্দেহ নেই যে ডিপফেকের একটি বিদ্রোহ হরাইজনে লাগছে। এরকম প্রযুক্তির উত্থান জনগণের জন্য একটি হুমকি তৈরি করে, কিন্তু এর Мар্চ ফরোয়ার্ড রোকে দাঁড়ানোর জন্য قليلًا রিকোর্স আছে।