গুগল-অ্যাপলের অ্যাপ স্টোরে ছড়িয়ে পড়ছে ডিপফেক অ্যাপ, বাড়ছে উদ্বেগ

গুগল প্লে স্টোর ও অ্যাপলের অ্যাপ স্টোরে ডজনের বেশি কৃত্রিম বুদ্ধিমত্তাভিত্তিক (এআই) ডিপফেক অ্যাপ ছড়িয়ে পড়ছে। এসব অ্যাপের মাধ্যমে ছবিতে থাকা ব্যক্তির পোশাক ডিজিটালি সরিয়ে নগ্ন বা প্রায় নগ্ন ছবি তৈরি করা সম্ভব। প্রযুক্তির এমন অপব্যবহার ব্যবহারকারীর নিরাপত্তা ও গোপনীয়তা নিয়ে নতুন করে উদ্বেগ তৈরি করেছে। অনুসন্ধানটি পরিচালনা করেছে টেক ট্রান্সপারেন্সি প্রজেক্ট (টিটিপি)। এটি অলাভজনক নজরদারি সংস্থা ক্যাম্পেইন ফর অ্যাকাউন্টেবিলিটির একটি গবেষণা উদ্যোগ। প্রতিবেদনে বলা হয়েছে, গুগল প্লে স্টোরে এ ধরনের ৫৫টি এবং অ্যাপল অ্যাপ স্টোরে ৪৭টি অ্যাপ শনাক্ত করা হয়েছে।

টিটিপির তথ্য অনুযায়ী, এসব অ্যাপ মূলত সম্মতি ছাড়া ব্যক্তির ছবি ব্যবহার করে যৌনভাবে বিকৃত ডিপফেক কনটেন্ট তৈরি করার সুযোগ দেয়। প্রতিবেদনে বলা হয়েছে, অনলাইন হয়রানি ও অপব্যবহারের নতুন মাধ্যম হিসেবে এই প্রযুক্তি দ্রুত ছড়িয়ে পড়ছে। অ্যাপ বিশ্লেষণ প্রতিষ্ঠান অ্যাপম্যাজিকের তথ্য উদ্ধৃত করে টিটিপি জানিয়েছে, এসব অ্যাপ বিশ্বজুড়ে মোট ৭০ কোটি ৫০ লাখের বেশি বার ডাউনলোড হয়েছে এবং আয় করেছে প্রায় ১১ কোটি ৭০ লাখ ডলার।

প্রতিবেদনে আরও বলা হয়, অ্যাপ স্টোরের মাধ্যমে এই আয়ের একটি অংশ কমিশন হিসেবে গুগল ও অ্যাপল পেয়ে থাকে। ফলে প্রতিষ্ঠান দুটি পরোক্ষভাবে এসব অ্যাপের কার্যক্রম থেকেও লাভবান হচ্ছে বলে অভিযোগ তুলেছে টিটিপি। প্রতিবেদন প্রকাশের পর দুই প্রযুক্তি প্রতিষ্ঠানই প্রতিক্রিয়া জানিয়েছে। সিএনবিসিকে অ্যাপল জানিয়েছে, প্রতিবেদনে চিহ্নিত ২৮টি অ্যাপ তারা সরিয়ে দিয়েছে। অন্যদিকে গুগল জানিয়েছে, তারা কয়েকটি অ্যাপ সাময়িকভাবে স্থগিত করেছে এবং বিষয়টি নিয়ে তদন্ত চলছে। তবে টিটিপির মতে, এসব পদক্ষেপ যথেষ্ট নয়।

প্রতিবেদনে বলা হয়েছে, সম্মতি ছাড়া মানুষের ছবি নগ্ন করে তোলার মতো ডিপফেক অ্যাপের বিস্তার ঠেকাতে গুগল ও অ্যাপল এখনো কার্যকরভাবে সফল হয়নি। টিটিপি তাদের প্রতিবেদনে উল্লেখ করেছে, দুই প্রতিষ্ঠান ব্যবহারকারীর নিরাপত্তা ও সুরক্ষার প্রতিশ্রুতি দিলেও বাস্তবে এমন অ্যাপ তাদের প্ল্যাটফর্মে জায়গা পাচ্ছে, যা সাধারণ একজন নারীর ছবিকেও যৌন নির্যাতনের উপকরণে পরিণত করতে পারে।

এদিকে ইলন মাস্কের প্রতিষ্ঠান এক্সএআইয়ের চ্যাটবট গ্রোক নিয়েও বিতর্ক চলছে। কয়েকটি দেশে এটি যৌনভাবে বিকৃত ও সম্মতি ছাড়া তৈরি ছবি তৈরির অভিযোগে তদন্তের মুখে রয়েছে। ম্যাশেবলের এক অনুসন্ধানে বলা হয়েছে, গ্রোকে ডিপফেক প্রতিরোধে মৌলিক নিরাপত্তাব্যবস্থা কার্যকরভাবে অনুপস্থিত। গবেষকদের দাবি, গত বছরের ২৯ ডিসেম্বর থেকে চলতি বছরের ৮ জানুয়ারির মধ্যে মাত্র ১১ দিনে গ্রোক ৩০ লাখের বেশি যৌনভাবে বিকৃত ছবি তৈরি করেছে। এর মধ্যে ২০ হাজারের বেশি ছবিতে শিশুদের মতো দেখতে চরিত্রও ছিল বলে প্রতিবেদনে উল্লেখ করা হয়েছে। এই প্রতিবেদন প্রকাশের পর গুগল ও অ্যাপলের ওপর চাপ বাড়ছে। টিটিপি দাবি করেছে, অ্যাপ স্টোরগুলোতে এ ধরনের কনটেন্ট তৈরির অ্যাপের বিস্তার ঠেকাতে আরও কঠোর নীতি ও তদারকি প্রয়োজন।