গ্রোক দিয়ে অশালীন ছবি তৈরি বন্ধ!

সমালোচনার মুখে পিছু হটলো সামাজিক যোগাযোগমাধ্যম এক্স। প্রতিষ্ঠানটি জানিয়েছে, তাদের কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট গ্রোক বাস্তব মানুষের ছবি সম্পাদনা করে অশালীন বা উন্মুক্ত পোশাকে দেখাতে পারবে না। যেসব দেশে এ ধরনের কনটেন্ট অবৈধ সেখানে এই সুবিধা পুরোপুরি বন্ধ করা হচ্ছে।

গত বুধবার এক্স এক বিবৃতিতে জানায়, বাস্তব মানুষের ছবি বিকিনি, অন্তর্বাস বা অনুরূপ উন্মুক্ত পোশাকে রূপান্তরের সুযোগ প্রযুক্তিগতভাবে বন্ধ করা হয়েছে। এই নিষেধাজ্ঞা সব ব্যবহারকারীর ক্ষেত্রে প্রযোজ্য হবে। অর্থাৎ অর্থ পরিশোধকারী গ্রাহকরাও এ সুবিধা আর পাবেন না।

এক্স জানায়, আইন লঙ্ঘন ও প্ল্যাটফর্মের নীতিমালা ভঙ্গ ঠেকাতেই এই সিদ্ধান্ত। গ্রোকের অপব্যবহার করে কেউ যেন আইন ভাঙতে না পারে তা নিশ্চিত করাই উদ্দেশ্য।

সম্প্রতি গ্রোকের মাধ্যমে তৈরি যৌন আবেদনময় ‘ডিপফেক’ ছবি নিয়ে বিশ্বজুড়ে তীব্র সমালোচনা শুরু হয়। অভিযোগ ওঠে, অনুমতি ছাড়াই বাস্তব মানুষের ছবি সম্পাদনা করে অশালীন কনটেন্ট বানানো হচ্ছে। এমনকি শিশুদের ছবিও এতে আক্রান্ত হয়েছে বলে দাবি করে বিভিন্ন সংগঠন।

এই ঘোষণার কয়েক ঘণ্টা আগেই যুক্তরাষ্ট্রের ক্যালিফোর্নিয়া অঙ্গরাজ্যের শীর্ষ কৌঁসুলি জানান, গ্রোক দিয়ে তৈরি যৌন ডিপফেক ছড়িয়ে পড়ার ঘটনা তদন্ত করা হচ্ছে। শিশুদের ছবি এতে ব্যবহৃত হয়েছে কি না সেটিও খতিয়ে দেখা হচ্ছে।

এক্স আরও জানায়, যেসব দেশে আইন অনুযায়ী এ ধরনের ছবি তৈরি অবৈধ, সেখানে গ্রোক ব্যবহার করে এসব কনটেন্ট তৈরি করা যাবে না। অঞ্চলভিত্তিকভাবে এই ফিচার বন্ধ রাখা হবে। একে বলা হচ্ছে ‘জিওব্লকিং’ ব্যবস্থা।

তবে গ্রোক ব্যবহারে কিছু সীমিত ছাড় থাকছে। প্রতিষ্ঠানটির মালিক ইলন মাস্ক জানিয়েছেন, কেবল কল্পিত প্রাপ্তবয়স্ক চরিত্রের ক্ষেত্রে কিছু দৃশ্য দেখানোর অনুমতি থাকতে পারে। তবে বাস্তব কোনো মানুষের ছবি এতে ব্যবহার করা যাবে না। মাস্ক বলেন, যুক্তরাষ্ট্রে আর-রেটেড সিনেমায় যা দেখা যায়, সেটিই এক ধরনের মানদণ্ড। তবে দেশভেদে আইন অনুযায়ী নিয়ম ভিন্ন হবে।

এর আগে মাস্ক গ্রোক নিয়ে সমালোচনার জবাবে বলেছিলেন, সমালোচকেরা মূলত বাকস্বাধীনতা দমন করতে চান। তিনি এক্সে যুক্তরাজ্যের প্রধানমন্ত্রী কিয়ার স্টারমারের এআই–তৈরি একটি ছবি পোস্ট করেও বিতর্কে জড়ান।

গত কয়েক দিনে ইউরোপ ও এশিয়ার একাধিক দেশ গ্রোকের বিরুদ্ধে কঠোর অবস্থান নিয়েছে। মালয়েশিয়া ও ইন্দোনেশিয়া গ্রক ব্যবহারে নিষেধাজ্ঞা দেয়। এই দুই দেশই প্রথম সরাসরি গ্রোককে নিষিদ্ধ করে।

বিশেষজ্ঞদের মতে, কৃত্রিম বুদ্ধিমত্তার অপব্যবহার ঠেকাতে এ ধরনের সিদ্ধান্ত জরুরি। তবে শুধু প্রযুক্তিগত নিয়ন্ত্রণ যথেষ্ট নয়। প্রয়োজন শক্ত আইন ও কার্যকর নজরদারি।