কেন্দ্র X কে তার AI টুল দ্বারা জেনারেট করা যৌনতাপূর্ণ বিষয়বস্তু সরাতে বলে

শুক্রবার কেন্দ্রীয় সরকার চিঠি দিয়েছে সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্সএটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট Grok দ্বারা উত্পন্ন যৌনতাপূর্ণ বিষয়বস্তু সনাক্ত এবং অপসারণ করার নির্দেশনা, ANI রিপোর্ট করেছে।

কেন্দ্রীয় ইলেকট্রনিক্স এবং তথ্য প্রযুক্তি মন্ত্রক X-কে Grok-এর “একটি বিস্তৃত প্রযুক্তিগত, পদ্ধতিগত এবং প্রশাসন-স্তরের পর্যালোচনা করতে” বলেছে যাতে এটি নগ্নতা বা যৌনতাপূর্ণ বিষয়বস্তু ধারণ করে এমন সামগ্রী তৈরি করে না।

কেন্দ্র সোশ্যাল মিডিয়া প্ল্যাটফর্মকে সতর্ক করেছে যে এই নির্দেশনা না মানলে তথ্য প্রযুক্তি আইন, ভারতীয় ন্যায় সংহিতা এবং ভারতীয় নাগরিক সুরক্ষা সংহিতার অধীনে তার কর্মকর্তাদের বিরুদ্ধে ব্যবস্থা নেওয়া হতে পারে, ANI জানিয়েছে।

ভারতে X-এর চিফ কমপ্লায়েন্স অফিসারকে লেখা চিঠিতে, কেন্দ্রীয় সরকার বলেছে যে ব্যবহারকারীরা তাদের হেয় প্রতিপন্ন করার উদ্দেশ্যে মহিলাদের অশ্লীল ফটো এবং ভিডিও তৈরি এবং শেয়ার করার জন্য জাল অ্যাকাউন্ট তৈরি করতে গ্রোকের অপব্যবহার করছে।

“গুরুত্বপূর্ণভাবে, এটি শুধুমাত্র জাল অ্যাকাউন্ট তৈরির মধ্যেই সীমাবদ্ধ নয় বরং সেই মহিলাদেরও লক্ষ্য করে যারা তাদের ছবি বা ভিডিও হোস্ট করে বা প্রকাশ করে, প্রম্পট, ইমেজ ম্যানিপুলেশন এবং সিন্থেটিক আউটপুটগুলির মাধ্যমে,” মন্ত্রণালয় বলেছে।

এআই-সক্ষম সরঞ্জামগুলির মাধ্যমে অশ্লীল এবং যৌন সুস্পষ্ট বিষয়বস্তু হোস্ট করা বা প্রকাশ করা শারীরিক গোপনীয়তার জন্য আক্রমণাত্মক এবং গুরুতর শাস্তিমূলক পরিণতি আকর্ষণ করে, কেন্দ্র বলেছে।

Grok আবেদনের তত্ত্বাবধানে গৃহীত ব্যবস্থা, প্রধান কমপ্লায়েন্স অফিসারের দ্বারা অনুশীলন করা তদারকি, আপত্তিকর বিষয়বস্তুর বিরুদ্ধে গৃহীত ব্যবস্থা এবং বাধ্যতামূলক প্রতিবেদনের প্রয়োজনীয়তাগুলি মেনে চলার জন্য ব্যবস্থা নেওয়ার বিশদ বিবরণ দিয়ে সরকার X-কে 72 ঘন্টার মধ্যে একটি পদক্ষেপ নেওয়া রিপোর্ট জমা দেওয়ার নির্দেশ দিয়েছে, ANI রিপোর্ট করেছে।

আগের দিন, শিবসেনা (উদ্ধব বালাসাহেব ঠাকরে) সাংসদ প্রিয়াঙ্কা চতুর্বেদী কেন্দ্রীয় ইলেকট্রনিক্স এবং তথ্য প্রযুক্তি মন্ত্রী অশ্বিনী বৈষ্ণবকে চিঠি লিখেছিলেন, তাকে X-এর কাছে বিষয়টি নেওয়ার জন্য অনুরোধ করেছিলেন।

তিনি বলেছিলেন যে এই জাতীয় কৃত্রিম বুদ্ধিমত্তা দ্বারা তৈরি চিত্রগুলি অগ্রহণযোগ্য এবং “এআই ফাংশনের ব্যাপক অপব্যবহার” গঠন করে।

“এটি নারীদের গোপনীয়তার অধিকারের লঙ্ঘনের পাশাপাশি তাদের ছবির অননুমোদিত ব্যবহার, যা শুধু অনৈতিক নয় অপরাধও বটে,” বৈষ্ণবকে লেখা চিঠিতে চতুর্বেদী বলেছিলেন।