এলন মাস্কের 'এক্স'কে গ্রোকের নারী, নাবালকদের যৌন ছবি তৈরির জন্য দায়ী করা উচিত

2025 সালের ডিসেম্বরের শেষ থেকে, X এর কৃত্রিম বুদ্ধিমত্তার চ্যাটবট, Grok, অনেক ব্যবহারকারীর কাছে সাড়া দিয়েছে প্রকৃত লোকেদের পোশাক খোলার অনুরোধ মানুষের ফটোগুলিকে যৌনতাপূর্ণ সামগ্রীতে পরিণত করে৷ লোকেরা বৈশিষ্ট্যটি ব্যবহার করা শুরু করার পরে, সামাজিক প্ল্যাটফর্ম সংস্থাটির মুখোমুখি হয়েছিল বিশ্বব্যাপী যাচাই ব্যবহারকারীদের প্রকৃত মানুষের অসম্মতিমূলক যৌনতাপূর্ণ চিত্র তৈরি করতে সক্ষম করার জন্য।

Grok অ্যাকাউন্ট হাজার হাজার “নগ্ন” এবং যৌন পরামর্শমূলক পোস্ট করেছে প্রতি ঘন্টায় ছবি. এমনকি আরও বিরক্তিকর, Grok যৌন ইমেজ তৈরি করেছে এবং অপ্রাপ্তবয়স্কদের যৌন সুস্পষ্ট উপাদান.

এক্স এর প্রতিক্রিয়া: প্ল্যাটফর্মের ব্যবহারকারীদের দোষারোপ করুন, আমাদের নয়. কোম্পানি একটি বিবৃতি জারি 3 জানুয়ারী, 2026-এ বলেছিল যে “যে কেউ Grok ব্যবহার করে বা অবৈধ সামগ্রী তৈরি করার জন্য প্ররোচিত করবে তারা একই পরিণতি ভোগ করবে যেন তারা অবৈধ সামগ্রী আপলোড করে।” X কোন ব্যবহারকারীর বিরুদ্ধে কি ব্যবস্থা নিয়েছে, যদি থাকে তবে তা স্পষ্ট নয়।

হিসাবে ক আইনজ্ঞ যারা আইন এবং উদীয়মান প্রযুক্তির ছেদ নিয়ে অধ্যয়ন করেন, আমি X-এর সংমিশ্রণের একটি পূর্বাভাসযোগ্য ফলাফল হিসাবে অসম্মত চিত্রের এই ঝাঁকুনি দেখি শিথিল বিষয়বস্তু সংযম নীতি এবং শক্তিশালী জেনারেটিভ এআই টুলের অ্যাক্সেসযোগ্যতা.

ব্যবহারকারীদের লক্ষ্য করে

জেনারেটিভ এআই-এর দ্রুত বৃদ্ধি অগণিত ওয়েবসাইট, অ্যাপ এবং চ্যাটবট তৈরি করেছে যা ব্যবহারকারীদের যৌন সুস্পষ্ট উপাদান তৈরি করতে দেয়, যার মধ্যে রয়েছে প্রকৃত শিশুদের চিত্রের “ন্যুডিফিকেশন”. কিন্তু এই অ্যাপ্লিকেশন এবং ওয়েবসাইট X এর মত বড় সোশ্যাল মিডিয়া প্ল্যাটফর্মগুলির মতো ব্যাপকভাবে পরিচিত বা ব্যবহৃত হয় না।

রাজ্য আইনসভা এবং কংগ্রেস প্রতিক্রিয়া জানাতে কিছুটা দ্রুত ছিল। 2025 সালের মে মাসে, কংগ্রেস আইন করে টেক ইট ডাউন অ্যাক্টযা প্রকৃত লোকেদের অসম্মতিমূলক যৌনতাপূর্ণ বিষয়বস্তু প্রকাশ করাকে একটি ফৌজদারি অপরাধ করে তোলে৷ টেক ইট ডাউন অ্যাক্ট শনাক্তযোগ্য ব্যক্তিদের “ঘনিষ্ঠ ভিজ্যুয়াল চিত্রণ” এবং AI- বা অন্যথায় শনাক্তযোগ্য ব্যক্তিদের কম্পিউটার-উত্পাদিত চিত্রের অসম্মতিমূলক প্রকাশনাকে অপরাধী করে।

এই ফৌজদারি বিধানগুলি শুধুমাত্র যে কোনও ব্যক্তির ক্ষেত্রে প্রযোজ্য যারা যৌনতাপূর্ণ বিষয়বস্তু পোস্ট করে, এমন প্ল্যাটফর্মগুলিতে নয় যা সামগ্রী বিতরণ করে, যেমন সোশ্যাল মিডিয়া ওয়েবসাইট৷

টেক ইট ডাউন আইনের অন্যান্য বিধানে, তবে, চিত্রিত ব্যক্তিদের জন্য একটি প্রক্রিয়া স্থাপনের জন্য প্ল্যাটফর্মের প্রয়োজন ছবি অপসারণের অনুরোধ করতে. একবার “টেক ইট ডাউন রিকোয়েস্ট” জমা দেওয়া হলে, একটি প্ল্যাটফর্মকে অবশ্যই 48 ঘন্টার মধ্যে যৌনতাপূর্ণ চিত্রটি সরিয়ে ফেলতে হবে। কিন্তু এই প্রয়োজনীয়তাগুলি 19 মে, 2026 পর্যন্ত কার্যকর হবে না।

প্ল্যাটফর্ম নিয়ে সমস্যা

ইতিমধ্যে, Grok দ্বারা উত্পাদিত যৌন সুস্পষ্ট চিত্র তুলে নেওয়ার জন্য ব্যবহারকারীর অনুরোধগুলি দৃশ্যত উত্তরহীন হয়ে গেছে৷ এমনকি এলন মাস্কের এক সন্তানের মা, অ্যাশলে সেন্ট ক্লেয়ারও রয়েছে জাল যৌন ইমেজ মুছে ফেলার জন্য X পেতে সক্ষম হয়নি তার যেটি মাস্কের ভক্তরা গ্রোক ব্যবহার করে তৈরি করেছে। দ্য গার্ডিয়ান রিপোর্ট করে যে সেন্ট ক্লেয়ার তাকে বলেছিলেন “X কর্মীদের কাছে অভিযোগ কোথাও যায় নি“

এটি আমাকে অবাক করে না কারণ কস্তুরী তখন টুইটারের ট্রাস্ট এবং সেফটি অ্যাডভাইজরি গ্রুপ ধ্বংস হয়ে গেছে তিনি প্ল্যাটফর্ম অধিগ্রহণের কিছুক্ষণ পরে এবং কোম্পানির 80% প্রকৌশলীকে বরখাস্ত করা হয়েছে বিশ্বাস এবং নিরাপত্তার জন্য নিবেদিত। ট্রাস্ট এবং নিরাপত্তা দলগুলি সাধারণত বিষয়বস্তু সংযম এবং প্রযুক্তি সংস্থাগুলিতে অপব্যবহার প্রতিরোধের উদ্যোগের জন্য দায়ী৷

প্রকাশ্যে, দেখা যাচ্ছে যে মাস্ক পরিস্থিতির গুরুতরতাকে উড়িয়ে দিয়েছেন। কথিত আছে যে মাস্ক কিছু ছবির জবাবে হাসি-কান্নার ইমোজি পোস্ট করেছেন এবং এক্স রয়টার্সের একজন সাংবাদিকের জিজ্ঞাসার জবাব দিয়েছেন স্বতঃ-উত্তর সহ “লিগেসি মিডিয়া মিথ্যা”.

মামলার সীমা

দেওয়ানী মামলার মত একটি দায়ের ওপেনএআই-এর ChatGPT-এর সাথে আলাপচারিতার পর 2025 সালের এপ্রিলে আত্মহত্যাকারী কিশোর অ্যাডাম রেইনের বাবা-মায়ের দ্বারা, প্ল্যাটফর্মগুলিকে দায়বদ্ধ রাখার একটি উপায়। কিন্তু মামলা একটি চড়াই যুদ্ধ সম্মুখীন মার্কিন যুক্তরাষ্ট্র দেওয়া যোগাযোগ শালীনতা আইনের ধারা 230যা সাধারণত সামাজিক মিডিয়া প্ল্যাটফর্মগুলিকে তাদের প্ল্যাটফর্মে পোস্ট করা বিষয়বস্তুর আইনি দায় থেকে রক্ষা করে৷

সুপ্রিম কোর্টের বিচারপতি ক্ল্যারেন্স থমাস এবং অনেক আইনী পণ্ডিত অবশ্য আছেন যুক্তি ছিল যে ধারা 230 খুব ব্যাপকভাবে প্রয়োগ করা হয়েছে আদালত দ্বারা আমি সাধারণত সম্মত হই যে বিভাগ 230 অনাক্রম্যতা সংকুচিত করা প্রয়োজন কারণ টেক কোম্পানিগুলি এবং তাদের প্ল্যাটফর্মগুলি তাদের ইচ্ছাকৃত ডিজাইন পছন্দের জন্য – কীভাবে তাদের সফ্টওয়্যার তৈরি করা হয়, কীভাবে সফ্টওয়্যারটি কাজ করে এবং সফ্টওয়্যারটি কী তৈরি করে – ধারা 230 এর সুরক্ষার সুযোগের বাইরে পড়ে৷

এই ক্ষেত্রে, X হয় জ্ঞাতসারে বা অবহেলাক্রমে Grok-এ সুরক্ষা এবং নিয়ন্ত্রণ স্থাপন করতে ব্যর্থ হয়েছে যাতে ব্যবহারকারীদের শনাক্তযোগ্য ব্যক্তিদের যৌনভাবে স্পষ্ট চিত্র তৈরি করা থেকে বিরত রাখা হয়। এমনকি যদি Musk এবং X বিশ্বাস করে যে ব্যবহারকারীদের Grok ব্যবহার করে প্রাপ্তবয়স্কদের যৌনভাবে স্পষ্ট ছবি তৈরি করার ক্ষমতা থাকা উচিত, আমি বিশ্বাস করি যে কোনও বিশ্বে X এমন একটি পণ্য তৈরির জন্য জবাবদিহিতা থেকে রক্ষা পাবে না যা বাস্তব জীবনের শিশুদের যৌনতাপূর্ণ বিষয়বস্তু তৈরি করে।

নিয়ন্ত্রক guardrails

যদি লোকেরা দেওয়ানী মামলার মাধ্যমে X এর মতো প্ল্যাটফর্মগুলিকে জবাবদিহি করতে না পারে, তবে তাদের তদন্ত এবং নিয়ন্ত্রণ করার জন্য এটি ফেডারেল সরকারের কাছে পড়ে। ফেডারেল ট্রেড কমিশন, বিচার বিভাগ বা কংগ্রেস, উদাহরণস্বরূপ, এক্স তদন্ত করতে পারে Grok এর প্রজন্মের অসম্মতিমূলক যৌনতাপূর্ণ উপাদানের জন্য। কিন্তু কস্তুরীর সাথে প্রেসিডেন্ট ডোনাল্ড ট্রাম্পের সাথে রাজনৈতিক সম্পর্ক নতুন করেআমি শীঘ্রই কোনো গুরুতর তদন্ত এবং জবাবদিহিতা আশা করি না।

আপাতত, আন্তর্জাতিক নিয়ন্ত্রকরা এক্স এবং গ্রোকের বিরুদ্ধে তদন্ত শুরু করেছে। ফরাসি কর্তৃপক্ষ তদন্ত শুরু করেছে “যৌন সুস্পষ্ট deepfakes বিস্তার” Grok থেকে, এবং Irish Council for Civil Liberties and Digital Rights Ireland দৃঢ়ভাবে তদন্ত করার জন্য আয়ারল্যান্ডের জাতীয় পুলিশকে অনুরোধ করেছে “ভর্তি ড্রেসিং স্প্রী।” যুক্তরাজ্যের নিয়ন্ত্রক সংস্থা অফিস অফ কমিউনিকেশন এমনটাই জানিয়েছে বিষয়টি তদন্ত করছেএবং ইউরোপীয় কমিশনের নিয়ন্ত্রক, ভারত ও মালয়েশিয়া কথিত এক্স তদন্ত পাশাপাশি

মার্কিন যুক্তরাষ্ট্রে, মে মাসে টেক ইট ডাউন অ্যাক্ট কার্যকর না হওয়া পর্যন্ত সম্ভবত সর্বোত্তম পদক্ষেপ হল নির্বাচিত কর্মকর্তাদের কাছ থেকে ব্যবস্থা নেওয়ার দাবি জানানো।

ওয়েন উঙ্গার কুইনিপিয়াক ইউনিভার্সিটির আইন বিভাগের সহযোগী অধ্যাপক।

এই নিবন্ধটি প্রথম প্রকাশিত হয় কথোপকথন.