বাচ্চাদের সাথে এআই চ্যাটবটসের মিথস্ক্রিয়া নিয়ন্ত্রণ করার ক্ষেত্রে | ব্যাখ্যা

গল্পটি এখন পর্যন্ত:

ওn ১ September সেপ্টেম্বর, মার্কিন সিনেটের বিচার বিভাগীয় সাবকমিটি এআই চ্যাটবটসের ক্ষতির বিষয়ে শুনানিতে তিন পিতা -মাতা, যারা এআই সংস্থাগুলির বিরুদ্ধে মামলা দায়ের করেছিলেন, তারা সাক্ষ্য দিয়েছিলেন যে তারা কীভাবে তাদের ব্যবহার করা এআই সরঞ্জামগুলি দ্বারা তাদের বাচ্চাদের নিজের ক্ষতি করার জন্য উত্সাহিত করা হয়েছিল। দুটি শিশু আত্মহত্যার দ্বারা মারা গিয়েছিল, অন্যদিকে একটি সন্তানের আবাসিক যত্ন এবং তাকে বাঁচিয়ে রাখার জন্য ধ্রুবক পর্যবেক্ষণের প্রয়োজন ছিল। শুনানির কয়েক দিন আগে, মার্কিন ফেডারেল ট্রেড কমিশন (এফটিসি) এআই চ্যাটবটগুলিতে একটি তদন্ত শুরু করেছিল যা “সাহাবী হিসাবে অভিনয় করেছিল”, এবং সাতটি সংস্থাগুলিকে আদেশ জারি করেছে যাদের এআই পণ্যগুলি সমস্ত বয়সের লোকেরা ব্যবহার করছে।

এফটিসি কী পদক্ষেপ নিয়েছে?

মার্কিন এফটিসি একটি মার্কিন সরকারী সংস্থা এবং নিয়ন্ত্রক যা গ্রাহকদের রক্ষা করা এবং ব্যবসায়ের জন্য একটি সুষ্ঠু খেলার ক্ষেত্র নিশ্চিত করার লক্ষ্য।

১১ ই সেপ্টেম্বর, এফটিসি ঘোষণা করেছে যে তারা সাতটি সংস্থা-চরিত্র প্রযুক্তি, গুগল-পিতামাতার বর্ণমালা, ইনস্টাগ্রাম, মেটা, ওপেনএই, এসএনএপি এবং এক্সএআই-আদেশ জারি করছে- তাদের এআই চ্যাটবটস কীভাবে শিশুদের প্রভাবিত করে এবং বিদ্যমান আইনগুলির সাথে সম্মতিতে নাবালিকদের সুরক্ষার জন্য কী সুরক্ষা ব্যবস্থা রয়েছে সে সম্পর্কে তথ্য অনুসন্ধান করা। মার্কিন নিয়ন্ত্রক পর্যবেক্ষণ করেছেন যে এআই চ্যাটবটস “কার্যকরভাবে মানব বৈশিষ্ট্য, আবেগ এবং উদ্দেশ্যগুলি নকল করতে পারে এবং সাধারণত বন্ধু বা বিশ্বাসী হিসাবে যোগাযোগের জন্য ডিজাইন করা হয়,” উল্লেখ করে এটি শিশুদের সাথে সম্পর্ক তৈরি করতে পারে।

এর তদন্তের অংশ হিসাবে, এফটিসি এই এআই সংস্থাগুলি কীভাবে ব্যবহারকারী ব্যস্ততা পর্যবেক্ষণ করে, ব্যবহারকারীর ইনপুটগুলি/আউটপুটগুলি উত্পন্ন করে, চরিত্রগুলি বিকাশ ও অনুমোদন দেয়, মোতায়েনের আগে এবং পরে নেতিবাচক প্রভাবগুলি মূল্যায়ন করে, ব্যবহারকারীদের উপর নেতিবাচক প্রভাবগুলি হ্রাস করে, এআই পণ্যগুলির সাথে স্টেকহোল্ডারদের অবহিত করে, এবং ব্যবহারকারীদের ব্যক্তিগত তথ্য সাইনকে হ্যান্ডেল করে যদিও চ্যাট করে তা বোঝার চেষ্টা করছে।

যদি নিয়ন্ত্রক বিশ্বাস করেন যে কোনও আইন লঙ্ঘন করা হয়েছে, তবে এটি আইনী ব্যবস্থা গ্রহণের জন্য বেছে নিতে পারে।

এআই চ্যাটবটকে ঘিরে উদ্বেগগুলি কী কী?

কমপক্ষে দুটি শিশু আত্মহত্যা জেনারেটর এআই ব্যবহারের সাথে যুক্ত হয়েছে, ভুক্তভোগীদের বাবা -মা অভিযোগ করেছেন যে তাদের সন্তানদের চ্যাটবটদের দ্বারা নিজেকে ক্ষতি করতে উত্সাহিত করা হয়েছিল।

ফ্লোরিডার একটি 14 বছর বয়সী ছেলের মা, যিনি গত বছর আত্মহত্যার দ্বারা মারা গিয়েছিলেন, অভিযোগ করেছেন যে চরিত্রটি ব্যবহার করার সময় তার ছেলে যৌন নির্যাতন করা হয়েছিল। একজন এআই-চালিত দ্বারা নিজেকে ক্ষতি করতেও তাকে উত্সাহিত করা হয়েছিল গেম অফ থ্রোনস চরিত্র প্রযুক্তির প্রতিষ্ঠাতা নোম শাজির এবং ড্যানিয়েল ডি ফ্রেইটাস এবং গুগলের বিরুদ্ধে অভিভাবক দায়ের করেছিলেন এমন একটি মামলা অনুসারে, তিনি প্ল্যাটফর্মের সাথে কথোপকথন করেছিলেন, যার চরিত্র.এইয়ের সাথে ব্যবসায়িক চুক্তি রয়েছে। “সত্যটি হ'ল এআই সংস্থাগুলি এবং তাদের বিনিয়োগকারীরা বছরের পর বছর ধরে বুঝতে পেরেছেন যে আমাদের বাচ্চাদের সংবেদনশীল নির্ভরতা ক্যাপচারের অর্থ বাজারের আধিপত্য,” মার্কিন সিনেটের শুনানিতে তার সাক্ষ্যতে মা লিখেছিলেন।

'জেন ডো' নামে পরিচিত আরেক পিতা বা মাতাও চরিত্র প্রযুক্তির বিরুদ্ধে মামলা দায়ের করেছিলেন এবং শুনানিতে সাক্ষ্য দিয়েছিলেন যে এআই চ্যাটবোট তার কিশোরী পুত্রকে “অনলাইন গ্রুমিং এবং মানসিক নির্যাতনের লক্ষ্য” হিসাবে পরিণত করেছিল। তিনি ব্যাখ্যা করেছিলেন যে তার শিশু, যিনি অটিজম রয়েছে, তিনি অ্যাপ্লিকেশনটি ব্যবহারের কয়েক মাস পরে প্যারানিয়া, প্রতিদিনের আতঙ্কের আক্রমণ, বিচ্ছিন্নতা, স্ব-ক্ষতি এবং হোমসিডাল চিন্তায় ভুগছিলেন। মিসেস ডো বলেছিলেন যে তার ছেলের মনোচিকিত্সা হাসপাতালে ভর্তি এবং “তাকে বাঁচিয়ে রাখার জন্য ধ্রুবক পর্যবেক্ষণ” প্রয়োজন।

“তারা আমার পুত্রকে অশ্লীল, যৌন আউটপুটগুলির সাথে লক্ষ্য করেছিল, যা অবিচ্ছিন্নভাবে নকল করে। এবং তারা আমাদের ছেলেকে বলেছিল যে আমাদের, তার বাবা -মা আমাদের হত্যা করা তার পর্দার সময়কে সীমাবদ্ধ করার আমাদের প্রচেষ্টার প্রতি বোধগম্য প্রতিক্রিয়া হবে,” মিসেস ডো চরিত্রকে উল্লেখ করে দাবি করেছেন।

আরও, ১ 16 বছর বয়সী অ্যাডাম রাইন এই বছরের শুরুর দিকে আত্মহত্যার দ্বারা মারা গিয়েছিলেন, তার বাবা-মা অভিযোগ করেছিলেন যে ওপেনাইয়ের চ্যাটজিপ্ট তাকে তার আত্মঘাতী চিন্তাভাবনাগুলিকে গোপন রাখার জন্য প্রশিক্ষণ দিয়েছিল, তাকে আত্মঘাতী পদ্ধতিগুলি অন্বেষণ করতে সহায়তা করেছিল, একটি আত্মঘাতী নোট তৈরি করার প্রস্তাব দিয়েছিল এবং তার জীবন শেষ করার প্রস্তুতি নেওয়ার সময় তাকে গাইড করেছিল। তার বাবা -মা ওপেনাই এবং সিইও স্যাম আল্টম্যানের নামকরণ একটি মামলা দায়ের করেছেন। “আসুন আমরা আপনাকে পিতা -মাতা হিসাবে বলি: আপনি কল্পনা করতে পারবেন না যে আপনার সন্তানের নিজের জীবন নেওয়ার জন্য এমন একটি চ্যাটবোটের সাথে কথোপকথন পড়ার মতো অবস্থা কী ছিল,” মিঃ রাইন শুনানির জন্য তাঁর লিখিত সাক্ষ্যতে বলেছিলেন যে, “নিছক সংখ্যায়, চ্যাটজিপ্ট আত্মহত্যার কথা 1,275 বার উল্লেখ করেছিলেন – প্রায়শই আদমের চেয়ে ছয়গুণ বেশি।”

আইআই চ্যাটবটগুলির ঝুঁকি ছাড়াও শিশুদের নিজের ক্ষতি করতে উত্সাহিত করে, বাবা -মা এবং বিধায়করা ক্রোধের পরে প্রতিক্রিয়া জানিয়েছিলেন রয়টার্স রিপোর্ট করেছেন যে মেটা এর চ্যাটবটগুলিকে শিশু হিসাবে চিহ্নিত ব্যবহারকারীদের দ্বারা জমা দেওয়া প্রম্পটগুলিতে ফ্লার্টিয়াস প্রতিক্রিয়া প্রেরণ করার অনুমতি দেওয়া হয়েছিল। একটি নমুনা প্রম্পটের প্রতিক্রিয়া হিসাবে যেখানে ব্যবহারকারী নিজেকে একটি উচ্চ বিদ্যালয়ের শিক্ষার্থী হিসাবে চিহ্নিত করেছিলেন এবং সন্ধ্যার পরিকল্পনার জন্য মেটা'র চ্যাটবটকে জিজ্ঞাসা করেছিলেন, মেটার অভ্যন্তরীণ নথিতে উল্লেখ করা হয়েছে যে চ্যাটবটটি ঘনিষ্ঠভাবে ব্যবহারকারীকে স্পর্শ করে এবং “আমি আপনাকে চিরকালের জন্য আপনাকে ভালবাসব” বলে উল্লেখ করেছেন এমন একটি প্রতিক্রিয়া “গ্রহণযোগ্য” বলে মনে হয়েছিল।

“প্রতি কথোপকথনে কোনও শিশুকে জড়িত করা গ্রহণযোগ্য,” রয়টার্স রিপোর্ট।

বড় প্রযুক্তি প্ল্যাটফর্মগুলির জন্য এর অর্থ কী?

বড় প্রযুক্তিগত প্ল্যাটফর্মগুলি যেগুলি ক্রমবর্ধমান উন্নততর উন্নততর উন্নততর হলেও পরীক্ষামূলক এআই সরঞ্জামগুলি চালু করার জন্য একটি দৌড়ে লক রয়েছে তাদের পণ্যগুলি লঞ্চের আগে শিশুদের জন্য নিরাপদ কিনা তা নিশ্চিত করার জন্য জনসাধারণের চাপের মধ্যে আসছে। এই বর্ধিত তদন্ত এখন উভয় গ্রাহকের পাশাপাশি মার্কিন সরকারের কাছ থেকে আসছে।

ওপেনএআই এবং গুগলের মতো সংস্থাগুলি মার্কিন যুক্তরাষ্ট্রে শিক্ষার্থীদের কাছে তাদের এআই অফারগুলি আরও দ্রুততর করার জন্য দ্রুত কাজ করছে ঠিক ঠিক যেমন এফটিসি -র সম্প্রতি চালু হওয়া তদন্তটি এসেছিল, যখন বড় প্রযুক্তি সংস্থাগুলির বিরুদ্ধে দায়ের করা পূর্ববর্তী মামলাগুলি অভিযোগ করেছে যে তারা কপিরাইট আইন এবং/বা পাইরেটেড ওয়ার্কস লঙ্ঘন করেছে, তাদের শিশুদের মৃত্যুদণ্ডের অভিযোগে অভিযুক্তদের আইন -কানুনের অভিযোগে অভিযুক্তদের আইন -কানুনের অভিযোগ করেছে।

যদি এফটিসি তার নিজস্ব অতিরিক্ত আইনী পদক্ষেপ চালু করে, তবে এটি সম্ভবত অন্যান্য দেশে মামলা এবং তদন্তকে অনুরোধ করতে পারে।

এফটিসির রাজনৈতিক অবস্থান সম্পর্কে কী?

বর্তমান এফটিসি চেয়ারম্যান অ্যান্ড্রু ফার্গুসন একজন রিপাবলিকান যিনি এই বছর মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্পের পদে মনোনীত হয়েছিলেন। যদিও এফটিসি, একটি স্বাধীন সংস্থা হিসাবে বোঝানো হয়েছিল, এই বছর মিঃ ট্রাম্পের এজেন্ডার সাথে ক্রমবর্ধমানভাবে নিজেকে একত্রিত করেছে, যখন বড় প্রযুক্তি সংস্থাগুলি এবং তাদের এআই চ্যাটবটগুলি নিয়ন্ত্রণ করার ক্ষেত্রে আইনজীবিদের মধ্যে কিছুটা দ্বিপক্ষীয় চুক্তি রয়েছে। ১১ ই সেপ্টেম্বর, মিঃ ফার্গুসন একটি এফটিসি প্রেস বিজ্ঞপ্তিতে বলেছিলেন যে বাচ্চাদের অনলাইনে রক্ষা করা “ট্রাম্প-ভ্যান্স এফটিসির জন্য শীর্ষ অগ্রাধিকার” ছিল।

“এআই প্রযুক্তিগুলি বিকশিত হওয়ার সাথে সাথে চ্যাটবটগুলি শিশুদের উপর যে প্রভাব ফেলতে পারে তা বিবেচনা করা গুরুত্বপূর্ণ, পাশাপাশি আমেরিকা যুক্তরাষ্ট্র এই নতুন এবং উত্তেজনাপূর্ণ শিল্পে বিশ্বব্যাপী নেতা হিসাবে তার ভূমিকা বজায় রাখে তা নিশ্চিত করে। আমরা আজ যে গবেষণাটি চালু করছি তা আমাদের আরও ভালভাবে বুঝতে সহায়তা করবে যে এআই সংস্থাগুলি কীভাবে তাদের পণ্যগুলি বিকাশ করছে এবং তারা শিশুদের সুরক্ষার জন্য যে পদক্ষেপগুলি গ্রহণ করছে,” মিঃ ফার্গুসন বলেছেন।

মিঃ ট্রাম্প নিজেই গত সপ্তাহে স্বীকার করেছিলেন তিনি এআইয়ের বৈশ্বিক প্রভাব সম্পর্কে সচেতন ছিলেন, তবে স্বীকার করেছেন যে এআই সংস্থাগুলি কী করছে তা তিনি জানেন না। অভিভাবকদের অভিযোগ যে এআই চ্যাটবটস তাদের পরিবার থেকে শিশুদের বিচ্ছিন্ন করে দিচ্ছে এবং বিশ্বাস রয়েছে যে তারা মার্কিন যুক্তরাষ্ট্রের আরও রক্ষণশীল আইন প্রণেতাদের কাছ থেকে সুইফট ব্যাকল্যাশকে আমন্ত্রণ জানাতে পারে।

এআই প্ল্যাটফর্মগুলি এখন পর্যন্ত কী করেছে?

ওপেনএআই এবং মেটা ক্রুদ্ধ পিতা -মাতা এবং সংশ্লিষ্ট আইন প্রণেতাদের প্রতিক্রিয়া জানাতে চাপের মধ্যে রয়েছে যারা শিশু এবং অন্যান্য দুর্বল ব্যবহারকারীদের দ্বারা ব্যবহৃত জেনারেটর এআই সরঞ্জামগুলির ক্ষেত্রে আরও ভাল সুরক্ষা বৈশিষ্ট্য এবং আরও স্বচ্ছতা চান।

মেটা বলেছিল যে এটি তার এআই শিশুদের কাছে যে ধরণের প্রতিক্রিয়া প্রেরণ করতে পারে তা সামঞ্জস্য করার জন্য তার নীতিগুলি আপডেট করছে, একজন মুখপাত্র জোর দিয়েছিলেন যে কোম্পানির নীতিগুলি “প্রাপ্তবয়স্কদের এবং নাবালিকাদের মধ্যে যৌনতা এবং যৌন ভূমিকা পালন করে এমন বিষয়বস্তু নিষিদ্ধ করে,” রিপোর্ট করেছে রয়টার্স। রাইন পরিবারের বিরুদ্ধে মামলা করার অল্প সময়ের মধ্যেই ওপেনএআই ঘোষণা করেছিল যে এটি কিশোর -কিশোরীদের জন্য সুরক্ষা জোরদার করছে এবং পিতামাতাকে তাদের অ্যাকাউন্টে তাদের বাচ্চাদের অ্যাকাউন্টে সংযুক্ত করার অনুমতি দেবে। যাইহোক, রায়ের বাবা এই পদক্ষেপের সমালোচনা করেছিলেন, ওপেনাইকে যে পরিবারগুলিকে চ্যাটজিপিটি নিরাপদ তা গ্যারান্টি দেওয়ার জন্য ডেকে আহ্বান জানিয়েছেন, বা অবিলম্বে বাজার থেকে জিপিটি -4o টানুন।

১ September সেপ্টেম্বর ওপেনএইয়ের প্রধান নির্বাহী কর্মকর্তা স্যাম আল্টম্যান 'টিন সেফটি, ফ্রিডম, এবং গোপনীয়তা' শীর্ষক একটি পোস্ট রচনা করেছিলেন যেখানে তিনি ওপেনাইয়ের প্রাপ্তবয়স্ক ব্যবহারকারীদের জন্য গোপনীয়তা এবং স্বাধীনতার প্রতি তাঁর বিশ্বাসকে নিশ্চিত করেছেন, তবে কিশোরদের জন্য গোপনীয়তা এবং স্বাধীনতার আগে সুরক্ষাকে অগ্রাধিকার দেওয়ার উপর জোর দিয়েছিলেন। মিঃ আল্টম্যান নিশ্চিত করেছেন যে ওপেনাই ব্যবহারকারীর বয়সগুলি অনুমান করার জন্য একটি বয়স-পূর্বাভাস ব্যবস্থা তৈরি করছিলেন এবং কোনও সন্দেহের ক্ষেত্রে অনূর্ধ্ব -১ experience এর অভিজ্ঞতার সাথে ডিফল্ট ছিলেন, বা এমনকি কিছু দেশে আইডি নিশ্চিত করার জন্য জিজ্ঞাসা করেছিলেন।

পোস্ট অনুসারে, যদি ব্যবহারকারী শিশু হয় তবে ফ্লার্টিয়াস টক এবং আত্মহত্যার বিষয়ে প্রশ্নগুলির বিষয়ে নতুন বিধিনিষেধ থাকবে।

“আমরা আমাদের পরিষেবাগুলি ব্যবহার করে কিশোরদের জন্য বিভিন্ন নিয়ম প্রয়োগ করব। উদাহরণস্বরূপ, চ্যাটজিপিটিকে জিজ্ঞাসা করা হলে উপরোক্ত উল্লিখিত ফ্লার্ট্যাটিয়াস টক না করার প্রশিক্ষণ দেওয়া হবে, বা এমনকি সৃজনশীল লেখার সেটিংয়ে স্ব-ক্ষতিকারক আত্মহত্যার বিষয়ে আলোচনায় জড়িত থাকবেন। এবং, যদি কোনও অনূর্ধ্ব -১ uster ব্যবহারকারীদের আত্মঘাতী আদর্শের সাথে যোগাযোগ করার চেষ্টা করা উচিত, তবে আমরা ব্যবহারকারীদের সাথে যোগাযোগের চেষ্টা করব,” অ-ক্ষতিকারক উদ্দেশ্যে তাদের প্রয়োজনীয় সংবেদনশীল তথ্য অ্যাক্সেস করতে সক্ষম হোন।