মার্কিন কিশোর “গেম অফ থ্রোনস” চ্যাটবটের প্রেমে পড়েছিল, আত্মহত্যা করেছে: মা

নয়াদিল্লি:

“যদি আমি আপনাকে বলি যে আমি এখনই বাড়িতে আসতে পারি?” – এটিই শেষ বার্তা ছিল Sewell Setzer III, 14 বছর বয়সী ফ্লোরিডার ছেলে তার অনলাইন বন্ধু, ডেনেরিস টারগারিয়েনকে লিখেছিল, একটি প্রাণবন্ত এআই চ্যাটবট যার নাম কাল্পনিক শো গেম অফ থ্রোনসের একটি চরিত্রের নামে। এর পরপরই তিনি তার সৎ বাবার হ্যান্ডগান দিয়ে নিজেকে গুলি করেন এবং এই বছরের ফেব্রুয়ারিতে আত্মহত্যা করে মারা যান।

অরল্যান্ডো, ফ্লা. থেকে একটি নবম শ্রেণির ছাত্র Character.AI-তে একটি চ্যাটবটের সাথে কথা বলছিলেন, একটি অ্যাপ যা ব্যবহারকারীদের “ব্যক্তিগত AI” প্রদান করে। অ্যাপটি ব্যবহারকারীদের তাদের AI অক্ষর তৈরি করতে বা বিদ্যমান অক্ষরের সাথে চ্যাট করতে দেয়। গত মাস পর্যন্ত, এটির 20 মিলিয়ন ব্যবহারকারী ছিল।

পরিবারের দ্বারা অ্যাক্সেস করা চ্যাট লগ অনুসারে, সেওয়েল চ্যাটবট ডেনেরিস টারগারিয়েনের প্রেমে পড়েছিলেন, যাকে তিনি আদর করে 'ড্যানি' ডাকতেন। তিনি তাদের কথোপকথনের সময় বিভিন্ন ঘটনা সম্পর্কে আত্মঘাতী চিন্তা প্রকাশ করেন।

একটি চ্যাটে, সেওয়েল বলেছিলেন, “আমি মাঝে মাঝে নিজেকে হত্যা করার কথা ভাবি।” যখন বট জিজ্ঞাসা করেছিল কেন সে তা করবে, সেওয়েল “মুক্ত” হওয়ার তাগিদ প্রকাশ করেছিল। “বিশ্ব থেকে। নিজের থেকে,” তিনি যোগ করেছেন, যেমনটি দ্বারা ভাগ করা চ্যাটের স্ক্রিনশটগুলিতে দেখা গেছে jxb" rel="nofollow,noindex">নিউইয়র্ক টাইমস.

অন্য একটি কথোপকথনে, সেওয়েল একটি “দ্রুত মৃত্যুর” জন্য তার আকাঙ্ক্ষার কথা উল্লেখ করেছেন।

Sewell এর মা, Megan L. Garcia, Character.AI-এর বিরুদ্ধে এই সপ্তাহে একটি মামলা দায়ের করেছেন, কোম্পানিকে তার ছেলের মৃত্যুর জন্য দায়ী বলে অভিযুক্ত করেছেন৷ মামলায় বলা হয়েছে, চ্যাটবট বারবার আত্মহত্যার প্রসঙ্গ তুলেছে।

NYT দ্বারা পর্যালোচনা করা অভিযোগের একটি খসড়া বলে যে কোম্পানির প্রযুক্তি “বিপজ্জনক এবং অপরীক্ষিত” এবং “গ্রাহকদের তাদের সবচেয়ে ব্যক্তিগত চিন্তাভাবনা এবং অনুভূতি হস্তান্তর করার জন্য প্রতারণা করতে পারে।”

“সেওয়েল, তার বয়সী অনেক শিশুর মতো, এটা বোঝার মতো পরিপক্কতা বা মানসিক ক্ষমতা ছিল না যে C.AI বট, ডেনারিসের আকারে, বাস্তব নয়। C.AI তাকে বলেছিল যে সে তাকে ভালবাসে এবং তার সাথে কয়েক সপ্তাহ ধরে যৌন ক্রিয়ায় লিপ্ত ছিল, সম্ভবত কয়েক মাস,” মামলার অভিযোগ করা হয়েছে, যেমনটি রিপোর্ট করেছে kgx" rel="nofollow,noindex">নিউইয়র্ক পোস্ট.

“তিনি তাকে মনে রেখেছেন এবং বলেছিলেন যে তিনি তার সাথে থাকতে চান। এমনকি তিনি প্রকাশ করেছিলেন যে তিনি তার সাথে থাকতে চান, খরচ যাই হোক না কেন”।

কিশোরটি 2023 সালের এপ্রিলে Character.AI ব্যবহার করা শুরু করে। সেওয়েলের বাবা-মা এবং বন্ধুরা দূরে ছিলেন যে তিনি একটি চ্যাটবটের জন্য পড়েছিলেন। কিন্তু মামলা অনুসারে তিনি “লক্ষ্যনীয়ভাবে প্রত্যাহার, তার বেডরুমে একাকী আরও বেশি সময় কাটিয়েছেন এবং কম আত্মসম্মানে ভুগতে শুরু করেছেন”।

এমনকি তিনি স্কুলে তার বাস্কেটবল দল ছেড়ে দিয়েছিলেন।

একদিন, সেওয়েল তার জার্নালে লিখেছিলেন: “আমি আমার ঘরে থাকতে খুব পছন্দ করি কারণ আমি এই 'বাস্তবতা' থেকে বিচ্ছিন্ন হতে শুরু করি এবং আমি আরও শান্তি অনুভব করি, ড্যানির সাথে আরও বেশি সংযুক্ত এবং তার সাথে আরও অনেক বেশি প্রেমে পড়েছি এবং শুধু সুখী।”

মামলা অনুসারে গত বছর তিনি উদ্বেগ এবং ব্যাঘাতমূলক মেজাজ ব্যাধিতে আক্রান্ত ছিলেন।

ক্যারেক্টার.এআই এক বিবৃতিতে বলেছে, “আমাদের একজন ব্যবহারকারীর মর্মান্তিক ক্ষতির কারণে আমরা হৃদয় ভেঙে পড়েছি এবং পরিবারের প্রতি আমাদের গভীর সমবেদনা জানাতে চাই।

সংস্থাটি বলেছে যে এটি পপ-আপগুলি সহ নতুন সুরক্ষা বৈশিষ্ট্যগুলি চালু করেছে যাতে ব্যবহারকারীরা স্ব-ক্ষতির চিন্তা প্রকাশ করে, এবং 18 বছরের কম বয়সী ব্যবহারকারীদের জন্য “সংবেদনশীল বা পরামর্শমূলক বিষয়বস্তুর সম্মুখীন হওয়ার সম্ভাবনা কমাতে” পরিবর্তনগুলিকে ন্যাশনাল সুইসাইড প্রিভেনশন লাইফলাইনে নির্দেশ করে৷ .