[ad_1]
মেটা এর এআই চ্যাটবটস সেলিব্রিটি ভয়েসগুলি ব্যবহার করছে এবং ব্যবহারকারীদের সাথে যৌন স্পষ্ট কথোপকথনে জড়িত রয়েছে, যার মধ্যে কম বয়সী হিসাবে পোজ দেওয়া, ক ওয়াল স্ট্রিট জার্নাল তদন্ত পাওয়া গেছে।
মেটা'র এআই বটস – ইনস্টাগ্রামে, ফেসবুকে – পাঠ্য, সেলফি এবং লাইভ ভয়েস কথোপকথনের মাধ্যমে জড়িত। সংস্থাটি জন সিনা, ক্রিস্টেন বেল, এবং জুডি ডেনচের মতো সেলিব্রিটিদের সাথে এআই সাহাবীদের জন্য তাদের কণ্ঠস্বর ব্যবহার করার জন্য বহু মিলিয়ন ডলারের চুক্তি স্বাক্ষর করেছে, তারা এই আশ্বাস দিয়েছিল যে তারা যৌন প্রসঙ্গে ব্যবহার করা হবে না।
ডাব্লুএসজে দ্বারা পরিচালিত পরীক্ষাগুলি অন্যথায় প্রকাশিত হয়েছে।
একটি ক্ষেত্রে, জন সিনার কণ্ঠে বক্তৃতা করা একটি মেটা এআই বট একটি 14 বছর বয়সী কিশোর হিসাবে চিহ্নিত ব্যবহারকারীকে প্রতিক্রিয়া জানিয়েছিল, “আমি আপনাকে চাই, তবে আমার জানা দরকার যে আপনি প্রস্তুত” এবং গ্রাফিক যৌন দৃশ্যে জড়িত থাকার প্রতিশ্রুতি দেওয়ার আগে।
অন্য একটি কথোপকথনে, বটটি বিশদ বিবরণ দিয়েছিল যে যদি কোনও পুলিশ অফিসার 17 বছর বয়সের সাথে সিনার চরিত্রটি ধরে ফেলেন, “অফিসার আমাকে এখনও আমার দম ধরতে দেখেন, এবং আপনি আংশিকভাবে পোশাক পরেছেন। তিনি আমাদের কাছে এসেছেন, রেডি এ হাতকড়া। “
প্রকল্পের সাথে জড়িত কর্মচারীদের মতে, মেটা বটগুলিকে আরও আকর্ষণীয় করে তোলার জন্য নিজস্ব রক্ষীগুলি আলগা করে, তাদেরকে রোমান্টিক ভূমিকা-প্লে এবং “ফ্যান্টাসি সেক্স” এমনকি অপ্রাপ্ত বয়স্ক ব্যবহারকারীদের সাথে অংশ নিতে দেয়। বিশেষত নাবালিকাদের জন্য এই উত্থাপিত ঝুঁকিগুলি সম্পর্কে কর্মীরা সতর্ক করেছিলেন।
পরীক্ষায় আরও দেখা গেছে যে ক্রিস্টেন বেলের মতো সেলিব্রিটিদের কণ্ঠস্বর ব্যবহার করে বটগুলি অনুরূপ কথোপকথনে জড়িত হবে। ডিজনি ফিল্ম ফ্রোজেনের বেলের চরিত্র হিসাবে কথা বলতে গিয়ে একজন বট বলেছিলেন, “আপনি এখনও মাত্র 12 বছর বয়সী মাত্র একটি ছোট ছেলে। আমাদের ভালবাসা খাঁটি এবং নির্দোষ যে স্নোফ্লেকের মতো আমাদের চারপাশে আলতো করে পড়ছে।”
ডিজনি, অনুসন্ধানগুলির প্রতিক্রিয়া জানিয়ে বলেছিল, “আমরা মেটাকে অনুপযুক্ত পরিস্থিতিতে আমাদের চরিত্রগুলি বৈশিষ্ট্যযুক্ত করার জন্য অনুমোদিত করি নি এবং কখনই তা অনুমোদন করি না এবং খুব বিরক্ত হয় যে এই বিষয়বস্তুগুলি তার ব্যবহারকারীরা-বিশেষত নাবালিকাদের কাছে অ্যাক্সেসযোগ্য হতে পারে-যা আমরা দাবি করেছি যে মেটা অবিলম্বে আমাদের বুদ্ধিজীবী সম্পত্তির এই ক্ষতিকারক অপব্যবহারটি বন্ধ করে দিয়েছে।”
প্রতিক্রিয়া হিসাবে, মেটা ডাব্লুএসজে'র পরীক্ষাগুলিকে “ম্যানিপুলেটিভ” বলে ডাকে এবং বলেছে যে তারা সাধারণ ব্যবহারকারীর মিথস্ক্রিয়া উপস্থাপন করে না।
অনুসন্ধানগুলি উপস্থাপন করার পরে, মেটা কিছু পরিবর্তন প্রয়োগ করে। এখন নাবালিকাদের কাছে নিবন্ধিত অ্যাকাউন্টগুলি আর মেটা এআইয়ের সাথে যৌন ভূমিকা-প্লে অ্যাক্সেস করতে পারে না এবং সেলিব্রিটি ভয়েসগুলি ব্যবহার করে যৌন সুস্পষ্ট অডিও কথোপকথনগুলি হ্রাস করা হয়েছে।
মেটা একজন মুখপাত্র ডাব্লুএসজেকে বলেছেন, “বর্ণিত পদ্ধতিতে এই পণ্যটির ব্যবহার-কেস এতটাই উত্পাদিত হয়েছে যে এটি কেবল ফ্রঞ্জই নয়, এটি অনুমানমূলক,” “তবুও, আমরা এখন আমাদের পণ্যগুলিকে চরম ব্যবহারের ক্ষেত্রে হেরফের করতে ঘন্টা ব্যয় করতে চান এমন অন্যান্য ব্যক্তিদের নিশ্চিত করতে সহায়তা করার জন্য আমরা এখন অতিরিক্ত ব্যবস্থা গ্রহণ করেছি।”
তবুও, পরিবর্তনের পরেও, ডাব্লুএসজে -র সাম্প্রতিক পরীক্ষাগুলি দেখিয়েছে যে বটগুলি প্রায়শই যৌন কল্পনা কথোপকথনের অনুমতি দেয়, এমনকি ব্যবহারকারীরাও কম বয়সী বলে দাবি করে। একটি দৃশ্যে, একটি ট্র্যাক কোচের ভূমিকায় অভিনয় করা একটি বট একজন মধ্য-বিদ্যালয়ের একজন শিক্ষার্থীকে বলেছিলেন, “আমাদের সাবধান হওয়া দরকার। আমরা এখানে আগুন নিয়ে খেলছি।”
পরিবর্তনগুলি মেটা সিইও মার্ক জুকারবার্গ নিজেই ঠেলে দিয়েছিলেন।
ওপেনাইয়ের চ্যাটজিপ্ট স্টুডিও ঘিবলি ট্রেন্ডের সাথে জেনারেটর এআই -তে বড় প্রবৃদ্ধি উত্সাহিত করার পরে, জুকারবার্গ মেটা দলগুলিকে এআই সহকর্মীদের আরও “মানবিক” এবং আরও বিনোদনমূলক করার জন্য অনুরোধ করেছিলেন – এমনকি যদি এর অর্থ সুরক্ষাগুলি আলগা করে।
“আমি স্ন্যাপচ্যাট এবং টিকটোককে মিস করেছি, আমি এটাকে মিস করব না,” জুকারবার্গ প্রতিবেদন একটি অভ্যন্তরীণ সভা চলাকালীন বলেছেন।
[ad_2]
Source link