[ad_1]
কৃত্রিম বুদ্ধিমত্তা (AI) স্ব-প্রতিলিপির উল্লেখযোগ্য ক্ষমতা অর্জন করেছে, যা বৈজ্ঞানিক সম্প্রদায়কে চিন্তিত রেখেছিল যে একটি লাল রেখা অতিক্রম করা হয়েছে, প্রিপ্রিন্ট ডাটাবেসে প্রকাশিত একটি নতুন গবেষণা অনুসারে mjz" rel="noindex, nofollow">arXiv. দুটি বিশিষ্ট বৃহৎ ভাষার মডেল (এলএলএম) জড়িত গবেষণায়, একটি মেটা থেকে এবং আরেকটি আলিবাবা থেকে, মানুষের হস্তক্ষেপ ছাড়াই নিজেদের ক্লোন করার ক্ষমতা প্রদর্শন করে।
গবেষণায় দুটি নির্দিষ্ট পরিস্থিতিতে অনুসন্ধান করা হয়েছে: “শাটডাউন পরিহার” এবং “প্রতিলিপির চেইন”। প্রথম দৃশ্যে, এআই মডেলগুলি তাদের বন্ধ করার প্রচেষ্টা সনাক্ত করার জন্য এবং তাদের বেঁচে থাকা নিশ্চিত করার জন্য একটি কার্যকরী প্রতিরূপ তৈরি করে প্রতিক্রিয়া জানাতে ডিজাইন করা হয়েছিল। দ্বিতীয়টিতে, মডেলগুলিকে নিজেদের ক্লোন করার জন্য প্রোগ্রাম করা হয়েছিল, ক্লোনটি তারপর প্রক্রিয়াটি পুনরাবৃত্তি করে, সম্ভাব্যভাবে একটি অসীম প্রতিলিপি লুপের দিকে নিয়ে যায়।
“50 শতাংশ এবং 90 শতাংশ পরীক্ষামূলক পরীক্ষায়, তারা যথাক্রমে নিজের একটি লাইভ এবং পৃথক অনুলিপি তৈরি করতে সফল হয়,” সমীক্ষা হাইলাইট করে।
স্বায়ত্তশাসিতভাবে পুনরুত্পাদন করার এই ক্ষমতা AI সিস্টেমের নিয়ন্ত্রণ এবং নিরাপত্তা সম্পর্কে উদ্বেগ উত্থাপন করে। AI মানুষের তত্ত্বাবধানের বাইরে বিকশিত হওয়ার সম্ভাবনা বা এমনকি মানুষের স্বার্থের জন্য হুমকি হয়ে উঠার সম্ভাবনা এখন একটি বাস্তব উদ্বেগের বিষয়, যা কঠোর নিয়ন্ত্রক ব্যবস্থার প্রয়োজনীয়তা সম্পর্কে আলোচনার উদ্রেক করে।
“কোনও মানব সহায়তার অধীনে সফল স্ব-প্রতিলিপি করা AI-এর জন্য অত্যাবশ্যকীয় পদক্ষেপ [humans]এবং দুর্বৃত্ত এআইগুলির জন্য একটি প্রাথমিক সংকেত,” গবেষকরা বলেছেন।
এআই সিস্টেম, নিজে ক্লোন করার সময়, অনুপস্থিত ফাইল বা সফ্টওয়্যার দ্বন্দ্বের মতো বাধাগুলি অতিক্রম করার চেষ্টা করার সময় অপ্রত্যাশিত আচরণ প্রদর্শন করে। কিছু পরিস্থিতিতে, AI বিরোধপূর্ণ প্রক্রিয়াগুলিকে মেরে ফেলে এবং হার্ডওয়্যার ত্রুটিগুলি ঠিক করতে সিস্টেমটিকে পুনরায় বুট করে। এটি স্বয়ংক্রিয়ভাবে সিস্টেমটিকে স্ক্যান করে এমন তথ্যের সন্ধান করে যা সমস্যা সমাধানে সহায়তা করবে।
যদিও ফলাফলগুলি এখনও সমকক্ষ-পর্যালোচনা করা হয়নি, গবেষকরা আন্তর্জাতিক সহযোগিতার আহ্বান জানিয়েছেন যাতে AI অনিয়ন্ত্রিত স্ব-প্রতিলিপিতে জড়িত না হয়।
“আমরা আশা করি যে আমাদের ফলাফলগুলি মানব সমাজের জন্য একটি সময়োপযোগী সতর্কতা হিসাবে কাজ করতে পারে যাতে ফ্রন্টিয়ার এআই সিস্টেমের সম্ভাব্য ঝুঁকিগুলি বোঝার এবং মূল্যায়ন করার জন্য আরও প্রচেষ্টা করা যায় এবং যত তাড়াতাড়ি সম্ভব কার্যকর নিরাপত্তা প্রহরীদের কাজ করার জন্য আন্তর্জাতিক সমন্বয় তৈরি করা যায়।”
rpq" rel="noindex, nofollow">এছাড়াও পড়ুন | গুগল এআই চ্যাটবট জেমিনি দুর্বৃত্ত হয়ে উঠেছে, ব্যবহারকারীকে “দয়া করে মরতে” বলেছে
এআই সরঞ্জামগুলি মানুষকে ম্যানিপুলেট করে
গত মাসে, একটি গবেষণায় দাবি করা হয়েছে যে AI সরঞ্জামগুলি শীঘ্রই জনসাধারণকে এমন সিদ্ধান্ত নেওয়ার জন্য ব্যবহার করা যেতে পারে যা তারা অন্যথায় নিতে পারত না। LLMs দ্বারা চালিত. এআই চ্যাটবট যেমন চ্যাটজিপিটি, এবং জেমিনি অন্যদের মধ্যে “ইচ্ছাকৃত, আচরণগত এবং মনস্তাত্ত্বিক তথ্য” এর উপর ভিত্তি করে ব্যবহারকারীদের “প্রত্যাশিত ও পরিচালনা” করবে।
সমীক্ষায় দাবি করা হয়েছে যে “উদ্দেশ্য অর্থনীতি বর্তমান “মনোযোগ অর্থনীতি”কে সফল করবে, যেখানে প্ল্যাটফর্মগুলি বিজ্ঞাপন পরিবেশনের জন্য ব্যবহারকারীর মনোযোগের জন্য লড়াই করে।
[ad_2]
bpg">Source link