[ad_1]
নৃতাত্ত্বিক প্রধান কৃত্রিম বুদ্ধিমত্তা ল্যাবগুলিকে উন্নয়নে একটি সমন্বিত এবং যাচাইযোগ্য বিরতি বিবেচনা করার আহ্বান জানাচ্ছে, সতর্ক করে যে প্রযুক্তিতে দ্রুত অগ্রগতি শীঘ্রই অনুমতি দিতে পারে এআই সিস্টেমগুলি সমাজের ঝুঁকিগুলি পরিচালনা করতে পারে তার চেয়ে দ্রুত নিজেদের উন্নত করতে।
ক্লড স্রষ্টা বলেছেন যে AI এর নিজস্ব কাজগুলি সম্পূর্ণ করার ক্ষমতা প্রতি চার মাসে প্রায় দ্বিগুণ হচ্ছে এবং এটি “পুনরাবৃত্ত স্ব-উন্নতি” এর দিকে যাচ্ছে, যে বিন্দুতে প্রযুক্তিটি মানুষের হস্তক্ষেপ ছাড়াই উন্নতি করতে পারে।
“যদি সিস্টেমগুলি সম্পূর্ণরূপে তাদের নিজস্ব উত্তরসূরি তৈরি করতে সক্ষম হয়, তাহলে আমরা যেভাবে তাদের সুরক্ষিত করি, তাদের নিরীক্ষণ করি এবং তাদের আচরণকে রূপ দিই, সেগুলি অনেক বেশি গুরুত্বপূর্ণ হয়ে ওঠে,” স্টার্টআপটি বৃহস্পতিবার একটি দীর্ঘ ব্লগ পোস্টে বলেছে, একটি বিরতি সমাজকে “এর বিশাল প্রভাবের সাথে মোকাবিলা করার অনুমতি দেবে।”
“আমরা এখনও সেখানে নেই, এবং পুনরাবৃত্ত স্ব-উন্নতি অনিবার্য নয়। তবে এটি বেশিরভাগ প্রতিষ্ঠানের জন্য প্রস্তুত হওয়ার চেয়ে তাড়াতাড়ি আসতে পারে,” অ্যানথ্রোপিক সহ-প্রতিষ্ঠাতা জ্যাক ক্লার্ক এবং অ্যানথ্রোপিক ইনস্টিটিউটের প্রধান মেরিনা ফাভারো পোস্টে লিখেছেন।
প্রযুক্তি ক্রমবর্ধমান সক্ষম হওয়ার সাথে সাথে উন্নত এআই সিস্টেমগুলি মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে এবং সামাজিক ক্ষতির কারণ হতে পারে এমন আশঙ্কা বেড়েছে। নৃতাত্ত্বিকদের নিজস্ব পুরাণ মডেলটি বিদ্যমান কোডে দুর্বলতা খুঁজে পাওয়ার ক্ষমতা সহ এই বছরের শুরুতে ব্যাংকিং এবং সফ্টওয়্যার সহ শিল্পের মাধ্যমে শকওয়েভ পাঠিয়েছে।
তবে নিয়ন্ত্রণটি ধীরগতির হয়েছে, বিশেষ করে মার্কিন যুক্তরাষ্ট্রে যেখানে বেশিরভাগ নেতৃস্থানীয় এআই ল্যাবগুলি ভিত্তিক। ক ট্রাম্প প্রশাসনের নির্বাহী আদেশ এই সপ্তাহের শুরুর দিকে ল্যাবগুলির উপর দায় চাপিয়েছে, তাদের স্বেচ্ছায় সরকারী সাইবার নিরাপত্তা পরীক্ষার জন্য তাদের সবচেয়ে সক্ষম মডেলগুলি প্রকাশের আগে জমা দিতে বলেছে।
এআই গবেষকরা এর আগেও একটি বিরতির আহ্বান জানিয়েছিলেন কিন্তু সামান্য সফলতা পেয়েছেন। ইলন মাস্কযিনি AI ল্যাব xAI-এর মালিক, তিনি 2023 সালের একটি অলাভজনক ফিউচার অফ লাইফ ইনস্টিটিউটের পক্ষ থেকে AI ডেভেলপমেন্টকে ছয় মাসের জন্য থামানোর জন্য নিরাপত্তা প্রহরীদের জন্য সময় দেওয়ার জন্য একটি ধাক্কার সমর্থকদের মধ্যে ছিলেন৷
নৃতাত্ত্বিক দীর্ঘকাল ধরে নিজেকে একটি নিরাপত্তা-কেন্দ্রিক এআই ল্যাব হিসাবে অবস্থান করেছে। এই বছরের শুরুর দিকে, এটি মার্কিন সামরিক বাহিনীকে তার মডেলগুলি গার্হস্থ্য নজরদারি এবং সম্পূর্ণ স্বায়ত্তশাসিত অস্ত্রের জন্য ব্যবহার করতে দিতে অস্বীকার করে, সরকারের কাছ থেকে প্রতিক্রিয়ার প্ররোচনা দেয় যা এটিকে একটি জাতীয় নিরাপত্তা কালো তালিকায় রাখে, যা পরবর্তীতে 2026 সালে কার্যকর হবে।
শুক্রবার রয়টার্স জানিয়েছে যে বিরোধটি মার্কিন সরকারের বিভিন্ন অংশে শিথিল হওয়ার লক্ষণ দেখাচ্ছে।
তবুও, অ্যানথ্রপিক ক্রমবর্ধমান শক্তিশালী মডেলগুলি প্রকাশ করা অব্যাহত রেখেছে এবং ফেব্রুয়ারিতে একটি মূল সুরক্ষা প্রতিশ্রুতি ফিরিয়ে দিয়েছিল, এই বলে যে এটি আর সম্ভাব্য বিপজ্জনক এআইকে আটকে রাখবে না যদি প্রতিদ্বন্দ্বীরা এর ক্ষমতার সাথে মিলের কাছাকাছি থাকে।
এটি সম্প্রতি একটি বিশাল তহবিল রাউন্ডে $965 বিলিয়ন মূল্যের এবং গোপনীয়ভাবে সোমবার মার্কিন প্রারম্ভিক পাবলিক অফারের জন্য দায়ের করা হয়েছিল, এটি প্রতিদ্বন্দ্বীকে এগিয়ে রেখেছিল OpenAI মূল্যায়ন এবং গুরুত্বপূর্ণ তহবিল সুরক্ষিত করার দৌড় উভয় ক্ষেত্রেই।
সমন্বিত কর্ম
অ্যানথ্রোপিকের বৃহস্পতিবারের পোস্টে সতর্ক করা হয়েছে যে একতরফা বা দুর্বলভাবে সমন্বিত মন্থরতা উলটাপালটা হতে পারে যদি কম সতর্ক অভিনেতারা অগ্রসর হতে থাকে, সম্ভাব্য সামগ্রিক নিরাপত্তা হ্রাস করে।
এটি বলেছে যে একটি অর্থপূর্ণ বিরতির জন্য প্রযুক্তিগত সীমান্তে পরিচালিত “একাধিক ভাল-সম্পদযুক্ত ল্যাব” এর মধ্যে চুক্তির প্রয়োজন হবে, সেইসাথে কোন শর্তগুলি এই ধরনের বিরতি ট্রিগার বা উত্তোলন করবে এবং কে এটি তত্ত্বাবধান করবে সে সম্পর্কে নিয়মাবলী প্রয়োজন।
“একটি ল্যাব দ্বারা একটি একতরফা বিরতি, বিপরীতে, অবিলম্বে অর্জনযোগ্য, কিন্তু অনেক কম সম্পন্ন করে: এটি সামনের দৌড়বিদ কে তা পরিবর্তন করবে, তবে এটি বর্তমানে অনুপস্থিত বিস্তৃত ইচ্ছাকৃত প্রক্রিয়া তৈরি করবে না,” স্টার্টআপ বলেছে।
এর গবেষণা শাখা, নৃতাত্ত্বিক ইনস্টিটিউট, মন্থরতাকে সমর্থন করার জন্য প্রয়োজনীয় সিস্টেমগুলি অধ্যয়ন করার পরিকল্পনা করেছে এবং আগামী মাসে নীতিনির্ধারক, গবেষক, সুশীল সমাজ গোষ্ঠী এবং প্রতিদ্বন্দ্বী AI সংস্থাগুলিকে পুনরাবৃত্ত স্ব-উন্নতির মতো ঝুঁকিগুলি পরিচালনার বিষয়ে আলোচনা করার জন্য আহ্বান করবে।
OpenAI, xAI, Alphabet, মেটা প্ল্যাটফর্ম এবং ফ্রান্সের মিস্ট্রাল অবিলম্বে তারা কলে যোগদান করবে কিনা সে বিষয়ে মন্তব্যের অনুরোধের জবাব দেয়নি।
[ad_2]
Source link