ওপেনএআই ইঞ্জিনিয়ার এআইকে অস্তিত্বের হুমকি বলে অভিহিত করেছেন, নৃতাত্ত্বিক সুরক্ষার নেতৃত্বে মৃনাঙ্ক একই উদ্বেগের কারণে পদত্যাগ করার কয়েকদিন পরে

প্রযুক্তি সংস্থাগুলি AI বিকাশের কাজকে ত্বরান্বিত করার সাথে সাথে, বিপদের ঘণ্টা বাজতে শুরু করেছে। এমনকি সিলিকন ভ্যালির মধ্যে, এমনকি AI কোম্পানিগুলির মধ্যেও যেখানে ইঞ্জিনিয়াররা পরবর্তী প্রজন্মের ChatGPT এবং Claude মডেলগুলিতে কাজ করছে৷ ঠিক কদিন পর অ্যানথ্রপিকের AI সেফটি লিড মৃনাঙ্ক শর্মা পদত্যাগ করেছেন“বিশ্ব বিপদের মধ্যে” বলে সতর্ক করে, OpenAI AI ইঞ্জিনিয়ার হিউ ফাম এখন প্রকাশ্যে স্বীকার করেছেন যে তিনি কৃত্রিম বুদ্ধিমত্তা দ্বারা সৃষ্ট “অস্তিত্বগত হুমকি” অনুভব করেন, তিনি যোগ করেছেন যে চাকরি, সমাজ এবং মানবিক প্রাসঙ্গিকতার উপর এর বিঘ্নিত প্রভাব “কখন, যদি না হয়” এর বিষয়।

হিউ ফাম, যিনি বর্তমানে ওপেনএআই-এর টেকনিক্যাল স্টাফের একজন সদস্য এবং এর আগে xAI, অগমেন্ট কোড এবং গুগল ব্রেইনে কাজ করেছেন, AI বিকাশের গতি এবং দিকনির্দেশনা সম্পর্কে তার অস্বস্তি শেয়ার করার জন্য X-এর কাছে গিয়েছিলেন।

“আজ, আমি অবশেষে AI যে অস্তিত্বের হুমকি সৃষ্টি করছে তা অনুভব করছি,” তিনি লিখেছেন। “যখন AI অত্যধিক ভাল হয়ে যায় এবং সবকিছুকে ব্যাহত করে, তখন মানুষের জন্য কী করা বাকি থাকবে? এবং এটি কখন, যদি না হয়।”

তার পোস্টটি অনেক এক্স ব্যবহারকারীদের সাথে একটি ছন্দে আঘাত করেছিল যারা বলেছিল যে তারা কৃত্রিম বুদ্ধিমত্তা এবং মেশিন লার্নিংয়ের দীর্ঘমেয়াদী পরিণতি নিয়ে বিতর্ক করে অনুরূপ প্রশ্নগুলির সাথে লড়াই করছে।

একজন ব্যবহারকারী X-তে লিখেছেন, “আমি এই একই অস্তিত্বের প্রশ্ন নিয়ে ঝাঁপিয়ে পড়েছি, এবং আমি মনে করি উত্তরটি এআই-পরবর্তী বিশ্বে আমরা যে কাজ এবং মূল্যকে বিবেচনা করি তার মধ্যে রয়েছে। ঐতিহাসিকভাবে, আমরা আমাদের উদ্দেশ্যকে উৎপাদনশীলতা এবং দক্ষতার সাথে সংযুক্ত করেছি, কিন্তু যদি AI এর বেশিরভাগ অংশ নেয়? আমি বিশ্বাস করি যে মানুষ উচ্চ-স্পর্শ এবং সৃজনশীল কাজকে বোঝার জন্য উচ্চ-স্পর্শ এবং সৃজনশীলতার প্রয়োজন হবে। যে AI বর্তমানে প্রতিলিপি করতে পারে না।”

অন্য একজন ব্যবহারকারী মন্তব্য করেছেন, “সত্যি বলতে খুব ইদানীং এটি অনুভব করছি৷ কিন্তু আমি যত বেশি এই সরঞ্জামগুলি ব্যবহার করি, ততই আমি বুঝতে পারি যে বাধাগুলি স্থানান্তরিত হয়, অদৃশ্য হয়ে যায় না৷ সম্পাদন স্বয়ংক্রিয় হয়ে যায়, তবে স্বাদ, বিচার এবং কী তৈরি করতে হবে তা জানা এখনও নির্মমভাবে কঠিন।”

ফামের মন্তব্য এমন সময়ে এসেছে যখন এআই সিস্টেমগুলি কোডিং, লেখা, গবেষণা এবং এমনকি জটিল যুক্তির কাজ জুড়ে ক্রমবর্ধমানভাবে সক্ষম হয়ে উঠছে। যেহেতু OpenAI, Google, xAI এবং অন্যান্য কোম্পানিগুলি আরও শক্তিশালী মডেলের দিকে ঠেলে দিচ্ছে, তাই চাকরির স্থানচ্যুতি, সামাজিক ব্যাঘাত এবং মানব নিয়ন্ত্রণের সম্ভাব্য ক্ষতির বিষয়ে উদ্বেগও শিল্প জুড়ে বাড়ছে।

অ্যানথ্রোপিক সেফটি লিডের মাত্র কয়েকদিন পরেই কবিতা লেখা ছেড়ে দেন

ফামের মন্তব্যগুলি এই সপ্তাহের শুরুতে অ্যানথ্রোপিক-এর সেফগার্ডস রিসার্চ টিমের প্রধান, মৃনাঙ্ক শর্মা দ্বারা করা অনুরূপ সতর্কতা অনুসরণ করে, যিনি বিশ্বের অবস্থা এবং এআই বিকাশের গতিপথ সম্পর্কে গভীর অস্বস্তির কথা উল্লেখ করে সংস্থা থেকে পদত্যাগ করেছিলেন। শর্মা 2023 সালে কোম্পানিতে যোগদানের পর এবং এর নিরাপত্তা-কেন্দ্রিক গবেষণা প্রচেষ্টার নেতৃত্ব দেওয়ার পরে 9 ফেব্রুয়ারি, 2026-এ অ্যানথ্রোপিক ত্যাগ করেন।

জনসমক্ষে শেয়ার করা একটি চিঠিতে শর্মা লিখেছেন, “বিশ্ব বিপদে পড়েছে। এবং শুধু এআই বা জৈব অস্ত্র থেকে নয়, এই মুহূর্তে উদ্ভূত আন্তঃসংযুক্ত সংকটের পুরো সিরিজ থেকে।”

তিনি সতর্ক করে দিয়েছিলেন যে মানবতা একটি প্রান্তিক পর্যায়ে পৌঁছেছে বলে মনে হচ্ছে যেখানে এর “বিজ্ঞতা আমাদের বিশ্বকে প্রভাবিত করার ক্ষমতার সমান পরিমাণে বৃদ্ধি করতে হবে, পাছে আমরা পরিণতির মুখোমুখি হই।”

শর্মা কর্পোরেট মেসেজিং এবং অভ্যন্তরীণ বাস্তবতার মধ্যে উত্তেজনার ইঙ্গিতও দিয়েছেন। “এখানে আমার পুরো সময় জুড়ে, আমি বারবার দেখেছি যে আমাদের মূল্যবোধগুলিকে আমাদের ক্রিয়াকলাপগুলিকে পরিচালনা করতে দেওয়া কতটা কঠিন,” তিনি লিখেছেন, কীভাবে কর্মক্ষেত্রের চাপগুলি প্রায়শই অনুশীলনে সুরক্ষা এবং নৈতিকতাকে অগ্রাধিকার দেওয়া কঠিন করে তোলে তা তুলে ধরে৷

এবং এটি কেবলমাত্র কয়েকজন প্রকৌশলী এলার্ম বাজিয়েছেন তা নয়। জিওফ্রে হিন্টন, গভীর শিক্ষায় তার অগ্রগামী কাজের জন্য প্রায়শই “এআই গডফাদার” হিসাবে উল্লেখ করা হয়, বারবার সতর্ক করেছেন যে উন্নত এআই সিস্টেমগুলি নিয়ন্ত্রণের অযোগ্য হয়ে উঠতে পারে। তিনি সতর্ক করেছেন যে মেশিনগুলি যদি মানুষের চেয়ে বেশি বুদ্ধিমান হয়ে ওঠে এবং আমাদের লক্ষ্যগুলি ভাগ না করে, “আপনি এটি বন্ধ করতে পারেন এমন ধারণা কাজ করবে না।”

হিন্টন এআই ক্ষমতাগুলি যে গতিতে এগিয়ে চলেছে সে সম্পর্কে দুঃখ প্রকাশ করেছেন, বলেছেন যে এটি তাকে “খুব দুঃখিত” করে তোলে যে তিনি যে সিস্টেমগুলি বিকাশে সহায়তা করেছিলেন তা সঠিকভাবে পরিচালিত না হলে অত্যন্ত বিপজ্জনক হয়ে উঠতে পারে।

– শেষ