পাঁচবার এআই হ্যালুসিনেশন সরকারকে একটি জায়গায় ফেলেছে

এই নিবন্ধটি মূলত রেস্ট অফ ওয়ার্ল্ডে প্রকাশিত হয়েছিল, যা পশ্চিমের বাইরে প্রযুক্তির প্রভাব কভার করে।

এপ্রিলে, দক্ষিণ আফ্রিকা তার খসড়া জাতীয় কৃত্রিম বুদ্ধিমত্তা নীতি প্রকাশের 17 দিন পরে প্রত্যাহার করে নেয় কারণ নথিটি AI দ্বারা তৈরি করা জাল গবেষণাকে উদ্ধৃত করেছিল।

ঘটনাটি একটি ঐতিহাসিক মুহূর্তকে কলঙ্কিত করেছে, কারণ দক্ষিণ আফ্রিকা পশ্চিমের বাইরে এআই-এর তত্ত্বাবধানে একটি আনুষ্ঠানিক নীতিশাস্ত্র বোর্ড প্রতিষ্ঠার নীতি গ্রহণকারী প্রথম আফ্রিকান জাতি হতে চলেছে। দক্ষিণ আফ্রিকার যোগাযোগ ও ডিজিটাল প্রযুক্তি বিষয়ক মন্ত্রী সলি মালাতসি বলেন, “সবচেয়ে যুক্তিযুক্ত ব্যাখ্যা হল যে এআই-উত্পাদিত উদ্ধৃতিগুলি যথাযথ যাচাই ছাড়াই অন্তর্ভুক্ত করা হয়েছিল,” একটি বিবৃতিতে লিখেছেন. “খসড়া তৈরি এবং মানের নিশ্চয়তার জন্য দায়ীদের জন্য পরিণতি ব্যবস্থাপনা থাকবে।”

এই প্রথমবার কোনো সরকার এআই হ্যালুসিনেশনের বিষয়ে একটি নথি প্রত্যাহার করেছে, তবে অবশ্যই প্রথমবার এআই হ্যালুসিনেশন অফিসিয়াল উপকরণগুলিতে প্রদর্শিত হয়নি। এআই-উত্পন্ন পাঠ্য বা উদ্ধৃতিগুলি অফিসিয়াল বা আধা-সরকারি নথিতে বেশ কয়েকবার স্খলিত হয়েছে, দায়বদ্ধতা সম্পর্কে উদ্বেগ বাড়ায় এবং মানুষের যাচাইকরণের প্রয়োজনীয়তা তুলে ধরে।

এখানে গত দুই বছরে পাঁচবার এআই সরকারকে একটি জায়গায় রেখেছে:

দক্ষিণ আফ্রিকার এআই নীতি

নাগরিক অধিকার গ্রুপ আর্টিকেল ওয়ানের একটি চিঠি অনুসারে এপ্রিলে প্রকাশিত খসড়া জাতীয় কৃত্রিম বুদ্ধিমত্তা নীতির গ্রন্থপঞ্জির মধ্যে অন্তত ছয়টি ছিল এআই হ্যালুসিনেশন।

ক নিউজ 24 নিবন্ধ রিপোর্ট করেছে যে নীতি নথিতে উদ্ধৃত বেশ কয়েকটি একাডেমিক জার্নাল “সম্পূর্ণ কাল্পনিক”।

ট্রাম্প প্রশাসনের “ফরম্যাটিং ত্রুটি”

একটি মেক আমেরিকা আবার সুস্থ শিশুদের স্বাস্থ্য সম্পর্কে রিপোর্ট ভুল উদ্ধৃতি অন্তর্ভুক্ত.

2025 সালের মে মাসে প্রকাশিত প্রতিবেদনটিতে অস্তিত্বহীন অধ্যয়ন তালিকাভুক্ত করা হয়েছে, লেখক এবং জার্নাল অ্যাট্রিবিউশনগুলি এলোমেলো করা হয়েছে এবং ভুল উপসংহার প্রাপ্ত বাস্তব গবেষণা থেকে। ওয়াশিংটন পোস্ট পাওয়া গেছে যে কিছু রেফারেন্সে ইউআরএল-এর সাথে সংযুক্ত “oaicite” অন্তর্ভুক্ত ছিল – প্রায়ই ChatGPT-এর ব্যবহার নির্দেশ করে এমন একটি মার্কার হিসেবে বিবেচিত হয়।

হোয়াইট হাউসের প্রেস সেক্রেটারি ক্যারোলিন লেভিট, ভুলগুলো কমিয়েছে “ফরম্যাটিং সমস্যা” হিসাবে এবং বলেছেন একটি সংশোধন করা রিপোর্ট আপলোড করা হবে৷ কয়েক ঘন্টা পরে, এটা ছিল.

অস্ট্রেলিয়া বনাম ডেলয়েট

আগস্ট 2025 সালে, অস্ট্রেলিয়ান আর্থিক পর্যালোচনা অস্ট্রেলিয়ার ডিপার্টমেন্ট অফ এমপ্লয়মেন্ট অ্যান্ড ওয়ার্কপ্লেস রিলেশনস দ্বারা কমিশন করা ডেলয়েট রিপোর্টে সন্দেহভাজন AI ব্যবহার নিয়ে একটি অ্যালার্ম উত্থাপিত হয়েছে। শিক্ষাবিদরা অভিযোগ তুলেছেন যে এতে জাল একাডেমিক রেফারেন্স এবং তৈরি করা উদ্ধৃতি রয়েছে।

ডেলয়েট “নিশ্চিত করেছে যে জেনারেটিভ AI সরঞ্জামগুলির ব্যবহারের ফলে ভুল আউটপুট হয়েছে যার ফলে কিছু উদ্ধৃতি, পাদটীকা আকারে এবং সাথে থাকা রেফারেন্স তালিকার উত্সগুলিতে ত্রুটি রয়েছে” একটি ইমেইলে 2025 সালের সেপ্টেম্বরে অস্ট্রেলিয়ার অর্থ বিভাগের কাছে।

কোম্পানি সেপ্টেম্বরে এবং নভেম্বরে সংশোধন করা অধ্যয়নটি পুনরায় প্রকাশ করেছে, সরকার $290,000 ফেরত $440,000 এর মধ্যে এটি রিপোর্টের জন্য চার্জ করেছিল।

কানাডা বনাম ডেলয়েট

কানাডার নিউফাউন্ডল্যান্ড এবং ল্যাব্রাডর সরকারের জন্য 526-পৃষ্ঠা, $1.2 মিলিয়ন স্বাস্থ্যসেবা প্রতিবেদনে জেনারেটিভ এআই-এর ব্যবহার ডেলয়েটের জাল উদ্ধৃতিগুলি অন্তর্ভুক্ত করার দিকে পরিচালিত করে, স্বাধীন রিপোর্ট গত নভেম্বর।

ডেলয়েট রিপোর্টটি পুনরায় প্রকাশ করেছে উদ্ধৃতি সংশোধন করা.

ইতিমধ্যে, সরকার প্রস্তাবনা চুক্তির জন্য তার অনুরোধ আপডেট করেছে যাতে প্রত্যেকে “এআই এবং/অথবা মেশিন লার্নিংয়ের সমস্ত উদ্দেশ্যমূলক ব্যবহার” প্রকাশ করে এবং স্বীকার করে যে সরকারের “সংরক্ষিত অধিকার রয়েছে […] চুক্তি পুরষ্কার পর্যন্ত বা তার পরে যেকোন সময়ে এআই-সম্পর্কিত ঝুঁকিগুলি মূল্যায়ন করা এবং নিজের বিবেচনার ভিত্তিতে, এই জাতীয় মূল্যায়নের জন্য প্রয়োজনীয় বলে মনে করা যে কোনও সরঞ্জাম স্থাপন করা।

ইইউ এর সাইবার নিরাপত্তা সংস্থা

ইউরোপের সর্বোচ্চ সাইবার নিরাপত্তা সংস্থা, ENISA স্বীকার করেছে যে 2025 সালে প্রকাশিত তার দুটি হুমকি রিপোর্ট ছিল সঙ্গে হেঁয়ালি AI- হ্যালুসিনেটেড উত্স। একটি প্রতিবেদনে 492টি ফুটনোটের মধ্যে 26টি ভুল ছিল, জার্মান পাবলিক ইনস্টিটিউট ওয়েস্টফালিশে হচশুলের গবেষকদের মতে, আয়না পত্রিকা.

গবেষকরা সতর্ক – AI এর ব্যবহার সম্পর্কে খুব বেশি নয়, তবে এটিকে জ্ঞানীয় কর্তৃত্ব প্রদানের বিষয়ে।

“ENISA AI-কে একটি স্তর স্পর্শ করতে দেয় যা কখনই অপ্রত্যাশিতভাবে স্পর্শ করা উচিত নয়: সত্য স্তর,” Chiara Gallese, একজন AI আইন এবং ডেটা নীতিশাস্ত্র গবেষক, লিঙ্কডইনে লিখেছেন. “এভাবে হ্যালুসিনেশনগুলি প্রাতিষ্ঠানিক প্রকাশনায় পরিণত হয়। এবং যখন এটি €27 মিলিয়ন বাজেটের একটি সাইবারসিকিউরিটি কর্তৃপক্ষের মধ্যে ঘটে, তখন সমস্যাটি দক্ষতা নয়। এটি প্রক্রিয়া। কোনও বাধ্যতামূলক যাচাইকরণের পদক্ষেপ নেই। কোনও প্রমাণ চেক নেই। AI ব্যবহারের জন্য কোনও স্পষ্ট নিয়ম নেই। শুধু গতি, সুবিধা এবং বিশ্বাস-বাই-ডিফল্ট।”

অনন্যা ভট্টাচার্য দক্ষিণ এশিয়ার প্রযুক্তিগত দৃশ্যের কভারিং বাকি বিশ্বের জন্য একজন প্রতিবেদক। তিনি ভারতের মুম্বাইতে অবস্থিত।

এই নিবন্ধটি মূলত প্রকাশিত হয়েছিল বিশ্বের বাকিযা পশ্চিমের বাইরে প্রযুক্তির প্রভাব কভার করে।