কেন AI ভুল হলেও তা নিশ্চিত শোনায় এবং কেন আমরা এটা বিশ্বাস করি | ভারতের খবর

জেনারেটিভ আর্টিফিশিয়াল ইন্টেলিজেন্স (এআই) মডেলগুলি প্রদর্শন করে এমন একটি সাধারণ আচরণগত প্যাটার্নের জন্য সম্প্রতি হ্যালুসিনেশন ব্যবহার করা হয়েছে।AI হ্যালুসিনেশন ঘটে যখন একটি মডেল সম্পূর্ণরূপে বানোয়াট প্রতিক্রিয়া তৈরি করে। যুক্তিযুক্ত অথচ মিথ্যা উত্তরের বাস্তবে কোনো ভিত্তি নেই, বা প্রশিক্ষণের ডেটা নেই।এই হ্যালুসিনেশনের সবচেয়ে অদ্ভুত দিক হল স্বর: প্রতিক্রিয়া, যদিও বিভ্রান্তিকর এবং উদ্ভাবিত, সম্পূর্ণ আত্মবিশ্বাসী শোনায়। এই প্রতিক্রিয়াগুলি কোনও অনিশ্চয়তা দেখায় না, যা প্রায়শই ব্যবহারকারীদের ভুল তথ্য বিশ্বাস করতে প্রবণ করে তোলে।ব্যবহারকারীদের তাদের পিজ্জাতে আঠা লাগানোর সুপারিশ করা থেকে শুরু করে গ্রীষ্মকালীন পড়ার তালিকা তৈরি করা থেকে শুরু করে যে বইগুলির অস্তিত্ব নেই (যা একটি সংবাদপত্রে পৌঁছেছে!), AI হ্যালুসিনেশন গত কয়েক বছর ধরে অসংখ্যবার ইন্টারনেট ভাইরালিটির বিষয় হয়ে উঠেছে।এই অদ্ভুত ঘটনা ব্যবচ্ছেদ পরোয়ানা.

এআই হ্যালুসিনেশন কি?

কেন এআই মডেলগুলি হ্যালুসিনেট করেভাষার মডেলগুলি হ্যালুসিনেট করে কারণ স্ট্যান্ডার্ড প্রশিক্ষণ এবং মূল্যায়ন পদ্ধতিগুলি অনিশ্চয়তা স্বীকার করে অনুমান করে পুরস্কৃত করে, ওপেনএআই-এর পণ্ডিতদের দ্বারা প্রকাশিত একটি গবেষণাপত্রের শিরোনাম রয়েছে: 'কেন ভাষার মডেল হ্যালুসিনেট করে।'কাগজটি এটিকে একটি উপমা দিয়ে ব্যাখ্যা করে: বহু-পছন্দের প্রশ্ন। একটি অজানা প্রশ্নে একটি বন্য অনুমান সঠিক হতে পারে যদি ভাগ্য কারো পক্ষে থাকে। অন্যদিকে ফাঁকা রেখে? যে একটি শূন্য গ্যারান্টি. লার্জ ল্যাঙ্গুয়েজ মডেলগুলিকে (LLMS) একইভাবে গ্রেড করা হয়, নির্ভুলতা এবং সেগুলি কত শতাংশ প্রশ্ন সঠিক হয় তার উপর ভিত্তি করে।এই বর্তমান মূল্যায়ন পদ্ধতিটি ভুল প্রণোদনা সেট করে, যা অনিশ্চয়তার সৎ অভিব্যক্তির পরিবর্তে অনুমানকে উৎসাহিত করে।তদ্ব্যতীত, ভাষার মডেলগুলি এক সময়ে একটি শব্দের পূর্বাভাস দিয়ে প্রম্পটের প্রতিক্রিয়া জানায়। এটি কেবল সম্ভাব্যতা এবং নিদর্শনগুলির একটি প্রশ্ন। এ ধরনের প্রক্রিয়ায় ভুল অনিবার্য।

কেন এআই মডেলগুলি হ্যালুসিনেট করে

উদ্বেগজনক নিদর্শন2024 সালের অক্টোবরে, অ্যাসোসিয়েটেড প্রেস হাসপাতালে ওপেনএআই-এর ট্রান্সক্রিপশন টুল হুইস্পারের ব্যবহার সম্পর্কে একটি তদন্ত প্রকাশ করেছে। এটি বলেছে যে “মানবীয় স্তরের দৃঢ়তা এবং নির্ভুলতা” হিসাবে ধাক্কা দেওয়া সত্ত্বেও, হুইস্পার প্রায়শই পাঠ্যের অংশগুলি এবং এমনকি সম্পূর্ণ বাক্যগুলি তৈরি করার প্রবণ ছিল যা প্রথমে কখনও বলা হয়নি।“উচ্চ-ঝুঁকিপূর্ণ ডোমেনে” হুইস্পার ব্যবহার না করার বিষয়ে ওপেনএআই-এর সতর্কতা সত্ত্বেও, এটি ডাক্তার-রোগীর পরামর্শ প্রতিলিপিতে ব্যবহার করা হয়েছে, কারণ এটি চিকিৎসা প্রদানকারীদের রিপোর্ট লেখা এবং নোট নেওয়ার সময় বাঁচাতে সক্ষম করেছে।“এই বিশেষজ্ঞরা (এক ডজনেরও বেশি সফ্টওয়্যার প্রকৌশলী, বিকাশকারী এবং একাডেমিক গবেষক) বলেছেন যে কিছু উদ্ভাবিত পাঠ্য – যা শিল্পে হ্যালুসিনেশন হিসাবে পরিচিত – এতে জাতিগত ভাষ্য, হিংসাত্মক বক্তৃতা এবং এমনকি কাল্পনিক চিকিৎসা চিকিত্সা অন্তর্ভুক্ত থাকতে পারে,” রিপোর্টে বলা হয়েছে।এআই-চালিত ট্রান্সক্রিপশনের সমস্যাটি শুধু বানোয়াট নয়, পক্ষপাতিত্বও। আমেরিকান ভাষাবিদ মেরি বুচল্টজের ভাষায়, “সমস্ত ট্রান্সক্রিপ্ট পক্ষ নেয়, নির্দিষ্ট ব্যাখ্যাকে সক্ষম করে, বিশেষ আগ্রহের অগ্রগতি করে, নির্দিষ্ট বক্তাদের পক্ষ নেয়।”2026 সালের মে মাসে, অ্যাকাউন্টিং ফার্ম আর্নস্ট অ্যান্ড ইয়ং (EY) উদ্ধৃতি ত্রুটি, জাল পাদটীকা এবং AI দ্বারা হ্যালুসিনেশন হয়েছে বলে সন্দেহ করা পরিসংখ্যানের জন্য পতাকাঙ্কিত একটি প্রতিবেদন প্রত্যাহার করে। ইওয়াই কানাডার আনুগত্য প্রোগ্রাম সুরক্ষা সংক্রান্ত সাইবারসিকিউরিটি রিপোর্টে এমন অধ্যয়নের উল্লেখ করা হয়েছে যেগুলি কেবল বিদ্যমান ছিল না, জিপিটিজেরো, একটি এআই-সনাক্তকরণ স্টার্টআপ দ্বারা একটি তদন্ত প্রকাশ করেছে।'চেজিং দ্য হ্যালুসিনেশন' শিরোনামের প্রতিবেদনে পরামর্শ দেওয়া হয়েছে যে কীভাবে বিরোধপূর্ণ রেফারেন্স, নিম্নমানের উত্স এবং পুরানো পরিসংখ্যান সব AI সূচক।. প্রতিবেদনটি একটি সতর্কতা দিয়ে শেষ হয়েছে: “জাল তথ্য কূপকে বিষিয়ে তোলে এবং ভবিষ্যতের গবেষকদের বিভ্রান্ত করে, বিশেষ করে যখন একটি প্রধান পরামর্শদাতা সংস্থা দ্বারা প্রকাশিত হয়৷ ক্লড, চ্যাটজিপিটি, বিভ্রান্তি EY-এর ত্রুটিপূর্ণ প্রতিবেদন থেকে সমস্ত সারফেস হ্যালুসিনেশন৷”

যখন AI এর উত্সগুলি জাল করে৷

এআই হ্যালুসিনেশন কীভাবে শিক্ষাবিদ, গবেষকদের প্রভাবিত করে“অনেক অনুষ্ঠানে যখন আমি বইয়ের রেফারেন্স চেয়েছিলাম বা সুপ্রিম কোর্ট ক্ষেত্রে, AI হ্যালুসিনেশন করেছে এবং আত্মবিশ্বাসের সাথে ভুল উদ্ধৃতি দিয়েছে যা প্রাথমিকভাবে সঠিক বলে মনে হয়েছিল। কিন্তু যখন আমি মূল সূত্র থেকে পরীক্ষা করা শুরু করি, তখন আমি সেগুলিকে ভুল খুঁজে পাই,” ইন্ডিয়ান ইনস্টিটিউট অফ ম্যাস কমিউনিকেশনের অধ্যাপক (ডঃ) আনন্দ প্রধান বলেন।GPTZero-এর গবেষকরা 'vibe citing' শব্দটি তৈরি করেছেন যে কীভাবে জেনারেটিভ AI মডেলগুলি উদ্ধৃতি বা একাডেমিক রেফারেন্স তৈরি করে যা বিশ্বাসযোগ্য বলে মনে হয় কিন্তু হয় ভুল বা সম্পূর্ণ বানোয়াট।তারা এই ঘটনাটিকে তিনটি স্বতন্ত্র প্যাটার্নে শ্রেণীবদ্ধ করেছে, যেখানে মানবিক ত্রুটিগুলি অব্যাহতিপ্রাপ্ত:

হ্যালুসিনেটেড উদ্ধৃতিগুলি শুধুমাত্র সংশ্লিষ্ট কাজের সততাকে প্রশ্নবিদ্ধ করে না বরং একাডেমিয়া এবং সমগ্র গবেষণার ভবিষ্যতের জন্য হুমকি হিসাবে কাজ করে।একজন মাস্টার্স ছাত্র এআই-উত্পন্ন একাডেমিক প্রতিক্রিয়াগুলির অবিশ্বস্ততার কারণে ক্রমাগত অস্বস্তির কথা বলে। “মিথুন ওয়েবসাইটগুলিকে লিঙ্ক করে যেখান থেকে এটি তার সারাংশ তৈরি করে। যাইহোক, এমন অনেকবার হয়েছে যখন আমি লিঙ্কটি অ্যাক্সেস করার চেষ্টা করেছি কিন্তু এটি ওপেন সোর্স না হওয়ায় আমি ফ্যাক্ট-চেক করতে পারিনি। অন্য সময়, আমি ওয়েবসাইটটিকে সম্পূর্ণ ভিন্ন কিছু বলতে দেখি,” বলেছেন উষসি চৌধুরী, যিনি কলকাতার লরেটো কলেজে ইংরেজি সাহিত্যে স্নাতকোত্তর ডিগ্রি নিচ্ছেন৷উষসী বলেন, যখনই সাহিত্য বা দর্শনের কোনো ধারণার উল্লেখ করতে হয়, তখনই একটি সরল গুগল অনুসন্ধান দ্রুত এবং ব্যাপক বোঝার জন্য ওয়েবসাইট খুঁজে পেতে সাহায্য করে। এখন যেহেতু Google একটি AI-জেনারেটেড ওভারভিউ প্রদান করে, মাঝে মাঝে সেখান থেকে এটি পড়া সুবিধাজনক, বিশেষ করে যখন সেখানে ভিড় থাকে।“প্রতিনিয়ত 5টি ভিন্ন বই উল্লেখ করা একটি ক্লান্তিকর প্রক্রিয়া, কখনও কখনও আমি Google AI-সারাংশ যা বলে তা মেনে চলেছি,” সাহিত্যের ছাত্র বলেছেন। “এটি একটি অন্ধ বিশ্বাস হতে পারে না তবে এমন পরিস্থিতিতে আমাকে আশ্বাসের বিভ্রম দিয়ে উপস্থাপন করা হয় যেখানে আমার কাছে অনেকগুলি উত্স দেখার সময় নেই।”ডঃ প্রধান বলেছেন যে AI ধীরে ধীরে নির্ভুলতা উন্নত করছে বলে মনে হচ্ছে। তা সত্ত্বেও, এটি এখনও 100% সঠিক নয় এবং এর প্রতিক্রিয়াগুলি এখনও যাচাই করা দরকার, বিশেষ করে সাংবাদিকতা, একাডেমিক এবং গবেষণা প্রসঙ্গে, অধ্যাপক সতর্ক করেছেন।

কীভাবে নিজেকে রক্ষা করবেন

AI এর যুগে প্রশ্ন করা এবং যাচাই করাএটি প্রতিষ্ঠিত হয়েছে যে যেকোন এবং সমস্ত কৃত্রিম বুদ্ধিমত্তা মডেল কখনও কখনও আত্মবিশ্বাসের সাথে মিথ্যা কথা বলে। একই সময়ে, সুবিধা এবং তাড়াহুড়ো সম্পর্কে, এআই অজেয় এবং এটিকে দূর করা যায় না, একটি ক্রমবর্ধমান ঐক্যমত বলে।মিডিয়া সাক্ষরতার সরঞ্জামগুলি এই দুর্দশায় কার্যকর প্রমাণিত হয়।ভুল তথ্য এবং ভুল তথ্য প্রশমিত করতে যা সাহায্য করতে পারে তা হল একটি জোরালো, পুঙ্খানুপুঙ্খ সত্য-পরীক্ষা এবং যাচাইকরণের প্রক্রিয়া। একটি AI মডেলের দ্বারা প্রদত্ত কোনও প্রতিক্রিয়াকে অন্ধভাবে বিশ্বাস করা উচিত নয়, এটি যতই যুক্তিসঙ্গত শোনায় বা যতই প্রামাণিকভাবে তথ্য প্রকাশ করুক না কেন—এমনকি, এবং বিশেষত, যদি এটি কারও পূর্ব বিদ্যমান ধারণাকে সমর্থন করে।