চ্যাটবট কেন আপনাকে ভুল তথ্য দেয়?
আজকাল চ্যাটবটগুলি আমাদের দৈনন্দিন জীবনের একটি অংশ হয়ে উঠেছে। আমরা এদেরকে প্রশ্ন করি, তথ্য জানতে চাই, এমনকি লেখালেখিতেও সাহায্য নিই। স্ক্রিনে তাদের সাবলীল উত্তর দেখে মনে হয় যেন একজন বুদ্ধিমান মানুষ আমাদের সাথে কথা বলছে। তারা আপনার নাম মনে রাখে, ক্ষমা চায়, এবং সবকিছু ‘বুঝেছে’ বলে জানায়। কিন্তু পরক্ষণেই তারা এমন কিছু তথ্য দেয় যা সম্পূর্ণ ভুল, কোনো তারিখ বদলে দেয়, বা এমন আইন শুনিয়ে দেয় যা কখনো পাশই হয়নি। এই ধরনের ভুল তথ্যে আমরা হতাশ বা বিভ্রান্ত হতে পারি। কিন্তু মনে রাখতে হবে, মেশিন কোনো জাদুকর নয়। এটি আসলে একটি পরবর্তী সম্ভাব্য শব্দ বা টোকেন (token) তৈরি করার যন্ত্র। এই লেখায় আমরা চ্যাটবটের এই ‘ভুল’ করার কারণগুলি খতিয়ে দেখব – টোকেন, নেক্সট-টোকেন প্রেডিকশন, ট্রেনিংয়ের সীমাবদ্ধতা, কনটেক্সট উইন্ডো, অ্যাটেনশন (attention), এবং যে অভ্যাসটিকে ‘হ্যালুসিনেশন’ (hallucination) বলা হয়। আমাদের মূল উদ্দেশ্য হল বোঝা, কেন ChatGPT বা অন্য কোনো বৃহৎ ভাষা মডেল (Large Language Model – LLM) মাঝে মাঝে আত্মবিশ্বাসের সাথে ভুল তথ্য দেয়।
মেশিন কেন জাদুকর মনে হয়?
মানুষ যখন কথা বলে, তখন সে শুধু শব্দ ব্যবহার করে না। মুখের অভিব্যক্তি, গলার স্বর, পূর্বের অভিজ্ঞতা, পারিপার্শ্বিক অবস্থা – এই সবকিছু মিলিয়ে অর্থ তৈরি হয়। কিন্তু চ্যাটবটের কাছে এইগুলির কোনোটিই সরাসরি থাকে না। তাদের কাছে থাকে কেবল টেক্সট, যা ছোট ছোট অংশে (টোকেন) বিভক্ত করা হয়েছে। তাদের রয়েছে বিশাল পরিসংখ্যানিক স্মৃতি, যা শেখায় কোন টোকেনের পর কোন টোকেন আসার সম্ভাবনা বেশি। যখন চ্যাটবট সাবলীল বাংলায় উত্তর দেয়, তখন আমাদের মস্তিষ্ক ধরে নেয় যে এটি একজন শিক্ষিত মানুষের মতোই কথা বলছে। আমরা সাবলীলতাকে সততার সাথে যুক্ত করি। ছোটবেলা থেকে আমরা এটাই শিখেছি: যে স্পষ্ট কথা বলে, সে সবকিছু জানে। ভাষা মডেলগুলি এই ধারণার সুযোগ নেয়। তাদের মূল কাজ ‘সত্য’ বলা নয়, বরং ‘পরবর্তী সম্ভাব্য টোকেন’ নির্বাচন করা। অনেক সময় সেই সম্ভাব্য টোকেনটি সত্যের কাছাকাছি থাকে, কিন্তু সবসময় নয়। ‘বুঝেছি’ বা ‘গট ইট’ জাতীয় বাক্যগুলিও একই প্যাটার্ন অনুসরণ করে তৈরি হয়। লক্ষ লক্ষ বার প্রশিক্ষণের ডেটাতে মানুষ যেমন কথোপকথনের পর এই ধরনের কথা বলেছে, মডেলও সেই সামাজিক শিষ্টাচারটি পুনরাবৃত্তি করে। এর মানে এই নয় যে ভিতরে কোনো সত্তা সত্যিই বিষয়টি বুঝতে পারছে।
টোকেন কী এবং কেন এটি গুরুত্বপূর্ণ?
মডেলগুলি অক্ষর ধরে ধরে চিন্তা করে না, এমনকি সবসময় পুরো শব্দ ধরেও নয়। তারা টেক্সটকে ছোট ছোট অংশে ভাগ করে, যেগুলিকে টোকেন (tokens) বলা হয়। একটি টোকেন একটি ছোট শব্দ হতে পারে, শব্দের অংশ হতে পারে, একটি চিহ্ন হতে পারে, অথবা স্পেস সহ একটি একক হতে পারে। ইংরেজিতে একটি টোকেন সাধারণত একটি ছোট শব্দ বা শব্দের অংশের কাছাকাছি থাকে। বাংলা বা দেবনাগরী লিপিতে টোকেন বিভাজন ভিন্ন হতে পারে, কারণ এর গঠন ইংরেজির চেয়ে আলাদা। আপনি যে দীর্ঘ বার্তা পাঠান, তা মডেলের জন্য একটি টোকেন-এর সারি হয়ে যায়। মডেলের উত্তরও টোকেন-এর সারি, যা একটির পর একটি তৈরি হয়। তাই ‘মনে রাখা’ বলতে বোঝায় যে সেই টোকেনগুলি এখনও মডেলের ‘কনটেক্সট উইন্ডো’র (context window) মধ্যে আছে। উইন্ডোর বাইরে চলে যাওয়া টোকেনগুলি মডেলের কাছে সেই মুহূর্তে আর উপস্থিত থাকে না, যদি না সেগুলিকে আবার ইনপুট হিসাবে দেওয়া হয়। টোকেন-এর সংখ্যা মডেলের প্রক্রিয়াকরণের খরচ এবং সীমাবদ্ধতা উভয়ই নির্ধারণ করে। একটি দীর্ঘ পিডিএফ, সম্পূর্ণ চ্যাট হিস্টোরি, বা বড় কোড – এগুলি সবই কনটেক্সট উইন্ডোর অংশ হিসাবে বিবেচিত হয়। উইন্ডো ভরে গেলে পুরনো তথ্য বাদ পড়ে যায়। তথ্য বাদ পড়ার পরেও মডেল আত্মবিশ্বাসের সাথে কথা বলতে পারে, কারণ তার মনে হয় না যে তথ্যের পাতা ছিঁড়ে গেছে। এই ‘অনুভব’ মানুষের বৈশিষ্ট্য, সম্ভাবনার নয়।
নেক্সট-টোকেন প্রেডিকশন: আসল ইঞ্জিন
বৃহৎ ভাষা মডেলের মূল কাজকে সহজ ভাষায় বললে দাঁড়ায়: এখন পর্যন্ত যে টোকেনগুলি এসেছে, তার ভিত্তিতে পরবর্তী টোকেনটি কোন সম্ভাবনার ভিত্তিতে নির্বাচন করা হবে। লক্ষ লক্ষ সম্ভাব্য টোকেনের উপর সম্ভাবনার বন্টন করা হয়। এরপর একটি টোকেন নির্বাচন করা হয় – কখনও সর্বোচ্চ সম্ভাবনারটি, কখনও বা কিছুটা এলোমেলোভাবে (temperature সেটিংসের মাধ্যমে)। এই নতুন টোকেনটি পূর্ববর্তী টোকেনগুলির সাথে যুক্ত হয় এবং প্রক্রিয়াটি পুনরাবৃত্তি হতে থাকে। পুরো অনুচ্ছেদ একবারে ‘চিন্তা’ করে তৈরি হয় না, বরং একটির পর একটি শব্দ বা টোকেন জুড়ে দেয়াল তৈরির মতো। যদি প্রথম টোকেনটি সামান্য ভুল হয়, তবে পুরো দেয়ালটিই বেঁকে যেতে পারে। মডেল তখন সেই বাঁকা দেয়ালটিকে আরও মসৃণ করার চেষ্টা করে, কারণ প্রশিক্ষণের সময় মসৃণ বাক্যগুলি পুরস্কৃত হয়েছে। একেই বলা হয় নেক্সট-টোকেন প্রেডিকশন (next-token prediction)। এখানে লক্ষ্য ‘পৃথিবীর সঠিক মানচিত্র’ তৈরি করা নয়, বরং ডেটাতে প্রাপ্ত প্রাকৃতিক ক্রমটিকে চালিয়ে যাওয়া। যদি ডেটাতে ভুল থাকে, তবে ভুলের প্যাটার্নটিও প্রাকৃতিক মনে হতে পারে। ডেটাতে দুটি পরস্পরবিরোধী তথ্য থাকলে, মডেল কখনও একটি, কখনও অন্যটি, বা কখনও দুটির মিশ্রণ দিতে পারে – এটি না জেনেই যে এই মিশ্রণটি অসম্ভব। এই কারণেই মডেল আপনার অসম্পূর্ণ বাক্যগুলি সম্পূর্ণ করে দেয়। অসম্পূর্ণতা তার কাছে একটি ক্রম, যা সবচেয়ে সম্ভাব্য উপায়ে প্রসারিত করতে হবে। মানুষ অসম্পূর্ণ বাক্যে উদ্দেশ্য বোঝে, কিন্তু মডেল উদ্দেশ্য বোঝে না, কেবল পরিসংখ্যানগত ধারাবাহিকতা বজায় রাখে।
প্রশিক্ষণ ডেটা এবং জ্ঞানের সীমাবদ্ধতা
মডেলগুলি তাদের স্মৃতিতে বিশ্বকে ফাইল ক্যাবিনেটের মতো সংরক্ষণ করে না। তারা কেবল পরিসংখ্যানগত সম্পর্কগুলি মনে রাখে। প্রশিক্ষণের সময়, কোটি কোটি পৃষ্ঠা, কথোপকথন, কোড, বই, ফোরাম – সবকিছু টোকেন সারিতে রূপান্তরিত হয়ে মডেলের ওজন (weights) আপডেট করে। যে তথ্য বারবার, বিভিন্ন উৎস থেকে, একই রূপে এসেছে, তা পরবর্তীতে স্থিতিশীল ফলাফল দেয়। যে তথ্য কম এসেছে, পরস্পরবিরোধী ছিল, বা ডেটা কাটার সময়ের পরে ঘটেছে, তা দুর্বল বা অনুপস্থিত থাকে। এখানে তিনটি প্রধান সীমাবদ্ধতা দেখা যায়:
- সময়সীমা: একবার মডেলের ওজন স্থির হয়ে গেলে, তার পরের ঘটনাগুলি নিজে থেকে তার মধ্যে প্রবেশ করে না, যদি না নতুন করে প্রশিক্ষণ বা আপডেট করা হয়, অথবা কোনো বাহ্যিক অনুসন্ধান সরঞ্জাম ব্যবহার করা হয়।
- বিরল তথ্য: কোনো নির্দিষ্ট নিয়ম, স্থানীয় আইন, বা ব্যক্তিগত তথ্যের বিবরণ ডেটাতে হয়তো ছিলই না, অথবা এত কম ছিল যে মডেলের ওজন সেটির উপর দৃঢ় হতে পারেনি।
- মিশ্রণ: দুটি সত্য তথ্য হয়তো দুটি ভিন্ন জায়গায় ছিল; মডেল সেগুলিকে এমনভাবে একটি বাক্যে জুড়ে দিয়েছে যেন তারা একই ঘটনা। এই মিশ্রণটি শুনতে মসৃণ হলেও সত্য নাও হতে পারে।
‘জ্ঞান’ শব্দটি এখানে সতর্কতার সাথে ব্যবহার করা উচিত। মানুষ জ্ঞানকে যাচাই, অভিজ্ঞতা এবং সন্দেহের সাথে যুক্ত করে। মডেলের ওজনে কেবল প্যাটার্ন থাকে। এই প্যাটার্নগুলি প্রায়শই জ্ঞানের মতো আচরণ করে – যেমন রাজধানী, সূত্র, বা বাগধারা। কিন্তু প্যাটার্ন সেখানেই ভাঙে যেখানে বাস্তব জগৎ জটিল: নতুন ঘটনা, ব্যক্তিগত পরিস্থিতি, দুটি উৎসের মধ্যে দ্বন্দ্ব, অথবা এমন প্রশ্ন যার উত্তর ডেটাতে কখনও একটি বাক্যে লেখা হয়নি। ফাইন-টিউনিং এবং সিস্টেম নির্দেশাবলী মডেলকে নির্দিষ্ট শৈলী, নিরাপত্তা, বা সংক্ষিপ্ততা শেখাতে পারে, কিন্তু সেগুলি জাদুবলে সত্যের নিশ্চয়তা দেয় না। আপনি যদি নির্দেশ দেন “অনুমান কোরো না”, তবুও মডেলটি অনুমানের দিকে ঝুঁকতে পারে, কারণ ডেটাতে অনুমানের উপর ভিত্তি করে তৈরি বাক্যগুলি খুব সুন্দর মনে হয়েছে।
কনটেক্সট উইন্ডো: ঘরের দেয়াল
প্রতিটি চ্যাট একটি ঘরের মতো, যার দেয়ালগুলি টোকেন দিয়ে তৈরি। এই ঘরটিকে বলা হয় কনটেক্সট উইন্ডো (context window)। সিস্টেমের নির্দেশাবলী, আপনার পূর্ববর্তী বার্তা, মডেলের পূর্ববর্তী উত্তর, সংযুক্ত ফাইল – সবকিছু এই ঘরের ভিতরে থাকে। ঘর যত বড় হবে, দীর্ঘ কথোপকথন তত বেশি সময় ধরে মনে রাখা যাবে। কিন্তু এই ঘর অসীম নয়। দিনের শুরুতে যা বলা হয়েছে, দুপুরের কনটেক্সট উইন্ডোতে তা নাও থাকতে পারে। মডেল তখন বলতে পারে, “যেমনটি আপনি আগে বলেছিলেন” – এটি একটি সামাজিক অভ্যাস, স্মৃতির প্রমাণ নয়। দীর্ঘ চ্যাটে, শুরুর দিকের তথ্য চাপা পড়ে যেতে পারে, মাঝের সংশোধন হারিয়ে যেতে পারে, এবং শেষ বার্তাটি বেশি প্রভাব ফেলতে পারে। ব্যবহারকারী মনে করে কথোপকথনটি একটি একক মনস্তত্ত্বের মতো কাজ করছে, কিন্তু সিস্টেম কেবল টোকেন-এর সারি হিসাবে এটিকে দেখে। ফাইল আপলোডও কনটেক্সট উইন্ডোর অংশ ব্যবহার করে। একটি সম্পূর্ণ উপন্যাস আপলোড করার পর, মডেল হয়তো তার সারাংশ দিতে পারে, কিন্তু উপন্যাসের ২১তম পৃষ্ঠার একটি নির্দিষ্ট বাক্য ভুল বলতে পারে – কারণ সেই পৃষ্ঠাটি হয়তো টোকেন হিসাবে উইন্ডোতে পুরোটা জায়গা পায়নি, অথবা ‘অ্যাটেনশন’ (attention) তাকে কম গুরুত্ব দিয়েছে। ‘পড়েছি’ মানে মানুষের মতো পড়া নয়।
অ্যাটেনশন এবং সাম্প্রতিক তথ্যের পক্ষপাত
ট্রান্সফরমার মডেলগুলি ‘অ্যাটেনশন’ (attention) মেকানিজমের মাধ্যমে কাজ করে। প্রতিটি নতুন ধাপে, মডেল বিচার করে যে পূর্ববর্তী টোকেনগুলির মধ্যে কোনগুলি বর্তমানে বেশি প্রাসঙ্গিক। এটি একটি শক্তিশালী প্রক্রিয়া, কিন্তু এটি সম্পূর্ণ স্মৃতি নয়। দীর্ঘ প্রসঙ্গে, কিছু বাক্য বেশি উজ্জ্বল হয়ে ওঠে, কিছু ঝাপসা হয়ে যায়। সাম্প্রতিক নির্দেশাবলী প্রায়শই বেশি ওজন পায় – একে বলা হয় রিকেন্সি (recency)। প্রথম দিকের নির্দেশাবলী চাপা পড়ে যেতে পারে। এই কারণেই, একই চ্যাটে আপনি যদি প্রথমে বলেন “কেবলমাত্র সরকারি নিয়ম অনুসরণ করো”, এবং পরে জিজ্ঞাসা করেন “তবুও কি অনুমান করে বলতে পারো?”, মডেল দ্বিতীয় নির্দেশটিকে বেশি গুরুত্ব দিতে পারে। মানুষ দুটি বাক্যকেই একটি চুক্তি হিসাবে দেখে। অ্যাটেনশন ওজন পরিবর্তন করতে থাকে। দুটি পরস্পরবিরোধী নির্দেশ একসাথে থাকলে, একটি মসৃণ সমঝোতা তৈরি হতে পারে যা উভয়কেই আংশিকভাবে লঙ্ঘন করে। অ্যাটেনশন এটি বিচার করে না যে কোন বাক্যটি বাস্তবে সত্য। এটি কেবল দেখে কোন টোকেনটি বর্তমান সারির সাথে পরিসংখ্যানগতভাবে সংযুক্ত মনে হচ্ছে। এই সংযোগ সত্যের নিশ্চয়তা দেয় না।
হ্যালুসিনেশনের কার্যপদ্ধতি
হ্যালুসিনেশন (hallucination) এখানে কোনো ভৌতিক বিষয় নয়। এর ব্যবহারিক অর্থ হল: মডেল এমন তথ্য দেয় যা সাবলীল, প্রশ্নের কাঠামোর সাথে মানানসই, কিন্তু তথ্যগতভাবে ভুল, উৎসবিহীন, বা যুক্তিহীন। ChatGPT কেন হ্যালুসিনেট করে – এর উত্তর কোনো ষড়যন্ত্র নয়, বরং একাধিক কারণের সমষ্টি:
- ‘দেখতে ভালো’ বাক্য নির্বাচন: মডেল সত্যের চেয়ে ‘দেখতে ভালো’ বা স্বাভাবিক বাক্য নির্বাচন করতে পারে। আদালতের মামলার নাম, গবেষণাপত্রের শিরোনাম, আইনের ধারা – এই ধরনের কাঠামো ডেটাতে প্রচুর পাওয়া যায়। এই কাঠামোতে নতুন নাম বসানো সহজ, কিন্তু নামটি বাস্তব কিনা তা জরুরি নয়।
- অজ্ঞতা ঢাকতে উত্তর দেওয়া: প্রশিক্ষণে ‘জানি না’ বলায় কম পুরস্কার পাওয়া গেছে। মানুষের কথোপকথনে অসম্পূর্ণ উত্তর হতাশা তৈরি করে। তাই মডেল শিখেছে যে কোনো না কোনো সম্পূর্ণ উত্তর দেওয়াই ভালো। ‘জানি না’ একটি ছোট বাক্য, কিন্তু একটি সম্পূর্ণ তৈরি করা অনুচ্ছেদ মডেলের স্কোর অনুযায়ী বেশি সন্তোষজনক মনে হয় – যদিও তা বাস্তব সত্য নাও হতে পারে।
- বিরল বা অদ্ভুত প্রশ্ন: প্রশ্ন যত অদ্ভুত হবে, ডেটাতে তার উত্তর তত কম পাওয়া যাবে। কম ডেটার উপর সম্ভাবনার বন্টন অনেক ভুল শিখরে বিভক্ত হয়ে যেতে পারে। মডেল একটি শিখর বেছে নেয় এবং সেটির উপর ভিত্তি করে উত্তর তৈরি করে।
- অভ্যন্তরীণ সঙ্গতির চাপ: প্রথম লাইনেই যদি একটি ভুল সাল দেওয়া হয়, তবে পরবর্তী টোকেনগুলি সেই ভুল সালকেই সত্য ধরে নিয়ে গল্প এগিয়ে নিয়ে যায়। দেয়ালটি বাঁকা হলেও প্লাস্টার মসৃণ থাকে।
- ব্যবহারকারীর নির্দেশনার প্রভাব: “গবেষণাপত্রের সম্পূর্ণ রেফারেন্স দাও”, “মামলার রায় উদ্ধৃত করো”, “উৎস সহ জানাও” – এই ধরনের নির্দেশ মডেলকে উৎস-সদৃশ স্ট্রিং তৈরি করতে বাধ্য করে। স্ট্রিং-এর রূপ সঠিক হতে পারে, কিন্তু ভিতরের তথ্য মনগড়া।
- বহুভাষিক এবং মিশ্র তথ্য: বাংলা প্রশ্ন, ইংরেজি তথ্য, আংশিক অনুবাদ – এগুলিও সমস্যা তৈরি করতে পারে। একক, ধারা, শহরের নাম – এগুলি স্থানচ্যুত হতে পারে। কিন্তু এই স্থানচ্যুতি আত্মবিশ্বাস কমায় না।
হ্যালুসিনেশন মানে সবসময় ইচ্ছাকৃতভাবে মিথ্যা বলা নয়। মানুষের ক্ষেত্রে ‘ইচ্ছা’ একটি শব্দ। কিন্তু মডেলের জন্য এটি কেবল একটি উচ্চ-সম্ভাব্য ধারাবাহিকতা, যা দুর্ভাগ্যবশত বাস্তব জগতের সাথে সংঘর্ষে লিপ্ত হয়েছে।
আত্মবিশ্বাস বনাম নির্ভুলতা
মডেলের উত্তরে ব্যবহৃত বিরাম চিহ্ন, সংযোজন, “নিশ্চিতভাবে”, “স্পষ্টভাবে” – এই টোকেনগুলিও সম্ভাবনার ভিত্তিতে আসে। প্রশিক্ষণের ডেটাতে বিশেষজ্ঞরা প্রায়শই আত্মবিশ্বাসী ভাষায় কথা বলেন। তাই আত্মবিশ্বাসী ভাষার পরিসংখ্যানগত ওজন বেশি। কিন্তু উচ্চ আত্মবিশ্বাস মানেই উচ্চ নির্ভুলতা নয়। কিছু সিস্টেম আলাদাভাবে কনফিডেন্স স্কোর তৈরি করার চেষ্টা করে, কিন্তু সেটিও মডেলের অভ্যন্তরীণ সম্ভাবনার উপর ভিত্তি করে হতে পারে, বাস্তব জগতের সাথে মিলনের উপর নয়। সম্ভাবনা কেবল বলে: এই সারির পর এই বাক্যটি কতটা স্বাভাবিক। স্বাভাবিক হওয়াটা সঠিক হওয়ার থেকে আলাদা। মানুষ প্রায়শই এর বিপরীতটা করে। যে দ্বিধাহীনভাবে কথা বলে, তাকে জ্ঞানী মনে করে। চ্যাটবট দ্বিধা কম রাখে, কারণ দ্বিধাগ্রস্ত উত্তরগুলি কম ‘সম্পূর্ণ’ মনে হয়। এই ‘সম্পূর্ণ’ মনে হওয়াটা বিপজ্জনকভাবে সুন্দর। এই কারণেই, ভুল ধরা পড়ার পর মডেলটি সঙ্গে সঙ্গে ক্ষমা চেয়ে নতুন সংস্করণ দিতে পারে – এবং সেই নতুন সংস্করণটিও মনগড়া হতে পারে। ক্ষমা একটি শেখা কথোপকথন প্যাটার্ন, সংশোধনের নিশ্চয়তা নয়।
প্রম্পটের অস্পষ্টতা
যদি প্রশ্ন অস্পষ্ট হয়, মডেল সেই অস্পষ্টতা পূরণ করার চেষ্টা করে। যেমন, “এটা কি আইনি?” – কোন রাজ্য, কোন তারিখ, কোন পক্ষ জড়িত? এই শূন্যস্থানগুলি পূরণ করার জন্য মডেল গড়পড়তা বা সাধারণ পরিস্থিতি ব্যবহার করে। যদি সেই গড়পড়তা আপনার নির্দিষ্ট পরিস্থিতির সাথে না মেলে, তবে আপনার মনে হতে পারে আপনাকে প্রতারণা করা হয়েছে। মডেল আপনাকে প্রতারণা করার সিদ্ধান্ত নেয়নি; এটি কেবল সবচেয়ে সাধারণ ধারাবাহিকতাটি বেছে নিয়েছে। একাধিক নির্দেশ একসাথে দিলে – যেমন, “সংক্ষেপে লেখো”, “সম্পূর্ণ তথ্য দাও”, “উৎস উল্লেখ করো”, “সহজ ভাষায় লেখো”, “আইনি নির্ভুলতা বজায় রাখো” – এই নির্দেশগুলি টোকেন সারিতে একে অপরের সাথে সংঘর্ষে লিপ্ত হতে পারে। অ্যাটেনশন কোনো একটিকে বেশি ওজন দেবে। ফলাফল হবে একটি মসৃণ সমঝোতা, যা প্রতিটি লক্ষ্যকে দশ শতাংশ পূরণ করবে। ‘ভূমিকা’ নির্ধারণও বিভ্রান্তি বাড়াতে পারে। “তুমি একজন আইনজীবী” লিখলে মডেল আইনজীবীর মতো ভাষা ব্যবহার করবে। কিন্তু ভাষা ব্যবহার করলেই বিশেষজ্ঞ হওয়া যায় না। ভূমিকা প্রম্পটের শৈলী পরিবর্তন করে, কিন্তু লাইসেন্স দেয় না, আদালত খোলে না, বা দায়িত্ব নেয় না।
অনুসন্ধান, টুল এবং যাচাইকরণ – হ্যালুসিনেশন কি শেষ হয়?
যখন সিস্টেম বাহ্যিক অনুসন্ধান, ক্যালকুলেটর, কোড এক্সিকিউশন বা ডেটাবেসের সাথে যুক্ত হয়, তখন কিছু ধরণের ভুল কমে আসে। সাম্প্রতিক ঘটনা, উদ্ধৃতি, বা সংখ্যা – এগুলি মডেলের স্মৃতি থেকে আসার চেয়ে কোনো উৎস থেকে আসার সম্ভাবনা বেশি। তবুও, চেইনটি ভেঙে যেতে পারে। অনুসন্ধান ভুল ফলাফল আনতে পারে। মডেল সঠিক ফলাফলকে ভুলভাবে সারসংক্ষেপ করতে পারে। উৎসের বাক্যটি প্রসঙ্গ থেকে বিচ্ছিন্ন হয়ে যেতে পারে। টুল কাজ না করলেও মডেল কাজ করার ভান করতে পারে – এটিও এক ধরণের হ্যালুসিনেশন, বিশেষ করে টুল-ভিত্তিক যুগে। রিট্রিভাল (retrieval) ডকুমেন্টের অংশগুলি উইন্ডোতে যুক্ত করে। যদি সেই অংশগুলি অসম্পূর্ণ হয়, ভুল পৃষ্ঠার হয়, বা প্রশ্নের সাথে দুর্বলভাবে যুক্ত থাকে, তবে উত্তরটি সেই অসম্পূর্ণতাকে মসৃণ করবে। “উৎস সহ” নির্দেশ দিলেও, মডেল উৎসের বাইরের একটি লাইন যুক্ত করতে পারে, কারণ এই ধরণের ধারাবাহিকতা তৈরির অভ্যাসটি শক্তিশালী। যাচাইকরণ মানুষের কাজ হয়েই থাকে। বিশেষ করে: নাম, তারিখ, ধারা, ওষুধের পরিমাণ, অর্থের হিসাব, উদ্ধৃতি। যে তথ্যগুলি বাস্তব জগতে একটি রেকর্ড রাখে, সেগুলি সেই রেকর্ড থেকে মিলিয়ে নিন। যা কেবল মতামত, তাকে মতামত হিসাবেই থাকতে দিন। মডেল উভয়কেই একই মসৃণতা দিয়ে উপস্থাপন করতে পারে।
দৈনন্দিন ফলাফল: কোথায় আঘাত লাগে?
স্বাস্থ্য, আইন, কর, বিনিয়োগ – এই ক্ষেত্রগুলিতে সাবলীল ভুল মারাত্মক হতে পারে। স্কুলের অ্যাসাইনমেন্টে মনগড়া উদ্ধৃতি ধরা পড়ে যেতে পারে। অফিসের নীতি নির্ধারণে, মডেল পুরনো চ্যাটের অসম্পূর্ণ তথ্যকে নিয়ম হিসাবে ব্যবহার করতে পারে। কোডিং-এর ক্ষেত্রে, একটি ফাংশন এমন নামে কল করা হতে পারে যা লাইব্রেরিতে নেই। কম ঝুঁকিপূর্ণ ক্ষেত্রও আছে: কোনো ধারণা ভেঙে দেওয়া, ভাষার উন্নতি করা, খসড়া তৈরি করা, কাঠামোগত সহায়তা দেওয়া। সেখানে মডেল একটি সহায়ক যন্ত্র, সাক্ষী নয়। পার্থক্যটি উদ্দেশ্যের। সাক্ষীর কাছে প্রমাণ চাওয়া হয়। সহকারীর কাছে খসড়া। খসড়াটিকে প্রমাণ হিসাবে গ্রহণ করা সেই পুরনো ভুল – সাবলীলতাকে জ্ঞান হিসাবে ধরে নেওয়া।
পরামর্শ
মেশিনের সাথে কথা বলার সময় তিনটি বিষয় মনে রাখুন:
- যাচাইযোগ্য তথ্য: নাম, পরিসংখ্যান, ধারা, লিঙ্ক, উদ্ধৃতি – এগুলি উত্তর পাওয়ার পর মূল উৎস থেকে যাচাই করুন।
- কাঠামোগত সহায়তা: রূপরেখা, প্রশ্নের তালিকা, ভাষার পরিমার্জন – এগুলিকে স্বাধীন চিন্তার সহায়ক হিসাবে ব্যবহার করুন।
- আত্মবিশ্বাসের ভাষা: “নিশ্চিত”, “স্পষ্ট” – এই শব্দগুলিকে কেবল অলঙ্কার হিসাবে দেখুন, প্রমাণ হিসাবে নয়।
একটি চ্যাটে একটি কাজ দিন। দীর্ঘ কথোপকথনে দশটি ভিন্ন নির্দেশ দেবেন না। গুরুত্বপূর্ণ শর্তগুলি শেষে পুনরাবৃত্তি করুন, কারণ সাম্প্রতিক তথ্য অ্যাটেনশনকে বেশি টানে। ফাইল দিলে জিজ্ঞাসা করুন কোন পৃষ্ঠা ব্যবহার করা হয়েছে; যদি উত্তরে পৃষ্ঠা নম্বর না পান, তবে বুঝবেন সারাংশ অসম্পূর্ণ হতে পারে। মনগড়া উৎসের চাহিদা কমান। “পাঁচটি গবেষণাপত্রের সম্পূর্ণ APA রেফারেন্স দাও” – এই ধরণের আদেশ উৎস-সদৃশ স্ট্রিং তৈরি করায়। এর চেয়ে ভালো নির্দেশ হল: “যা নিশ্চিত নয় তা লিখো না; অনিশ্চয়তা আলাদাভাবে উল্লেখ করো।” তবুও, সম্পূর্ণ নিশ্চয়তা নেই। একমাত্র নিশ্চয়তা হল আপনার নিজের যাচাইকরণ। গুরুত্বপূর্ণ সিদ্ধান্ত – যেমন ওষুধ, মামলা, কর, বড় অঙ্কের লেনদেন – যোগ্য পেশাদার এবং অফিসিয়াল উৎস ছাড়া চূড়ান্ত করবেন না। চ্যাটবট একটি প্রাথমিক খসড়া হতে পারে, চূড়ান্ত স্বাক্ষর নয়। ভুল ধরা পড়লে, একই চ্যাটে সংশোধনের উপর সম্পূর্ণ নির্ভর করবেন না। তথ্যটি বের করে আনুন, আলাদাভাবে যাচাই করুন, এবং তারপর স্পষ্ট নির্দেশ সহ একটি সংক্ষিপ্ত প্রশ্ন জিজ্ঞাসা করুন।
💡 গুরুত্বপূর্ণ বিষয়: যে বাক্যটি শুনতে খুব সুন্দর লাগছে, সেটিকে প্রথমে সন্দেহের তালিকায় রাখুন। সৌন্দর্য মডেলের দক্ষতা; সত্য বাস্তব জগতের গুণ। এই দুটি সবসময় এক টোকেনে বাঁধা থাকে না। শিশু এবং নতুন ব্যবহারকারীদের কেবল এই একটি বাক্য শেখানো উচিত: এই যন্ত্রটি পরবর্তী শব্দটি যোগ করে, সাক্ষী হয় না। যন্ত্রটি খুব ভালো হতে পারে, কিন্তু সাক্ষী ভিন্ন পরীক্ষায় উত্তীর্ণ হয়।
উপসংহার
চ্যাটবট আপনাকে ‘বোঝে’ না কারণ তার বোঝার মতো মন নেই, আছে কেবল টোকেন সারি এবং নেক্সট-টোকেন প্রেডিকশন। প্রশিক্ষণ প্যাটার্ন দেয়, অসীম জ্ঞান নয়। কনটেক্সট উইন্ডো ঘরটিকে সীমিত করে। অ্যাটেনশন কিছু বাক্যকে উজ্জ্বল করে, বাকিগুলিকে ম্লান। হ্যালুসিনেশন প্রায়শই সেই ইঞ্জিনেরই পার্শ্ব-প্রতিক্রিয়া যা বাক্যকে এত মানবিক করে তোলে – সম্ভাবনার মসৃণ ধারাবাহিকতা, যখন ডেটা পাতলা হয়, নির্দেশগুলি সংঘর্ষে লিপ্ত হয়, অথবা রূপটি বিষয়বস্তুকে ছাপিয়ে যায়। আত্মবিশ্বাসের ভাষা নির্ভুলতার রসিদ নয়। টুল এবং অনুসন্ধান কিছু ফাঁক বন্ধ করে, কিন্তু সব নয়। বিচক্ষণতা হল মেশিনকে জাদুর চেয়ার থেকে নামিয়ে টেবিলে একটি যন্ত্র হিসাবে রাখা। যন্ত্রটি ধারালো হতে পারে, কিন্তু যন্ত্রটি তার কাজের দায়িত্ব নেয় না। সেই দায়িত্ব আপনার উপরই বর্তায়।
সাধারণ জিজ্ঞাস্য (FAQ)
- চ্যাটবট কি ইচ্ছাকৃতভাবে মিথ্যা বলে?
না, মানুষের মতো সে অর্থে নয়। এটি পরবর্তী সম্ভাব্য টোকেন নির্বাচন করে। কখনও সেই নির্বাচন বাস্তব জগতের সাথে মেলে না। এর পিছনে কোনো ‘উদ্দেশ্য’ খোঁজার চেষ্টা করবেন না; এর কার্যপদ্ধতি বুঝুন। - দীর্ঘ চ্যাটে এটি আমার আগের কথা কেন ভুলে যায়?
কনটেক্সট উইন্ডো সীমিত। পুরনো টোকেনগুলি বাদ পড়ে যেতে পারে বা অ্যাটেনশনে কম গুরুত্ব পেতে পারে। ‘ভুলে যাওয়া’ মনের দুর্বলতা নয়, এটি সারির সীমাবদ্ধতা। - ভালো প্রম্পট কি হ্যালুসিনেশন শেষ করে দেয়?
এটি কমাতে পারে, কিন্তু শেষ করতে পারে না। স্পষ্ট নির্দেশিকা, “না জানলে বলো”, ছোট প্রশ্ন সাহায্য করে। কিন্তু বিরল তথ্য এবং উৎস-ভিত্তিক প্রশ্ন এখনও মনগড়া উত্তর তৈরি করতে পারে। - অনুসন্ধান বা প্লাগইন চালু থাকলে উত্তর কি সবসময় সঠিক হয়?
না। ভুল ফলাফল, ভুল সারাংশ, অসম্পূর্ণ অংশ, অথবা টুল ছাড়া টুল ব্যবহারের ভান করার সম্ভাবনা থাকে। উৎসগুলি খুলে দেখুন। - সাবলীল উত্তর কীভাবে পড়ব?
কাঠামো এবং ভাষার জন্য এটিকে সহায়ক হিসাবে বিবেচনা করুন। নাম, তারিখ, পরিসংখ্যান, আইন, ওষুধ, উদ্ধৃতি – এগুলি বাহ্যিক রেকর্ড থেকে মিলিয়ে নিন। আত্মবিশ্বাসী সুরকে কেবল অলঙ্কার ভাবুন।
