RAG কী — আর আপনার ব্যবসার সত্যিই কখন এটা দরকার?

বড় ভাষা মডেল (LLM) দুর্দান্ত লেখক, কিন্তু একেবারেই ভালো লাইব্রেরিয়ান নয়। আপনার ছুটির নীতি, প্রোডাক্টের ওয়ারেন্টি শর্ত বা গত কোয়ার্টারের দাম নিয়ে জিজ্ঞেস করুন — সে আত্মবিশ্বাসী, সাবলীল, এবং প্রায়ই ভুল উত্তর দেবে। Retrieval-augmented generation (RAG) এই সমস্যার সমাধান করে — উত্তর দেওয়ার আগে মডেলকে সঠিক পাতাগুলো পড়তে দিয়ে।

সহজ ভাষায়, RAG কীভাবে কাজ করে

একটি RAG সিস্টেমের দুটি অংশ। ইনডেক্সিং অংশ আপনার ডকুমেন্ট পড়ে, সেগুলোকে ছোট ছোট অনুচ্ছেদে ভাগ করে, এবং প্রতিটি অনুচ্ছেদের একটি সংখ্যাভিত্তিক "অর্থের ফিঙ্গারপ্রিন্ট" (embedding) একটি vector database-এ রাখে — যেমন pgvector সহ PostgreSQL। উত্তর দেওয়ার অংশ ব্যবহারকারীর প্রশ্ন নেয়, অর্থের দিক থেকে সবচেয়ে কাছের অনুচ্ছেদগুলো খুঁজে বের করে, এবং একটি নির্দেশ সহ মডেলের হাতে দেয়: শুধু এগুলো থেকেই উত্তর দাও, এবং সূত্র উল্লেখ করো।

1. Ingest: PDF, Word ফাইল, স্প্রেডশিট, ওয়েব পেজ ও ডেটাবেসের সারি পরিষ্কার করে টুকরো (chunk) করা হয়।
2. Embed: প্রতিটি chunk একটি vector-এ রূপান্তরিত হয়, যা তার বিষয়বস্তু ধরে রাখে।
3. Retrieve: প্রশ্নটিকেও একইভাবে embed করা হয়; সবচেয়ে কাছের chunk-গুলো আনা হয়, প্রায়ই keyword search-এর সঙ্গে মিলিয়ে।
4. Generate: মডেল ওই chunk-গুলোর ভিত্তিতে উত্তর লেখে, মূল সূত্রের রেফারেন্স সহ।

শুধু মডেল fine-tune করলেই হয় না কেন?

Fine-tuning মডেলকে একটি স্টাইল বা নির্দিষ্ট কোনো দক্ষতা শেখায়। কিন্তু যে তথ্য বদলায় — দাম, নীতি, ইনভেন্টরি, চুক্তি — তা শেখানোর জন্য এটি খারাপ উপায়। RAG জ্ঞানকে রাখে আপনার নিয়ন্ত্রণে থাকা একটি ডেটাবেসে: একটি ডকুমেন্ট আপডেট করুন, পরের উত্তরেই তা প্রতিফলিত হবে। সঙ্গে পাবেন সূত্র-উল্লেখ, প্রতিটি ডকুমেন্টে access control, এবং কিছু রিট্রেইন না করেই মডেল বদলানোর সুবিধা।

আপনার ব্যবসা RAG-এর জন্য প্রস্তুত — পাঁচটি লক্ষণ

• আপনার টিম প্রতি সপ্তাহে একই ডকুমেন্ট থেকে একই প্রশ্নের উত্তর দেয়।
• গুরুত্বপূর্ণ জ্ঞান পড়ে আছে PDF আর shared drive-এ, যেখানে কেউ ঠিকমতো খুঁজে পায় না।
• যে উত্তর আপনার ম্যানুয়ালেই আছে, তার জন্য গ্রাহকরা ঘণ্টার পর ঘণ্টা অপেক্ষা করেন।
• নতুন কর্মীদের কাজে দক্ষ হতে মাস লেগে যায়, কারণ "সব কোথাও না কোথাও আছে"।
• উত্তরে permission মানা জরুরি — সবার সবকিছু দেখা উচিত নয়।

কী একটি RAG সিস্টেমকে production-grade করে তোলে

এক সপ্তাহান্তে বানানো prototype demo-তে চমক দিতে পারে, কিন্তু তৃতীয় দিনেই ব্যর্থ হতে পারে। পার্থক্যটা ইঞ্জিনিয়ারিং শৃঙ্খলায়: আপনার ডকুমেন্টের ধরন অনুযায়ী chunking, hybrid retrieval, query-র সময় permission filter, সূত্র না থাকলে উত্তর দিতে অস্বীকার, এবং — সবচেয়ে গুরুত্বপূর্ণ — জানা সঠিক উত্তর সহ বাস্তব প্রশ্নের একটি evaluation set, যা প্রতিবার prompt বা মডেল বদলালে আবার চালানো হয়।

কোথা থেকে শুরু করবেন

একটি বেশি-ব্যবহৃত, ভালোভাবে ডকুমেন্টেড workflow বেছে নিন — HR নীতি সংক্রান্ত প্রশ্ন, প্রোডাক্ট সাপোর্ট, বা অভ্যন্তরীণ SOP। পঞ্চাশটি বাস্তব প্রশ্ন সংগ্রহ করুন। বানান, মাপুন, তারপর বাড়ান। ঠিক এভাবেই আমরা আমাদের RAG প্রজেক্টগুলো চালাই — আর এজন্যই লঞ্চের পরেও আমাদের assistant-রা নির্ভুল থাকে।