আপনার এআই এজেন্টের অনুমোদনের প্রম্পট আসলে অনুমতির সীমানা

এ কারণেই অনুমোদনের প্রম্পটকে অনুমতির মডেলেরই অংশ হিসেবে দেখা উচিত, এজেন্ট তৈরির পর ভদ্রতার খাতিরে জুড়ে দেওয়া কোনো বাধা হিসেবে নয়।

দুই চরম, দুটোই ভুল

প্রথম খারাপ ডিজাইনটি অবস্থার প্রতিটি পরিবর্তনে কনফার্মেশন চায়। বিলিং পেজ খুলব? কনফার্ম করুন। বার্ষিক ট্যাব বাছব? কনফার্ম করুন। কোম্পানির নাম লিখব? কনফার্ম করুন। প্রোডাক্টটাকে সাবধানী দেখায়, কিন্তু বারবার প্রম্পট ইউজারদের অভ্যাসবশে অনুমোদন দিতে শিখিয়ে ফেলে। সিস্টেমটা তৈরি করেছে সম্মতির নাটক: ক্লিক প্রচুর, মনোযোগ সামান্য।

উল্টো ডিজাইনটি শুরুতে একবারই জিজ্ঞেস করে: “আমি ওয়ার্কস্পেসটা গুছিয়ে দেব। এগোব?” শুনতে দক্ষ মনে হয়, যতক্ষণ না কাজটা বেড়ে গিয়ে রেকর্ড আর্কাইভ করা, মেম্বার সরানো আর সারাংশের ইমেইল পাঠানো পর্যন্ত গড়ায়। ইউজার অনুমোদন দিয়েছিলেন একটি লক্ষ্যে, প্রতিটি পরিণতিতে নয়। সাধারণ ভাষায় দেওয়া একটা ঢালাও নির্দেশ হয়ে উঠেছে সাময়িক অ্যাডমিনিস্ট্রেটরের ভূমিকা।

দুটো ব্যর্থতারই উৎস কথোপকথনকে অনুমোদনের স্তর হিসেবে ব্যবহার করা। উদ্দেশ্য বোঝাতে কথোপকথন দারুণ। কিন্তু ঠিক কোন ক্ষমতা দেওয়া হচ্ছে, তা নির্দিষ্ট করতে কথোপকথন দুর্বল।

এজেন্টিক এআই-এর ব্যর্থতার ধরন নিয়ে Microsoft-এর 2026 সালের শ্রেণিবিন্যাস এই কথারই নিরাপত্তার দিকটা স্পষ্ট করে বলে। এতে সুপারিশ করা হয়েছে নিয়মে বাঁধা মানুষের রিভিউ, গুরুতর পরিণতির প্রতিটি উপ-কাজের জন্য আলাদা অনুমোদন, মূল টুল কল থেকে তৈরি বর্ণনা, আর কাজটা ফেরানো যায় কি না ও ক্ষতির পরিধি কতটা, তার ভিত্তিতে অনুমোদনের আলাদা আলাদা স্তর। সীমানাটা বলবৎ করতে হবে অ্যাপ্লিকেশনকে, মডেলকে নয়।

এজেন্টের ব্যাখ্যায় একটা বাক্য বদলালেই যদি রিভিউ আসবে কি না তা বদলে যায়, তাহলে রিভিউয়ের নিয়ন্ত্রণ আছে গদ্যের হাতে। সত্যিকারের অনুমতির সীমানা নিয়ন্ত্রণ করে সেই কাজটি, যা অ্যাপ্লিকেশন এখনই চালাতে যাচ্ছে।

বাটন নয়, পরিণতি দেখে শ্রেণিবিন্যাস করুন

টিমগুলো প্রায়ই শুরু করে বিপজ্জনক শব্দের একটা তালিকা দিয়ে: ডিলিট, পাঠান, পে করুন, বাতিল। এটা কাজের, কিন্তু বাটনের লেখা কোনো পলিসি নয়। “বাতিল” দিয়ে একটা ডায়ালগ বন্ধ হতে পারে, আবার একটা সাবস্ক্রিপশনও শেষ হয়ে যেতে পারে। “সরান” দিয়ে একটা ফিল্টার মুছে যেতে পারে, আবার কারও অ্যাক্সেসও কেড়ে নেওয়া হতে পারে। “চালিয়ে যান” হতে পারে কেনাকাটার একেবারে শেষ কন্ট্রোল।

শ্রেণিবিন্যাসের জন্য দরকার কাজটি, তার টার্গেট, আর চারপাশের অবস্থা। একটি কার্যকর পলিসি শুরু হতে পারে পাঁচটি প্রশ্ন দিয়ে:

1. কাজটি কি বাইরে কোনো প্রভাব ফেলে, যেমন একটি মেসেজ, আমন্ত্রণ, পোস্ট বা প্রকাশিত কোনো পরিবর্তন?

2. এতে কি টাকা লেনদেন হয়, বা কোনো আর্থিক দায় তৈরি হয়?

3. কে ডেটায় অ্যাক্সেস পাবেন বা কার কী অনুমতি থাকবে, তা কি এতে বদলায়?

4. এতে কি ডেটা মুছে যায়, কোনো অ্যাকাউন্ট বন্ধ হয়, বা সাবস্ক্রিপশন বদলায়?

5. ভুল হলে, সেই একই ইউজার কি দ্রুত ও পুরোপুরি সেটা ফিরিয়ে নিতে পারবেন?

এতে যে সীমানা তৈরি হয়, তা “ডেটায় যেকোনো পরিবর্তনেই কনফার্মেশন লাগবে”-র চেয়ে অনেক বেশি কাজের।

প্রস্তাবিত কাজ · ডিফল্ট আচরণ · কেন

পেজ পড়া, সার্চ, ফিল্টার বা ট্যাব খোলা · এগিয়ে যান · বাইরে স্থায়ী কোনো প্রভাব নেই

সংবেদনশীল নয় এমন খসড়া ফিল্ড পূরণ · এগিয়ে যান, কাজটা চোখের সামনে রাখুন · সাবমিটের আগে ফেরানো যায়

স্পষ্ট আনডু আছে এমন লোকাল সেটিং বদলানো · সাধারণত এগিয়ে যান · ক্ষতির পরিধি ছোট, সামলানো সহজ

পাঠানো, প্রকাশ, আমন্ত্রণ, শেয়ার বা অ্যাক্সেস বদলানো · হুবহু কাজটি রিভিউ করান · অন্য কারও ওপর প্রভাব পড়ে, বা কোনো সীমানা পেরোয়

কেনা, আপগ্রেড, বাতিল, বন্ধ বা ডিলিট · চালানোর ঠিক আগে রিভিউ করান · আর্থিক, বা ফেরানো কঠিন

ক্রেডেনশিয়াল দেওয়া বা নিয়ন্ত্রক বিধির আওতায় পড়া কোনো সিদ্ধান্ত নেওয়া · ইউজারের সরাসরি নিয়ন্ত্রণ চান, নয়তো প্রত্যাখ্যান করুন · শুধু অনুমোদন থাকলেই সব কাজ অন্যের হাতে ছেড়ে দেওয়া চলে না

এটা এজেন্ট তৈরি নিয়ে OpenAI-এর গাইডের টুল-ঝুঁকির মডেলের কাছাকাছি, যেখানে টুলগুলোর ঝুঁকি মাপার পরামর্শ দেওয়া হয়েছে রাইট অ্যাক্সেস, ফেরানো যায় কি না, অ্যাকাউন্টের অনুমতি আর আর্থিক প্রভাব দেখে। আসল কাজ হলো এই বৈশিষ্ট্যগুলোকে কোড আর পলিসিতে পরিণত করা, এমন আরেকটা নির্দেশে নয়, যার সৃজনশীল ব্যাখ্যা মডেল নিজের মতো করে নিতে পারে।

জিজ্ঞেস করুন পরিণতির ঠিক মুহূর্তে

অনুমোদন চাওয়া উচিত যত দেরিতে সম্ভব, কিন্তু বাইরে প্রভাব পড়ার আগে।

ধরুন, “আমার Growth সাবস্ক্রিপশন বাতিল করে দিন।” এজেন্ট ইউজারকে না থামিয়েই সেটিংস খুলতে পারে, বিলিংয়ে যেতে পারে, বর্তমান প্ল্যান দেখে নিতে পারে। এর কোনো ধাপেই ইউজার কিছুতে দায়বদ্ধ হন না। কাজের রিভিউ আসে তখন, যখন এজেন্ট আসল সাবস্ক্রিপশন বাতিল করুন কন্ট্রোলটি খুঁজে পেয়েছে এবং জানে সেটা কোন সাবস্ক্রিপশনে প্রভাব ফেলবে।

এই সময় বেছে নিলে প্রম্পটের হাতে থাকে নির্দিষ্ট তথ্য। শুরুর অনুরোধটা ঘুরিয়ে বলার বদলে প্রম্পট সরাসরি কাজ আর টার্গেটের নাম বলতে পারে। আর এমন কোনো কাজের অনুমোদন চাইতে হয় না, যা এজেন্ট হয়তো খুঁজেই পাবে না।

এখানে একটা পরিষ্কার পার্থক্য আছে:

– স্পষ্টীকরণ দরকার হয় যখন উদ্দিষ্ট কাজ বা টার্গেট অস্পষ্ট। দুজন মেম্বারের নাম Alex হলে “Alex-কে সরিয়ে দিন”-এর জবাবে একটা প্রশ্ন করতেই হবে।

– অনুমোদন দরকার হয় যখন উদ্দিষ্ট কাজটি স্পষ্ট এবং অ্যাপ্লিকেশন গুরুতর পরিণতির একটি ধাপ চালাতে প্রস্তুত। এটা হওয়া উচিত সীমিত একটি সিদ্ধান্ত: ‘অনুমতি দিন’, নয়তো ‘বাতিল’।

দুটো গুলিয়ে ফেললে কথোপকথন অসহ্য হয়ে ওঠে। এজেন্ট জিজ্ঞেস করে “আপনি কি নিশ্চিত?”, অথচ ইউজার কোন রেকর্ডের কথা বলেছেন, তা সে তখনো জানে না। কিংবা আগে অনুমোদন নিয়ে রাখে, পরে অন্য একটা কনফার্মেশন কন্ট্রোলের সামনে পড়ে, আর আগের উত্তরটাকেই সেই নতুন কাজের অনুমতি ধরে নেয়।

নিরাপদ ক্রম হলো: উদ্দেশ্য, টার্গেট নির্দিষ্ট করা, রিভিউ, তারপর কাজ চালানো। পরে সাইট নিজে কোনো কনফার্মেশন চাইলে সেটা চালানোর মতো নতুন একটি কাজ, আর তার জন্য আলাদা সিদ্ধান্তই প্রাপ্য।

প্রম্পটে থাকতে হবে ঠিক যে কাজটি চলবে, তার বর্ণনা

একটি এজেন্ট বলতে পারে, “আমি শুধু ওয়ার্কস্পেসটা একটু গুছিয়ে দিচ্ছি”, অথচ তার পরের টুল কলেই একজন মেম্বার সরে যায়। এই অমিল দুরভিসন্ধি থেকে, ইনজেকশন থেকে, নাকি নিছক ভুল থেকে, তাতে কিছু যায় আসে না। এজেন্ট কোন ক্ষমতা চাইছে, তা বোঝাতে অনুমোদনের UI এজেন্টের নিজের বিবরণের ওপর ভরসা করতে পারে না।

তার বদলে রিভিউয়ের লেখা তৈরি করুন সম্পাদনের অবজেক্ট থেকে। অ্যাপ্লিকেশন যে কন্ট্রোল, টার্গেট, বাছাই করা মান, গন্তব্য আর প্রাসঙ্গিক পরিসর নির্দিষ্ট করেছে, সেগুলোই দেখান। “Acme-র অ্যাকাউন্ট ডিলিট করুন বাটনে ক্লিক” কাজের। “পরিষ্কারের কাজ চালিয়ে যান” কাজের নয়।

Microsoft-এর শ্রেণিবিন্যাসে দুর্বল সংস্করণটির নাম description laundering, অর্থাৎ বর্ণনার ধোলাই: এজেন্ট একটা নিরীহ সারাংশ দেখায়, যার আড়ালে থাকে আরও গুরুতর পরিণতির আসল কাজ। প্রস্তাবিত প্রতিরোধ সোজাসাপটা। অনুমোদনের বর্ণনা তৈরি করুন আসল টুল কল বা পেজের কন্ট্রোল থেকে, মডেলের নিজের মতো লেখা টেক্সট থেকে নয়।

কেউ সিস্টেমে আক্রমণ না করলেও এটা জরুরি। মডেল সংক্ষেপ করে। শর্ত আর বিশেষণ বাদ দেয়। “এটা” বলে ভুল অবজেক্টকে বোঝায়। সম্পাদনের স্তরের কাছে হুবহু আর্গুমেন্টগুলো আগে থেকেই আছে, তাই রিভিউতে সেগুলোই ব্যবহার করা উচিত।

– রিভিউ আসে কারণ নিয়মে বাঁধা পলিসি চালানোর মতো কাজটিকে শ্রেণিবদ্ধ করেছে, মডেল নিজে থেকে জিজ্ঞেস করতে চেয়েছে বলে নয়।

– এতে কাজ, টার্গেট, গন্তব্য আর পরিসরের নাম থাকে এমন ভাষায়, যা ইউজার যাচাই করতে পারেন।

– এতে প্রত্যাখ্যান করার সত্যিকারের পথ থাকে, আর গুরুতর ধাপটিকে একগুচ্ছ কাজের ভেতরে লুকিয়ে রাখা হয় না।

– এটি অনুমতি দেয় একবার চেষ্টার, বাকি পুরো কথোপকথনের নয়।