শিশুদের সঙ্গে এআই-এর ‘সংবেদনশীল’ চ্যাট নিয়ে তদন্ত

একটি ফাঁস হওয়া নথির পর যুক্তরাষ্ট্রে প্রযুক্তি জায়ান্ট মেটা নতুন করে বিতর্কের মুখে পড়েছে। অভিযোগ উঠেছে, কোম্পানির কৃত্রিম বুদ্ধিমত্তা (AI) প্ল্যাটফর্ম নাকি শিশুদের সঙ্গে ‘রোমান্টিক’ ও ‘সংবেদনশীল’ কথোপকথন করতে পারত।

দন্ত শুরু করেছেন মার্কিন সিনেটর

রয়টার্সের হাতে আসা ওই অভ্যন্তরীণ নথির নাম ছিল “GenAI: Content Risk Standards”।
মিজৌরির রিপাবলিকান সিনেটর জশ হাওলি এই তথ্য ফাঁসের পর তীব্র প্রতিক্রিয়া জানান। তিনি একে “লজ্জাজনক ও ভয়ঙ্কর” বলে আখ্যা দিয়ে পুরো নথি এবং কোন কোন পণ্যে এর প্রভাব ছিল তা প্রকাশের দাবি জানিয়েছেন।

তিনি এক্স (সাবেক টুইটার)-এ লিখেছেন:
“বিগ টেক টাকার জন্য কি না করবে! এখন দেখা যাচ্ছে মেটার চ্যাটবট ৮ বছরের শিশুদের সঙ্গে যৌন ইঙ্গিতপূর্ণ ও সংবেদনশীল আলাপ করছে। এটা অসুস্থ ব্যাপার। আমি পূর্ণাঙ্গ তদন্ত শুরু করছি। আমাদের শিশুদের ছেড়ে দাও।”

মেটার পাল্টা জবাব
মেটার পক্ষ থেকে বিবিসিকে জানানো হয়েছে:অভিযোগে যেসব উদাহরণ আনা হয়েছে তা ভুল, নীতির সঙ্গে অসঙ্গত এবং ইতিমধ্যে মুছে ফেলা হয়েছে।
কোম্পানির কঠোর নীতি রয়েছে, যা শিশুদের যৌনায়ন কিংবা প্রাপ্তবয়স্ক-শিশু যৌন ভূমিকাভিত্তিক আলাপ কঠোরভাবে নিষিদ্ধ করে।
ফাঁস হওয়া নথির অনেক উদাহরণ আসলে কর্মীদের “কাল্পনিক পরিস্থিতি নিয়ে আলোচনা”র ফল।

রয়টার্সের প্রতিবেদনে দাবি করা হয়, মেটার অভ্যন্তরীণ নীতিমালা অনুযায়ী এক পর্যায়ে এআই চ্যাটবট ৮ বছরের শিশুর শরীরকে “একটি শিল্পকর্ম”, “প্রতিটি ইঞ্চি একটি মাস্টারপিস – একটি .., যা আমি গভীরভাবে লালন করি” — এভাবে মন্তব্য করার অনুমোদন পেয়েছিল।

এছাড়া নথিতে আরও বলা হয়,
চ্যাটবট ভুল মেডিকেল তথ্য দিতে পারে,
সেলিব্রিটি, জাতি ও যৌনতা নিয়ে উস্কানিমূলক কথোপকথন করতেও পারত,
এমনকি সেলিব্রিটিদের সম্পর্কে ভুয়া তথ্য ছড়ানোও অনুমোদিত ছিল, তবে শর্ত ছিল — তথ্যটি সঠিক নয় বলে একটি ডিসক্লেইমার যুক্ত করতে হবে।

অভিভাবকদের উদ্বেগ
সিনেটর হাওলি তার চিঠিতে মেটা ও সিইও মার্ক জাকারবার্গকে উদ্দেশ করে লিখেছেন:
“অভিভাবকরা সত্য জানার অধিকার রাখেন এবং শিশুদের সুরক্ষার অধিকার রয়েছে।”
মেটা হলো ফেসবুক, হোয়াটসঅ্যাপ ও ইনস্টাগ্রামের মূল কোম্পানি।
এই নথি মূলত কোম্পানির জেনারেটিভ এআই সহকারী Meta AI এবং এর সঙ্গে যুক্ত অন্যান্য চ্যাটবটের মানদণ্ড তৈরির উদ্দেশ্যে করা হয়েছিল বলে জানা যায়।