এআই-তৈরি শিশু নিপীড়নের ছবি শনাক্তে নতুন টুল আনল ওপেনএআই, চ্যাটজিপিটিতে সতর্কবার্তা ও ২৪ ঘণ্টার নিষেধাজ্ঞা

কৃত্রিম বুদ্ধিমত্তা (এআই) দিয়ে তৈরি শিশু যৌন নিপীড়নের ছবি শনাক্তে নতুন একটি টুল চালু করেছে ওপেনএআই। প্রতিষ্ঠানটি একই সঙ্গে চ্যাটজিপিটিতে এ ধরনের অবৈধ উপাদান খোঁজার চেষ্টা ঠেকাতে সতর্কবার্তা ও ২৪ ঘণ্টার জন্য অ্যাকাউন্ট স্থগিতের ব্যবস্থাও এনেছে।
প্রচলিত শনাক্তকরণ ব্যবস্থার অনেকগুলোই ডিজিটাল ফিঙ্গারপ্রিন্ট বা 'হ্যাশ' ব্যবহার করে আগে চিহ্নিত অবৈধ ফাইল খুঁজে বের করে। কিন্তু এআই দিয়ে নতুন করে তৈরি ছবির কোনো মিল থাকা ফিঙ্গারপ্রিন্ট থাকে না। ওপেনএআইয়ের নতুন ক্লাসিফায়ারটি ছবির দৃশ্যমান লক্ষণ বিশ্লেষণ করে সন্দেহজনক শিশু যৌন নিপীড়নমূলক উপাদান (সিএসএএম) শনাক্ত করতে পারে, এমনকি সেই ছবি আগে কখনো চিহ্নিত না হলেও।
ব্যবস্থাটি সম্ভাব্য নিপীড়নমূলক ছবিকে স্কোর দেয়, যাতে মানব পর্যালোচকেরা কোন ঘটনাগুলো আগে দেখতে হবে তা ঠিক করতে পারেন। ওপেনএআই জানিয়েছে, প্রযুক্তিটি তৈরি ও মূল্যায়নে তারা যুক্তরাষ্ট্রের ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়টেড চিলড্রেনের (এনসিএমইসি) সহায়তা নিয়েছে। যাচাই করা সংগঠনগুলোর জন্য এপিআইয়ের মাধ্যমে ক্লাসিফায়ারটি বিনা মূল্যে দেওয়া হচ্ছে, যাতে ছোট শিশু সুরক্ষা দলগুলোও ব্যয়বহুল এই প্রযুক্তি ব্যবহার করতে পারে।
প্রাথমিক পরীক্ষায় প্রতিষ্ঠানটির বিদ্যমান সুরক্ষা ব্যবস্থার সঙ্গে তুলনা করে দেখা গেছে, নতুন টুলটি প্রায় একই পরিমাণ নিপীড়নমূলক উপাদান শনাক্ত করেও পর্যালোচনার জন্য ৪৮ শতাংশ কম ছবি চিহ্নিত করেছে। আর নতুন ক্লাসিফায়ার যেসব ছবি চিহ্নিত করেছে, সেগুলোতে নিপীড়নমূলক উপাদান থাকার সম্ভাবনা ছিল প্রায় দ্বিগুণ।
বাইরের সংগঠনগুলোও ফলাফল জানিয়েছে। এআই প্ল্যাটফর্ম ফ্যাল জানিয়েছে, তাদের পর্যালোচকেরা উচ্চ আত্মবিশ্বাসের চিহ্নিত ছবিগুলোর ৭২ শতাংশকে আগে অজ্ঞাত সিএসএএম হিসেবে নিশ্চিত করেছেন। সেফটিকিট জানিয়েছে, শিশুদের যৌনায়িত করে আঁকা ছবি বা অ্যানিমেশনের ক্ষেত্রে ক্লাসিফায়ারটি তাদের মূল্যায়নে ৯০ শতাংশ ঘটনা শনাক্ত করেছে। তবে এসব ফলাফল ওপেনএআই ও অংশগ্রহণকারী সংগঠনগুলোর; বিভিন্ন প্ল্যাটফর্মে প্রযুক্তিটি কতটা নির্ভরযোগ্যভাবে কাজ করবে, তা স্বাধীন পরীক্ষায় যাচাই হওয়া বাকি।
চ্যাটজিপিটির ক্ষেত্রে কেউ শিশু যৌন নিপীড়নের উপাদান খুঁজতে গেলে নতুন সতর্কবার্তা সেই চেষ্টা থামিয়ে দেবে এবং শিশুদের যৌনায়িত করার ক্ষতির দিকটি ব্যাখ্যা করবে। সতর্কবার্তায় বিশেষভাবে এআই-তৈরি উপাদানের কথা বলা হয়েছে, কারণ ডিজিটালভাবে বানানো ছবিও গুরুতর ক্ষতি করতে পারে। সতর্কবার্তা দেখানোর পাশাপাশি চিহ্নিত কথোপকথনটি সরিয়ে ফেলা হবে এবং চ্যাটজিপিটি ব্যবহার ২৪ ঘণ্টার জন্য স্থগিত থাকবে। সতর্কবার্তায় সংশ্লিষ্ট ব্যক্তিকে ক্ষতিকর আচরণ প্রতিরোধে সহায়তাকারী বিশেষজ্ঞ সেবার দিকেও নির্দেশ করা হবে।
বারবার নিয়ম ভাঙলে আরও দীর্ঘমেয়াদি বিধিনিষেধ বা স্থায়ীভাবে অ্যাকাউন্ট বন্ধ হয়ে যেতে পারে এবং কর্তৃপক্ষের কাছে প্রতিবেদনও যেতে পারে বলে জানিয়েছে ওপেনএআই। বিদ্যমান নীতিমালা অনুযায়ী, সিএসএএম তৈরি বা আপলোডের চেষ্টা করলে প্রতিষ্ঠানটি অ্যাকাউন্ট বন্ধ করে এনসিএমইসিকে জানায়। নতুন সতর্কবার্তাগুলো তৈরি করা হয়েছে শিশু সুরক্ষা সংগঠন ও ক্ষতিকর অনলাইন আচরণ থামানো নিয়ে গবেষণাকারীদের মতামত নিয়ে।
এ ছাড়া অনলাইন শিশু শোষণের তদন্তে যুক্ত সংগঠনগুলোর জন্য নতুন সুবিধা আনছে ওপেনএআই। প্রতিষ্ঠানটি টেক কোয়ালিশনের 'ল্যান্টার্ন' কর্মসূচিতে যোগ দিয়েছে, যার মাধ্যমে বিভিন্ন প্ল্যাটফর্ম সন্দেহজনক শোষণের তথ্য পরস্পরের সঙ্গে ভাগ করে নিতে পারে। আইন প্রয়োগকারী সংস্থার শিশু সুরক্ষা ইউনিটগুলোর জন্য বিশেষায়িত এআই টুল ও প্রশিক্ষণও দেওয়া হচ্ছে; প্রথম তদন্ত টুলটি অনুমোদিত দলগুলোকে আইনি প্রক্রিয়ায় পাওয়া দীর্ঘ চ্যাট লগ ও রেকর্ড পর্যালোচনা করে সম্ভাব্য সংযোগ শনাক্ত ও ঘটনাপ্রবাহ সাজাতে সাহায্য করবে। ডেভেলপারদের জন্য সন্দেহজনক নিপীড়ন শনাক্ত ও পর্যালোচনার পদ্ধতি নিয়ে নির্দেশিকাও প্রকাশ করছে প্রতিষ্ঠানটি।
সমস্যার মাত্রা বড়। এনসিএমইসির তথ্য অনুযায়ী, তাদের সাইবারটিপলাইনে ২০২৫ সালে জেনারেটিভ এআই-সংক্রান্ত চার লাখের বেশি প্রতিবেদন এসেছে। এসব প্রতিবেদনের সব কটিই এআই-তৈরি নিপীড়নমূলক উপাদান তৈরি বা ছড়ানো নিয়ে ছিল না, তবে সংখ্যাটি ঝুঁকির ব্যাপকতা বোঝায়। নতুন ক্লাসিফায়ারটি পর্দার আড়ালে কাজ করবে; এর প্রভাব নির্ভর করবে কতগুলো সংগঠন এটি গ্রহণ করে এবং তাদের সুরক্ষা দলগুলো সতর্কবার্তায় কতটা কার্যকরভাবে সাড়া দেয় তার ওপর।




