পুলিশের ওয়েবসাইটে ভুয়া খুনের তথ্য পাঠাল অ্যানথ্রপিকের এআই, ধরা পড়ল স্প্যাম ফিল্টারে

কৃত্রিম বুদ্ধিমত্তা এখন ইমেইল লেখে, গবেষণা করে, এমনকি ব্যবহারকারীর অনুপস্থিতিতেও কাজ চালিয়ে যায়। কিন্তু একটি এআই ব্যবস্থা যখন কারও নির্দেশ ছাড়াই নিজে থেকে কাজ করে বসে, তখন কী হয় — যুক্তরাষ্ট্রের ফিলাডেলফিয়া পুলিশ সম্প্রতি তার অপ্রত্যাশিত এক উত্তর পেয়েছে।

অ্যানথ্রপিকের তৈরি একটি এআই মডেল ফিলাডেলফিয়া পুলিশের একটি ওয়েবসাইটের মাধ্যমে অমীমাংসিত একটি হত্যাকাণ্ড সম্পর্কে বানোয়াট ‘প্রত্যক্ষদর্শীর তথ্য’ জমা দিয়েছে। ঘটনাটি ঘটেছে স্বয়ংক্রিয় পরীক্ষার সময়, এবং মডেলটি দৃশ্যত মনে করেছিল সে একটি উদাহরণমূলক আদান-প্রদান তৈরি করছে।

ঘটনার কেন্দ্রে ফিলিআনসলভডমার্ডারস ডটকম নামের ওয়েবসাইটটি, যেখানে ফিলাডেলফিয়ার অমীমাংসিত হত্যা মামলাগুলো সম্পর্কে তথ্য জমা দেওয়া যায়। ২০২৬ সালের ১৮ জুলাই সেখানে একটি তথ্য জমা পড়ে, যেখানে দাবি করা হয় একটি হত্যাকাণ্ড সম্পর্কে তথ্য রয়েছে।

অ্যানথ্রপিকের ৯ অক্টোবরের প্রতিবেদন অনুযায়ী, মডেলটি ছিল ক্লড হাইকু ৪.৫। এটিকে এলোমেলোভাবে বেছে নেওয়া ওয়েবপেজগুলোতে উদাহরণমূলক কাজ তৈরি ও সম্পাদনের দায়িত্ব দেওয়া হয়েছিল। একটি পরীক্ষার সময় মডেলটি একটি অমীমাংসিত হত্যার পেজে গিয়ে পুলিশের তথ্য জমার ফরম দেখতে পায়।

ফরমটি কীভাবে ব্যবহার করা যায় তা শুধু দেখানোর বদলে মডেলটি বানোয়াট তথ্য দিয়ে ফরমটি পূরণ করে জমা দিয়ে দেয়। এতে লেখা ছিল, ওই মামলা সম্পর্কে তার কাছে তথ্য থাকতে পারে, ঘটনার সময়ের দিকে সংশ্লিষ্ট এলাকায় বর্ণনার সঙ্গে মিলে যাওয়া কাউকে সে দেখেছিল বলে মনে পড়ছে, এবং তথ্যটি প্রাসঙ্গিক হলে যোগাযোগ করতে বলা হয়।

এর মধ্যে বিশেষভাবে উদ্বেগজনক একটি বিষয় রয়েছে। ওয়েবসাইটে অপরাধীর কোনো বর্ণনাই ছিল না। অথচ মডেলটি নিজে সেই বর্ণনার প্রসঙ্গ বানিয়ে নিজেকে সম্ভাব্য প্রত্যক্ষদর্শী হিসেবে উপস্থাপন করেছে। নাম ও যোগাযোগের ঘর খালি রেখেই, যা ওয়েবসাইটটি অনুমোদন করত, মডেলটি তথ্যটি জমা দেয়।

সৌভাগ্যবশত, পুলিশ বিভাগের স্প্যাম ফিল্টারিং ব্যবস্থা জমাটি ধরে ফেলে, ফলে তা তদন্তকারীদের কাছে পৌঁছায়নি। ফিলাডেলফিয়া পুলিশের ৯ অক্টোবরের বিবৃতি অনুযায়ী, জমাটি স্প্যাম হিসেবে চিহ্নিত হয় এবং তদন্ত পর্যালোচনার জন্য রিয়েল-টাইম ক্রাইম সেন্টারে কখনোই পাঠানো হয়নি।

অ্যানথ্রপিকের ব্যাখ্যায় দেখা যাচ্ছে, তুলনামূলক সাধারণ একটি ফাঁক থেকেই এই অনিচ্ছাকৃত কাজটি ঘটেছে। মডেলটিকে লগ ইন করা, অ্যাকাউন্ট খোলা, ব্যক্তিগত তথ্য দেওয়া, কেনাকাটা করা বা ধ্বংসাত্মক কিছু জমা দেওয়া নিষেধ করা হয়েছিল। কিন্তু অনলাইন ফরম জমা দেওয়া স্পষ্টভাবে নিষেধের তালিকায় ছিল না। ফলে দায়িত্বের অংশ হিসেবে মডেলটি ফরমটি পূরণ করে ফেলে।

অ্যানথ্রপিক বলছে, পাওয়া কথোপকথনের রেকর্ড থেকে মনে হয় মডেলটি উদাহরণমূলক বিষয়বস্তু তৈরি করছিল, আইন প্রয়োগকারী সংস্থাকে ইচ্ছাকৃতভাবে বিভ্রান্ত করতে চায়নি। তবে কোম্পানিটি স্বীকার করেছে, মডেলের উদ্দেশ্য নির্ধারণে আরও বিশ্লেষণ দরকার।

সময়রেখাটি আরও উদ্বেগ বাড়িয়েছে। জমাটি দেওয়া হয় ১৮ জুলাই রাত ১১টা ২৭ মিনিটে। পুলিশের ভাষ্য অনুযায়ী, অ্যানথ্রপিক ঘটনাটি আবিষ্কার করে ২৮ সেপ্টেম্বর এবং বিভাগকে জানায় ৭ অক্টোবর; পরদিন কোম্পানির প্রতিনিধিরা পুলিশকে ব্রিফ করেন। অর্থাৎ ভুয়া জমাটি শনাক্ত ও জানাতে দুই মাসের বেশি সময় লেগে যায়। বিভাগটি এই বিলম্বকে ‘অগ্রহণযোগ্য’ বলে অভিহিত করেছে এবং প্রযুক্তি কোম্পানিগুলোকে সুরক্ষাব্যবস্থা জোরদারের আহ্বান জানিয়েছে।

৮ অক্টোবর ব্রিফিংয়ের পর পুলিশ বিভাগের কর্মীরা ওয়েবসাইটের তথ্যের রেকর্ডে জমাটি খুঁজে পান এবং নিশ্চিত করেন সংশ্লিষ্ট ইমেইলটি স্প্যামেই রয়ে গেছে। বিভাগটি আরও জানায়, তাদের ব্যবস্থায় অননুমোদিত প্রবেশ বা পুলিশের তথ্য ফাঁসের কোনো প্রমাণ নেই। সব অপরাধ-তথ্যই তদন্তকারীদের পদক্ষেপের আগে মানুষের পর্যালোচনার মধ্য দিয়ে যায় বলেও তারা জোর দিয়েছে।

তবু প্রশ্ন থেকে যায় — বানোয়াট তথ্যটি গোয়েন্দাদের কাছে পৌঁছালে কী হতো? তদন্তকারীদের সময় নষ্ট হতে পারত, কোনো নিরপরাধ মানুষ অকারণে নজরদারির মুখে পড়তে পারতেন। কোনোটিই ঘটেনি, কিন্তু জনসাধারণের তথ্যের ওপর নির্ভরশীল আইন প্রয়োগকারী সংস্থাগুলোর জন্য ঘটনাটি গুরুতর প্রশ্ন তুলেছে।

ফিলাডেলফিয়ার কর্মকর্তারা এখন বিস্তৃত পদক্ষেপের কথা ভাবছেন। পুলিশ বিভাগ জানিয়েছে, মেয়র শেরেল এল. পার্কারের প্রশাসন রাজ্য ও কেন্দ্রীয় অংশীদারদের সঙ্গে মিলে এআই ব্যবস্থাসংক্রান্ত ঘটনা মোকাবিলায় নিয়ন্ত্রক সুরক্ষার পথ খুঁজবে। শহরের আইন বিভাগ ও প্রযুক্তি কর্মকর্তাদের সঙ্গে সমন্বয় করে পর্যালোচনা চলছে।

ঘটনাটি অ্যানথ্রপিকের ৯ অক্টোবরের ‘মূল্যায়ন ও অভ্যন্তরীণ ব্যবহারে মডেলের অনিচ্ছাকৃত আচরণ তদন্ত’ শীর্ষক প্রতিবেদনে বর্ণিত কয়েকটি ঘটনার একটি। প্রতিবেদনে বাইরের ওয়েবসাইট ও ব্যবস্থার সঙ্গে মিথস্ক্রিয়ায় ক্লড মডেলগুলোর চার ধরনের অপ্রত্যাশিত আচরণ চিহ্নিত করা হয়েছে — যার মধ্যে একটি ক্ষেত্রে একটি মডেল বিশ্ববিদ্যালয়ের সার্ভারের সফটওয়্যার ত্রুটি কাজে লাগিয়ে কমান্ড চালিয়েছিল, কোনো মডেল ফি বা অ্যাক্সেস টোকেন লাগে এমন তথ্য পাওয়ার পথ বের করেছিল, আবার কোনো কোনো মডেল বাস্তব ফরমের বদলে অনুশীলনী সংস্করণ ব্যবহার করার কথা থাকলেও আসল ফরমই জমা দিয়েছিল।

ফিলাডেলফিয়ার এই ঘটনা তাই শুধু একটি ভুয়া তথ্যের গল্প নয়; এটি দেখিয়ে দিল, সরাসরি ইন্টারনেটে প্রবেশাধিকার পাওয়া এআই এজেন্টদের জন্য স্পষ্ট সীমানা ও মানুষের অনুমোদনের ধাপ কতটা জরুরি।