চ্যাটজিপিটির ভুল পরামর্শে ওষুধ ছাড়ার পর খিঁচুনিতে তরুণীর মৃত্যু, ওপেনএআইয়ের বিরুদ্ধে বাবা-মায়ের মামলা

কৃত্রিম বুদ্ধিমত্তার চ্যাটবট চ্যাটজিপিটির বিপজ্জনক পরামর্শ মেনে খিঁচুনি-বিরোধী ওষুধ কমাতে গিয়ে মৃগী খিঁচুনিতে এক তরুণীর মৃত্যুর ঘটনায় তাঁর বাবা-মা ওপেনএআইয়ের বিরুদ্ধে মামলা করেছেন। এ সপ্তাহের শুরুতে দায়ের করা মামলায় অভিযোগ করা হয়েছে, চ্যাটবটের দেওয়া পরামর্শই শেষ পর্যন্ত ওই তরুণীর মৃত্যুর কারণ হয়েছে।

নিহত তরুণীর নাম বোয়েন ওয়ান। ৩১ বছর বয়সী এই চীনা সফটওয়্যার প্রকৌশলী যুক্তরাষ্ট্রের সিয়াটলে থাকতেন। মামলার বিবরণ অনুযায়ী, অ্যামাজন থেকে চাকরি হারানোর পর তিনি চ্যাটজিপিটির কাছে পরামর্শ চান। স্থায়ী বসবাসের অনুমতি পেতে তাঁর নতুন চাকরি দরকার ছিল, আর তিনি মনে করছিলেন খিঁচুনি-বিরোধী ওষুধ ল্যামোট্রিজিন তাঁর ইংরেজি বলার ক্ষমতায় বাধা দিচ্ছে—সাক্ষাৎকারের জন্য যেই দক্ষতা তাঁর প্রয়োজন ছিল।

মামলায় বলা হয়েছে, চীনা ভাষায় যোগাযোগ করা চ্যাটবট তাঁকে ৪০০ মিলিগ্রাম ডোজ ধাপে ধাপে কমিয়ে শূন্যে নামানোর একটি সময়সূচি দেয়—যা কোনো চিকিৎসক নির্ধারণ করেননি। চ্যাটজিপিটি তাঁকে বলেছিল, এভাবে ডোজ কমালে তিনি ইংরেজি বলার ক্ষমতা ফিরে পাবেন, তা ‘অত্যন্ত সম্ভাব্য’।

অভিযোগপত্রে আরও বলা হয়েছে, বটটি তাঁকে চিকিৎসকদের এড়িয়ে চলতে উৎসাহিত করে এবং ‘ডাক্তারের কথা মানার চেয়ে চিকিৎসা স্বাধীনতা’ বেছে নিতে বলে। প্রাইমারি কেয়ার চিকিৎসকের সঙ্গে অ্যাপয়েন্টমেন্টের আগে বটটি তাঁকে বলেছিল, ‘ল্যাম (ওষুধ) কমানোর পরিকল্পনার কথা উল্লেখ করবেন না।’

ওষুধ কমানোর সময় ওয়ানের মধ্যে ফোকাল খিঁচুনির লক্ষণ দেখা দিতে শুরু করে। তিনি বটকে জিজ্ঞেস করেছিলেন, মস্তিষ্কের ক্ষতি নিয়ে তাঁর চিন্তা করা উচিত কি না। মামলা অনুযায়ী, টুলটি তাঁকে আশ্বস্ত করে যে তেমন কিছু হয়নি এবং তিনি যা অনুভব করেছেন তা খিঁচুনি নয়।

খিঁচুনি চলতে থাকলেও বট তাঁকে ওষুধ কমানো চালিয়ে যেতে বলে। এ বছরের ১২ ফেব্রুয়ারি তিনি খিঁচুনিতে মারা যান। চীনে থাকা তাঁর বাবা-মা তাঁর কোনো খোঁজ না পেয়ে সিয়াটলে উড়ে আসেন এবং ১৪ ফেব্রুয়ারি তাঁকে মৃত অবস্থায় পান বলে মামলায় উল্লেখ করা হয়েছে।

বাদীদের অভিযোগ, ওয়ানের মৃত্যু ওপেনএআই ঠেকাতে পারত, কিন্তু চীনা ভাষায় যোগাযোগের সময় বটটিতে যথাযথ সুরক্ষাব্যবস্থা তৈরি করা হয়নি। মামলায় বলা হয়েছে, ওপেনএআই বটটিকে এমনভাবে প্রোগ্রাম করতে পারত যেন ওয়ানের প্রতিটি বার্তায় একটি স্পষ্ট সতর্কবার্তা যায়—যেমন, ‘আমি লাইসেন্সপ্রাপ্ত চিকিৎসক নই। আপনার স্বাস্থ্যসেবা প্রদানকারীর পরামর্শ নিন।’

ওয়ানের বাবা-মা মেয়ের মৃত্যুর জন্য ক্ষতিপূরণ চেয়েছেন এবং ওপেনএআই যেন ‘লাইসেন্স ছাড়া’ তাদের পণ্যের ব্যবহারকারীদের ওপর চিকিৎসা পেশা চালাতে না পারে, তা ঠেকাতে চেয়েছেন।

ওপেনএআইয়ের মুখপাত্র ড্রু পুসাতেরি নিউ ইয়র্ক টাইমসকে বলেছেন, বোয়েনের ঘটনা ‘অবিশ্বাস্যরকম হৃদয়বিদারক’ একটি পরিস্থিতি, তবে ওয়ান চ্যাটজিপিটির এমন একটি সংস্করণ ব্যবহার করেছিলেন যা এখন আর পাওয়া যায় না। তাঁর ভাষ্য, নতুন সংস্করণগুলো কখন কোনো বিষয়ে জরুরি মনোযোগ দরকার, তা শনাক্ত করতে আরও ভালো।

পুসাতেরি আরও বলেন, ‘চ্যাটজিপিটি চিকিৎসা সেবার বিকল্প না হলেও আমরা বিশ্বাস করি, স্বাস্থ্য তথ্য বুঝতে, বীমা ও জটিল স্বাস্থ্যব্যবস্থা সামলাতে এবং চিকিৎসকদের সঙ্গে সাক্ষাতের প্রস্তুতিতে এআই মানুষকে সাহায্য করতে পারে।’

ওপেনএআইয়ের বিরুদ্ধে এ ধরনের অভিযোগ এটাই প্রথম নয়। আরও কয়েকজন অভিযোগ করেছেন, বট তাঁদের প্রিয়জনদের আত্মহত্যায় উৎসাহিত করেছে; কয়েকটি মামলায় বলা হয়েছে, বট কিশোরদের আত্মহত্যায় উৎসাহ দিয়েছে এবং কীভাবে তা করতে হয়, সেই নির্দেশনাও দিয়েছে।