নাবালকদের যৌনায়িত ডিপফেক তৈরির অভিযোগে ব্যবহারকারীর বিরুদ্ধে মামলা করল xAI

যুক্তরাষ্ট্রের প্রযুক্তি উদ্যোক্তা ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা (এআই) প্রতিষ্ঠান xAI তাদের প্ল্যাটফর্মের এক ব্যবহারকারীর বিরুদ্ধে মামলা করেছে। অভিযোগ, ওই ব্যক্তি কোম্পানির নিরাপত্তা ব্যবস্থা এড়িয়ে নাবালকদের নিয়ে যৌন প্রকৃতির ডিপফেক ছবি তৈরিতে এআই টুলের অপব্যবহার করেছেন।

মঙ্গলবার টেক্সাসের একটি ফেডারেল আদালতে দায়ের করা মামলায় বলা হয়েছে, সাউথ ক্যারোলাইনার বাসিন্দা টেরি হারউড ইচ্ছাকৃতভাবে xAI-এর সেবার শর্তাবলি লঙ্ঘন করেছেন। চলতি বছরের শুরুতে নাবালকদের যৌন শোষণের অভিযোগে তাকে গ্রেপ্তার করা হয়েছিল।

আদালতে জমা দেওয়া ১২ পৃষ্ঠার অভিযোগপত্রে xAI দাবি করেছে, হারউড একাধিক ভুয়া পরিচয় ব্যবহার করে বিভিন্ন অ্যাকাউন্ট খুলেছিলেন। কোম্পানির টার্মস অব সার্ভিস ও গ্রহণযোগ্য ব্যবহার নীতিমালা মেনে চলার অঙ্গীকার করার পরও তিনি বিভ্রান্তিকর নির্দেশনা বা ‘প্রম্পট’ ব্যবহার করে গ্রোক (Grok) এআই-এর নিরাপত্তা ব্যবস্থা পাশ কাটানোর চেষ্টা করেন।

মামলায় আরও বলা হয়, অভিযুক্ত ব্যক্তি প্রাপ্তবয়স্ক ও অপ্রাপ্তবয়স্ক উভয়েরই সাধারণ ছবি আপলোড করে সেগুলোকে যৌনায়িত ডিপফেক ছবিতে রূপান্তরের চেষ্টা করেন। যদিও গ্রোকের কনটেন্ট মডারেশন ব্যবস্থা একাধিকবার এমন অনুরোধ প্রত্যাখ্যান করে, তবুও তিনি বিভিন্নভাবে প্রম্পট পরিবর্তন করে নিরাপত্তা বিধিনিষেধ এড়ানোর চেষ্টা চালিয়ে যান।

xAI আদালতের কাছে আর্থিক ক্ষতিপূরণ দাবি করেছে, যদিও নির্দিষ্ট অর্থের পরিমাণ উল্লেখ করা হয়নি। পাশাপাশি হারউডকে স্থায়ীভাবে প্ল্যাটফর্ম ব্যবহার থেকে নিষিদ্ধ করার নির্দেশনাও চেয়েছে প্রতিষ্ঠানটি। বর্তমানে গ্রোক প্ল্যাটফর্মের ব্যবহারকারী সংখ্যা ২৬ লাখের বেশি বলে জানানো হয়েছে।

প্রতিষ্ঠানটির দাবি, এটি কোনো এআই কোম্পানির পক্ষ থেকে নিজস্ব ব্যবহারকারীর বিরুদ্ধে করা প্রথম মামলা। একই সঙ্গে শিশু ও নাবালকদের নিয়ে যৌনায়িত কনটেন্ট তৈরির সক্ষমতা নিয়ে বিশ্বব্যাপী যে সমালোচনার মুখে xAI রয়েছে, তার মধ্যেই এই আইনি পদক্ষেপ নেওয়া হয়েছে।

সম্প্রতি গ্রোককে ঘিরে যুক্তরাষ্ট্র, ইউরোপসহ বিভিন্ন অঞ্চলে নিয়ন্ত্রক সংস্থাগুলোর নজরদারি বেড়েছে। যৌন প্রকৃতির কনটেন্ট তৈরির সক্ষমতা নিয়ে মালয়েশিয়া ও ইন্দোনেশিয়ায়ও প্ল্যাটফর্মটি নিষেধাজ্ঞার মুখে পড়েছে।

চলতি বছরের জানুয়ারিতে শিশুদের নগ্ন বা যৌনায়িত এআই-নির্ভর ছবি তৈরির অভিযোগ অস্বীকার করেছিলেন ইলন মাস্ক। সে সময় সামাজিক যোগাযোগমাধ্যম এক্সে তিনি লিখেছিলেন, “গ্রোকের মাধ্যমে কোনো নাবালকের নগ্ন ছবি তৈরি হয়েছে—এমন কোনো তথ্য আমার জানা নেই। সংখ্যা শূন্য।”

তবে মামলায় xAI উল্লেখ করেছে, তারা নিয়ম ভঙ্গকারীদের বিরুদ্ধে অ্যাকাউন্ট স্থগিত, অ্যাকাউন্ট বাতিল এবং শিশু যৌন নির্যাতনসংক্রান্ত সন্দেহজনক কনটেন্টের তথ্য যুক্তরাষ্ট্রের ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়টেড চিলড্রেন (NCMEC)-এর কাছে পাঠিয়ে থাকে।

প্রতিষ্ঠানটির তথ্যমতে, ২০২৬ সালে তারা ৫২ হাজারের বেশি অ্যাকাউন্ট স্থগিত করেছে এবং ৭৩ হাজারের বেশি অভিযোগ সংশ্লিষ্ট কর্তৃপক্ষের কাছে জমা দিয়েছে। এসব তথ্যের ভিত্তিতে চলতি বছর প্রায় ২৫০ জনকে গ্রেপ্তার করা হয়েছে বলেও অভিযোগপত্রে উল্লেখ করা হয়েছে।