ایک زمانے میں، خواتین کی ڈیجیٹل طور پر تبدیل شدہ تصاویر اور ویڈیوز عام طور پر انٹرنیٹ کے تاریک گوشے ہوتے تھے، لیکن اب جب کہ جنریٹیو AI ٹولز جیسے کہ Midjourney، Stable Diffusion اور DALL-E عام لوگوں کی پہنچ میں ہیں، ان کی نامناسب جعلی ویڈیوز خواتین یا تصاویر بنانا اور تقسیم کرنا آسان ہو گیا ہے۔ٹیک ماہرین کے مطابق، 90 فیصد سے زیادہ ڈیپ فیک ویڈیوز آن لائن فحش پر مبنی ہیں، جن میں زیادہ تر خواتین ہیں۔
اگرچہ گوگل، یوٹیوب اور میٹا پلیٹ فارمز نے اپنی پالیسیوں کو اپ ڈیٹ کیا ہے اور اپنے تخلیق کاروں اور مشتہرین کو ہدایت کی ہے کہ وہ تمام AI سے تیار کردہ مواد پر لیبل لگائیں، تاہم ہارورڈ یونیورسٹی کے مصنوعی ذہانت کے ماہر رومن چوہدری نے کہا کہ اس سلسلے میں زیادہ ذمہ داری خواتین عائد ہوتی جنہیں محتاط رہنے کی ضرورت ہے اور اگر کوئی ان کے خلاف نامناسب مواد دیکھے تو فوری کارروائی کریں۔
امریکہ کا ایک حالیہ ایگزیکٹو آرڈر جعلی AI سے تیار کردہ تصاویر/ویڈیوز کے خطرے سے نمٹنے پر توجہ مرکوز کرتا ہے، جبکہ EU کا مجوزہ AI ایکٹ ٹیکنالوجی میں زیادہ شفافیت کا مطالبہ کرتا ہے۔گزشتہ ماہ، امریکہ اور برطانیہ سمیت 18 ممالک نے عوام کو بڑے پیمانے پر AI کے غلط استعمال سے بچانے کے لیے ایک معاہدے پر دستخط کیے، جس کا مقصد جعلی تصاویر یا ویڈیوز سمیت اس کے غلط استعمال کو روکنا ہے۔