پچھلے سال اکتوبر میں فرانسیسا مانی اپنی والدہ ڈوروٹا کے لیے تباہ کن خبر لے کر نیو جرسی کے مضافاتی علاقے میں اسکول سے گھر آئی تھیں۔
اس سے پہلے دن میں 14 سالہ نوجوان کو وائس پرنسپل کے دفتر میں بلایا گیا تھا اور بتایا گیا تھا کہ وہ اور ویسٹ فیلڈ ہائی میں لڑکیوں کا ایک گروپ ساتھی طالب علم کے ذریعہ ٹارگٹ بدسلوکی کا نشانہ بنی تھیں۔
اس کی اور دوسروں کی جعلی عریاں تصاویر اسکول کے گرد گردش کر رہی تھیں۔ وہ مصنوعی ذہانت سے تیار کیے گئے تھے۔
ڈوروٹا اس نسبتاً نئی ٹکنالوجی کی طاقت سے بخوبی واقف تھی، لیکن جس آسانی کے ساتھ تصاویر تیار کی گئیں اس نے اسے حیران کردیا۔
“میں نہیں جانتی تھی کہ یہ کتنی جلدی ہو سکتا ہے، صرف ایک تصویر کے ساتھ،” اس نے یاد کیا۔ “کہ یہ کسی کے ساتھ، کسی کے ذریعے، بٹن کے کلک سے ہو سکتا ہے۔”
ایک مختلف خاندان کی جانب سے حال ہی میں دائر کیے گئے وفاقی مقدمے کے مطابق، ویسٹ فیلڈ ہائی میں واضح تصاویر کپڑا بند نامی ایپ کے استعمال کے ذریعے بنائی گئی تھیں، جو کہ رازداری کی گہری تہہ کے تحت کام کرتی ہے۔
لیکن چھ ماہ کی تحقیقات، بلیک باکس نامی گارڈین کی پوڈ کاسٹ سیریز کے ایک حصے میں، اس ایپ سے وابستہ کئی لوگوں کے ناموں کا انکشاف ہوا ہے، جنہیں ماہانہ لاکھوں وزٹ ملتے ہیں، اس کی ابتدا بیلاروس اور روس سے ہوتی ہے۔
جیسے ہی اکتوبر کی دوپہر کا صدمہ کم ہوا، فرانسسکا مانی نے آنسو پونچھے اور فیصلہ کیا کہ وہ عوام میں جا کر کارروائی کرے گی۔ ماں اور بیٹی اپنے اسکول بورڈ کے جواب سے مطمئن نہیں تھیں، اور مایوس ہوئیں کہ، چونکہ کوئی قانون موجود نہیں تھا، اس لیے اس بات کا امکان نہیں تھا کہ مبینہ مجرموں کو مجرمانہ طور پر ذمہ دار ٹھہرایا جائے گا۔
“مجھے کچھ کرنا ہے،” فرانسسکا نے اپنی ماں سے کہا۔ “یہ ٹھیک نہیں ہے اور میں اس کا شکار نہیں ہوں گا۔”
اس کے بعد سے اس جوڑے نے واشنگٹن کے کئی دورے کیے ہیں، جن میں گزشتہ ہفتے اسٹیٹ آف دی یونین خطاب بھی شامل ہے۔ وہ ایک ساتھ کیبل نیوز پر نمودار ہوئے ہیں اور انہیں نیو جرسی اور DC دونوں میں قانون سازوں نے امریکہ میں غیر متفقہ، جنسی طور پر واضح گہرے جعلی جعلی بنانے والوں کو قانونی طور پر جوابدہ رکھنے کے لیے نئی قانون سازی کے لیے اتپریرک کے طور پر حوالہ دیا ہے۔
ویسٹ فیلڈ میں کیس، اور اس جیسے دیگر، نے وفاقی اور ریاستی قوانین میں بڑھتے ہوئے خلاء کو بے نقاب کیا ہے کہ سیاسی گلیارے کے دونوں اطراف کے قانون ساز اس بات پر متفق ہیں کہ لوگوں کو، خاص طور پر نابالغوں کو، واضح AI گہری جعلی کے تیزی سے پھیلنے سے بچانے کے لیے کافی کام نہیں کرتے۔
نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن [این سی ایم ای سی] کے چیف قانونی مشیر، سورس کا بیٹا نے کہا، “ان ایپس کے ارد گرد ایک انوکھا خطرہ ہے۔” “کیونکہ متاثرین کا حجم وہ بہت کم وقت میں پیدا کر سکتے ہیں بہت زیادہ ہے۔”
این سی ایم ای سی منی فیملی کے ساتھ براہ راست کام کر رہا ہے کیونکہ وہ یہ دیکھنے کی کوشش کر رہے ہیں کہ آیا ویسٹ فیلڈ ہائی پر بنائی گئی کوئی بھی تصویر مزید آن لائن گردش کر رہی ہے۔
متاثرین کے والدین کو اسکول حکام کی جانب سے یقین دہانی کرائی گئی کہ ڈیپ فیکس کو حذف کردیا گیا ہے، لیکن اسکول نے عوامی طور پر یہ نہیں بتایا کہ کتنے طلبہ متاثر ہوئے۔
ویسٹ فیلڈ پبلک اسکول ڈسٹرکٹ نے کہا کہ اس نے جیسے ہی اس واقعے کی تحقیقات شروع کیں اور اسے “سپورٹ کے خواہاں طلباء” کو مشاورت فراہم کی گئی۔
سپرنٹنڈنٹ ڈاکٹر ریمنڈ گونزالیز نے کہا، “تمام اسکولی اضلاع مصنوعی ذہانت اور طلباء کے لیے کسی بھی وقت اور کہیں بھی دستیاب دیگر ٹیکنالوجی کے چیلنجوں اور اثرات سے نبرد آزما ہیں،” جنہوں نے مزید کہا کہ ضلع “تعلیم” کے ذریعے مستقبل میں ہونے والے واقعات کو روکنے کے لیے کوششوں کو مضبوط بنا رہا ہے۔ ہمارے طلباء اور اس بات کو یقینی بنانے کے لیے واضح رہنما خطوط قائم کرنا کہ ان نئی ٹیکنالوجیز کو ہمارے اسکولوں اور اس سے باہر ذمہ داری کے ساتھ استعمال کیا جائے۔
کپڑا بند نے اس بات کی تردید کی ہے کہ اس کے پلیٹ فارم کو نیو جرسی کیس میں استعمال کیا گیا تھا، اور تجویز کیا کہ یہ ایک مدمقابل ایپ ہو سکتی ہے لیکن اس دعوے کو ثابت کرنے کے لیے کوئی ثبوت فراہم نہیں کیا۔
عوامی سطح پر بولنے کے فوراً بعد، ماں اور بیٹی کو کانگریس میں ایک بل متعارف کرانے کے لیے واشنگٹن مدعو کیا گیا، جو کہ پریونٹنگ ڈیپ فیکس آف انٹیمیٹ امیجز ایکٹ ہے۔
قانون سازی AI سے تیار کردہ تصاویر کے غیر متفقہ افشاء کو ممنوع قرار دے کر ان کا اشتراک کرنا مجرمانہ جرم بناتی ہے، نیز متاثرین کو وفاقی عدالت میں دیوانی کارروائی کرنے کے حقوق فراہم کرتی ہے۔
ڈوروٹا اس ہفتے ایک ذیلی کمیٹی کی سماعت کے لیے دوبارہ کیپیٹل کا دورہ کرے گی جس میں “گہری جعلیوں کے ذریعے حقیقی نقصان کا ازالہ” کیا جائے گا، جبکہ ایک اور بل، جسے ریپبلکن کانگریس مین ٹام کین جونیئر نے متعارف کرایا ہے، جو خاندان کے ضلع کی نمائندگی کرتا ہے، AI مواد کے لیے لیبلنگ کے قوانین بنانے کی کوشش کرتا ہے۔ تمیز کرنا آسان بنائیں۔
“صرف اس لیے کہ میں نوعمر ہوں اس کا یہ مطلب نہیں کہ میری آواز طاقتور نہیں ہے،” فرانسسکا نے واشنگٹن میں قانون سازی کی نقاب کشائی کے وقت کہا۔ “خاموش رہنا؟ کوئی آپشن نہیں۔”
دونوں بلوں اور ان کے سینیٹ کے ہم منصبوں کو دو طرفہ حمایت حاصل ہے، لیکن ایک ایوان جس میں متعصبانہ امور پر توجہ مرکوز کی گئی ہے، بشمول صدر، جو بائیڈن کی طرف مواخذے کی انکوائریاں، ڈوروٹا مانی کو احساس ہے کہ وفاقی سطح پر قانون سازی ابھی ابتدائی مراحل میں ہے۔
“کیا میں مایوس ہوں؟ نہیں کیونکہ یہ ہماری حکومت ہے – اس نے ہمیشہ اس طرح کام کیا ہے،‘‘ انہوں نے کہا۔ “اسی لیے میں سیاست دان نہیں ہوں۔ اس لیے یہ میری پہلی اور آخری مہم ہے۔‘‘
این سی ایم ای سی کے زیر انتظام ڈیٹا بیس کے مطابق، پھر بھی، کم از کم پانچ امریکی ریاستوں نے تقریباً 20 متعارف قانون سازی کے ساتھ واضح گہری جعلی کے استعمال کو روکنے کے لیے پہلے ہی قوانین نافذ کیے ہیں۔
نیو جرسی میں، ویسٹ فیلڈ ہائی میں واقعہ کے بعد متعارف کرائے گئے ایک بل نے گزشتہ جمعہ کو دو طرفہ حمایت کے ساتھ سینیٹ کی ایک کمیٹی کو منظوری دی۔
ایک پولش تارکین وطن، جو 1990 کی دہائی میں کالج کے لیے امریکہ آیا تھا، مانی ایک امیر کاروباری شخص ہے جس نے ایک مقامی پری اسکول اکیڈمی کی بنیاد رکھی اور انٹیریئر ڈیزائن کا کاروبار چلاتے ہیں۔ وہ اس بارے میں بھی کھل کر بات کرتی ہیں کہ کس طرح مالی استحقاق نے ان کی مہم میں مدد کی ہے، جس نے کانگریس میں دو طرفہ تعریف کی ہے۔
نیویارک کے کانگریس مین جو موریل کے ترجمان، جنہوں نے پریونٹنگ ڈیپ فیکس آف انٹیمیٹ امیجز ایکٹ متعارف کرایا، نے کہا کہ ماں اور بیٹی نے “اپنے صدمے کو لے لیا اور اسے سخت وکالت میں تبدیل کر دیا تاکہ یہ یقینی بنایا جا سکے کہ مزید خواتین کو اس تکلیف سے دوچار نہ ہونا پڑے جو فرانسسکا کے پاس گئی تھی۔ کے ذریعے”
ترجمان نے مزید کہا کہ گارڈین کی حالیہ رپورٹنگ جو کپڑا بند ایپ سے وابستہ کچھ افراد کو ظاہر کرتی ہے “اس بات کی نشاندہی کرتی ہے کہ لوگوں کو اس حقیر رویے کے لیے جوابدہ ٹھہرانے کے لیے فوجداری اور دیوانی دونوں سزائیں کیوں ہونی چاہئیں”۔
“ہمیں لوگوں کو ڈیپ فیکس بنانے اور یقینی طور پر ان سے فائدہ اٹھانے سے روکنے کے لیے مضبوط رکاوٹیں قائم کرنی چاہئیں۔”
لیکن نیو جرسی میں واقعہ ریاستہائے متحدہ میں الگ تھلگ نہیں تھا۔ پچھلے ہفتے بیورلی ہلز کے ایک مڈل اسکول نے پانچ طلباء کو نکال دیا جنہوں نے AI سے تیار کردہ گہری جعلی واضح تصاویر بنا کر آٹھویں جماعت کے 16 طلباء کو نشانہ بنایا۔ اسکول بورڈ کے ترجمان اس بات پر تبصرہ نہیں کریں گے کہ تصاویر بنانے کے لیے کس مخصوص ایپ کا استعمال کیا گیا تھا۔
بیورلی ہلز یونیفائیڈ اسکول ڈسٹرکٹ کے سپرنٹنڈنٹ ڈاکٹر مائیکل بریگی نے کہا، “یہ ابھرتی ہوئی ٹیکنالوجی ہر عمر کے افراد کے لیے زیادہ سے زیادہ قابل رسائی ہوتی جا رہی ہے۔”
“ہم اے آئی کے کسی بھی غلط استعمال سے خوفزدہ ہیں اور ہمیں معاشرے کے سب سے کمزور ارکان، اپنے بچوں کی حفاظت کرنی چاہیے۔”
گزشتہ سال دسمبر میں پنکرسٹ کوو اکیڈمی کے دو طالب علموں کو کئی ہم جماعت کی عریاں تصاویر بنانے پر معطل کر دیا گیا تھا۔ s ایک ایپ استعمال کر رہی ہے جس کا نام مقامی پولیس نہیں ہے۔
اور اسقوہ، واشنگٹن میں ایک 14 سالہ مرد طالب علم سے پولیس نے اسکول کے پروگراموں میں لی گئی تصاویر کا استعمال کرتے ہوئے کئی خواتین ہم جماعتوں کی عریاں تصاویر بنانے پر تفتیش کی، بعد میں انہیں سنیپ چیٹ کے ذریعے شیئر کیا، گارڈین کی جانب سے جائزہ کی گئی پولیس رپورٹ کے مطابق، جس میں استعمال میں ایپ کا نام نہیں ہے۔
مانی نے کہا کہ اس نے ملک بھر میں کئی جگہوں پر والدین سے سنا ہے، جن میں وہ علاقے بھی شامل ہیں جن کی میڈیا میں رپورٹ نہیں ہوئی تھی۔
“بہت سے لوگ جو کچھ ہوا اس کے ساتھ عوامی سطح پر جانے میں آسانی محسوس نہیں کرتے،” انہوں نے کہا۔ “کیونکہ، میرے اسکول کی طرح، وہ مسلسل سن رہے ہیں کہ کچھ نہیں کیا جا سکتا۔”
یہ پوچھے جانے پر کہ اس ایپ کے پیچھے ان لوگوں کے لیے کیا پیغام ہوگا جو مبینہ طور پر اس کی بیٹی اور اس کے ہم جماعتوں کو نشانہ بناتے تھے، مانی نے براہ راست کہا: “ان پر شرم آنی چاہیے۔ وہ صرف پیسہ کما رہے ہیں۔”
لیکن فوری طور پر، اس نے اپنی مہم کے اگلے مرحلے میں ایپل، گوگل اور ایمیزون جیسے پلیٹ فارمز اور پے پال، ایمیکس اور ویزا جیسے مالیاتی اداروں کو نشانہ بنانے کی طرف اشارہ کیا جس کے بارے میں اس نے کہا کہ آخر کار ایسی ٹیکنالوجی کو ترقی کی اجازت دی گئی۔
