الصورة: راشميكا ماندانا / إنستغرام
كان هناك نجم بوليوود يرتدي ملابس ضيقة من الليكرا، والسياسية البنغلاديشية التي تم تصويرها بالبيكيني، والشابة الباكستانية التي التقطت صورها مع رجل.
لم تكن أي منها حقيقية، ولكن الصور الثلاث كانت ذات مصداقية كافية لإطلاق العنان للشهوة والنقد اللاذع ــ بل وحتى جريمة قتل مزعومة، مما يؤكد على تعقيد الذكاء الاصطناعي التوليدي، والتهديدات التي يشكلها على النساء في جميع أنحاء آسيا.
كان مقطعا الفيديو والصورة مزيفين للغاية، وانتشرا على نطاق واسع في مشهد وسائل التواصل الاجتماعي النابض بالحياة الذي يكافح من أجل التعامل مع التكنولوجيا التي لديها القدرة على إنشاء نسخ مقنعة يمكن أن تقلب الحياة الحقيقية رأسًا على عقب.
وقالت الممثلة الهندية راشميكا ماندانا في منشور على موقع X، تويتر سابقًا، والذي حصد أكثر من 6.2 مليون مشاهدة: “نحن بحاجة إلى معالجة هذا كمجتمع وبشكل عاجل قبل أن يتأثر المزيد منا بسرقة الهوية هذه”.
وهي ليست نجمة بوليوود الوحيدة التي تم استنساخها والهجوم عليها على وسائل التواصل الاجتماعي، حيث تم استهداف كبار الممثلين بما في ذلك كاترينا كايف وعليا بهات وديبيكا بادوكون أيضًا بالتزييف العميق.
وقال ماندانا إن مقطع الفيديو المصنوع من الليكرا كان “مخيفًا للغاية ليس بالنسبة لي فحسب، بل أيضًا لكل واحد منا الذي أصبح اليوم عرضة للكثير من الأذى بسبب كيفية إساءة استخدام التكنولوجيا”.
في حين كان من السهل اكتشاف الصور ومقاطع الفيديو التي تم التلاعب بها رقميًا للنساء، والتي عادة ما تكون كامنة في الزوايا المظلمة للإنترنت، فإن الانفجار في أدوات الذكاء الاصطناعي التوليدية مثل Midjourney وStable Diffusion وDALL-E جعل إنشاءها وتعميمها أمرًا سهلاً ورخيصًا. التزييف العميق المقنع.
أكثر من 90% من مقاطع الفيديو المزيفة على الإنترنت هي مواد إباحية، وفقًا لخبراء التكنولوجيا، ومعظمها من النساء.
وفي حين لا توجد بيانات منفصلة لدول جنوب آسيا، يقول خبراء الحقوق الرقمية إن هذه القضية تمثل تحديًا خاصًا في المجتمعات المحافظة، حيث تتعرض النساء منذ فترة طويلة للتحرش عبر الإنترنت، ويظل الانتهاك دون عقاب إلى حد كبير.
وتكافح شركات وسائل التواصل الاجتماعي لمواكبة ذلك.
قامت منصات YouTube وMeta التابعة لشركة Google – والتي تمتلك Facebook وInstagram وWhatsApp – بتحديث سياساتها، مما يتطلب من المبدعين والمعلنين تصنيف جميع المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي.
وقال رومان شودري، خبير الذكاء الاصطناعي بجامعة هارفارد والذي عمل سابقًا على الحد من الأضرار على تويتر، إن المسؤولية تقع إلى حد كبير على عاتق الضحايا – عادة الفتيات والنساء – لاتخاذ الإجراءات اللازمة.
وقالت: “من المؤسف أن الذكاء الاصطناعي التوليدي سيزيد من التحرش عبر الإنترنت والمحتوى الضار … والنساء هن طيور الكناري في منجم الفحم. فهن أول من يتأثر، ومن يتم اختبار التقنيات عليهن”.
وقال تشودري في مؤتمر صحفي عقد مؤخرا بالأمم المتحدة: “إنها إشارة إلى بقية العالم لكي ينتبهوا، لأنها تأتي للجميع”.
التزييف العميق والقانون
مع انتشار تقنية التزييف العميق في جميع أنحاء العالم، هناك مخاوف متزايدة – وحالات متزايدة – من استخدامها في المضايقات والاحتيال والابتزاز الجنسي.
وكانت اللوائح بطيئة في المتابعة.
ويتطرق الأمر التنفيذي الأمريكي بشأن الذكاء الاصطناعي إلى المخاطر التي تشكلها التزييف العميق، في حين سيتطلب قانون الذكاء الاصطناعي المقترح من الاتحاد الأوروبي قدرا أكبر من الشفافية والإفصاح من مقدمي الخدمة.
وفي الشهر الماضي، كشفت 18 دولة – بما في ذلك الولايات المتحدة وبريطانيا – عن اتفاق غير ملزم بشأن الحفاظ على سلامة الجمهور الأوسع من إساءة استخدام الذكاء الاصطناعي، بما في ذلك التزييف العميق.
من بين الدول الآسيوية، تطلب الصين من مقدمي الخدمة استخدام العلامات المائية والإبلاغ عن التزييف العميق غير القانوني، في حين جعلت كوريا الجنوبية من غير القانوني توزيع التزييف العميق الذي يضر “المصلحة العامة”، مع احتمال السجن أو الغرامات.
وتتخذ الهند موقفاً متشدداً أثناء صياغة قواعد جديدة.
قال وزير تكنولوجيا المعلومات أشويني فايشناو إن شركات وسائل التواصل الاجتماعي يجب أن تقوم بإزالة التزييف العميق خلال 36 ساعة من تلقي الإشعار، أو المخاطرة بفقدان وضع الملاذ الآمن الذي يحميها من المسؤولية عن محتوى الطرف الثالث.
لكن مالافيكا راجكومار، من مجموعة المناصرة “تكنولوجيا المعلومات من أجل التغيير”، قالت إن التركيز يجب أن يكون على “التخفيف من حدة الحوادث ومنعها، بدلا من الاستجابات التفاعلية”.
وأضاف راجكومار أنه بينما أشارت الحكومة الهندية إلى أنها قد تجبر مقدمي الخدمات والمنصات على الكشف عن هوية منشئي التزييف العميق، فإن “تحقيق التوازن بين حماية الخصوصية ومنع إساءة الاستخدام أمر أساسي”.
استهدفت النساء
يقول نشطاء حقوق الإنسان إن التزييف العميق للنساء والمجتمعات الضعيفة الأخرى مثل الأشخاص من مجتمع المثليين – وخاصة الصور ومقاطع الفيديو الجنسية – يمكن أن يكون خطيرًا بشكل خاص في المجتمعات شديدة التدين أو المحافظة.
وفي بنجلاديش، ظهرت مقاطع فيديو مزيفة لسياسيات معارضات – رومين فرحانة بالبكيني ونيبون روي في حمام السباحة – قبل الانتخابات المقررة في 7 يناير.
وفي الشهر الماضي، زُعم أن امرأة تبلغ من العمر 18 عامًا قُتلت بالرصاص على يد والدها وعمها فيما يسمى بجريمة شرف في مقاطعة كوهستان النائية في باكستان، بعد أن انتشرت صورة لها مع رجل. وتقول الشرطة إن الصورة تم التلاعب بها.
قالت شاهزادي راي، وهي عضوة متحولة جنسيًا في المجلس البلدي في كراتشي الباكستانية، والتي كانت هدفًا للتصيد المسيء بصور مزيفة، إن ذلك قد يؤدي إلى تفاقم العنف القائم على النوع الاجتماعي عبر الإنترنت و”تعريض حياتها المهنية للخطر بشكل خطير”.
وقال نيغات داد، مؤسس مؤسسة الحقوق الرقمية غير الربحية في باكستان، إنه حتى لو كان الجمهور قادرًا على التمييز بين الصورة الحقيقية والصورة المزيفة، فإن نزاهة المرأة موضع شك، وقد تتضرر مصداقيتها.
وقالت: “إن التهديد الذي يتعرض له خصوصية المرأة وسلامتها أمر مقلق للغاية”، خاصة مع تزايد حملات التضليل قبل الانتخابات المقرر إجراؤها في 8 فبراير.
وقالت: “إن التزييف العميق يخلق بيئة غير آمنة على نحو متزايد على الإنترنت للنساء، حتى الشخصيات غير العامة، وقد يثني النساء عن المشاركة في السياسة والمساحات عبر الإنترنت”.
وجد تقرير حديث أنه في العديد من البلدان، بما في ذلك الهند، تؤثر التحيزات الراسخة بين الجنسين بالفعل على قدرة الفتيات والشابات على استخدام الإنترنت.
وقال راجكومار إن التزييف العميق لنجوم بوليوود الأقوياء يؤكد فقط الخطر الذي يشكله الذكاء الاصطناعي على جميع النساء.
وقالت: “لقد أثرت التزييف العميق على النساء والمجتمعات الضعيفة لفترة طويلة، ولم تكتسب اهتمامًا واسع النطاق إلا بعد استهداف الممثلات المشهورات”.
وأضافت أن التركيز المتزايد الآن يجب أن يدفع “المنصات وصانعي السياسات والمجتمع ككل إلى خلق بيئة أكثر أمانًا وشمولاً عبر الإنترنت”.
