تايلور سويفت. – ملف أب
ضربت آفة الصور الإباحية العميقة التي تم إنشاؤها بواسطة الذكاء الاصطناعي وإضفاء الطابع الجنسي على الأشخاص دون موافقتهم، ضحيتها الأكثر شهرة، المغنية تايلور سويفت، مما لفت الانتباه إلى مشكلة كافحت منصات التكنولوجيا ومجموعات مكافحة إساءة الاستخدام لحلها.
بدأت الصور الجنسية الصريحة والمسيئة لسويفت في الانتشار على نطاق واسع هذا الأسبوع على منصة التواصل الاجتماعي X.
وسرعان ما تم حشد قاعدتها الجماهيرية المتحمسة لـ “Swifties”، وشنت هجومًا مضادًا على المنصة المعروفة سابقًا باسم Twitter وهاشتاج #ProtectTaylorSwift لإغراقها بصور أكثر إيجابية لنجمة البوب. قال البعض إنهم كانوا يقومون بالإبلاغ عن الحسابات التي كانت تشارك التزييف العميق.
كن على اطلاع على اخر الاخبار. اتبع KT على قنوات WhatsApp.
قالت مجموعة Reality Defender للكشف عن التزييف العميق، إنها تتبعت طوفانًا من المواد الإباحية غير التوافقية التي تصور سويفت، خاصة على X. كما شقت بعض الصور طريقها إلى فيسبوك المملوك لشركة ميتا ومنصات التواصل الاجتماعي الأخرى.
وقال ميسون ألين، رئيس قسم النمو في شركة Reality Defender: “لسوء الحظ، انتشرت هذه البرامج إلى ملايين وملايين المستخدمين في الوقت الذي تمت فيه إزالة بعضها”.
وجد الباحثون ما لا يقل عن اثنتي عشرة صورة فريدة من نوعها تم إنشاؤها بواسطة الذكاء الاصطناعي. وكانت الصور الأكثر مشاركةً على نطاق واسع مرتبطة بكرة القدم، حيث أظهرت سويفت مرسومة أو ملطخة بالدماء مما جعلها تشييء، وفي بعض الحالات ألحق ضررًا عنيفًا بشخصيتها المزيفة.
قال الباحثون إن عدد التزييف العميق الصريح زاد في السنوات القليلة الماضية، حيث أصبحت التكنولوجيا المستخدمة لإنتاج مثل هذه الصور أكثر سهولة في الوصول إليها وأسهل في الاستخدام. في عام 2019، أظهر تقرير أصدرته شركة DeepTrace Labs للذكاء الاصطناعي أن هذه الصور تم استخدامها بشكل كبير كسلاح ضد النساء. وأضافت أن معظم الضحايا كانوا ممثلين في هوليوود ومغنيي موسيقى البوب الكورية الجنوبية.
عند الوصول للتعليق على الصور المزيفة لـ Swift، وجه X وكالة AP إلى منشور من حساب الأمان الخاص بها يفيد بأن الشركة تحظر بشدة مشاركة الصور العارية غير التوافقية على منصتها.
وكتبت الشركة في منشور X في وقت مبكر من صباح الجمعة: “تقوم فرقنا بإزالة جميع الصور التي تم تحديدها بشكل فعال واتخاذ الإجراءات المناسبة ضد الحسابات المسؤولة عن نشرها”. “نحن نراقب الوضع عن كثب للتأكد من معالجة أي انتهاكات أخرى على الفور، وإزالة المحتوى.”
وفي الوقت نفسه، قالت شركة ميتا في بيان لها إنها تدين بشدة “المحتوى الذي ظهر عبر خدمات الإنترنت المختلفة” وعملت على إزالته.
وقالت الشركة: “نحن نواصل مراقبة منصاتنا بحثًا عن هذا المحتوى المخالف وسنتخذ الإجراء المناسب حسب الحاجة”.
ولم يستجب ممثل Swift على الفور لطلب التعليق يوم الجمعة.
وقال ألين إن الباحثين واثقون بنسبة 90% من أن الصور تم إنشاؤها بواسطة نماذج الانتشار، وهي نوع من نماذج الذكاء الاصطناعي التوليدي التي يمكنها إنتاج صور جديدة وواقعية من المطالبات المكتوبة. الأكثر شهرة هي Stable Diffusion، وMidjourney، وDALL-E من OpenAI. لم تحاول مجموعة ألين تحديد المصدر.
وأشار المشرعون الفيدراليون الذين قدموا مشاريع قوانين لوضع المزيد من القيود أو تجريم المواد الإباحية العميقة، إلى أن الحادث يوضح سبب حاجة الولايات المتحدة إلى تنفيذ حماية أفضل.
وقالت النائبة الأمريكية إيفيت دي كلارك، وهي ديمقراطية من نيويورك، والتي قدمت تشريعًا يطالب المبدعين: “على مدى سنوات، كانت النساء ضحايا للتزييف العميق غير التوافقي، لذا فإن ما حدث لتايلور سويفت أكثر شيوعًا مما يعتقد معظم الناس”. محتوى مزيف للعلامة المائية الرقمية.
قال كلارك: “تساعد تقنية Generation-AI في إنشاء صور مزيفة أفضل بجزء بسيط من التكلفة”.
وقال النائب الأمريكي جو موريل، وهو ديمقراطي آخر من نيويورك يدفع بمشروع قانون يجرم مشاركة المواد الإباحية العميقة عبر الإنترنت، إن ما حدث لسويفت كان مثيرًا للقلق وأصبح منتشرًا بشكل متزايد عبر الإنترنت.
وقال موريل في بيان: “قد تكون الصور مزيفة، لكن آثارها حقيقية للغاية. تحدث التزييف العميق كل يوم للنساء في كل مكان في عالمنا الرقمي المتزايد، وحان الوقت لوضع حد لها”.
