ذكرت دراسة يوم الثلاثاء أن إيلون موسك من AI chatbot Grok قد أنتجت ردود غير دقيقة ومتناقضة عندما سعى المستخدمون إلى التحقق من الصراع الإسرائيلي والإيران.
مع تقليل منصات التكنولوجيا إلى اعتمادها على مراقبي الحقائق البشرية ، يستخدم المستخدمون بشكل متزايد chatbots التي تعمل بالنيابة-بما في ذلك XAI Grok-بحثًا عن معلومات موثوقة ، ولكن استجاباتهم غالبًا ما تكون معرضة للمعلومات الخاطئة.
وقالت الدراسة من مختبر أبحاث الطب الشرعي الرقمي (DFRLAB) في المجلس الأمريكي ، وهي خزان أبحاث أمريكي ، “التحقيق في أداء Grok خلال الأيام الأولى من الصراع الإسرائيلي إيران يعرض عيوبًا وقيودًا كبيرة في قدرة AI chatbot على توفير معلومات دقيقة وموثوقة ومتسقة خلال أوقات الأزمات.”
“أثبت Grok أنه يكافح من خلال التحقق من الحقائق المؤكدة بالفعل ، وتحليل الصور المزيفة ، وتجنب الادعاءات التي لا أساس لها.”
قام DFRLAB بتحليل حوالي 130،000 منشور بلغات مختلفة على المنصة X ، حيث تم بناء مساعد AI ، لتجد أن Grok كان “يكافح لمصادقة الوسائط التي تم إنشاؤها من الذكاء الاصطناعى”.
بعد أن قدمت جروك الإضرابات الانتقامية الإيرانية على إسرائيل ، استجابات مختلفة تمامًا لمطالبات مماثلة حول مقطع فيديو تم إنشاؤه بواسطة منظمة العفو الدولية لمطار مدمر جمع الملايين من وجهات النظر على X.
وقالت الدراسة ان تذبذب – في بعض الأحيان خلال نفس الدقيقة – بين حرمان تدمير المطار وتأكيده قد تضررت بسبب الإضرابات.
في بعض الردود ، استشهد جروك الصاروخ الذي أطلقه المتمردون اليمنيون كمصدر للأضرار. في حالات أخرى ، حددت خطأ المطار الذي تم إنشاؤه بواسطة الذكاء الاصطناعى كأحد في بيروت أو غزة أو طهران.
وقالت الدراسة إنه عندما شارك المستخدمون مقطع فيديو آخر تم إنشاؤه بواسطة AI الذي يصور المباني التي تنهار بعد ضربة إيرانية مزعومة على تل أبيب ، أجاب Grok بأنه يبدو حقيقيًا.
قام الصراع الإسرائيلي الإيران ، الذي أدى إلى ضربات جوية أمريكية ضد البرنامج النووي في طهران خلال عطلة نهاية الأسبوع ، على انهيار من المعلومات الخاطئة عبر الإنترنت بما في ذلك مقاطع الفيديو التي تم إنشاؤها من الذكاء الاصطناعى ومرئيات الحرب المعاد تدويرها من صراعات أخرى.
AI chatbots أيضا تضخيم الأكاذيب.
مع تكثيف حرب إسرائيل الإيرانية ، انتشرت ادعاءات كاذبة عبر وسائل التواصل الاجتماعي التي أرسلتها الصين طائرات شحن عسكرية إلى طهران لتقديم دعمها.
عندما سأل المستخدمون حسابات X التي تديرها AI من شركات الذكاء الاصطناعى في الحيرة و Grok حول صلاحيتها ، ردت كلاهما خطأ على أن المطالبات كانت صحيحة ، وفقًا لما ذكره Formation Formation Newsguard.
يقول الباحثون إن Grok قد ارتكبت سابقًا أخطاء في التحقق من المعلومات المتعلقة بالأزمات مثل الصراع في الهند والباكستان الأخيرة والاحتجاجات المناهضة للهجرة في لوس أنجلوس.
في الشهر الماضي ، كان Grok يخضع للتدقيق المتجدد لإدخال “الإبادة الجماعية البيضاء” في جنوب إفريقيا ، وهي نظرية مؤامرة اليمينية المتطورة ، إلى استعلامات غير ذات صلة.
ألقت شركة Musk Startup Xai باللوم على “تعديل غير مصرح به” للاستجابة غير المرغوب فيها.
قام موسك ، الملياردير المولد في جنوب إفريقيا ، بتجميع الادعاء الذي لا أساس له من الصحة بأن قادة جنوب إفريقيا “يدفعون علانية من أجل الإبادة الجماعية” من البيض.
قام Musk نفسه بتفجير Grok بعد أن استشهد بوسائل الإعلام – وهي مراقبة وسائل الإعلام الليبرالية التي استهدفها في دعاوى قضائية متعددة – كمصدر في بعض ردودها حول المعلومات الخاطئة.
“عار عليك يا جروك” ، كتب موسك على X. “مصادرك فظيعة”.
