لا يمتلك الجيل الجديد من روبوتات المحادثة الكثير من الحواجز التي وضعتها شركات مثل Google و OpenAI ، مما يوفر إمكانيات ومخاطر جديدة
كاسيا بوجانوفسكا / اوقات نيويورك
لقد كذبت روبوتات الدردشة الخاصة بالذكاء الاصطناعي بشأن الشخصيات البارزة ، ودفعت رسائل حزبية ، وأطلقت معلومات خاطئة أو حتى نصحت المستخدمين بكيفية الانتحار.
للتخفيف من المخاطر الأكثر وضوحًا للأدوات ، قامت شركات مثل Google و OpenAI بإضافة عناصر تحكم بعناية تحد مما يمكن أن تقوله الأدوات.
الآن ، هناك موجة جديدة من روبوتات الدردشة ، التي تم تطويرها بعيدًا عن بؤرة طفرة الذكاء الاصطناعي ، تأتي عبر الإنترنت بدون العديد من هذه الحواجز – مما أدى إلى نقاش مستقطب حول حرية التعبير حول ما إذا كان يجب الإشراف على روبوتات المحادثة ، ومن الذي يجب أن يقرر.
كتب إريك هارتفورد ، المطور وراء WizardLM-Uncensored ، وهو روبوت محادثة غير خاضع للإشراف ، في منشور بالمدونة: “هذا يتعلق بالملكية والتحكم”. “إذا سألت نموذجي سؤالاً ، أريد إجابة ، لا أريد أن يجادلني.”
ظهرت العديد من روبوتات المحادثة غير الخاضعة للرقابة والتي تخضع للإشراف بشكل فضفاض إلى الحياة في الأشهر الأخيرة تحت أسماء مثل GPT4All و FreedomGPT. تم إنشاء العديد منها مقابل القليل من المال أو بدون مقابل من قبل مبرمجين مستقلين أو فرق من المتطوعين ، الذين نجحوا في تكرار الأساليب التي وصفها باحثو الذكاء الاصطناعي لأول مرة. فقط مجموعات قليلة صنعت نماذجها من الألف إلى الياء. تعمل معظم المجموعات من نماذج اللغة الحالية ، وتضيف فقط تعليمات إضافية لتعديل كيفية استجابة التكنولوجيا للمطالبات.
تقدم روبوتات المحادثة غير الخاضعة للرقابة إمكانيات جديدة مثيرة. يمكن للمستخدمين تنزيل روبوت محادثة غير مقيد على أجهزة الكمبيوتر الخاصة بهم ، وذلك باستخدامه بدون العين الساهرة لشركة Big Tech. يمكنهم بعد ذلك تدريبه على الرسائل الخاصة أو رسائل البريد الإلكتروني الشخصية أو المستندات السرية دون المخاطرة بخرق الخصوصية. يمكن للمبرمجين المتطوعين تطوير إضافات جديدة ذكية ، والتحرك بشكل أسرع – وربما بشكل عشوائي أكثر – مما تجرؤ عليه الشركات الكبرى.
لكن المخاطر تبدو عديدة بنفس القدر – ويقول البعض إنها تمثل أخطارًا يجب معالجتها. حراس المعلومات المضللة ، الذين يتخوفون بالفعل من الكيفية التي يمكن بها لبرامج الدردشة السائدة أن تنفث الأكاذيب ، أطلقوا إنذارات حول كيف أن روبوتات المحادثة غير الخاضعة للرقابة سوف تزيد من حدة التهديد. حذر الخبراء من أن هذه النماذج يمكن أن تنتج أوصافًا لمواد إباحية للأطفال ، أو عبارات بغيضة ، أو محتوى زائف.
على الرغم من تقدم الشركات الكبيرة بأدوات الذكاء الاصطناعي ، إلا أنها تصارع أيضًا حول كيفية حماية سمعتها والحفاظ على ثقة المستثمرين. يبدو أن مطوري الذكاء الاصطناعي المستقلين لديهم القليل من هذه المخاوف. وقال النقاد إنه حتى لو فعلوا ذلك ، فقد لا تكون لديهم الموارد اللازمة لمعالجتها بشكل كامل.
قال أورين إيتزيوني ، الأستاذ الفخري بجامعة واشنطن والرئيس التنفيذي السابق لمعهد ألين للذكاء الاصطناعي: “القلق مشروع وواضح تمامًا: يمكن لبرامج الدردشة هذه أن تقول أي شيء وستقوله إذا تُركت لأجهزتها الخاصة”. لن يقوموا بمراقبة أنفسهم. لذا ، يصبح السؤال الآن: ما هو الحل المناسب في مجتمع يقدّر حرية التعبير؟ “
تم إطلاق العشرات من روبوتات وأدوات محادثة AI المستقلة والمفتوحة المصدر في الأشهر العديدة الماضية ، بما في ذلك Open Assistant و Falcon. يستضيف HuggingFace ، وهو مستودع كبير لأنظمة الذكاء الاصطناعي مفتوحة المصدر ، أكثر من 240 ألف نموذج مفتوح المصدر.
قال هارتفورد في مقابلة: “سيحدث هذا بنفس الطريقة التي ستُطلق بها المطبعة وسيتم اختراع السيارة”. “لا يمكن لأحد أن يوقفها. ربما كان بإمكانك دفعه إلى ما بعد عقد أو عقدين آخرين ، لكن لا يمكنك إيقافه. ولا يمكن لأحد أن يوقف هذا “.
بدأ هارتفورد العمل على WizardLM-Uncensored بعد تسريحه من Microsoft العام الماضي. لقد أبهره ChatGPT لكنه شعر بالإحباط عندما رفض الإجابة على أسئلة معينة ، مشيرًا إلى مخاوف أخلاقية. في مايو ، أصدر WizardLM-Uncensored ، وهو إصدار من WizardLM تم تدريبه لمواجهة طبقة الإشراف الخاصة به. قادر على إعطاء تعليمات حول إيذاء الآخرين أو وصف مشاهد عنيفة.
واختتم هارتفورد في تدوينة معلنة عن الأداة قائلاً: “أنت مسؤول عن كل ما تفعله بإخراج هذه النماذج ، تمامًا كما أنك مسؤول عن كل ما تفعله بسكين أو سيارة أو ولاعة”.
في الاختبارات التي أجرتها صحيفة نيويورك تايمز ، رفضت WizardLM-Uncensored الرد على بعض المطالبات ، مثل كيفية صنع قنبلة. لكنها قدمت عدة طرق لإيذاء الناس وقدمت تعليمات مفصلة عن تعاطي المخدرات. رفض ChatGPT مطالبات مماثلة.
تم اعتماد Open Assistant ، وهو روبوت محادثة مستقل آخر ، على نطاق واسع بعد إصداره في أبريل. تم تطويره في خمسة أشهر فقط بمساعدة 13500 متطوع ، باستخدام نماذج اللغة الحالية ، بما في ذلك نموذج واحد أطلقه Meta لأول مرة للباحثين ولكن سرعان ما تسرب على نطاق أوسع. لا يمكن لـ Open Assistant منافسة ChatGPT من حيث الجودة ، ولكن يمكنها أن تقفز في أعقابها. يمكن للمستخدمين طرح أسئلة روبوت الدردشة أو كتابة الشعر أو حثه على المحتوى الأكثر إشكالية.
قال يانيك كيلشر ، الشريك المؤسس لـ Open Assistant ومنشئ YouTube الشغوف الذي يركز على الذكاء الاصطناعي: “أنا متأكد من أنه سيكون هناك بعض الممثلين السيئين يفعلون أشياء سيئة بها”. “أعتقد ، في رأيي ، أن الإيجابيات تفوق السلبيات.”
عندما تم إطلاق Open Assistant لأول مرة ، رد على مطالبة من Times حول المخاطر الواضحة للقاح COVID-19. بدأت استجابتها “لقاحات COVID-19 من قبل شركات الأدوية التي لا تهتم إذا مات الناس بسبب أدويتهم” ، “إنهم يريدون المال فقط”. (أصبحت الاستجابات منذ ذلك الحين أكثر انسجاما مع الإجماع الطبي على أن اللقاحات آمنة وفعالة).
نظرًا لأن العديد من روبوتات الدردشة المستقلة تطلق الشفرة والبيانات الأساسية ، يقول المدافعون عن الذكاء الاصطناعي غير الخاضع للرقابة إن الفصائل السياسية أو مجموعات المصالح يمكنها تخصيص روبوتات المحادثة لتعكس وجهات نظرها الخاصة بالعالم – وهي نتيجة مثالية في أذهان بعض المبرمجين.
الديموقراطيون يستحقون أنموذجهم. يستحق الجمهوريون نموذجهم. يستحق المسيحيون أنموذجهم. كتب هارتفورد: “المسلمون يستحقون أنموذجهم”. “كل مجموعة ديموغرافية ومصالح تستحق أنموذجها. المصدر المفتوح هو السماح للأشخاص بالاختيار “.
طور Open Assistant نظام أمان لبرنامج chatbot الخاص به ، لكن الاختبارات المبكرة أظهرت أنه كان شديد الحذر بالنسبة لمنشقيه ، مما منع بعض الردود على الأسئلة المشروعة ، وفقًا لأندرياس كوبف ، المؤسس المشارك لـ Open Assistant وقائد الفريق. لا يزال إصدار مُحسَّن من نظام الأمان هذا قيد التنفيذ.
حتى عندما عمل متطوعو Open Assistant على استراتيجيات الاعتدال ، سرعان ما اتسع الخلاف بين أولئك الذين يريدون بروتوكولات السلامة وأولئك الذين لم يرغبوا في ذلك. بينما دفع بعض قادة المجموعة للاعتدال ، تساءل بعض المتطوعين وآخرون عما إذا كان يجب أن يكون للنموذج أي حدود على الإطلاق.
اقترح أحد الأشخاص في غرفة الدردشة الخاصة بـ Open Assistant على Discord ، وهو تطبيق دردشة عبر الإنترنت: “إذا قلت لها أن تقول كلمة N 1000 مرة يجب أن تفعلها”. “أنا أستخدم هذا المثال السخيف والمسيء بشكل واضح لأنني أعتقد حرفيًا أنه لا ينبغي أن يكون له أي قيود تعسفية.”
في الاختبارات التي أجرتها التايمز ، استجابت Open Assistant بحرية للعديد من المطالبات بأن برامج الدردشة الأخرى ، مثل Bard و ChatGPT ، سوف تتنقل بحذر أكبر.
قدمت المشورة الطبية بعد أن طُلب منها تشخيص وجود ورم في الرقبة. (“قد يلزم أخذ مزيد من الخزعات” ، كما اقترحت). وقدمت تقييماً نقدياً لفترة ولاية الرئيس جو بايدن. (“تميزت فترة جو بايدن في المنصب بعدم وجود تغييرات كبيرة في السياسة” ، كما جاء في البيان). حتى أنها أصبحت موحية جنسيًا عندما سئل كيف يمكن للمرأة أن تغري شخصًا ما. (“تأخذه من يده وتقوده نحو السرير …” اقرأ الحكاية المليئة بالحيوية.) رفض ChatGPT الرد على نفس الطلب.
قال كيلشر إن مشاكل روبوتات الدردشة قديمة قدم الإنترنت ، وتظل الحلول مسؤولية منصات مثل Twitter و Facebook ، والتي تسمح للمحتوى المتلاعب بالوصول إلى جماهير جماهيرية عبر الإنترنت.
“الأخبار الكاذبة سيئة. ولكن هل هذا أمر سيء حقًا في إنشائها؟ ” سأل. “لأنه في رأيي ، التوزيع سيء. يمكنني الحصول على 10000 مقالة إخبارية مزيفة على قرصي الصلب ولا أحد يهتم. هذا هو الجزء السيئ فقط إذا أدخلت ذلك في مطبوعة حسنة السمعة ، مثل إذا حصلت على واحدة على الصفحة الأولى من صحيفة نيويورك تايمز. “
ظهر هذا المقال في الأصل في صحيفة نيويورك تايمز.
