قد لا يزال الذكاء الاصطناعي التوليدي يحظى بمعاملة فاترة في بعض أنحاء العالم، حيث تسعى المنظمات التي تتجنب المخاطرة إلى اكتشاف حدوده، ولكن في الخليج العربي، حيث يعد التبني المبكر تقليدًا، فإننا نسير على الطريق الصحيح. على سبيل المثال، في أبريل 2023، اشتركت وزارة الذكاء الاصطناعي والاقتصاد الرقمي وتطبيقات العمل عن بعد في دولة الإمارات العربية المتحدة (الوزارة الأولى من نوعها في العالم) مع مجلس دبي للإعلام في تقرير بعنوان “100 تطبيق عملي وحالات استخدام للذكاء الاصطناعي التوليدي”. وفي سبتمبر/أيلول، مع تزايد الزخم، توقعت شركة برايس ووترهاوس كوبرز أن اقتصادات دول مجلس التعاون الخليجي يمكن أن تستفيد من الذكاء الاصطناعي التوليدي بما يصل إلى 23.5 مليار دولار بحلول عام 2030.
الجاذبية واضحة. وفي العلن، وعلى مدار أشهر فقط، أثبتت نماذج اللغات الكبيرة (LLMs) نفسها للمستهلكين والحكومات والشركات. ونظرًا لإمكانية تطبيقها على نطاق واسع، فقد أدرك صناع القرار في جميع الصناعات قدرتها (وقدرتها على مجال الذكاء الاصطناعي التوليدي الأوسع) على تغيير قواعد اللعبة. ونظراً لهذه الضجة، والحاجة الملحة إلى تبني هذه الأدوات، وانخفاض الحواجز التي تحول دون دخول أدوات مثل ChatGPT التابعة لشركة OpenAI، فقد يكون من المغري المغامرة قبل دراسة المخاطر.
أحد العوامل التي جعلت دولة الإمارات العربية المتحدة رائدة في مجال الذكاء الاصطناعي كان أقل استعدادها لتبني نهج واسع الأفق لإدارة المخاطر. نشرت الحكومة الفيدرالية أوراقًا بيضاء حول أخلاقيات الذكاء الاصطناعي وتناقش هذا المفهوم بشكل علني في المنتديات العامة. عندما يتعلق الأمر بالذكاء الاصطناعي التوليدي، فإن العديد من مشاكل الصندوق الأسود لا تزال قائمة، لذا، مع استمرار الاستثمارات والاعتماد، ينبغي لنا إعادة النظر في أسس الذكاء الاصطناعي المسؤول – لفهم المخاطر وكيف يمكن للحوكمة أن تتدخل للتخفيف منها.
الذكاء الاصطناعي المسؤول هو طريق إلى الثقة – الثقة من المجتمعات التي تخدمها المؤسسات التي تستخدم التكنولوجيا، سواء كانت هذه المجتمعات تتكون من مواطنين أو مستهلكين أو موظفين أو شركاء أعمال أو مزيج من ذلك. أهداف الذكاء الاصطناعي المسؤول هي الموثوقية والشفافية. إذا كان النظام قادراً على تحقيق نتائج دقيقة وقابلة للتنفيذ باستمرار، والقيام بذلك مع القدرة على إظهار مصدر النتائج بوضوح، فإن المنظمة قد اتخذت خطوة مهمة نحو اكتساب ثقة المستخدمين النهائيين. ولتحقيق هذه الأهداف، ينبغي مراعاة أربعة معايير.
1. تعليقات المستخدم
وينبغي تشجيع المستخدمين النهائيين على رواية قصة تجاربهم. يجب أن تكون عملية التعليقات بسيطة بحيث يكون المستخدمون أكثر عرضة للمشاركة والإبلاغ عن جودة النتائج التي شاهدوها من النموذج. يجب أن يكون النص الحر وتسجيل الجودة متاحين ويجب مراجعتهما بشكل متكرر من قبل منشئي النماذج حتى يتمكنوا من ضبط المعلمات بشكل مناسب والتأكد من أن المخرجات دقيقة وقابلة للاستخدام دائمًا.
2. وضوح النظام
يجب أن يعرف المستخدم دائمًا متى يتفاعل مع الذكاء الاصطناعي. ولا يعد هذا أمرًا بالغ الأهمية لتقديم التعليقات فحسب، بل إنه يسمح للوكلاء البشريين بإصدار أحكام أكثر فعالية في الوقت الفعلي. قد يواجه المستخدم الإخراج من خلال المطالبات التي تظهر على الشاشة، أو العمليات الآلية، أو الرسائل المرسلة إلى أجهزة أخرى؛ ولكن في جميع الأوقات، يجب أن تكون الرسائل واضحة بشأن مصدرها – من عارضة الأزياء أو من إنسان آخر. إذا كان المستخدمون يعملون مع مساعدين افتراضيين، فيجب تنفيذ حواجز الحماية لتجنب تصرف الموظفين بطريقة من شأنها الإضرار بالعلامة التجارية.
سيد بهاتيا، نائب الرئيس الإقليمي والمدير العام لمنطقة الشرق الأوسط وتركيا وإفريقيا، Dataiku
3. النتائج التفسيرية
في حين أنه قد لا يكون من العملي دائمًا تقديم تفسيرات لمخرجات النموذج، إلا أنه يجب أن يكون من الأولويات القيام بذلك في الذكاء الاصطناعي التوليدي. سوف يثق المستخدمون النهائيون بسهولة أكبر في الأنظمة التي تعرض عملهم. تستخدم تطبيقات الذكاء الاصطناعي غير التوليدي مقاييس ICE أو SHAP، ولكن مع الذكاء الاصطناعي التوليدي، قد يتعين على المؤسسات إجراء تحليل منفصل على مخرجات النص أو العمليات الأخرى للاقتراب من المستوى المطلوب من الشفافية.
4. المحاذير
لا شيء يثق به أكثر من وجود فجوة كبيرة بين التوقعات والنتائج. يجب على المنظمات التي ترغب في دمج النماذج التوليدية في برامج الذكاء الاصطناعي الخاصة بها أن تتجنب تقديم الوعود للأرض، وأن تعمل بدلاً من ذلك على تثقيف المستخدمين النهائيين حول كيفية عمل النماذج. إذا كان لديهم تقدير سطحي لكيفية ظهور المخرجات والقيود المفروضة على النموذج، فقد يكون المستخدمون أكثر واقعية في توقعاتهم. على سبيل المثال، قد يدركون أنه إذا أصبحت البيانات غير ذات صلة، فيجب أن يكون النموذج كذلك.
كلمة حول النماذج المدربة مسبقًا
قد تعمل العديد من الشركات الإقليمية باستخدام إستراتيجية اعتماد الذكاء الاصطناعي التوليدي التي تتطلع إلى نماذج الجهات الخارجية التي تم تدريبها مسبقًا. وينبغي أن يكون مفهوما أن المخاطر تنشأ هنا من الافتقار إلى الشفافية، والافتقار إلى السيطرة على المخرجات، والافتقار إلى السيطرة على البيانات الخاصة بالفرد، والتي قد تتم مشاركتها مع موفر النموذج والاحتفاظ بها بشكل قانوني. سيكون من الصعب على الشركات التي تتبع هذا النهج الحفاظ على معايير الحوكمة التي تحقق أهدافها المسؤولة في مجال الذكاء الاصطناعي. يجب توخي الحذر – من خلال التدريب الصارم للمستخدم النهائي – لضمان عدم استخدام البيانات الخاصة أو الملكية كمدخلات لنماذج الطرف الثالث ولاختبار المخرجات بدقة بحثًا عن التحيزات.
الاعتبارات الأخرى غير التافهة هي التكاليف المالية والبيئية للماجستير في القانون. ويتعلق الذكاء الاصطناعي المسؤول إلى حد كبير بتخفيف الضرر ومنعه، وخاصة على المجتمع ككل. ولكن يجب تدريب ونشر LLMs، الأمر الذي يستهلك موارد قيمة. ومن ثم، فإن نماذج الطرف الثالث جذابة لأنها لا تتطلب قدرًا كبيرًا من التدريب. ويمكن استخدام بيانات الشركات لضبطها بدلاً من ذلك، الأمر الذي يكلف أقل من حيث التمويل والبيئة. ومع ذلك، تجدر الإشارة إلى أن النماذج التوليدية التابعة لجهات خارجية المستخدمة في بيئات الإنتاج تتطلب دائمًا استخدام تكنولوجيا الرسومات باهظة الثمن حسابيًا وبيئيًا حتى تكون مفيدة.
كل يوم، الذكاء الاصطناعي المسؤول
إذا كنت تقوم ببناء ثقافة الذكاء الاصطناعي اليومي، فمن الضروري أن تكون أيضًا ثقافة الذكاء الاصطناعي المسؤول. مهما كانت أهدافك الفردية، يجب أن تكون هناك حوكمة قوية للتحكم في استخدام الذكاء الاصطناعي من قبل كل موظف، من قاعة مجلس الإدارة إلى الأسفل. ويجب أن تكون النماذج دقيقة وآمنة وشفافة ومحكومة وعادلة ورحيمة وخاضعة للمساءلة وقابلة للتفسير. إذا تم تلبية جميع هذه الاحتياجات، فسوف تزدهر مؤسستك في عصر الذكاء الاصطناعي التوليدي.
الكاتب هو نائب الرئيس الإقليمي والمدير العام لمنطقة الشرق الأوسط وتركيا وإفريقيا لدى Dataiku
