الاقتصاد.الرياض
تم النشر في السبت 2024-07-13مع التطور السريع للمشهد الرقمي في الشرق الأوسط ، تزداد أهمية التحديات والضمانات الأساسية اللازمة للدمج الأخلاقي والفعال لتقنيات الذكاء الاصطناعي في الشركات.
لقد أدى التسارع في تطوير واعتماد تقنيات الذكاء الاصطناعي، وخاصة نماذج الذكاء الاصطناعي التوليدي للنصوص مثل “تشات جي بي تي” إلى تحقيق فوائد كبيرة، إلا أنه لا يمكن الاستهانة بالمخاطر المحتملة والمرتبطة باستخدامها. لذلك من المهم جداً أن تضع الشركات في الشرق الأوسط استراتيجيات استباقية شاملة لإدارة ومعالجة هذه المخاطر.
تحيزات الذكاء الاصطناعي التوليدي والمعايير الأخلاقية
تقع نماذج الذكاء الاصطناعي التوليدي فريسة لإدامة التحيزات المتأصلة في بيانات التدريب الخاصة بها. يمكن لهذه التحيزات تعزيز الصور النمطية وتقليل تمثيل وجهات نظر الأقليات عبر أبعاد مختلفة، بما في ذلك:
الهلوسات والقيود النموذجية
تنتج نماذج الذكاء الاصطناعي في بعض الأحيان معلومات خاطئة، تعرف باسم الهلوسات، والتي يمكن أن تشمل:
على سبيل المثال، اتهم “بارد” برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي والذي طورته شركة غوغل، شركات استشارية باتهامات باطلة في نوفمبر 2023، مما سلط الضوء على التباين في معدلات الهلوسة بين النماذج.
التزييف العميق وتهديدات الأمن السيبراني
لقد أدى تطور تقنيات الذكاء الاصطناعي إلى تصعيد المخاطر المرتبطة بالتزييف العميق والأمن السيبراني. يمثّل سهولة إنشاء التزييف العميق والتلاعب بالآراء باستخدام المحتوى الذي يولده الذكاء الاصطناعي تهديدات كبيرة للاستقرار المجتمعي. لذا فإن الارتفاع الكبير في حوادث التزييف العميق وزيادة مصداقية هجمات التصيد الاحتيالي بسبب الذكاء الاصطناعي، يسلط الضوء على الحاجة الملحة إلى وجود ضمانات قوية.
إدارة استباقية للمخاطر
يجب على الشركات في الشرق الأوسط اعتماد نهج استباقي لإدارة مخاطر الذكاء الاصطناعي بما في ذلك:
تعتبر هذه الإرشادات ضرورية للشركات وللجهات الحكومية التي لديها تطبيقات الذكاء الاصطناعي لتعزيز الإنتاجية والابتكار دون المساس بالمعايير الأخلاقية وثقة الجمهور.
رؤى الخبراء
يؤكد الدكتور ألبرت ميج المدير المساعد لقسم ممارسات الابتكار العالمي في شركة آرثر دي ليتل على أهمية الحذر في استخدام الذكاء الاصطناعي: “على الرغم من فوائد الذكاء الاصطناعي التوليدي، إلا أنه يجب الحذر من مخاطره. لذا من المهم جداً أن تضع الشركات والجهات الحكومية المستفيدة في الشرق الأوسط استراتيجيات شاملة لإدارة المخاطر حتى تضمن استخدام الذكاء الاصطناعي بصورة متكاملة أخلاقياً وبشكل فعال على حد سواء”.
وبدوره قال توماس كوروفيلا، الشريك الإداري لدى “آرثر دي ليتل” الشرق الأوسط قائلاً: ” تحتل منطقة الشرق الأوسط طليعة ابتكارات الذكاء الاصطناعي، ومع هذه الريادة تأتي مسؤولية التعامل مع تعقيدات الذكاء الاصطناعي بأمان. تحتاج الشركات والجهات الحكومية المستفيدة إلى تسخير قوة الذكاء الاصطناعي والحد من مخاطر استخدامه”.
ويعد التعامل مع تعقيدات تكامل الذكاء الاصطناعي أمراً ضرورياً للشركات والجهات الحكومية التي تهدف إلى تعزيز الإنتاجية والابتكار دون المساس بالمعايير الأخلاقية والثقة العامة. ومن خلال اعتماد المبادئ التوجيهية الموصى بها، يمكن للشركات وللجهات الحكومية إدارة مخاطر الذكاء الاصطناعي بشكل فعال وتسخير إمكاناتها لتحقيق النمو والتنمية بصورة مستدامة
