AL Mourakeb | المراقب نحو عمل اعلامي متطور..
تتجه الأنظار اليوم نحو الإبتكارات الجديدة في عالم الذكاء الإصطناعي AI, الذي بات يشهد قفزات كبيرة شهرًا بعد آخر. ولكن في كل مرة يتم طرح تقنية حديثة في هذا المجال تُثار الكثير من المخاوف بشأن النواحي الأخلاقية لإستخداماتها. فما هي القضايا الأخلاقية التي يثيرها الذكاء الإصطناعي؟ وإلى أي مدى تهتم شركات التكنولوجيا بمسألة الأخلاقيات عند تطويرها هذه التقنيات؟
للذكاء الإصطناعي فوائد هائلة ناشئة عن إستخدامه في العديد من المجالات, فهو يتيح للإنسان مثلًا إمكانية الوصول للمعلومات والإجابة على الأسئلة بشكل سريع ودقيق, كما يمكنه أيضًا تحديد المشاكل والمخاطر في مجالات مثل الطب والزراعة, كذلك يساعد الشركات الكبرى في الوصول إلى المستهلكين والتعرّف على دوافعهم. ولكن على المقلب الآخر يمكن إستخدام هذه التكنولوجيا في مجالات غير إنسانية, قد تتسبب بقتل البشر. ذلك إذ أن هذه التقنيات تتطوّر اليوم دون وجود مدونات وقوانين تضبط إستخدامها. هذا الأمر دفع مؤخرًا الكثير من خبراء التكنولوجيا ومنهم إيلون ماسك رئيس شركة “تويتر”, للتوقيع على خطاب مفتوح يطالب بتوقّف التطوّر السريع لأنظمة الذكاء الإصطناعي لمدة ستة أشهر ريثما يتم التأكد من سلامتها. وقد ترافق ذلك مع ظهور الجيل الرابع من روبوت المحادثة “تشات جي بي تي” (GPT-4).
تحيّز خوارزميات الذكاء الإصطناعي
واحدة من أهم المسائل التي يجب معالجتها عند الحديث عن المخاطر الأخلاقية للذكاء الإصطناعي هي مسألة تحيّز الخوارزميات أو ما يعرف ب “التحيز الخوارزمي”. ويشير هذا المصطلح إلى الإنحيازات التي تظهر في نتائج الخوارزميات الآلية جراء وجود تحيز في البيانات التي يتم تدريب هذه الخوارزميات عليها. ذلك إذ أن تقنية الذكاء الإصطناعي تعتمد بالأساس على قاعدة ضخمة من البيانات الموجودة على الإنترنت والتي تعكس بطبيعة الحال التحيّز الفعلي الموجود في المجتمعات.
والتحيّز هنا لا يقتصر على التمييز العنصري بين البشر وحسب, إنما أيضًا يستهدف أي فئة ممثلة تمثيلًا خاطئًا أو ناقصًا أو زائدًا في البيانات, كذلك يستهدف الجهات المحيّدة عن إتخاذ القرار أو ليس لديها القدرة على المشاركة بإتخاذ القرار عند تطوير برمجيات الذكاء الإصطناعي, مثل النساء أو أصحاب البشرة الداكنة أو الأفراد في دول النامية.
في هذا المجال يؤكد أستاذ حوسبة اللغة والإعلام الرقمي في الجامعة اللبنانية الدكتور غسان مراد, أنه لا يوجد خوارزميات محايدة فهي برأيه تلتزم بسياسات الشركات التي تبرمجها.
من جهته إعتبر الباحث في مجال الذكاء الإصطناعي الدكتور علي مخ, أن الشركات التكنولوجية أصبحت اليوم تعمل أكثر من قبل لجعل الخورازميات أقل تحيّزًا حتى بالنسبة للبشر. والسبب وراء ذلك إما أخلاقي أو قانوني, أو بشكل أساسي ربحي, فهذه الشركات تسعى إلى تصميم نماذج يمكنها أن تحقق أرباحًا جيّدة بسبب فعاليتها, ولتكون فعالة ينبغي أن تتم مهمتها دون تحيّز. على سبيل المثال إن نماذج الذكاء الإصطناعي التي تستخدم في الشركات لتدرس فعالية الموظفين يجب أن لا تكون متحيّزة ليتمكن مستخدموها من تحقيق غايتهم الأساسية منها.
إن تحيّز برمجيات الذكاء الإصطناعي ليس موضوعًا جديدًا, ولكن اليوم ومع زيادة وتنويع إسخدامات هذه التقنيات في مجالات مختلفة يمكن أن يكون لهذا التحيّز عواقب كارثية, ذلك وقد أصبح الذكاء الإصطناعي وسيلة يعتمد عليها أحيانًا بشكل كلي لإتخاذ القرار. فمثلًا أصبحت هذه الأنظمة توجه المدراء لإتخاذ القرارات في الشركات, أو تحدد المرضى الذين سيتم قبولهم في برامج الرعاية الصحية في المستشفيات أو حتى تُستخدم لإصدار حكم قضائيًا. ففي الآونة الأخيرة أعلن أحد القضاة في كلومبيا أنه استخدم برنامج الدردشة الآلي “تشات جي بي تي” (ChatGPT) القائم على الذكاء الاصطناعي للحكم في قضية تتعلق بطفل مصاب بالتوحّد, وذلك بحسب ما نشر موقع الجزيرة.
وفي هذا الإطار كشف مقالًا بحثيًا نشرته مجلة العلوم (ساينس) عام ٢٠١٩, أن 17.7 بالمائة فقط من المرضى الذين يتم قبولهم في برامج الرعاية الصحية للحالات المرضية المزمنة والأكثر عرضة للخطر في المستشفيات الاميركية هم من السود. بينما أوضح البحث نفسه أن نسبة السود الذين يعانون من الأمراض المزمنة تزيد بحوالي 26.3 في المائة عن البيض.
الشركات التكنولوجية تحارب التحيّز من خلال مرعاة التنّوع بين المبرمجين
إعتبر الدكتور علي مخ أن واحدة من أهم الأمور التي يمكنها أن تحارب التحيّز في أنظمة الذكاء الإصطناعي إلى حد كبير والتي تسعى الشركات التكنولوجية اليوم إلى تحقيقها, هي مراعاة مدى التنوّع داخل مجموعة المبرمجين الذين يحاكمون هذه البرامج, سواء على مستوى التنوّع العرقي أو الجنسي أو غير ذلك بما يمثّل التنوع الطبيعي بين البشر.
ذلك مع الإشارة هنا إلى أن النساء اليوم لا يشغلن سوى 22% من الوظائف في مجال الذكاء الإصطناعي.
إنتهاك الخصوصية والبيانات الشخصية
في حين أن الذكاء الإصطناعي يمثل أصلًا مذهلًا للتنمية المسؤولة في المجتمعات, إلأّ أنه في المقابل يشكل خطرًا على حقوق الإنسان. هذا ما عبّرت عنه أكبر منظمة أممية للثقافة والعلوم, في ورقة بحثية نشرتها أودي أوزلاي المديرة االعامة لمنظمة الأمم المتحدة للتربية والعلم والثقافة (اليونسكو), متسائلةً عما إذا كان من الممكن ضمان عدم إنتهاك خوارزميات الذكاء الإصطناعي لحقوق الإنسان الأساسية بما في ذلك الخصوصية وسرية البيانات.
تقوم خوارزميات الذكاء الإصطناعي التي ترتكز على التعلم الآلي بمراقبة سلوك المستخدمين على شبكات التواصل الاجتماعي ومحركات البحث, وبالتالي يصبح بإستطاعتها أن تتحكم بهم حيث تضعهم داخل فقاعة من المعلومات التي يبجثون عنها.
وفي هذا المجال يقول الدكتور علي مخ “كل ما كانت البيانات الشخصية للأفراد متاحة أمام خوارزميات الذكاء الإصطناعي (المواقع, الأصوات, خيارا البحث, الصور…) كل ما كانت هذه الخوارزميات قادرة على فهم هؤلاء لدرجة قد تفوق فهمهم لأنفسهم أحيانًا”.
من ناحية أخرى يقول الدكتور غسان المراد “يمكن مثلًا من خلال الكشف عن البيانات الطبيّة للأفراد إذا ما كانت متاحة لخوارزميات الذكاء الإصطناعي, أن تستفيد شركات التأمين فهي تراقب هذه البيانات وتتعرّف على الأفراد”. ويكمل” نحن الآن نعيش في ما أطلق عليه إسم مجتمع المراقبة الناعمة”.
لا يقتصر الأمر عند هذا الحد, بل من المحتمل أيضًا أن تصبح بياناتنا الشخصية متاحة أمام الجميع. فمثلًا في شهر آذار الماضي أكدت شركة “أوبن إيه أي” أن خطأ تقنيًا تسبب، على مدار 9 ساعات، بتسرّب عناوين سجلات المحادثات لبعض مستخدمي روبوت المحادثة “تشات جي بي تي” (ChatGPT). لكن الأمر لم يتوقف عند ذلك فحسب، بل وصل إلى تسريب بيانات مهمة وحساسة للمستخدمين، وقد تضمنت بعض أرقام بطاقات الائتمان لمشتركي خدمة “شات جي بي تي بلس” المدفوعة التي تقدمها الشركة.
الشركات التكنولوجية ومسألة الأخلاقيات
تعد الشركات التكنولوجية التي تطوّر وتستخدم نماذج الذكاء الإصطناعي هي الجهة الأولى المسؤولة عن ضمان إستخدام هذه الأنظمة بما يتوافق مع المعايير الاخلاقية. وبالتالي على المطورين وصناع القرار في هذه المؤسسات تأمين مراعاة المعايير الأخلاقية في تصميم وتطوير وتشغيل هذه الأنظمة لضمان عدم الإضرار بالبشرية والمجتمع.
ولكن بحسب أستاذ حوسبة اللغة والإعلام الرقمي في الجامعة اللبنانية الدكتور غسان مراد, حتى الآن الكثير من هذه الشركات ليس لديها فرق متخصصة تعنى بمسألة الأخلاق بما يضمن مثلًا مراعاة ثقافات الشعوب وقيمهم, تجنّب التحيّز في هذه الأنظمة وحماية البيانات الشخصة وغير ذلك. فالمؤسسات التكنولوجية الكبرى هدفها الربح ولو على حساب الإنسان والأخلاق.
وفي سياق آخر أضاف مراد “بعض الشركات التكنولوجية تعمل اليوم على حل الثغرات الأخلاقية الموجودة في أنظمتها كما هي الحال بالنسبة لنظام GPT-3.5 لكن ذلك لا يعني أن هذه الثغرات ستحل بشكل تام, لأننا نتحدث هنا عن برمجيات آلية”.
ذلك وقد أعلنت شركة Open AI العقل المدبر ل ChatGPT مؤخرًا عبر منشور على مدونتها, عن إطلاق برنامج جديد يدعى “OpenAI Bug Bounty Program”, ويحصل بموجبه الباحثون الأمنيون المسجلون على مكافآت مالية لقاء إكتشاف الثغرات في منتجاتها والإبلاغ عنها.
من جهته, إعتبر الباحث والمدرّس في مجال الذكاء الإصطناعي الدكتور علي مخ أن مسألة مراعاة المعايير الأخلاقية يعود بشكل أساسي إلى طبيعة عمل الشركة التي تطوّر أنظمة الذكاء الإصطناعي, فلو كنا نتحدث مثلًا عن شركات صناعة الأسحلة أو شركات التنصت فهناك الإهتمام بالمعايير الأخلاقية في طبيعة الحال ليس مذكورًا. أما في ما يخص الشركات الكبرى المرتبطة ب “الداتا” فإن النقاش حول ضرورة مراعاة المعايير الأخلاقية عند تطويرها أنظمة الذكاء الإصطناعي أصبح شرط أساسي لديها خاصة عندما يتعلق الأمر بحماية البيانات الشخصية للأفراد, وذلك بسبب وجود قوانين دوليّة (أوروبية مثلًا) تحفظ هذا الحق.
وأخيرًا ختم الدكتور غسان مراد قائلًا “إن الذكاء الإصطناعي يتطوّر اليوم نحو الذكاء العضوي, وذلك يعني أن البرمجيات سترتكز لاحقًا على خلايا بشرية يُعمل عليها في المختبرات”. وأضاف “بحسب الدراسات إن بعض المؤسسات التي تعمل على ذلك لديها فرق تهتم بمسألة الأخلاقيات لأن الأمر يختلف هنا عن التعامل مع الخلايا الإلكترونية”.
