ألعاب عبر الإنترنت تظهر مخاطر تقنيات التعرف على المشاعر باستخدام الذكاء الاصطناعي

لعبة على موقع إلكتروني توضح كيف يمكن خداع تقنية التعرف على المشاعر التي تستخدم الذكاء الاصطناعي

تقنية التعرف على المشاعر قد يكون لها بعض الفوائد المحتملة، إلا أنه يجب موازنة ذلك مع المخاوف المتعلقة بالدقة والتحيز العنصري (شترستوك)
تقنية التعرف على المشاعر قد يكون لها بعض الفوائد المحتملة، إلا أنه يجب موازنة ذلك مع المخاوف المتعلقة بالدقة والتحيز العنصري (شترستوك)

تعد التكنولوجيا المصممة لتحديد المشاعر البشرية باستخدام خوارزميات التعلم الآلي صناعة ضخمة، ويدعي مناصروها أن هناك قيمة كبيرة لها، بداية من حفظ السلامة على الطرق إلى تحليل أبحاث السوق.

لكن المنتقدين يقولون إن التكنولوجيا لا تثير مخاوف الخصوصية فحسب، بل إنها غير دقيقة ومتحيزة عنصريًا.

وذكر تقرير لصحيفة الغارديان (theguardian) أن فريقا من الباحثين طوروا موقعًا إلكترونيًا تحت اسم إيموجي فاي.إنفو (emojify.info) حيث يمكن للجمهور تجربة أنظمة التعرف على المشاعر من خلال كاميرات الحاسوب الخاصة بهم.

وتعمل إحدى الألعاب على سحب الوجوه لخداع التكنولوجيا، بينما تستكشف لعبة أخرى كيف يمكن أن تعاني هذه الأنظمة لقراءة تعبيرات الوجه بحيث تكون متسقة مع بعض المواقف.

ويقول الباحثون إن أملهم هو زيادة الوعي بالتكنولوجيا وتعزيز المحادثات حول استخدامها.

وقالت الدكتورة أليكسا هاجرتي، رئيس المشروع والباحث في جامعة كامبريدج ليفرهولم "إنه شكل من أشكال التعرف على الوجه، لكنه يذهب إلى أبعد من ذلك لأنه بدلاً من مجرد تحديد الأشخاص، فإنه يدعي قراءة عواطفنا ومشاعرنا الداخلية من وجوهنا".

تقنية التعرف على الوجه، التي غالبًا ما تستخدم لتحديد الأشخاص، خضعت لتدقيق شديد في السنوات الأخيرة. وفي العام الماضي، قالت لجنة المساواة وحقوق الإنسان إنه يجب وقف استخدامها في الفحص الجماعي، قائلة إنه قد يزيد من تمييز الشرطة ويضر بحرية التعبير.

لكن هاجرتي قالت إن الكثير من الناس لم يكونوا على دراية بمدى شيوع أنظمة التعرف على المشاعر، مشيرة إلى أنهم كانوا يعملون في مواقف تتراوح من المساعدة في التوظيف، إلى رؤية العملاء، والمساعدة في عمليات أمن المطارات، وحتى التعليم لمعرفة ما إذا كان الطلاب يشاركون أو يؤدون واجباتهم المدرسية.

وقالت إن هذه التكنولوجيا مستخدمة في جميع أنحاء العالم، من أوروبا إلى الولايات المتحدة والصين.

مخاوف

تقول تايغوسيس (Taigusys)، وهي شركة متخصصة في أنظمة التعرف على المشاعر ومكتبها الرئيسي في شنجن (Shenzhen) في الصين، إنها استخدمتها في أماكن تتراوح من دور الرعاية إلى السجون، بينما وفقًا لتقارير في وقت سابق من هذا العام، تخطط مدينة لكناو (Lucknow) الهندية لاستخدام التكنولوجيا لاكتشاف الضيق الذي تعاني منه النساء نتيجة التحرش، وهي خطوة قوبلت بالنقد من منظمات الحقوق الرقمية وغيرها.

بينما قالت هاجرتي إن تقنية التعرف على المشاعر قد يكون لها بعض الفوائد المحتملة، إلا أنه يجب موازنة ذلك مع المخاوف المتعلقة بالدقة والتحيز العنصري، وكذلك ما إذا كانت التكنولوجيا هي الأداة المناسبة لوظيفة معينة.

وأضافت "نحن بحاجة إلى إجراء محادثة عامة أوسع ومداولات حول هذه التقنيات".

ويسمح المشروع الجديد للمستخدمين بتجربة تقنية التعرف على المشاعر.  ويلاحظ الموقع أنه "لا يتم جمع أي بيانات شخصية ويتم تخزين جميع الصور على جهازك".

وفي إحدى الألعاب، تتم دعوة المستخدمين لسحب سلسلة من الوجوه لتزييف المشاعر ومعرفة ما إذا كان قد تم خداع النظام.

وقالت هاجرتي "يقول الأشخاص الذين يطورون هذه التكنولوجيا إنها تقرأ المشاعر… لكن النظام في الواقع كان يقرأ حركة الوجه ثم يدمج ذلك مع افتراض أن تلك الحركات مرتبطة بالعواطف، على سبيل المثال الابتسامة تعني أن شخصًا ما سعيد".

وتضيف أن الأمر معقد أكثر من ذلك، فالتجربة الإنسانية أظهرت أنه من الممكن تزييف الابتسامة. "وهذا ما تحاول أن تثبته اللعبة التي قمنا بابتكارها، لتظهر لك أنك لم تغير حالتك الداخلية ومشاعرك 6 مرات، فقط غيرت طريقة نظرك وملامح وجهك".

وقال فيدوشي ماردا، كبير مسؤولي البرامج في منظمة حقوق الإنسان، إنه من الضروري الضغط لوقف السوق المتنامية لأنظمة التعرف على المشاعر.

وأضاف أن "استخدام تقنيات التعرف على المشاعر مقلق للغاية لأن هذه الأنظمة لا تستند فقط إلى العلم التمييزي والفاقد للمصداقية، بل إن استخدامها يتعارض بشكل أساسي مع حقوق الإنسان".

المصدر : غارديان

حول هذه القصة

هزت فضيحة قرصنةٍ أركان عالم التقنية في أميركا من جديد، وذلك عندما كشف موقع “بلومبيرغ” عن عملية اختراق لشركة فيركادا الأميركية التي تنتشر كاميراتها في جميع أنحاء العالم وتقوم بتخزين الصور.

10/3/2021
المزيد من تكنولوجيا
الأكثر قراءة