من دون تحيز لجنس أو عرق.. هكذا يقبض بنك هولندي على المحتالين باستخدام الذكاء الاصطناعي

في المستقبل، هل سيقرأ هاتفك الذكي أفكارك؟
البنوك، مثل العديد من القطاعات الأخرى، تتم إعادة اختراعها وتعريفها بواسطة الذكاء الاصطناعي (غيتي)

تخيل خوارزمية تراجع آلاف المعاملات المالية كل ثانية، وتكشف عن المعاملات الاحتيالية. أصبح هذا الأمر ممكنًا بفضل التقدم في الذكاء الاصطناعي خلال السنوات الأخيرة، وهو تطور مهم للغاية للبنوك التي تغمرها كميات هائلة من المعاملات اليومية التي تمثل تحديا متزايدا يتمثل في مكافحة الجرائم المالية وغسيل الأموال وتمويل الإرهاب والفساد.

ومع ذلك، فإن الذكاء الاصطناعي ليس خاليا من العيوب تماما. إذ ذكر تقرير لموقع "نكست ويب" (The next web) أن الشركات التي تستخدم الذكاء الاصطناعي للكشف عن الجريمة تتعامل مع تحديات جديدة، مثل التحيز الخوارزمي، وهي مشكلة تحدث عندما تسبب خوارزمية الذكاء الاصطناعي ضررا منهجيا لمجموعة من جنس أو عرق أو دين معين.

وفي السنوات الماضية، أضر التحيز الخوارزمي الذي لم يتم التحكم فيه جيدا، بسمعة الشركات التي تستخدمها. ومن المهم للغاية أن تكون الشركات متيقظة دائما لوجود مثل هذا التحيز.

فعلى سبيل المثال، في عام 2019 تبين أن الخوارزمية التي تدير بطاقة ائتمان آبل (Apple) متحيزة ضد النساء، مما تسبب في رد فعل عنيف في العلاقات العامة ضد الشركة. وفي عام 2018، اضطرت أمازون (Amazon) إلى إغلاق أداة توظيف مدعومة بالذكاء الاصطناعي أظهرت أيضا تحيزا ضد النساء.

وتواجه البنوك تحديات مماثلة، وإليك كيفية محاربة الجريمة المالية باستخدام الذكاء الاصطناعي مع تجنب مخاطر تحيز الخوارزميات:

القبض على المجرمين

تتضمن مكافحة الجرائم المالية مراقبة الكثير من المعاملات. على سبيل المثال لدى بنك "إيه بي إن أمرو" (ABN AMRO)، وهو ثالث أكبر بنك في هولندا، حوالي 3400 موظف يفحصون ويراقبون المعاملات.

وتعتمد المراقبة التقليدية على الأنظمة المستندة إلى قواعد صارمة وتتجاهل العديد من التهديدات المالية الناشئة مثل تمويل الإرهاب والاتجار غير المشروع والاحتيال على الحياة البرية والرعاية الصحية.

I.P. Park, president and chief technical officer for LG Electronics, speaks on artificial intelligence during a keynote address at the 2019 CES in Las Vegas, Nevada, U.S. January 7, 2019. REUTERS/Steve Marcusالشركات التي تستخدم الذكاء الاصطناعي للكشف عن الجريمة ومنعها، تتعامل مع تحديات جديدة مثل التحيز الخوارزمي (رويترز)

 

هذا هو المجال الرئيسي الذي يمكن أن تساعد فيه خوارزميات الذكاء الاصطناعي. ويمكن تدريب خوارزميات الذكاء الاصطناعي على اكتشاف عن المعاملات المشبوهة، وعن المعاملات التي تنحرف عن السلوك الطبيعي للعميل.

وقام فريق علوم البيانات في وحدة الابتكار والتصميم التابعة لبنك "إيه بي إن أمرو" برئاسة مالو فان دن بيرغ، ببناء نماذج تساعد في العثور على المجهول في المعاملات المالية.

وكان الفريق ناجحا جدا في العثور على معاملات احتيالية مع تقليل الإشارات الكاذبة. وبدلا من القواعد الثابتة التي تمارسها البنوك حاليا في كشف الاحتيال، يمكن لهذه الخوارزميات التكيف مع العادات المتغيرة للعملاء، وأيضا اكتشاف التهديدات الجديدة التي تظهر مع تغير الأنماط المالية تدريجيا.

يقول فان دن بيرغ "نشهد أنماطا وأشياء لم نرها من قبل.. إذا أشار الذكاء الاصطناعي لدينا إلى معاملة على أنها انحراف عن النمط الطبيعي للعميل، فإننا نكتشف السبب بناء على المعلومات المتاحة، ونتحقق من ذلك، وإذا لم يوفر التحقيق وضوحا بشأن عملية الدفع، فيمكننا إجراء استفسارات مع العميل".

يستخدم البنك الهولندي التعلم الآلي غير الخاضع للإشراف، وهو فرع من الذكاء الاصطناعي يمكنه البحث في كميات هائلة من البيانات غير المسماة، والعثور على الأنماط ذات الصلة التي يمكن أن تلمح إلى المعاملات الآمنة والمشبوهة، ويمكن أن يساعد التعلم الآلي غير الخاضع للإشراف في إنشاء أنظمة ديناميكية للكشف عن الجرائم المالية.

ولكن مثل الفروع الأخرى للذكاء الاصطناعي، قد تطوّر نماذج التعلم الآلي غير الخاضعة للرقابة أيضا تحيزات خفية يمكن أن تسبب ضررا غير مرغوب فيه إذا لم يتم التعامل معها بشكل صحيح.

إزالة التحيزات غير المرغوب فيها

يجب أن تجد فرق علوم البيانات والتحليلات في البنوك التوازنَ الصحيح حيث يمكن لخوارزميات الذكاء الاصطناعي الخاصة بهم اكتشاف المعاملات الاحتيالية دون التعدي على حقوق أي شخص.

ويتأكد مطورو أنظمة الذكاء الاصطناعي من تجنب تضمين المتغيرات الإشكالية مثل الجنس والعرق في نماذجهم. لكن المشكلة تكمن في أن المعلومات الأخرى يمكن أن تكون بمثابة عوامل مساعدة للتحيز، ويجب على علماء الذكاء الاصطناعي التأكد من أن هذه العوامل لا تؤثر على عملية صنع القرار في خوارزمياتهم.

على سبيل المثال، في حالة خوارزمية التوظيف سيئة السمعة في أمازون، وبينما لم يتم أخذ الجنس كعامل من عوامل اتخاذ قرارات التوظيف، تعلمت الخوارزمية ربط النتائج السلبية بأسماء أو مصطلحات نسائية مثل "نادي الشطرنج للسيدات".

يقول فان دن بيرغ "على سبيل المثال، عندما يتم استخدام تقنيات الذكاء الاصطناعي لتحديد العملاء المشتبه في قيامهم بنشاط إجرامي، يجب أولا إثبات أن هذا الذكاء الاصطناعي يعامل جميع العملاء بإنصاف فيما يتعلق بالخصائص الحساسة (مثل مكان ولادتهم)" .

يوضح لارس هارينغا، عالم البيانات في فريق فان دن بيرغ، "لا يحتاج عالم البيانات الذي يبني نموذج الذكاء الاصطناعي إلى إظهار أداء النموذج فحسب، بل يحتاج أيضا إلى تبرير تأثيره أخلاقيا. هذا يعني أنه قبل بدء إنتاج النموذج، يتعين على عالم البيانات ضمان الامتثال فيما يتعلق بالخصوصية والإنصاف والتحيز. مثال على ذلك هو التأكد من أن الموظفين لا يطورون تحيزات نتيجة لاستخدام أنظمة الذكاء الاصطناعي من خلال بناء ضمانات إحصائية تضمن تقديم خيارات غير متحيزة للموظفين بواسطة أدوات الذكاء الاصطناعي".

artificial intelligence (pixabay)مطورو أنظمة الذكاء الاصطناعي يتأكدون من تجنب تضمين المتغيرات الإشكالية مثل الجنس والعرق في نماذجهم (مواقع التواصل الاجتماعي)

تعاون متوازن

يتمثل أحد التحديات التي تواجهها الشركات التي تستخدم خوارزميات الذكاء الاصطناعي، في تحديد مقدار التفاصيل التي يجب الكشف عنها حول الذكاء الاصطناعي. من ناحية أخرى، ترغب الشركات في الاستفادة الكاملة من العمل المشترك على الخوارزميات والتكنولوجيا، في حين تريد من ناحية أخرى منع الجهات الخبيثة من التلاعب بها. ولديهم أيضا واجب قانوني لحماية بيانات العملاء.

والبنوك، مثل العديد من القطاعات الأخرى، تتم إعادة اختراعها وإعادة تعريفها بواسطة الذكاء الاصطناعي. ولأن المجرمين الماليين أصبحوا أكثر تطورا في أساليبهم وتكتيكاتهم، سيحتاج المصرفيون إلى كل المساعدة التي يمكنهم الحصول عليها لحماية عملائهم وسمعتهم، ويمكن أن يكون التعاون على مستوى هذا القطاع بشأن التقنيات الذكية لمكافحة الجرائم المالية التي تحترم حقوق جميع العملاء أحد أفضل حلفاء المصرفيين في جميع أنحاء العالم.

المصدر : مواقع إلكترونية

حول هذه القصة

ميكيلا اختيرت ضمن الشخصيات الأكثر تأثيرا على الانترنت وفقا لمجلة تايم (مواقع التواصل الاجتماعي)

يبدو أن مجال الموضة والأزياء لم يعد مقتصرا على الكائن البشري فقط بعد الآن، حيث اقتحمت ميكيلا سوزا، إحدى الشخصيات الافتراضية باستخدام الذكاء الاصطناعي المجال، وحققت نجاحات واسعة في السنوات الأخيرة.

Published On 20/11/2020

طردت غوغل بشكل مفاجئ تيمنيت غيبرو عالمة أخلاقيات الذكاء الاصطناعي التي اكتسبت احتراما كبيرا في جميع أنحاء العالم لعملها في الكشف عن التحيز العنصري في خوارزميات الذكاء الاصطناعي.

Published On 4/12/2020
المزيد من تكنولوجيا
الأكثر قراءة