نشرت مجلة العلوم (ساينس) مقالاً بحثياً نهاية الشهر الماضي ناقشت فيه تحيز خوارزميات التصنيف والتنبؤ المستخدمة في المستشفيات الأمريكية عنصرياً للبيض، حيث أوضح البحث أن 17.7 في المائة من المرضى الذين يتم قبولهم في برامج الرعاية الصحية للحالات المرضية المزمنة والأكثر عرضة للخطر هم من السود. بينما أوضح البحث أن نسبة السود الذين يعانون من الأمراض المزمنة تزيد بحوالي 26.3 في المائة عن البيض.

خوارزميات التصنيف والتنبؤ هي خوارزميات ذكاء صناعي تقوم بتحليل البيانات وتستخلص نماذج تصف بشكل دقيق فئات وتصنيفات البيانات المهمة. على سبيل المثال تستطيع هذه الخوارزميات تحليل الأخبار والمشاركات عبر مواقع التواصل الاجتماعي واستخلاص تصنيف لهذه الأخبار والمشاركات. فمثلاً نستطيع معرفة عدد الأخبار التي تتحدث عن موضوع معين بشكل إيجابي أو سلبي أو حيادي. تعتمد هذه الخوارزميات في تنبؤاتها على بيانات سابقة تستخدمها للقيام بالتنبؤ. فمثلاً لمعرفة ما إذا كان خبر عن حدث معيّن يتحدث إيجاباً أو سلباً تقوم الخوارزمية بمراجعة أخبار سابقة تتعلق بحدث مماثل مُحكَمة لتدريب الخوارزمية واستخلاص النتيجة.

وكما في تصنيف الأخبار والمشاركات تُستخدم هذه الخوارزميات في معرفة علاج مناسب لمرضٍ ما بناءً على معلومات سابقة عن أشخاص أصيبوا بهذا المرض وتم علاجهم، أيضا تستخدم لتقييم المخاطر في البنوك ومؤسسات الدولة، كما تستخدمها الشركات الخاصة لتنمية مبيعاتها أو خدماتها وفهم الزبائن والمستخدمين والكثير من التطبيقات الأخرى.

لا يستطيع الأطباء تصنيف المرضى من حيث احتياجهم لرعاية طبية خاصة إلا من خلال دراسة ملفهم الطبي ومقارنته بحالات أخرى، ما يحتاج إلى ساعات طويلة من البحث والتدقيق ولا يمتلك الأطباء متسعاً من الوقت للقيام بهذه المهمه. لهذا تستخدم أنظمة الرعاية الطبية أنظمة الذكاء الصناعي التي تستخدم الخوارزميات آنفة الذكر لدراسة بيانات عن مرضى سابقين وتسمى هذه الخطوة التعلُّم أو التدريب، حيث يتم فيها بنا نموذج التصنيف، أما الخطوة الثانية هي التصنيف، ويتم فيها مقارنة النموذج المعد في الخطوة الأولى ببيانات المريض من أجل تحديد قبول المريض في البرنامج من عدمه.

البيانات الموجودة عن مرضى سابقين لا تتحدث عن لون البشرة ولا يدخل لون البشرة في دراسة الملفات إطلاقاً لكن يبدو أن هناك تشابهاً ما في البيانات المخزنة عن مرضى سابقين والمرضى قيد الدراسة. وقد أوضح المقال في مجلة ساينس أن السود ينفقون مبالغ مالية أقل على الرعاية الصحية ولهذا يتلقون رعاية صحية أقل من البيض وحين تقوم خوارزميات التصنيف والتنبؤ بمقارنة البيانات مثل الأمراض المزمنة التي يعاني منها المرضى وعدد الأيام التي تلقوا فيها عناية في المستشفى وغيرها من البيانات يكون الكثير من هذه المعطيات مربوط بالإنفاق المالي للمريض. وبما أن الإنفاق المالي للسود أقل من البيض تبني الخوارزميات نتيجة مرتبطه بالانفاق على الحالة المرضية وبهذا تكون نسبة قبول المرضى البيض أعلى من السود.

على ما يبدو أنّ تحيز الخوارزميات مرتبط بعدم المساواة المتجذرة في المجتمع الأمريكي التي تعني أن دَخل السود أقل من غيرهم ويتمتعون بزيارات طبية أقل، وعندما يقومون بها، يصف الأطباء لهم كميات أقل من الأدوية، ويطلبون منهم الخضوع لاختبارات أقل. بالتالي تكون كل البيانات المستخدمه لتدريب نظام التصنيف منحازة لفئة معينة من المجتمع بناءً على المعاملات المالية بين المستشفيات ومؤسسات التأمين، ووصفات الأطباء. وبهذا قامت خوارزميات التصنيف بالاعتماد على تكاليف الرعاية الصحية بدلاً من حدّة الحالة المرضية. هذه الدراسة في غاية الأهمية حيث بينت لماذا لا يجب الاعتماد المطلق وبثقة عمياء على الذكاء الصناعي لحل معظم مشاكلنا الاجتماعية المُلحة. فتطبيقات الذكاء الصناعي هي عامل مساعد لمتخذ القرار وعامل هام لدراسة وتقييم الكثير من الأمور التي تتطلب وقتاً طويلاً ودراسات مستفيضة بشرط تقييم الأداء من فترة لأخرى للتأكد أنه لا يتم خداع هذه الخوارزمايات حتى وإن بدت ذكية فهي آلة في نهاية المطاف.