غوغل ليست ملاكا.. كيف يمكن لمتصفح البحث الأشهر التحكم في حياتنا؟

في أحد المساءات الحارة من شهر يونيو/حزيران من عام 2015، دخل المواطن الأميركي ديلان روف كنيسة إيمانويل الأسقفية الميثودية الأفريقية في منطقة تشارلستون بولاية كارولاينا الجنوبية، وهي كنيسة قديمة ذات تاريخ معروف في قضايا الحقوق المدنية، وفتح النار بشكل عشوائي مُتسبِّبا في قتل تسعة أشخاص(1).

 

لكن المثير للانتباه في هذه القضية كان ما كتبه روف في بيان(2) حصلت عليه الشرطة بعد الحادثة، حيث أوضح انتماءاته الثقافية وهي بالطبع تقف في ناحية تفوُّق العِرق الأبيض، لكن تبيّن أيضا أن ما أثاره لاتخاذ القرار النهائي بالإقدام على قتل الناس كان بحثا أجراه على "غوغل" كتب فيه "جرائم السود ضد البيض"، هنا نقله غوغل إلى نتيجة بحث أولى كانت منظمة عنصرية تُسمى "مجلس المواطنين المحافظين"، وبها وجد عددا كبيرا جدا من جرائم السود ضد البيض، فاتخذ القرار بالانتقام، بحسب ما كتب في بيانه.

 

لنفترض أنك تعمل أمين مكتبة عامة، دخل أحدهم إليك وطلب منك أن تدلّه على كتب في تمجيد العنصرية على سبيل المثال أو جرائم السود ضد البيض أو كيفية صنع قنبلة منزلية، هل كنت لتعطيه الكتاب؟ ربما، لكن في الغالب لن تفعل ذلك، عادة ما ستناقشه أولا، وربما ستُوضِّح له بعض المعلومات المهمة، أو ستمتنع، إلا أن "غوغل" ليست كذلك، فهي خوارزمية هدفها الاعتماد على مصفوفة ذكية كفاية لتحميل مليارات البيانات والوصول بك إلى النقطة التي تريدها.

 

إذا كنت مواطنا أميركيا، حينما تبحث عن كلمة "Idiot" (أبله) في غوغل فقد تتعجب حينما تجد أن النتائج الأولى في قسم الصور لدونالد ترامب، هنا لا يتعلّق الأمر بدونالد ترامب تحديدا بالنسبة لغوغل، لكن وظيفة الخوارزمية هي أن تربط بين كلمة البحث وأعداد المنشورات والوصلات التي تتعلق بها، ولأن الكثير من الناس استخدموا هذا الوصف لدونالد ترامب، لأغراض سياسية، ما أقنع محرك البحث بأن "Idiot" ودونالد ترامب مرتبطان.

في قصة ترامب قد يكون الأمر كوميديا، يدفع بنا للضحك حول شخصية أثارت الجدل ولا تجد قبولا لدى الكثيرين، لكن في كتابها "خوارزميات القهر" (Algorithms of Oppression) تقول صفية أوموجا نوبل، الأستاذة المشاركة في جامعة كاليفورنيا، إن طبيعة الخوارزميات هذه تُؤسِّس بشكل أو بآخر لما هو أسوأ مما يمكن أن نتصوّر. يحدث ذلك لأن الناس يعتقدون أن ما تعرضه نتائج بحث غوغل محايدة في المطلق، ويمكن من خلاله أن تحصل على وصف دقيق لظاهرة ما، ابحث مثلا عن "ماء" أو "بركان" أو "الاضطراب ثنائي القطب"، عادة ما ستلتقي ببيانات دقيقة وعلمية عن الأمر. لكن ماذا لو قرّرت(3) البحث عن كلمات مثل "Latin Girl" أو "Black Girls" أو "Asian Girls"؟

 

في الفترة ما بين 2009-2011 حينما أجرت نوبل أبحاثها كانت نتائج هذا النوع من البحث أكثر ميلا ناحية المحتوى الإباحي مقارنة بالبحث عن "American Girl" على سبيل المثال، هل يعني ذلك أن الفتيات اللاتينيات مثلا سيئات السمعة؟ بالطبع لا، كذلك فإن الخوارزمية لم تقصد ذلك، لكنها فقط عملت عبر حلقات من التغذية الراجعة على توقّع رغباتك ومحاولة التوافق معها. رغم ذلك، فإن تلك النتائج تعطي إيحاء، يمكن أن يتحول إلى قناعة، بأن البنات من أميركا اللاتينية، بشكل عام، سيئات السمعة، الأمر الذي بدوره قد يُكرِّس للعنصرية.

 

إذا كنت يميني التوجُّه السياسي، فإنك حينما تسأل ساندر باتشاي عن أسباب تحيُّز غوغل تجاه الرئيس الذي تُشجِّعه فإن إجابته ستكون أن يشرح لك آلية عمل خوارزميات غوغل بأبسط طريقة ممكنة، لكن على الرغم من ذلك، فإن الأمر لا ينتهي عند هذا الحد، الخوارزميات ليست فقط "آلية" بحيث إن ذلك هو "فقط" السبب في تحيُّزها، لفهم تلك الفكرة يمكن أن نتأمل قصة قصيرة يحكيها في كتابه "كود غوغل" (The Google Code) الصحفي النرويجي أندريا إيكستورم عن حادثتين منفصلتين.

 

الأولى كانت في عام 2009، وكانت هناك حملة عنصرية(4) ضد ميشيل أوباما زوجة الرئيس الأميركي، خلالها قام مناصرو تلك الحملة بتحميل صورة لوجهها وقد عُدِّل ليصبح أشبه بالقرد إلى الإنترنت بكثافة شديدة لكي تظهر في نتائج بحث الصور الخاصة بغوغل، وقد حدث ذلك بالفعل، ما إن تكتب "ميشيل أوباما" حتى تكون النتائج الأولى للبحث هي صورتها المعدلة. خلال أيام من تلك الحملة تدخّلت منصة غوغل فورا ومنعت تصدُّر تلك النتائج.

أما الحادثة الثانية فكانت في عام 2011 حينما قام(5) أندرس بهرنغ بريفيك بعملين إرهابيين متتاليتين ضد الحكومة والسكان المدنيين ومعسكر الصيف الخاص باتحاد العمال الشباب، لقي 77 شخصا مصرعهم في تلك الحادثة، كان بريفيك جاهزا لكل شيء، حتّى إنه قام بتحميل عدد كبير من الصور الجيدة لنفسه لأنه يعرف أن الناس بعد الحادثة ستهرع فورا لغوغل وتبحث عنه، في الأيام الأولى للحادثة بدأت مجموعة من المبادرات في حث الناس على رفع صور سيئة للرجل مع براز الكلاب بكثافة شديدة كي تظهر على غوغل النرويج، وهو ما حدث بالفعل.

 

لكن غوغل هذه المرة لم تتدخل لضبط نتائج البحث مثلما حدث في حالة ميشيل أوباما، وتركت الخوارزمية لتفعل ما تُجيد فعله، لماذا حدث ذلك؟ لأنهم يرون أن بريفيك إرهابي يستحق الاستحقار بالفعل، أما ميشيل أوباما فهي سيدة مجتمع محترمة لا تستحق الإهانة، وعلى الرغم من اتفاقنا جميعا حول هذه النقاط فإنها تُثير تساؤلا كبيرا عن طبيعة التدخُّل الذي يمكن أن يحدث في شيء بمثل هذه القوة، نتحدث هنا عن منصة تمتلك 90% من سوق البحث عبر الإنترنت ويجري الناس خلالها أكثر من 5.5 مليار عملية بحث، في اليوم الواحد.

 

لم نرصد هذا التدخل من قبل، ورغم وجود عدد من الاتهامات الواضحة بهذا الشأن ضد عدد من الشركات القادرة على هذا النوع من التلاعب مثل غوغل أو فيسبوك، فإنه لا توجد دلائل على ذلك، لكن دعنا نسأل -على الأقل- عن احتمالية أن يحدث ذلك، هل هو ممكن حقا؟! وإلى أي مدى يمكن أن يؤثّر؟

 

حينما أسألك عن سبب استخدامك لغوغل فعادة ما ستجيب بأنه سهل أو أنك لا تعرف غيره أو أنه "دقيق"، تلك الملاحظة الأخيرة مهمة، لأننا بالفعل نثق في غوغل لدرجة تجعلنا نثق في اختياراته لأنها ليست فقط الأنسب لطلبنا، ولكن الأكثر صوابا في القضية التي نود فهم جوانبها، لفهم مدى عمق تلك الفكرة يمكن أن نتأمل نتائج حصل عليها روبرت إبشتاين(6)، عالم النفس من ​​المعهد الأميركي للبحوث السلوكية في ولاية كاليفورنيا الأميركية.

 

قام إبشتاين ورفاقه بإخضاع مجموعة من نحو5000 شخص، في ثلاث تجارب، إلى اختبار بسيط يتضمّن استخدامهم لمحرك بحث سُمِّي "كادودل" (Kadoodle)، تم التلاعب به عمدا ليُرتِّب مرشحين انتخابيين حسب هوى الباحثين، هناك جاءت النتائج لتقول إن هؤلاء المترددين في تحديد مرشح بعينه للتأشير عليه في يوم الانتخابات كانوا أكثر ميلا بنسبة وصلت إلى 80% ناحية المرشح الذي ظهر لهم كنتيجة بحث أولى، أيًّا كانت.

 

بحساب هؤلاء المترددين إلى نسبة عموم الناس، فإن هناك فارقا(7) قدره 2% يمكن لغوغل أن يُحقِّقه إذا قرّر التحيز إلى أحد المرشحين، بالنسبة لدولة مثل الولايات المتحدة الأميركية على سبيل المثال فإن هذه النسبة هائلة ويمكن حقا أن تؤثّر في مسار الانتخابات، في تلك النقطة يدخل فريق بحثي مشترك بين ثلاث جامعات أميركية ليُشير في دراسة مُثيرة للانتباه نُشرت قبل نحو العام في دورية "نيتشر" المرموقة إلى أن نطاق شبكات التواصل الاجتماعي، في العموم، يمكن استخدامه للتوجيه السياسي، حتى عندما تكون المعلومات صادقة تماما، بمعنى أن الأمر لا يتعلّق بنشر الأخبار الكاذبة فقط، سواء عبر البشر أو البرمجيات، ولكن أيضا بالتلاعب في خوارزمية فيسبوك وتويتر على سبيل المثال.

 

لفهم الأمر دعنا نتأمّل سؤالا ورد إلى مارك زوكربيرغ ذات مرة، من أحد الصحفيين، عن أهمية الصفحة الرئيسية لفيسبوك الخاص بكل واحد منّا، فأجاب بذكاء شديد: "إن سنجابا يموت أمام منزلك الآن قد يكون وثيق الصلة باهتماماتك أكثر من الناس الذين يموتون في أفريقيا". ببساطة، تُصمَّم خوارزمية وسائل التواصل الاجتماعي ومحركات البحث مثل غوغل لكي تتبّع رغباتك ثم تُغذّيها باقتراحات جديدة للأصدقاء والمنشورات من النوع نفسه (هذا هو ما يُسمى بـ "فقاعة المعلومات")(8).

 

في حالة الميول السياسية تميل خوارزميات شبكة التواصل الاجتماعي إلى إحاطتك بمنشورات المؤيدين لحزبك السياسي، فتصبح صفحتك الرئيسية مع الوقت أشبه بمظاهرة تأييد، بينما تعمل على تجنيبك التجارب السلبية، وتُمثِّل المنشورات المناهضة لحزبك السياسي، في تلك الحالة ستعيش داخل فقّاعة من المنشورات التي تدور فقط حول تأييد رغباتك.

 

لكن المشكلة هي أن مواقفنا السياسية لا تتحدّد فقط بقدر اقتناعنا عبر حجج عقلانية، بل أيضا بقدر النقاش الدائر حولها على وسائل التواصل، إذا كنت مترددا لكنك في فقّاعة يؤيد أفرادها "الحزب الأزرق" فإن قناعاتك ستتكوّن شيئا فشيئا لتؤيّد هذا الحزب، لكن ماذا لو افترضنا مثلا أنك مسؤول عن إحدى شبكات التواصل الاجتماعي وتود للحزب البرتقالي أن ينتصر في الانتخابات الأميركية؟ كل ما تحتاج إليه هو إعادة برمجة الخوارزميات لتسمح بتدفق منشورات من عالم الحزب البرتقالي إلى صفحات مؤيدي الحزب الأزرق، بينما تبقى صفحات مؤيدي الحزب البرتقالي في فقاعة خاصة بهم.

 

الرئيس التنفيذي لشركة "Google" سوندار بيتشاي يدلي بشهادته أمام اللجنة القضائية الفرعية التابعة لمجلس النواب

في تلك الدراسة(9)، كان تعمّد التلاعب في هيكلة الشبكات دافعا لفوز حزب محدد بفارق 20%، فى لعبة انتخابية افتراضية، الأسوأ من ذلك أن فيسبوك وتويتر وغوغل يمكن لها أن تفعل ذلك دون أن تترك أي أثر وراءها تُدان به، المشكلة إذن ليست أن غوغل قد فعلت ذلك، بل إنها يمكن لها -ربما بدرجة من السهولة- أن تفعله دون رقابة كافية.

 

بينما نتحدٍث، يحاول فريق كبير من الباحثين أن يجد حلولا لتلك المشكلة الأخيرة، إلا أنه لحين وصولنا إلى تلك النقطة فإن كل شيء ممكن، في الواقع فإن الأمر أعمق من مجرد انتخابات، فنحن نعرف أن الدولة كانت دائما وكيل المعلومات الرئيسي في هذا العالم، فهي الجامع والمتحكم والمنتج الرئيسي لها عبر شبكاتها الخاصة الداخلية والخارجية، وبسبب ذلك فإنها كانت دائما الكيان الوحيد القادر على اتخاذ القرارات التي تصحبها تغيرات سياسية واجتماعية.

 

أما الآن فهناك وكلاء آخرون(10) للمعلومات غير الدولة، ونتحدّث عن تلك الشركات التي تجمع بيانات هائلة من الناس يمكن أن تستخدمها بالطريقة نفسها. بالتالي، يمكن لهذه الكيانات الضخمة أن تتدخّل أيضا في عملية صناعة القرار السياسي والاجتماعي بشكل ربما أكثر قوة من الدولة ذاتها، وهذا يفتح عصرا جديدا تماما للسياسة!

__________________________________________________

المصادر

  1. Dylann Roof: white supremacist appeals death penalty on mental health grounds
  2. Here Is What Appears to Be Dylann Roof's Racist Manifesto
  3. Algorithms of Oppression: How Search Engines Reinforce Racism 1st Edition by Safiya Noble
  4. The Google Code – Andreas Ekström
  5. المصدر السابق
  6. Internet search engines may be influencing elections
  7. The search engine manipulation effect (SEME) and its possible impact on the outcomes of elections
  8. Are you in a social media bubble? Here's how to tell
  9. هل يمكن لفيسبوك وتويتر أن يُحدِّدا رئيس أميركا القادم؟
  10. الثورة الرابعة – كيف يعيد الغلاف المعلوماتي تشكيل الواقع الإنساني – لوتشيانو فلوريدي.

حول هذه القصة

إن البيانات الضخمة وخوارزمياتها ليست مجرد شيء في حياتنا، بل هي حالة نعيش داخلها ولا يمكن الهرب من تأثيرها مهما حدث.. لذا إذا لم نتمكّن بعد من التخلُّص من عنصريتنا، فكيف ستفعل تلك الخوارزميات ذلك؟!

المزيد من مقالة
الأكثر قراءة