في الفيلم، يقول عالم الحاسوب والباحث في الذكاء الاصطناعي بن غيرتزل إن ما يُطوَّر الذكاء الاصطناعي من أجله غالبا يمكن تلخيصه في "القتل والتجسس وغسيل الدماغ". ثم يضرب أمثلة بالذكاء الاصطناعي العسكري، ومنظومات المراقبة، وصناعة الإعلانات الموجهة التي تسعى إلى دفع الناس لشراء منتجات بعينها. تبدو العبارة مثل تحذير قاتم، خصوصا حين يتحدث ضيوف آخرون عن ذكاء عام قد يتجاوز البشر أو عن سباق قد ينتهي بسلطة لا يمكن التحكم فيها.
لكن الفيلم لا يحتاج إلى انتظار ولادة آلة خارقة كي يضع المشاهد أمام سؤال مقلق: ماذا لو كانت الخوارزمية قد بدأت بالفعل في الاقتراب من قراراتنا، ليس بأن تمسك أيدينا وتجبرنا، بل بأن ترتب قبل ذلك ما نراه، وما نغضب منه، وما نمنحه انتباهنا؟
ليست كل توصية على الهاتف تلاعبا، ولا تعني معرفة المنصة بعادات المستخدم أنها تتحكم فيه، لكن المسافة بين معرفة ما يشد الانتباه وتصميم ما يظهر أمامه أصبحت أقصر بكثير. وهذا هو التحول الذي يستحق التوقف عنده؛ الخطر ليس في آلة واعية تريد السيطرة على البشر، بل في مؤسسات تملك بيانات عنهم وخوارزميات ترتب المحتوى وتستهدف الرسائل على نطاق واسع.
آثار رقمية
يعرض الفيلم مسارا يبدأ بتفاصيل تبدو عابرة؛ إعجاب على منشور، بحث عن منتج، موقع جغرافي، مقطع توقف المستخدم عنده، أو موضوع يعود إليه مرارا. ويشرح ميشال كوسينسكي، الباحث في البيانات والسلوك الرقمي الذي يقدمه الفيلم بوصفه "عالم بيانات"، أن هذه الآثار الرقمية يمكن أن تُستخدم لبناء نماذج تحاول استنتاج سمات وميول وسلوكيات محتملة.
هذه الآثار الرقمية لا تبقى تفاصيل منفصلة، بل يمكن أن تتحول إلى نموذج سلوكي يحاول استنتاج ما يثير اهتمام الشخص أو ما يرجح أن يدفعه إلى النقر أو البقاء أو الشراء.
هنا لا تتحدث الخوارزمية مع المستخدم كما يفعل صديق يعرفه، ولا تحتاج إلى فهم مشاعره بالمعنى البشري. يكفيها أن تختبر: أي عنوان يجذبه؟ أي صورة تستوقفه؟ أي موضوع يجعله يعود؟ ثم تعيد التجربة مع ملايين المستخدمين.
بهذا المعنى، لا تبدأ القوة من قرار سياسي كبير أو من سلاح ذاتي التشغيل، بل تبدأ من ترتيب بسيط للمحتوى: ما يظهر أولا، ما يتكرر، وما يختفي تحت سيل لا ينتهي من المنشورات والمقاطع والإعلانات.
والسؤال ليس: هل يستطيع الإنسان الاختيار؟ بل: كم من الاختيارات التي يراها قبل أن يختار صممتها منصة لا يعرف منطقها ولا الغاية التي تعمل من أجلها؟
نبوءة كبيرة
يحذر ماكس تيغمارك، عالم الفيزياء ورئيس معهد مستقبل الحياة كما تعرّفه بطاقة الفيلم، من أن الذكاء الاصطناعي قد يكون أفضل ما يحدث للبشرية أو أسوأ ما يحدث لها. ويتخيل إيليا سوتسكيفر، عالم الحاسوب المتخصص في التعلم الآلي وأحد مؤسسي أوبن إيه آي، ذكاء عاما يستطيع أداء أي مهمة ذهنية يؤديها الإنسان، ولكن على نحو أفضل وبسرعة أكبر.
لكن الخطر القريب لا يحتاج إلى انتظار ذكاء عام، فأنظمة التوصية والإعلان والتصنيف تعمل اليوم داخل منصات يستخدمها مليارات الناس، ولذلك لم يعد النقاش محصورا في كفاءة التقنية، بل امتد إلى الشفافية والمساءلة.
وفي الاتحاد الأوروبي، يفرض قانون الخدمات الرقمية التزامات إضافية على المنصات ومحركات البحث الكبيرة جدا، تشمل تقييم الأخطار المنهجية وشرح المعايير الرئيسة لأنظمة التوصية. كما يتيح وصول باحثين معتمدين إلى بيانات محددة عندما يتعلق بحثهم بهذه الأخطار. وجود هذه القواعد يكشف أن القضية لم تعد مجرد نقاش نظري عن هاتف يقترح مقطعا جديدا، بل مسألة تأثير اجتماعي يحتاج إلى تدقيق عام.
الانتباه.. سوق
تستعيد كارا سويشر، الصحفية ورئيسة التحرير في "نيويورك ميديا" كما تعرّفها بطاقة الفيلم، تحولا في وادي السيليكون؛ من وعد بتقنية توسع المعرفة وتربط الناس، إلى اقتصاد يتنافس على احتجاز الانتباه.
وهنا تظهر المفارقة؛ كلما صارت المنصة أفضل في توقع ما يجذب المستخدم، صارت أقدر على إبقائه داخلها. وقد تكون النتيجة مريحة في حالات كثيرة، مثل العثور على موسيقى مناسبة أو معلومة يحتاج إليها، لكنها تثير سؤالا آخر حين تدخل السياسة والصحة والرأي العام: من يقرر ما الذي يستحق أن نراه أكثر من غيره؟
لا يعني ذلك أن خوارزمية واحدة تصنع قناعة سياسية من الصفر، أو أن كل مستخدم بلا إرادة، فالأفكار والعلاقات والواقع المعيشي والإعلام كلها تؤثر في القرار. لكن تخصيص الرسائل يضيف قوة جديدة؛ القدرة على اختبار آلاف الصيغ ومعرفة أيها ينجح في جذب فئات مختلفة، ثم تكرارها بسرعة وتكلفة أقل.
تآكل الخصوصية
بعد الحديث عن الانتباه، ينقل الفيلم المشاهد إلى المراقبة: كاميرات، تعرّف على الوجوه، وتحليل فيديو. ويستخدم روب رايخ، أستاذ العلوم السياسية والفلسفة في جامعة ستانفورد، تشبيه "آلة زمن للمراقبة" للتحذير من أن البيانات قد تُخزَّن اليوم ثم تستعاد لاحقا إذا تغيرت موازين القوة أو صار الشخص موضع اشتباه.
ولا تجعل تصريحات كوسينسكي في الفيلم عن تآكل الخصوصية ذلك مصيرا محتوما، لكنها تفتح سؤالا واقعيا عن حجم البيانات التي تُجمع، وكيف تُستخدم، ومن يراقب استخدامها.
الفارق هنا مهم؛ الكاميرا التقليدية تسجل مشهدا، أما حين تقترن بقدرات فرز وتعرّف وتحليل، فهي تفتح إمكان البحث داخل المشهد بسرعة وعلى نطاق أكبر. ولذلك يصبح السؤال الحقوقي ليس فقط: هل توجد كاميرا؟ بل: من يملك قاعدة البيانات، وكم تبقى، ومن يستطيع استخدامها، وبأي رقابة؟
الحرب.. من يحدد الهدف؟
في الثلث الأخير، يعود الفيلم إلى مشروع "مايفن" التابع لوزارة الدفاع الأمريكية، الذي استخدم تقنيات الذكاء الاصطناعي للمساعدة في تحليل لقطات المسيّرات ورصد الأجسام فيها. ولا يعني ذلك أن المشروع كان سلاحا ذاتي التشغيل أو أنه منح الآلة قرار القتل.
ويظهر روبرت وورك، نائب وزير الدفاع الأمريكي بين عامي 2014 و2017، في الفيلم ليشدد على أن الجيش لا يريد لنظام ذكاء اصطناعي أن يقرر أي إنسان يهاجم. ثم ينتقل الفيلم إلى النقاش بشأن الأسلحة ذاتية التشغيل وقرار القتل.
وبحسب رويترز، أبلغت غوغل موظفيها في يونيو/حزيران 2018 بأنها لن تجدد عقدها المرتبط بمشروع مايفن بعد انتهاء العقد القائم، في أعقاب جدل داخلي واعتراضات موظفين على مشاركة الشركة في المشروع.
لكن قيمة هذا الجزء ليست في إعادة سؤال "من يضغط الزر؟" فقط. الفيلم يضعه في نهاية سلسلة تبدأ قبل ميدان المعركة: بيانات عن البشر، ثم نماذج للتعرف والتوقع، ثم قرار تتسع آثاره كلما اقترب من سلطة الدولة والسلاح.
ولا يصح مساواة خوارزمية تقترح محتوى بسلاح ذاتي التشغيل، فالميدان والخطر والمسؤولية القانونية مختلفة جذريا. لكن الحالتين تلتقيان عند تساؤلات المساءلة: من يحدد الهدف؟ من يراجع الخطأ؟ ومن يملك حق الاعتراض عندما يصبح القرار أسرع من قدرة الإنسان على فهمه؟
ليست الآلة وحدها
أبرز ما يتركه الفيلم ليس توقعا عن آلة تتمرد، بل هو استنتاج مفاده أن الذكاء الاصطناعي يضخم أهداف من يملكه. إذا كانت الغاية هي جذب الانتباه، فسيتعلم ما يبقينا أمام الشاشة. وإذا كانت الغاية هي المراقبة، فسيتعلم كيف يفرز الوجوه والحركات. وإذا كانت الغاية عسكرية، فسيسعى إلى اكتشاف ما يُطلب منه اكتشافه.
لذلك لا يبدأ التساؤل الحقيقي من: هل الذكاء الاصطناعي خير أم شر؟ التساؤل هو: من يملك البيانات والخوارزمية؟ ومن وضع الهدف؟ ومن يملك حق القول إن هذا الهدف نفسه يجب أن يتوقف؟
