شعار قسم مدونات

الذكاء المُدَمِّر!

استهداف إسرائيل الفلسطينيين في بيوتهم مع عائلاتهم بالذكاء الاصطناعي الجزيرة - ميد جيرني
إسرائيل تستخدم الذكاء الاصطناعي باستهداف الفلسطينيين في بيوتهم مع عائلاتهم (الجزيرة - ميدجيرني)

سرحت أمس بخيالي وأنا مضجع على أريكة غرفة المعيشة، أشاهد التغطية المستمرة في قناة الجزيرة لتطورات الحرب في غزة، وذلك الدمار البشع الذي تحدثه آلة الحرب الإسرائيلية، التي تعمل في معظمها بالذكاء الاصطناعي، فيما تطلق عليه قوات الاحتلال نظام "هابسورا"، فخر ما أنتجته الوحدة 8200 في مخابرات جيش الاحتلال؛ وتساءلت: ماذا لو لم يكن كل هذا الدمار من غير الذكاء الاصطناعي، الذي يملأ العالم ضجيجاً بأنه مستقبل الدنيا، وأن من لا يتعلمه سيمحق مع الزمن؟

هذا الدمار غير المتصور، الذي تُحدثه آلة الحرب "الإسرائيلية" في حقيقة الأمر، يتم بالغباء الطبيعي لقلوب من طوّر هذا النظام المدمر، والذي من المفترض أنه صُنع بحسب ادعاء من صنعوه للحفاظ على أرواح المدنيين، وفرز المقاتلين من بينهم، للوصول إلى الهدف دون خسائر بشرية كبيرة، لا في الأملاك ولا في الأرواح بين المدنيين، اتساقاً مع حقوق الإنسان والتزاماً بمقررات المواثيق الدولية المنظمة للحروب، والتي تسهم في وضع أُطر قانونية لحماية المدنيين أثناء النزاعات المسلحة، للحد من معاناة البشر أثناء الحروب.

الأزمة الحقيقية التي تهدد العالم من استخدام الذكاء الاصطناعي "إيه أي" في العمليات العسكرية، تتمثل في بناء العقيدة القتالية للبرامج المستخدمة في توجيه القرار مبدئياً، ثم تنفيذ ذلك القرار عبر آلة الحرب الفتاكة

أخذني خيالي لما هو أبعد من ذلك، أبعد من غزة ورفح والاحتلال الحاقد، أخذني خيالي لاجتماع حلف "ناتو" في قاعة كبيرة بمقر الحلف ببروكسل، ومقاعد الدول الأعضاء الـ31 متراصة، يُزاد عليها مقعد لمستشار عسكري جديد، هو المستشار الذكي (ناتو – إيه أي)، وهو المستشار الذي تفرضه الدولة الأكبر في الحلف على الطاولة، لكن وجوده على الأرجح سيكون له تداعيات على الحلف وأعضائه، وعلى قرارات الحلف بالنتيجة، ومن ثم آثار هذه القرارات على العالم، فالأصل في هذا المستشار ونصائحه وتوجهاته، المعلومات التي تمت تغذيته بها، وكان نظام "هابسورا" شاخصا بين عيني وأنا أفكر في مستشارهم الجديد.

العقيدة القتالية لحلف "ناتو"، والمبنية على سبعة مبادئ تتضمن مبدأ الردع الاستراتيجي، والذي يشمل الحفاظ على القدرات الدفاعية النووية والتقليدية والصاروخية لردع العدوان، وفي ظل عدم تعريف العدوان بشكل مفصل، ومع دخول مصطلح الإرهاب (الهلامي) منذ عقدين أو يزيد في تفسيرات العدوان، فإن مخاوف المستشار الذكي في مقاعد حلف ناتو تتزايد، أو على الأقل مخاوف من يغذون هذا المستشار بالمعلومات، ومن يقف وراءهم.

مستشار حلف ناتو الذكي يمكنه تحدي الافتراضات الأساسية للقادة، وقد يتردد صانعو القرار أو يختلفون، ومن ثم يظهر المستشار الذكي كحل مرجِّح للقرارات، فيما لو أنتج تفكيراً خارج الصندوق، في وقت استهلك فيه القادة البدائل والمتغيرات الأساسية أو التقليدية، وقد يظهر المستشار بمظهر غير المتحيز، لكن الحيل النفسية التي قد يتم تغذيته بها، قادرة على إقناع القادة بالقرار وتوجيههم، لاسيما إن كان القرار متوافقاً مع رغبات مكبوتة للقادة، وتكبتهم القواعد القانونية وحتى الأخلاقية في توجيه القرار باتجاه تلك الرغبات.

الأزمة الحقيقية التي تهدد العالم من استخدام الذكاء الاصطناعي "إيه أي" في العمليات العسكرية، تتمثل في بناء العقيدة القتالية للبرامج المستخدمة في توجيه القرار مبدئياً، ثم تنفيذ ذلك القرار عبر آلة الحرب الفتاكة؛ ومن هذا المنطلق، فإن عملية تحديد الأهداف والتمييز هي واحدة من الإشكاليات الكبيرة في هذا المقام، فالصورة النمطية التي يغذّى بها البرنامج عن "العدو" كفيلة بخلط الأوراق، وإفناء أرواح بريئة في عمليات عسكرية في فوضى مدخلات البيانات، وعدم وجود رقابة حقيقية أو معايير أخلاقية حاكمة.

تقف الشفافية والمحاسبة عائقاً كبيراً في تلك القرارات التي يتخذها المستشار الذكي، إذا ما وضعت خوارزميات الذكاء الاصطناعي المعقدة، في معادلة الشفافية ومن ثم المحاسبة عليها، وعليه فقد يصعب تحديد الأخطاء وتصحيحها، وهوية المسؤول عنها

غياب الضوابط الحاكمة تدفع إلى الحديث عن دقة البيانات، ومن ثم التحيز المحتمل، والتي قد تؤدي إلى اتخاذ قرارات خاطئة، سواء في حالة عدم وجود بيانات دقيقة ومكتملة، في حال نظرنا للأمر بحسن نية، أو أن تكون المعلومات مغلوطة عن عمد ومن ثم متحيزة، كما هو الحال في غزة خلال الحرب الأخيرة، أو فيما كان قبلها في اليمن والسودان وأفغانستان من قبل القوات الأمريكية، التي كثيراً ما قصفت أعياناً مدنية على أنها معسكرات، أو قتلت أبرياء في أعراس على أنها تجمعات عسكرية.

تقف الشفافية والمحاسبة عائقاً كبيراً في تلك القرارات التي يتخذها المستشار الذكي، إذا ما وضعت خوارزميات الذكاء الاصطناعي المعقدة، في معادلة الشفافية ومن ثم المحاسبة عليها، وعليه فقد يصعب تحديد الأخطاء وتصحيحها، وهوية المسؤول عنها، وبالنتيجة يتفرق دم الأبرياء بين المستشار ومن غذاه بالمعلومات؛ فمُدخل البيانات سيتنصل بأنه مجرد مدخل بيانات ومعلومات، وأن التحليل هو خاص بالبرنامج، والمبرمج سيتحجج بأن المعلومات هي التي تصل بالبرنامج إلى ما وصل إليه من تحليل، ومتخذ القرار سيركن إلى التوافق العام باستخدام الذكاء الاصطناعي، ومطلق القذيفة ما هو إلا منفذ لكل هذه العمليات المعقدة لاتخاذ قرار قتل بريء، لينتهي مصير العالم، فيما لو وصل الأمر لسلاح نووي، أن يوضع مصير العالم على كف الــــ "إيه أي".

الآراء الواردة في المقال لا تعكس بالضرورة الموقف التحريري لشبكة الجزيرة.