نيويورك تايمز: هل نحن مستعدون للأسلحة الذكية التي تتخذ قرارها بنفسها؟

السرعة الكبيرة التي تتقدم بها تكنولوجيا الذكاء الاصطناعي في مجال الأسلحة تثير مخاوف خروجها عن السيطرة (رويترز)
السرعة الكبيرة التي تتقدم بها تكنولوجيا الذكاء الاصطناعي في مجال الأسلحة تثير مخاوف خروجها عن السيطرة (رويترز)

يدق مقال بصحيفة نيويورك تايمز جرس الإنذار من السرعة التي يطور بها الجيش الأميركي الذكاء الاصطناعي، مما يثير مخاوف سباق أسلحة تتخذ القرارات بنفسها بعيدا عن تحكم الإنسان.

وتشير كاتبة المقال كارول جياكومو إلى خطورة هذه الأسلحة لو أنها وجدت في بداية حرب أفغانستان كما عبر عن ذلك أحد ضباط الجيش الأميركي آنذاك أثناء مطاردتهم لمقاتلي حركة طالبان عندما رصد راعية ماعز معها راديو لاسلكي واعتقد وقتها أنها ربما أبلغت الحركة عن مكانهم. ووفقا لقوانين الحرب يستطيع الجنود إطلاق النار على أي شخص يبلغ قوات الأعداء بمكانهم، لكن الجنود رأوا أن الراعي كان مجرد فتاة صغيرة.

ويعلق هذا الضابط، ويدعى بول شار، على ذلك بأنه لو أن هذه الفتاة كانت في مرمى رؤية روبوت ذاتي الحركة أو طائرة مسيرة (درون) مثل تلك التي يتم تطويرها اليوم، بدلا من القناصين المدربين، لكان من المحتمل ألا يميز بين هدف حقيقي وطفلة وكان أرداها قتيلة.

السرعة التي تتقدم بها هذه التكنولوجيا تثير مخاوف سباق أسلحة مستقلة مع الصين وروسيا مما يجعل الأمر أكثر إلحاحا أن تعمل الدول معا لوضع ضوابط

وتلمح الكاتبة إلى ما قاله مسؤولان كبيران في مجال الذكاء الاصطناعي بوزارة الدفاع الأميركية (البنتاغون) بأن الولايات المتحدة لم تقترب بعد من استخدام سلاح مستقل بالكامل في الميدان.

لكنها تردف بأن القوات الأذربيجانية استخدمت قبل ثلاث سنوات ما بدا وكأنها درون انتحارية إسرائيلية الصنع تسمى "هاروب" لتدمير حافلة تحمل جنودا من الأرمن. وكان بإمكان الدرون الطيران آليا إلى الموقع واكتشاف الهدف والانقضاض عليه وتفجيره، بحسب الشركة المصنعة. وحتى الآن هذه الدرون مصممة للتحكم بها بشريا بحيث يمكن وقفها.

وبعد هذه الحادثة بفترة وجيزة في ولاية كاليفورنيا اختبر مكتب القدرات الإستراتيجية بالبنتاغون 103 طائرات درون من طراز بيرديكس غير مسلحة ذاتية الحركة وقادرة على الالتفاف حول الهدف وتتشارك في دماغ واحد موزعا فيما بينها لاتخاذ القرارات والتكيف مع بعضها بعضا مثل أسراب الطيور في الطبيعة.

وتذكر الكاتبة أنه مع تزايد قدرة هذه الأنظمة على التصرف بشكل مستقل يخشى الذين يدرسون مخاطر هذه الأسلحة، بما في ذلك فريق خبراء تابع للأمم المتحدة، من أن المخططين العسكريين قد يميلون إلى إزالة الضوابط البشرية تماما، ولهذا اقتُرحت معاهدة لحظر هذه الأسلحة الفتاكة الموجهة ذاتيا لكنها لم تلق دعما كافيا.

وتضيف الصحيفة أن السرعة التي تتقدم بها هذه التكنولوجيا تثير مخاوف سباق أسلحة آلية العمل مع الصين وروسيا، مما يجعل الأمر أكثر إلحاحا أن تعمل الدول معا لوضع ضوابط لئلا يُسلم البشر تماما خيارات الحياة والموت في القتال للآلات.

وتختم بأنه على الرغم من أن الذكاء الاصطناعي قد أثبت أنه أداة قوية في العديد من المجالات، فإن به نقاط ضعف خطيرة مثل قرصنة الكمبيوترات وخروقات البيانات وإمكانية فقدان البشر السيطرة على الخوارزميات.

المصدر : نيويورك تايمز