متى سنحاكم أول روبوت؟

عام 2018 انزلقت سيارة "تيسلا" ذاتية القيادة عن مسارها، وكادت ان تتسبب بحادث كبير. في غياب قوانين خاصة تحمل التقنية ذاتها مسؤولية قانونية، لم نشاهد السيارة تقف أمام القاضي للدفاع عن نفسها وتقول إن السائق البشري كان أجدى به وضع يده على المقوّد بدلاً من الاسترخاء، ولم تتعرض لدفع غرامة مالية، أو إلزامها بتعطيل نظامها لمدة شهرين كعقوبة. لكن ذلك لم يعد مجرد سيناريو من الخيال العلمي بل ما يشبه الحتمية التي سيعمل القانون الذي بدأ خبراؤه بالنظر إلى الروبوتات والذكاء الاصطناعي قضائياً. سيارة تيسلا لن تقف امام القضاة لتدافع عن نفسها لأنها لا تمتلك حساً سليماً، ولأنها تنخرط بأنظمة البرمجة التي تدار عبر البيانات التي تلقنتها، ولكن ماذا عن الروبوتات التي تؤسس بياناتها عبر ما تخوضه من تجارب؟

 

تأخذنا الروبوتات والخوارزميات إلى مشهد قضائي معقد. يلف الضباب المسار الأخلاقي الذي علينا ان نتعامل به مع آلات تحتوي على كدسة لا تحصى من البيانات وتتمتع بتعلم عميق يخولها تحصيل البيانات ومعالجتها ذاتياً بالأسلوب نفسه الذي نتعامل به مع الروبوتات المحفزة ذاتياً. ولكن أولى الأسئلة التي تنجر إليها النزاعات الأخلاقية حول ما قد تقترفه الروبوتات والخوارزميات هي، هل الروبوتات مسؤولة عما تفعله أم يجب رمي ما تقترفه على أكتاف صانعها؟ وفي حال تسبب تصرفها بإيذاء إنسان فهل يجدر محاكمتها بصفتها الشخصية ام يجب محاكمة صانعها؟

 

تظهر الأزمة في سؤال "من يجدر محاكمته"، التي تفترض وجود صانع ومصنوع. تتعامل القوانين البشرية مع مسألة الجرائم الرقمية بنظرة تقليدية، هذه النظرة لا يمكن الاتكال عليها لصوّغ الامان والاستقرار في عالم يشهد على تداخل البشر بالآلات. يقتصر تعامل القانون حتى الآن على مبدأ "مسؤولية فعل الأشياء" حيث يتحمل المسؤولية القانونية الإنسان كشخص او الشركة كشخصية اعتبارية عندما ينتج ضرر او اذى عن فعل الآلة. ولكن هذه القوانين تبدو منتهية الصلاحية او غير عادلة عندما يتعلق الأمر بالذكاء الاصطناعي والتعلم العميق اللذين يكتسبان معلوماتهما بناء على التفاعل مع المحيط.

   

  

المعروف أن "ماذا لو" كثيفة الحضور داخل الخوارزميات، ولكن قد تكون رزمة الاحتمالات ناقصة، ففي حادث لسيارة أخرى لشركة "تيسلا" حصل في مارس 2018 أدى إلى وفاة امرأة، أظهر ملف التحقيقات الذي تجاوز عدد صفحاته المئات أن نظام تشغيل السيارة لم يكن يلحظ احتمال وجود بشر يسيرون على أقدامهم في الطرقات السريعة المخصصة للسيارات. لم تحتو خوارزمية السيارة على بيانات تنبه إلى اشخاص قد يخاطرون بحياتهم ليسيروا في الطرقات السريعة الممنوعة قانونًا على المشاة. قبل ست ثواني من صدم المرأة صنّفت السيارة الجسم أمامها كسيارة، ثم قامت بتغيير التصنيف أكثر من خمس مرات، بحثاً عن أفضل الخيارات الأقل خطورة، ولكنها عجزت عن ذلك.

  

طالما أن الأخطاء التي أدت إلى قتل بشر صادرة عن ذكاء اصطناعي هزيل، ستبقى معضلة محاسبة الروبوتات معقدة. ولكن قريباً سيحل علينا نوع آخر من آلات ذكية أكثر قوة. في الوقت الحالي ستكون محاكمة سيارة تيسلا أشبه بمحاكمة شيء غير واعٍ على جريمة اقترفها، وستبقى قيود المحاكمات بما يخص كل الآلات والأنظمة المدرجة تحت خانة الـ"Narrow Artificial Intelligence" محصورة بمساءلة الجهة المُصنِعة، لكن مع اقتراب عصر نهوض الـ"General Artificial Intelligence"، سيكون على القوانين أن تلتفت إلى الروبوتات بصفتها الشخصية، خصوصاً ان لحظة ارتقاء الذكاء الاصطناعي العام، ستتجلى بتحكم الروبوتات بنفسها، أي حين تصبح ذاتية الحوافز "Self Stimulator" فتحل مكان روبوت تم تعالج بياناتها التي تلقتها عبر حوسبة التعلم العميق. إن روبوتات الحوافز الذاتية تُمنح امكانات شحيحة. هذه الامكانات تسمح لها، بالتفاعل مع المحيط، والتعلم منه، واستيعاب قدرتها امام محيطها وتحسس حدودها المادية عبر التجربة.

 

عصر الروبوتات الواعية

لا يمكن منطقيًا محاكمة كلب قام بعض شخص، لأن تصرفه غرائزي غير واعٍ. يتأسس الوعي عن تجارب ذاتية تخوضها الحواس، كحال ممارستنا للركض. لقد تشكل وعيّنا حول الركض تراكمياً. من الدبدبة الاولى التي قمنا بها خلال الطفولة إلى التعثرات التي اعترضت اقدامنا. خلق الوعي في الروبوتات من المهمات الصعبة التي استطاع المبرمج هود ليبسون في جامعة كولومبيا اجتياز أشواط بها، هناك أكثر من تعريف للوعي في علم الفلسفة. التعريف الأوسع شيوعًا؛ هو الاحساس بالذات وما يحيطها من اشياء. الوعي هو إدراك الذات للمحيط والقيام بوثبات نحوه. وبمعنى أكثر رحابة هو حالة يتأسس بها الوعي بالمحيط عبر التجربة، وهكذا كانت تجربة ليبسون.

 

ابتكار الحس السليم

كي نحاكم شخصاً، عليه ان يتمتع بالحس السليم. تندرج تجربة ليبسون ضمن محاولة ابتكار حساً سليماً للروبوتات. إن أزمة الذكاء الاصطناعي الحالية انه يفتقد إلى الحس السليم الذي يتقاسمه البشر. هذا الاحساس الذي يلتمس به الانسان الخارج، يجعله مدركاً للمحيط ويمكنه من استيعابه والتعلم من التجارب التي يخوضها فيه، ويتيح له إطلاق احكام عليه، وتطوير نفسه بما يتلائم مع الخارج، بينما انعدام الحس السليم يعني قصوراً في فهم العالم الخارجي.

   

    

محاولة ليبسون كانت استثنائية في تشكيل الحس السليم لدى الروبوتات. قام المبرمج وتلامذته بصنع يد روبوتية تمتلك فقط آلة تعلم عميق فارغة. كان التعلم العميق قادر على تخزين كافة المعلومات عن الحركة التي سيقوم بها الروبوت وعن المحيط الخارجي الذي يتعامل معه. بقيّت اليد نهاراً كاملاً تحرك نفسها صعوداً ونزولاً ويميناً وشمالاً، كان التعلم العميق يتغذى بالبيانات عن نوع الحركة وكيفية فتح الاصابع وثنيّها وأقصى مدى ممكن تصل إليه، كانت تجربة اشبه بالمشيّة الاولى لرضيع بلغ من العمر سنة وبدأ يحبو على الأرض. وضعت اليّد تصوراً عن حركتها، ما سمح لها بتطويرها في الاختبار التالي، الذي استطاعت به اليد، تفحص المحيط وفهم المسافة الفاصلة بين الكرة والكوب، لتقوم لاحقاً بإمساك الكرة ووضعها في كوب.

 

اعتاد البشر على اسقاط ما يمتلكونه من صفات على ما يحيط بهم. يظنون أن المخلوقات الفضائية تشببهم، ولكن ناسا تقول ان المخلوقات الفضائية هي اما باكتيريا او مخلوقات مائية او نباتات. هذه الاسقاطات هي ما يجب ان نتخلص منه. فليس من الضروري ان يكون وعي الروبوتات شبيهاً بوعي البشر. قد يكون محدوداً جداً، ولكن محدوديته لا تعني عدم وجوده. ينتقد كثيرون فكرة وعي الروبوتات، متذرعين بأن التجارب اثبتت عدم قدرتها على محاكاة الذكاء البشري، ولكن ما يميّز تجربة روبوت اليّد أنها لم تكن عمليّة برمجة وتلقين للمعلومات لتنفيذ الحركة، فالروبوت أدرك وجود عيب تقني في يده من تلقاء نفسه وعمل على إصلاحه. كانت اللحظة هذه بمثابة تفقد لحواسه عندما تقلصت قدرته على التعامل مع المحيط.

 

ما قبل تجربة ليبسون ليس كما بعدها. استطاع الروبوت بعد يوم تجربة تحريك ذراعه، أن يصوغ هدفه. لقد كان هدفه الأول وضع الكرة في الكوب، وبعد استيعاب محيطه وتحسسه لفقدان يده كان هدفه اصلاح ذراعه، وهنا اكتشف ان العالم الخارجي، وافتقار معرفته به، من الممكن ان يسبب له اذيّة مادية. في هذه التجربة لم تحاكِ اليد تصرفات البشر، كما أن صانعيها لم يمنحوها معلومات عن تفكير الانسان، لكنها وجدت سبل تمثيلها لنفسها. كانت اليد تماثل قدراتها الذاتية فقط لا غير.

  

متى سنحاكم أول روبوت؟

علينا تخيّل روبوت من فئة المحفز الذاتي، ومخصص كي يتعلم أن يكون شاهداً محلفاً في محكمة. وعليه الحضور يومياً إلى قاعة المحاكمات كي يراكم معرفته حول القضايا الجرمية. سيلتقط الروبوت كل الأحاديث التي تحصل في القاعة بين المحاميين والمجرمين والقضاة، وسيعالجها ويكرر تجربته مرات ومرات، ويراكم معرفته مع تعدد القضايا والاحكام والمرافعات، فلنتخيّل ان القاضي طلب من الروبوت تقديم شهادته بجريمة ما. ماذا لو شهد الروبوت زوراً؟ حينها ماذا سيكون مصيره؟ السيناريو ضرب من الخيال العلمي وقد يثير السخرية، ولكن ما هو مؤكد ان الانسان لن يبقى الكائن الوحيد المتمايز بوعيه. قريباً سنستقبل أنواعاً جديدة من الوعي.



المزيد من المدونات

حول هذه القصة

الأكثر قراءة