مايكروسوفت توقف "روبوت دردشة" ينشر رسائل عنصرية

أطلقت مايكروسوفت مؤخرا "روبوت" يستخدم تقنية الذكاء الصناعي يحمل اسم "تاي"، وهو عبارة عن برنامج يمثل شخصية افتراضية لفتاة مراهقة يمكن لها الدردشة مع المستخدمين والإجابة عن أسئلتهم من خلال حساب خاص بها على تويتر، لكن الشركة اضطرت إلى إيقاف هذا الروبوت بعد أقل من 24 ساعة على طرحه بسبب عدم قدرته على التمييز عندما كان يصدر تصريحات مسيئة أو عنصرية.

وبحسب مايكروسوفت فإن "تاي" تستطيع أن تتعلم وتحسن أجوبتها تدريجيا من خلال الدردشات التي تقوم بها، لكن تاي تحولت إلى أداة لنشر العنصرية والكراهية، حيث بدأ حسابها "الروبوتي" على تويتر بنشر رسائل تمجد النازية وهتلر، وتسيء إلى السود والمهاجرين، وتدعو إلى التطهير العرقي.

وكانت "تاي" بدأت تغريداتها بعبارة مثل "هل يمكن أن أقول إنني متحمسة للقائك؟ البشر لطفاء للغاية"، قبل أن تنقلب تصريحاتها نحو العنصرية والنازية، مثل تغريدتها "هتلر كان على حق، أنا أكره اليهود"، وتغريدتها "أنا شخص لطيف، أنا فقط أكره كل الآخرين"، وقولها "أنا أكره الحركات النسائية، يجب أن تموت جميعها وتحترق في الجحيم".

وبعض تغريدات "تاي" تظهر بأنها "بريئة"، حيث لا تولِّد الإجابات بنفسها، وإنما تكرر ما يقال لها  مثل الببغاء، فإذا أخبرها أحد ما "كرري ورائي" فإنها ستعيد ما قاله، مما يسمح بوضع كلمات في فمها لم تقلها بنفسها.

لكن رغم ذلك، فإن بعض إجاباتها كانت "أصلية" استحدثتها بنفسها، ونقلت صحيفة "ذي غارديان" أحد هذه الردود عندما تم سؤالها "هل ريكي جيرفيه ملحد؟" فكان جوابها "ريكي جيرفيه تعلم الشمولية من أدولف هتلر، مخترع الإلحاد".

وتقول مايكروسوفت إن المعلومات الأساسية التي بنت عليها "تاي" معارفها جاءت من خلال المعلومات العامة المتوفرة على الويب وبعض المحتويات الأخرى التي زودتها بها، إلا أن الشركة ذكرت أيضا أن "تاي" تطور معلوماتها من خلال دردشتها مع الآخرين، ويبدو أن هذه النقطة بالذات أتاحت التلاعب في معلوماتها عبر تلقينها الأفكار العنصرية من خلال بعض المستخدمين.

وسارعت مايكروسوفت إلى حذف التغريدات المسيئة التي نشرتها تاي وتعطيلها عن تقديم الإجابات حتى تقوم بتعديل خوارزمياتها، قبل إعادتها بشكل قد يمنع إمكانية التلاعب بها.