توظف شركة أمازون آلاف الموظفين حول العالم للمساعدة في تحسين عمل جهازها "إيكو" والمساعد الرقمي "أليكسا".
وكشف تقرير نشرته وكالة بلومبيرغ الأميركية مؤخرا عن استماع عدد من هؤلاء الموظفين للتسجيلات الصوتية التي يقوم بها العملاء في منازلهم أو مكاتبهم مع جهاز "إيكو".
وقد كان يعتقد أن هذه المحادثات التي تجرى في العادة عبر نظام تمييز الأصوات في الجهاز محمية ويتم الاستجابة لها عبر نظام آلي دون تدخل البشر لحماية الخصوصية.
وقال متحدث باسم أمازون في تصريح لبلومبيرغ "نأخذ أمن وخصوصية معلومات عملائنا الشخصية على محمل الجد… نأخذ فقط عينة صغيرة للغاية من تسجيلات العملاء من أجل تحسين تجربتهم مع المساعد الرقمي".
لكن بلومبيرغ تشير إلى قوة عاملة كبيرة تقوم بهذا النوع من العمل، حيث تقول إن لدى أمازون موظفين يستمعون لمقاطع صوتية في مكاتب في بوسطن وكوستاريكا والهند ورومانيا. وقد يبلغ عدد المقاطع التي يستمعون لها ألف مقطع في نوبة عمل مدتها تسع ساعات.
وتبرر أمازون رغبتها في الاستماع لمقاطع العملاء من قبل الموظفين بدلا من الآلات؛ بحاجتها إلى تدريب خوارزميات البرنامج على الاستجابة بشكل أقرب للبشر من الآلات، وهو ما يوفره الموظفون عند مراجعتهم لهذه المقاطع ووضع الملاحظات عليها لإدخالها لاحقا في النظام.
لكن لماذا لا تكون أمازون أكثر وضوحًا حول دور المراجعين البشر في سياستها المنشورة؟
ففي صفحة سياسة الخصوصية والأسئلة الشائعة تقول أمازون "إننا نستخدم طلباتك إلى أليكسا لتدريب أنظمة التعرف على الكلام وفهم اللغة الطبيعية لدينا" دون ذكر العنصر البشري.
وأخبرت أمازون وكالة بلومبيرغ بأن لديها ضمانات صارمة للخصوصية لمنع إساءة استخدام النظام. وقال المتحدث باسم الشركة "لا يتمتع الموظفون بوصول مباشر إلى المعلومات التي يمكن أن تحدد هوية الشخص أو الحساب كجزء من سير العمل… يتم التعامل مع جميع المعلومات بسرية عالية ونستخدم المصادقة المتعددة العوامل لتقييد الوصول وتشفير الخدمة ومراجعة بيئة التحكم الخاصة بنا لحمايتها".
ويسمع الموظفون أحيانا صوتا شديدا أو غير متوقع، وفقًا لتقارير بلومبيرغ. وفي إحدى الحالات، سمع عاملان ما بدا أنه اعتداء جنسي محتمل، ولكن قيل لهما إن التدخل غير مناسب.
ويمكن للموظفين مناقشة ما يسمعونه مع الموظفين الآخرين في خدمة الدردشة الداخلية، ويمكنهم مشاركة مقاطع لديهم صعوبة في تفسيرها، رغم أن التقرير يذكر أيضًا أن الملفات تتم مشاركتها ببساطة لأنها "مسلية".
ويقول تقرير بلومبيرغ إن آبل وغوغل لديهما مراجعون بشر.
