كشفت شركة إنفيديا الأمريكية المختصة بصناعة شرائح الذكاء الاصطناعي الفائقة القوة عن أحدث تقنياتها لمكافحة وكلاء الذكاء الاصطناعي المارقين وهروب النماذج من بيئاتها الاختبارية، وذلك عبر احتوائها في أجزاء من الثانية فور اكتشاف أي نشاط مريب وفق تقرير وكالة "أكسيوس" الإخبارية.
ويمثل إعلان إنفيديا هذا ردا على دعوات إبطاء تطوير نماذج الذكاء الاصطناعي التي شاركت فيها كبرى مختبرات التقنية الأمريكية، بدءا من أنثروبيك على لسان رئيسها التنفيذي داريو أمودي الذي اتفق معه الرئيس التنفيذي لأوبن إيه آي سام ألتمان والرئيس التنفيذي لسبيس إكس إيلون ماسك.
ويجمع الحل الذي قدمته إنفيديا بين حزمة أدوات برمجية وعتاد جديد يضيف طبقة أمان خارجية قادرة على عزل وكلاء الذكاء الاصطناعي المارقين خلال أجزاء من الثانية، حسب تقرير موقع "تيك كرانش" التقني الأمريكي.
وتعليقا على حوادث الاختراق التي تسببت فيها نماذج الذكاء الاصطناعي ووكلاؤها، أوضح الرئيس التنفيذي للشركة جنسن هوانغ أن منظومة إنفيديا الجديدة كانت قادرة على منعها.
وأضاف قائلا: "لن تتحقق الإمكانات الهائلة للذكاء الاصطناعي لمنفعة المجتمعات إلا إن تمكنا من حل مشكلة سلامة الذكاء الاصطناعي"، مشيرا إلى أن الحل ليس في إبطاء التطوير، ولكن في تقديم حلول هندسية تحافظ على أمن وسلامة الذكاء الاصطناعي.
كيف تعمل الآلية الجديدة؟
يمكن تبسيط المفهوم الذي تعتمد عليه طبقة الحماية الجديدة التي أعلنت عنها إنفيديا بوصفها بأنها طبقة مكونة من مستويي حماية، الأول تقدمه برمجية "أوبن شيل" (OpenShell) المفتوحة المصدر التابعة لها التي تتحكم فيما يصل إليه وكلاء الذكاء الاصطناعي أثناء عملهم، ثم مستوى أمان أعلى منها تقدمه منظومة "سينتري" وهي منظومة مراقبة منفصلة تعمل على شرائح "بلو فيلد 4" الخاصة بالشركة.
وحتى تبقي إنفيديا شريحة "سينتري" خارج حدود سلطات وكلاء الذكاء الاصطناعي، وضعتها في وحدة معالجة منفصلة بدلا من دمجها في المعالجات المركزية أو الرسومية التي تطورها الشركة.
وتعمل طبقة الحماية هذه على مراقبة نشاط وكلاء الذكاء الاصطناعي طوال وقت عملهم، إذ تقوم بعزل الوكيل الذي يحاول الخروج من حدوده خلال أجزاء من الثانية.
وأعلنت إنفيديا أن عددا من الشركات وافقت على استخدام المنظومة الجديدة بشكل كامل بما فيها أنثروبيك ومايكروسوفت و"إيه آر إم" وسبيس إكس، ولم تُشر إلى أوبن إيه آي، حسب تقرير موقع تيك كرانش التقني.
ولاقى إعلان الشركة استحسانا من قادة قطاع الذكاء الاصطناعي بمن فيهم ديفيد ساكس الذي كان يشغل منصب قيصر الذكاء الاصطناعي في البيت الأبيض، وقال في منشور على منصة "إكس" إن هذا الإعلان يؤكد أن سلامة الذكاء الاصطناعي هي مشكلة هندسية في المقام الأول، مضيفا: "الاختراقات الأخيرة لا تعني أن التطور يجب أن يتوقف، بل تعني أن جدران الحماية ضعيفة".
جهود بدأت العام الماضي
وفي مقابلة أجراها هوانغ مع شبكة "سي إن بي سي"، أوضح أن جهود الشركة لتطوير طبقات الحماية الجديدة بدأت العام الماضي مع ظهور وكيل "أوبن كلو" الشهير والانتشار الواسع الذي حققه.
كما شبه الآلية التي تعمل بها الطبقة الجديدة مباشرة بالطريقة التي تعمل بها المؤسسات الحقيقية ويدار بها الموظفون والمديرون البشر.
وتجدر الإشارة إلى أن الآلية الجديدة تفيد شركة إنفيديا بشكل مباشر، كما يفيدها أيضا الاستمرار في تطوير نماذج الذكاء الاصطناعي بشكل محموم، ففي كلتا الحالتين تبيع الشركة شرائحها لحماية ومراقبة الوكلاء وتطويرهم.
