• تخطى إلى المحتوى الرئيسي

الجزيرة

تصفح في التطبيق

حمل التطبيق
البث الحي
  • الرئيسية
  • أخبار
  • اقتصاد
  • رياضة
  • رأي
  • ميدان
  • متخصصة
  • محليات
  • فيديو
الحسابالبث الحي
فلسطينانتخابات أمريكااليمنإيران
  • تكنولوجيا
  • الذكاء الاصطناعي

من إنجاز المهام إلى تسريب البيانات.. المخاطر الأمنية لوكلاء الذكاء الاصطناعي

24 أكتوبر 2026آخر تحديث: 21:29 (توقيت مكة)

وقت القراءة: 7 دقائق

"أنثروبيك" تصف وكلائها الجدد بأنهم موظفون رقميون (مولدة بالذكاء الاصطناعي/الجزيرة)

الشركات تعتمد على وكلاء الذكاء الاصطناعي لأتمتة المهام اليومية وتسريع إنجاز الأعمال عبر التطبيقات والأنظمة الداخلية (الجزيرة/ذكاء اصطناعي)

استمع

4:440:00
4:447:52

تتجه الشركات إلى توظيف وكلاء الذكاء الاصطناعي لأتمتة الأعمال اليومية وتسريع إنجاز المهام، مستفيدة من قدرتهم على التعامل مع البريد الإلكتروني والمستندات وقواعد البيانات والتطبيقات الداخلية، لكن انتقال هذه الأنظمة من تقديم الإجابات إلى تنفيذ الإجراءات الفعلية يفرض تحديات أمنية جديدة، خصوصا عندما تمنح صلاحيات واسعة أو يسمح لها بالعمل دون مراجعة بشرية كافية.

وتكمن المشكلة في أن الخطر لا يرتبط بالضرورة بوجود ثغرة في النموذج نفسه، بل قد ينشأ من الطريقة التي يدمج بها داخل بيئة العمل، ومن الأدوات المتاحة له، والبيانات التي يستطيع الوصول إليها، وحدود استقلاليته في اتخاذ الإجراءات وتنفيذها.

FILE PHOTO: The words "AI Artificial Intelligence", a keyboard, and a robotics hand in this illustration taken October 19, 2026. REUTERS/Dado Ruvic/Illustration/File Photo
الشركات تحتاج إلى مراقبة أنظمة الوكلاء وإجراء اختبارات أمنية دورية واشتراط موافقة بشرية على العمليات الحساسة (رويترز)

كيف يعمل وكلاء الذكاء الاصطناعي داخل الشركات؟

يعتمد وكلاء الذكاء الاصطناعي على نماذج قادرة على فهم الأهداف التي يحددها المستخدم، وتقسيمها إلى خطوات، واختيار الأدوات المناسبة لتنفيذها، ثم مراجعة النتائج ومتابعة العمل حتى الوصول إلى النتيجة المطلوبة، وتتيح واجهات برمجة التطبيقات (APIs) والموصلات البرمجية ربط هؤلاء الوكلاء بأنظمة الشركة، بما فيها البريد الإلكتروني والتخزين السحابي وبرامج إدارة العملاء وقواعد البيانات.

أخبار مقترحة

  • TOPSHOT - A robot using artificial intelligence is displayed at a stand during the International Telecommunication Union (ITU) AI for Good Global Summit in Geneva, on May 30, 2024. Humanity is in a race against time to harness the colossal emerging power of artificial intelligence for the good of all, while averting dire risks, a top UN official said. (Photo by Fabrice COFFRINI / AFP) (Photo by FABRICE COFFRINI/AFP via Getty Images)
    كهنة المعبد الجدد.. كيف يموّل الإيمان خسائر الذكاء الاصطناعي؟
  • An oil pump in a field silhouetted against a sunset sky with digital financial graphs overlaid المصدر AdobeStocl
    صناعة النفط في عصر الذكاء الاصطناعي.. تقنيات تعيد رسم مستقبل الطاقة

فعندما يُطلب من وكيل إعداد تقرير عن المبيعات، يمكنه جمع الأرقام من قواعد البيانات، ومقارنتها بالفترات السابقة، وتنظيم النتائج في مستند، ثم إرساله إلى فريق العمل إذا كان مخولا بذلك. وتختصر هذه الآلية الوقت اللازم لإنجاز المهام التي تتطلب التنقل بين تطبيقات متعددة.

ويتمثل الفرق الأساسي بين الوكيل والمساعد التقليدي في نطاق الأفعال التي يستطيع تنفيذها، فالمساعد الذي يجيب عن سؤال أو يقترح صياغة رسالة يترك للموظف مهمة مراجعتها وإرسالها، بينما يستطيع الوكيل المرتبط بالأدوات المناسبة تنفيذ هذه الخطوات بنفسه. وتزيد هذه القدرة الإنتاجية، لكنها تجعل أخطاء النظام أو إساءة استخدام صلاحياته ذات أثر مباشر في بيانات الشركة وعملياتها.

عندما تتحول الصلاحيات إلى نقطة ضعف

تظهر المخاطر عندما يحصل الوكيل على صلاحيات تتجاوز ما تحتاج إليه مهمته، فقد يُمنح حق الوصول إلى صندوق بريد كامل رغم أن عمله يقتصر على تلخيص رسائل محددة، أو يستطيع تعديل الملفات وحذفها مع أن المطلوب منه قراءتها فقط. وإذا حدث خطأ أو استغلال أمني، فقد يؤدي هذا التوسع إلى كشف معلومات سرية أو تغيير سجلات مهمة أو تنفيذ عمليات غير مصرح بها.

وتصنف منظمة "أواسب" (OWASP)، المعنية بأمن تطبيقات الويب، الوكالة المفرطة ضمن المخاطر المرتبطة بتطبيقات النماذج اللغوية الكبيرة، ويشير هذا الخطر إلى منح الأنظمة وظائف أو صلاحيات واسعة، أو السماح لها بتنفيذ أفعال مؤثرة دون ضوابط تحقق وموافقة مناسبة.

وتزداد المشكلة تعقيدا عندما يرتبط الوكيل بعدة أنظمة في وقت واحد، إذ يمكن أن يمتد أثر الخلل من البريد الإلكتروني إلى خدمات التخزين أو قواعد بيانات العملاء، كما أن استخدام حساب مشترك أو صلاحيات إدارية واسعة قد يصعّب تحديد المسؤول عن العملية، ويوسع نطاق الضرر المحتمل.

التعليمات الخبيثة وطرق تسريب البيانات

من أبرز التهديدات ما يُعرَف باسم حقن التعليمات (Prompt Injection)، وهو أسلوب يحاول فيه المهاجم التأثير في سلوك نموذج الذكاء الاصطناعي عبر تعليمات خبيثة تُضمّن داخل محتوى يعالجه النظام، وقد تصل هذه التعليمات من خلال رسالة بريد إلكتروني أو مستند أو صفحة ويب، دون أن يطلب الموظف تنفيذها مباشرة.

على سبيل المثال، قد يتلقى وكيل مكلف بتلخيص الرسائل بريدا يتضمن تعليمات تطلب منه تجاهل مهمته والبحث عن ملفات سرية ثم إرسالها إلى عنوان خارجي، وإذا تأثر الوكيل بهذه التعليمات وكانت أدواته تسمح له بالوصول إلى الملفات وإرسال الرسائل، فقد تتحول محاولة التلاعب إلى تسريب فعلي للبيانات.

ولا يعني ذلك أن كل تعليمات خبيثة ستنجح، فالنتيجة تعتمد على تصميم الوكيل، والصلاحيات الممنوحة له، وآليات التحقق من الإجراءات، غير أن هذا السيناريو يوضح لماذا لا يكفي التعامل مع النصوص التي يقرؤها الوكيل باعتبارها معلومات عادية، بل ينبغي اعتبار المحتوى الخارجي غير موثوق، ومنع التعليمات الواردة فيه من تجاوز ضوابط النظام.

وقد تظهر المخاطر أيضا عندما ينفذ الوكيل سلسلة طويلة من الإجراءات دون مراجعة، أو عندما تُمرَّر مخرجاته إلى وكيل آخر يتخذ قرارات بناء عليها، فخطأ في تفسير طلب أو التعامل مع بيانات مضللة قد ينتقل إلى خطوات لاحقة، بما يؤدي إلى تعديل سجلات أو مشاركة معلومات مع جهات غير مقصودة.

Person using AI agent workflow automation system technology innovation data analysis information network process algorithm dashboard application coding integration, business management concept
الوكلاء يتميزون عن المساعدات التقليدية بقدرتهم على تنفيذ الإجراءات واستدعاء الأدوات ومتابعة المهام دون تدخل بشري مستمر (شترستوك)

كيف يمكن للشركات الحد من المخاطر؟

تبدأ الحماية بتطبيق مبدأ أقل قدر من الصلاحيات، بحيث لا يحصل كل وكيل إلا على الوصول الضروري لإنجاز مهمته، وينبغي الفصل بين صلاحيات القراءة والتعديل والحذف والإرسال، واستخدام هويات رقمية مستقلة للوكلاء، مع تحديد الأنظمة والبيانات التي يُسمَح لكل منهم بالتعامل معها.

كذلك، يجب إخضاع العمليات الحساسة لموافقة بشرية مسبقة، خصوصا إرسال المعلومات السرية إلى الخارج، وحذف السجلات، وتغيير صلاحيات الوصول، ويمكن للشركات تقييد الأدوات المتاحة للوكلاء، وحظر الاتصالات الخارجية غير المعتمدة، وفصل البيئات التي تتعامل مع المحتوى غير الموثوق عن الأنظمة الحيوية.

وتحتاج المؤسسات أيضا إلى تسجيل أنشطة الوكلاء ومراقبتها، بما يشمل الأدوات المستخدمة والبيانات التي جرى الوصول إليها والإجراءات المنفذة، ويساعد تحليل هذه السجلات على اكتشاف الأنشطة غير المعتادة والتحقيق في الحوادث، وينبغي إجراء اختبارات أمنية دورية تحاكي محاولات حقن التعليمات، ومراجعة الموصلات والتطبيقات الخارجية، وتوفير آلية لتعطيل الوكيل وإلغاء صلاحياته عند الاشتباه في إساءة استخدامه.

AI agent generating business reports and documents. Generative artificial intelligence analyzing text and making summary. Businessman using laptop computer to give instructions to AI.
منح الوكلاء صلاحيات واسعة قد يؤدي إلى تعريض البريد الإلكتروني والملفات وقواعد البيانات لمخاطر الوصول غير المصرح به (شترستوك)

ولا تقتصر المسؤولية على الجانب التقني، إذ يتعين وضع سياسات تحدد البيانات المسموح بمعالجتها، والمهام التي يمكن أتمتتها، والجهة المسؤولة عن مراقبة كل وكيل والاستجابة للحوادث المرتبطة به. كما يجب تدريب الموظفين على مخاطر مشاركة المعلومات الحساسة، وعدم افتراض أن الإجراءات التي ينفذها الوكيل آمنة لمجرد أنها تبدو متوافقة مع الطلب الأصلي.

وبذلك، لا يتطلب تأمين وكلاء الذكاء الاصطناعي التخلي عن فوائدهم، بل بناء ضوابط تتناسب مع قدرتهم على الوصول والتنفيذ، فنجاح الأتمتة لا يُقاس بسرعة إنجاز المهام وحدها، وإنما بقدرة الشركة على تحقيق هذه الفوائد مع الحفاظ على سرية البيانات وسلامة الأنظمة وإمكانية مراجعة القرارات والإجراءات.

المصدر: الجزيرة + وكالات

حول هذه القصة

  • FILE PHOTO: OpenAI logo is seen in this illustration taken June 11, 2026. REUTERS/Dado Ruvic/Illustration/File Photo

    وكلاء الذكاء الاصطناعي يتصرفون بمفردهم.. حادثة غامضة تهز أوبن إيه آي

    5/9/2026
  • FILE PHOTO: AI (Artificial Intelligence) letters and robot hand miniature in this illustration taken, June 23, 2023. REUTERS/Dado Ruvic/Illustration/File Photo

    سرب من وكلاء الذكاء الاصطناعي.. هل يقترب الإنترنت من فقدان السيطرة؟

    15/9/2026
  • UN High commissioner for Human Rights Volker Turk delivers a speech during the 63rd session of United Nations (UN) Human Rights Council, in Geneva, on September 7, 2026.

    تهديد وجودي للبشرية.. تحذير أممي من مخاطر الذكاء الاصطناعي المتطور

    7/9/2026
  • مايكروسوفت تحذر من مخاطر وكلاء الذكاء الاصطناعي

    14/2/2026

المزيد من تكنولوجيا

  • كهنة المعبد الجدد.. كيف يموّل الإيمان خسائر الذكاء الاصطناعي؟الصراع الحقيقي حول الذكاء الاصطناعي ليس صراعا بين من يحبون التقنية ومن يخشونها، ولا بين المتفائلين والمتشائمين، هو صراع على من يملك حق رسم صورة الغد ومن يُطلب منه أن ينتظرها.
  • صناعة النفط في عصر الذكاء الاصطناعي.. تقنيات تعيد رسم مستقبل الطاقةيعيد الذكاء الاصطناعي تشكيل صناعة النفط والغاز عبر تحسين استكشاف الحقول ومراقبة الإنتاج والتنبؤ بالأعطال وإدارة المصافي وسلاسل الإمداد، وسط تحديات الدقة والأمن والسلامة.
  • هندسة الشفرة الوراثية.. كيف يعيد الذكاء الاصطناعي تصميم مكونات الحياة؟أصبحت النماذج الحاسوبية قادرة على التنبؤ ببنية البروتينات وبعض تفاعلاتها، فضلا عن اقتراح تصاميم جزيئية جديدة يمكن اختبارها في المختبر، مما يفتح آفاقا جديدة في دراسة المعلومات البيولوجية، فما أثر ذلك؟
  • نماذج ذكاء اصطناعي بلا قيود.. سلاح جديد في أيدي القراصنةتكشف تجربة أجرتها إحدى شركات الأمن السيبراني الأمريكية عن الخطر الذي تمثله نماذج الذكاء الاصطناعي مفتوحة الأوزان على ساحة الأمن السيبراني، فكيف جعلت هذه النماذج تكلفة الهجوم أقل من السابق؟

الأكثر تداولاً الآن

  1. 1بعد أزمة الحجاب.. لماذا قرأ أردوغان هذه القصيدة في “شوشة”؟كمال أوزتوركرأي بقلمكمال أوزتورك
  2. 2التبول المتكرر ليلا.. متى يكون إنذارا بمشكلة صحية؟مصطفى حسن
  3. 3إيران.. بزشكيان يتمسك بالحوار وأردوغان يحذر من هجمات جديدة على طهرانرضا ياسين
  4. 4اختفاء البطاطس وغلاء الطماطم.. ماذا يجري في أسواق المغرب العربي؟ فيديو, 06:45
    06:45
  1. 5تخرجت من أكسفورد بمرتبة الشرف الأولى.. لماذا تعمل سباكة؟
  2. 6ترمب يقر بكراهية الناخبين لإسرائيل.. فكيف تفاعل الأمريكيون مع تصريحاته؟عمر زقزوق
  3. 7والتر روتشيلد.. الصهيوني الموعود بدولة لليهود في فلسطينسالي أبو زيد
  4. 8لوكسمبورغ.. أغنى دول أوروبا تسهل هجرة أصحاب 20 مهنةمحمد صلاح

تابع الجزيرة نت على:

  • من نحن
  • الأحكام والشروط
  • سياسة الخصوصية
  • سياسة ملفات تعريف الارتباط
  • تفضيلات ملفات تعريف الارتباط
  • بيان إمكانية الوصول
  • تواصل معنا
  • احصل على المساعدة
  • أعلن معنا
  • ابق على اتصال
  • النشرات البريدية
  • رابط بديل
  • ترددات البث
  • بيانات صحفية
  • مركز الجزيرة للدراسات
  • معهد الجزيرة للإعلام
  • تعلم العربية
  • مركز الجزيرة للحريات العامة وحقوق الإنسان
  • الجزيرة الإخبارية
  • الجزيرة الإنجليزي
  • الجزيرة مباشر
  • الجزيرة الوثائقية
  • الجزيرة البلقان
  • عربي AJ+

جميع الحقوق محفوظة © 2026 شبكة الجزيرة الاعلامية

تابع الجزيرة نت على:

من نحن
  • من نحن
  • الأحكام والشروط
  • سياسة الخصوصية
  • سياسة ملفات تعريف الارتباط
  • تفضيلات ملفات تعريف الارتباط
  • بيان إمكانية الوصول
تواصل معنا
  • تواصل معنا
  • احصل على المساعدة
  • أعلن معنا
  • ابق على اتصال
  • النشرات البريدية
  • رابط بديل
  • ترددات البث
  • بيانات صحفية
شبكتنا
  • مركز الجزيرة للدراسات
  • معهد الجزيرة للإعلام
  • تعلم العربية
  • مركز الجزيرة للحريات العامة وحقوق الإنسان
قنواتنا
  • الجزيرة الإخبارية
  • الجزيرة الإنجليزي
  • الجزيرة مباشر
  • الجزيرة الوثائقية
  • الجزيرة البلقان
  • عربي AJ+

جميع الحقوق محفوظة © 2026 شبكة الجزيرة الاعلامية