أوبن إيه آي تطور أدوات جديدة لاكتشاف المحتوى المولد بالذكاء الاصطناعي

أضافت شركة أوبن إيه آي أداة جديدة لاكتشاف إن كانت الصورة قد صُنعت باستخدام مولدها للصور بالذكاء الاصطناعي "دال-إي"، بالإضافة إلى أساليب جديدة لوضع علامات مائية للإشارة إلى المحتوى الذي يصنعه "دال-إي" بصورة أوضح، بحسب ما ذكره موقع "ذا فيرج".

وذكر الموقع أن الشركة أعلنت، عبر منشور على مدونتها، أنها بدأت في تطوير أساليب جديدة لتحديد مصدر المحتوى وإثبات ما إذا كان من إنتاج الذكاء الاصطناعي أم لا. وتشمل تلك الأساليب أداة تصنيف جديدة للكشف عن الصور تستخدم الذكاء الاصطناعي لتحديد إن كانت الصورة من إنتاج إحدى تقنياتها، بالإضافة إلى علامة مائية جديدة مقاومة للتزوير يمكنها تمييز المحتوى مثل المحتوى الصوتي بإشارات مخفية.

وتقول الشركة إن أداة التصنيف الجديدة تعمل حتى إذا كانت الصورة مقصوصة أو مضغوطة أو إذا تغير التشبع. وبينما يمكن للأداة اكتشاف ما إذا كانت الصور قد صُنعت باستخدام "دال-إي 3" بدقة تبلغ نحو 98%، فإن أداءها في اكتشاف المحتوى من نماذج ذكاء اصطناعي أخرى ليس جيدا، حيث لم تحدد سوى 5 إلى 10% من الصور من مولدات الصور الأخرى مثل ميدجرني، وفقا لموقع ذا فيرج.

وبدأت الشركة أيضا في إضافة علامات مائية إلى المقاطع الصوتية التي ينتجها محرك الصوت (Voice Engine)، وهي منصتها الخاصة بتحويل النص إلى كلام وهي حاليا في مرحلة المعاينة المحدودة. ولا يزال العمل جاريا على تحسين كل من أداة تصنيف الصور والعلامة المائية الصوتية. وتقول أوبن إيه آي إنها تحتاج إلى الحصول على ملاحظات من المستخدمين لاختبار فعالية تلك الأدوات.

ويمكن للباحثين ومجموعات الصحافة غير الربحية اختبار أداة تصنيف الصور من خلال تطبيقها على منصة الشركة للوصول إلى الأبحاث.