اكتشاف المحتوى المولد بالذكاء الاصطناعي
أطلقت شركة أوبن إيه آي أداة جديدة تهدف إلى كشف ما إذا كانت الصورة قد تم إنشاؤها باستخدام تقنية تعرف باسم “دال-إي”، وهي تقنية تستخدم الذكاء الاصطناعي لإنشاء صور واقعية.
وبالإضافة إلى ذلك، قامت الشركة بتطوير أساليب جديدة لوضع علامات مائية على الصور، تشير إلى المحتوى الذي يتم إنشاؤه بواسطة “دال-إي” بشكل أوضح. هذه الخطوة تأتي في إطار جهود الشركة لمكافحة انتشار المعلومات الخاطئة وتحسين تمييز المحتوى المنشور عبر الإنترنت.
ماذا ذُكر؟
مقال من موقعنا: آخر ما أعلنته آبل في مؤتمرها.. هو إطلاق أنحف آيباد مع قلم جديد
أعلنت شركة “أوبن إيه آي” عن تطويرها لأساليب جديدة لتحديد مصدر المحتوى وتأكيد ما إذا كان من إنتاج الذكاء الاصطناعي أم لا. تشمل هذه الأساليب أداة تصنيف جديدة للكشف عن الصور التي تم إنتاجها باستخدام تقنياتها، بالإضافة إلى علامة مائية جديدة مقاومة للتزوير تستطيع تمييز المحتوى مثل الصوتيات باستخدام إشارات مخفية.
وأكدت الشركة أن أداة التصنيف الجديدة تعمل بكفاءة حتى في الحالات التي تكون فيها الصور مقصوصة أو مضغوطة، ويمكنها التعرف على المحتوى المنتج باستخدام تقنية “دال-إي 3” بدقة تصل إلى 98%.
ومع ذلك، فإن أداء الأداة في اكتشاف المحتوى من نماذج ذكاء اصطناعي أخرى ليس جيدًا، حيث أنها لم تتمكن سوى من تحديد ما بين 5 إلى 10% من الصور المنتجة بواسطة مولدات الصور الأخرى مثل ميدجرني، وفقًا لموقع “ذا فيرج”.
وبماذا بدأت الشركة؟
مقال من موقعنا: OpenAI تطور أداة لتحكم مبدعي المحتوى في استخدام بياناتهم
الشركة بدأت أيضًا في إضافة علامات مائية إلى المقاطع الصوتية التي تنتجها منصة محرك الصوت، وهي حاليًا في مرحلة المعاينة المحدودة. لا يزال هناك عمل مستمر على تحسين كل من أداة تصنيف الصور والعلامة المائية الصوتية، وتشير “أوبن إيه آي” إلى أنها تحتاج إلى ملاحظات من المستخدمين لاختبار فعالية تلك الأدوات.
يمكن للباحثين ومجموعات الصحافة غير الربحية اختبار أداة تصنيف الصور من خلال تطبيقها على منصة الشركة للوصول إلى الأبحاث.
الخلاصة
شركة “أوبن إيه آي” قامت بتطوير أدوات جديدة لتحديد مصدر المحتوى والتحقق مما إذا كان من إنتاج الذكاء الاصطناعي أم لا، بما في ذلك أداة لتصنيف الصور وعلامة مائية صوتية. كما أشارت الشركة إلى أنها تحتاج إلى ملاحظات من المستخدمين لتحسين هذه الأدوات.
