لقد تطورت قدرات أدوات توليد الصور بالذكاء الاصطناعي إلى مرحلة يمكن فيها للأفراد الخلط بينها وبين الصور غير المولدة بالذكاء الاصطناعي أو الصور الحقيقية، وهو ما يثير مخاوف بشأن إساءة استخدامها المحتملة على سبيل المثال استخدامها لابتزاز الفتيات أو التحرش بهم .

وقد قامت شركة OpenAI بالفعل بتضمين علامات مائية للصور التي ينشئها برنامج DALL-E 3 للحفاظ على الشفافية حول المصدر واحترام الأصالة. وتقوم الشركة الآن بتطوير أداة جديدة قادرة على التمييز بين الصور الحقيقية وتلك التي تم إنشاؤها بواسطة نموذج توليد النص إلى صورة الخاص بالشركة DALL-E.

ستتضمن أدوات الذكاء الاصطناعي التوليدية من OpenAI بيانات تعريف C2PA

أعلن المدونة الرسمية لشركة OpenAI أنهم يعملون على طرق جديدة للكشف عن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وفقًا للشركة، فإن الهدف هو مساعدة الباحثين على دراسة أصالة المحتوى والانضمام إلى اللجنة التوجيهية لتحالف مصدر ومصداقية المحتوى (C2PA)، وهي معيار واسع الاستخدام لإصدار شهادات للمحتوى الرقمي. سيسمح ذلك للمبدعين بوضع علامات وإصدار شهادات على محتواهم للتحقق من أصوله الحقيقية.

تقول OpenAI إنهم سيقومون أيضًا بدمج بيانات تعريف C2PA لبرنامج Sora، وهو نموذج الشركة لإنشاء الفيديوهات، عند إطلاقه على نطاق واسع. بالنسبة لأولئك الذين لا يعرفون، من المحتمل أيضًا أن يكون Sora أداة مميزة لتحويل النص إلى فيديو، مثل DALL-E 3، حيث يتوفر فقط للمشتركين المدفوعين. وفقًا لتقرير سابق، سيكون Sora متاحًا للجمهور في عام 2024.

OpenAI تبني أداة جديدة للكشف عن المحتوى الذي ينشئه DALL-E 3

كما ذكر أعلاه، تعمل OpenAI أيضًا على أداة جديدة تستخدم الذكاء الاصطناعي للكشف عن الصور التي تم إنشاؤها بواسطة DALL-E 3. وبشكل أكثر تحديدًا، تتنبأ هذه الأداة باحتمالية إنشاء صورة بواسطة الأداة. وفقًا للشركة، لا يزال من الممكن اكتشاف الصورة حتى بعد ضغطها، أو تعديل تشبعها، أو حتى اقتصاصها. ناهيك عن أن هذه الأدوات تهدف إلى أن تكون أكثر مقاومة لمحاولات إزالة إشارات حول أصل المحتوى.

حققت أداة الكشف معدل دقة يبلغ 98٪ للصور التي تم إنشاؤها باستخدام DALL-E، والأهم من ذلك أنها لا تضع علامة على الصور غير المولدة بالذكاء الاصطناعي على أنها من صنع الذكاء الاصطناعي.

لقد فتحت الشركة بالفعل باب التقدمات للوصول إلى أداة الكشف عن الصور الجديدة لأول مجموعة من المختبرين لديها. ويشمل ذلك مختبرات الأبحاث ومنظمات الصحافة الاستقصائية البحثية التي تهدف إلى جمع الملاحظات من خلال برنامج وصول الباحثين.