يصدر Google Play حظرًا جديدًا على الذكاء الاصطناعي التوليدي للتطبيقات

تضع إرشادات Google Play الجديدة قيودًا على تطبيقات الذكاء الاصطناعي التوليدية التي تقدم أدوات مشبوهة، مثل تطبيقات التزييف العميق وتلك التي تنتج محتوى رسوميًا.

هو تحديث سياسة متجر التطبيقاتأعلن يوم الخميس، أنه يوجه تطبيقات الذكاء الاصطناعي ومطوريها لاتخاذ الاحتياطات اللازمة ضد المحتوى المسيء، “بما في ذلك المحتوى المحظور المدرج على Google Play”. محتوى غير لائق السياسات والمحتوى الذي قد يستغل الأطفال أو يسيء إليهم، والمحتوى الذي قد يضلل المستخدمين أو يمكّن من السلوك غير النزيه.”

يجب على المطورين أيضًا تقديم تطبيقات في التطبيق. آليات التشوير والإخطار. للمستخدمين الذين يعثرون على محتوى غير لائق ويجرون “اختبارًا صارمًا” لنماذج الذكاء الاصطناعي الخاصة بهم، تك كرانش ذكرت.

تنطبق القواعد على التطبيقات التي تنتج محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي في “أي مجموعة من إدخال النص والصوت والصورة”. يتضمن ذلك برامج الدردشة الآلية ومولدات الصور وتطبيقات انتحال الصوت التي تستخدم الذكاء الاصطناعي التوليدي. ولا تنطبق السياسات على التطبيقات التي “تستضيف ببساطة” محتوى الذكاء الاصطناعي أو تلك التي تحتوي على “أدوات إنتاجية” للذكاء الاصطناعي، مثل ميزات الملخص.

في شهر مايو، أعلنت جوجل أنها تخفض قيمة النتائج الإباحية التي ينتجها الذكاء الاصطناعي (أو “الاصطناعية”) في تصنيفات البحث الداخلية الخاصة بها، في محاولة لمعالجة مشكلة متنامية تتمثل في المواد الإباحية غير التوافقية والتزييف العميق. كما حظرت الشركة أيضًا الإعلانات من مواقع الويب التي تنشئ أو تدعم أو تقارن المواد الإباحية العميقة.

جاءت هذه الخطوة بعد موجة من التزييف العميق الفيروسي الذي يركز على المشاهير والذي تم تداوله على المنصتين X وMeta، بما في ذلك الإعلانات الصورية لتطبيق تجريد مدعوم بالذكاء الاصطناعي والذي يعرض صورًا دون السن القانونية للممثلة جينا أورتيجا. كانت جوجل تتلقى بالفعل آلاف الشكاوى من ضحايا التزييف العميق الجنسي وغير التوافقي، وقد قدم الكثير منهم قانون حقوق الطبع والنشر للوسائط الرقمية (DMCA) مطالبات ضد مواقع الويب التي تنشر صورها.

أصدر خبراء صناعة الذكاء الاصطناعي تحذيرات متعددة حول تهديد المعلومات المضللة والاستخدام غير التوافقي لصور الأشخاص، بما في ذلك رسالة مفتوحة حديثة كتبها موظفو OpenAI وGoogle DeepMind. وأشارت المجموعة إلى الخطر المحتمل المتمثل في “التلاعب والتضليل” إذا استمر تقدم الذكاء الاصطناعي دون تنظيم.

تتبع لوائح متجر تطبيقات Google توجيهات البيت الأبيض بشأن الذكاء الاصطناعي الصادرة لشركات التكنولوجيا الشهر الماضي. ودعا الإعلان قادة الصناعة إلى بذل المزيد من الجهد لحظر انتشار التزييف العميق، مع استجابة جوجل على وجه التحديد لدعوة للحد من التطبيقات التي “تنشئ أو تسهل أو تستثمر أو تنشر الاعتداء الجنسي على الصور”. إذا كنت ضحية لإساءة استخدام التزييف العميق، فهناك خطوات يمكنك اتخاذها؛ اقرأ المزيد عن كيفية الحصول على الدعم.