بعد إنتشار الذكاء الإصطناعي.. تعرف على كيفية الإبلاغ عن المحتوى المسئ

بعد إنتشار الذكاء الإصطناعي.. تعرف على كيفية الإبلاغ عن المحتوى المسئ.

من أجل تحسين كفاءة البرامج وسلامتها الأمنية ومدى خصوصيتها داخل نظام Android، تستمر شركة Google تحديث سياسات المطورين الخاصة بها، حيث تم تصميم هذه الترقيات لإنشاء بيئة أكثر أمانًا وجديرة بالثقة لمستخدمي أندرويد.

يؤكد أحد التحديثات البارزة على الاستخدام الأخلاقي لنماذج الذكاء الاصطناعي التوليدية داخل التطبيقات، ولتشجيع ممارسات الذكاء الاصطناعي المسؤولة، طلبت جوجل من المطورين السماح للمستخدمين بالإبلاغ عن المحتوى المسيء الذي تم إنشاؤه بواسطة الذكاء الاصطناعي أو الإبلاغ عنه داخل تطبيقاتهم.

هذا يعني أن التطبيقات التي تستخدم محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي سيتعين عليها إضافة زر للإبلاغ عن المواد المسيئة أو الإبلاغ عنها بدءًا من أوائل عام 2024 للبقاء في متجر جوجل بلاي.

سيضمن هذا الإجراء قدرة المستخدم على تقديم تعليقات حول المحتوى الذي قد يكون ضارًا دون مغادرة التطبيق. ويتماشى هذا التغيير أيضًا مع التزام جوجل بتقديم تجارب آمنة للذكاء الاصطناعي.

وفي الوقت نفسه، ستحافظ شركة التكنولوجيا العملاقة أيضًا على امتثالها لسياسات المطورين الأخرى التي تحظر إنشاء محتوى مقيد.

وقالت الشركة في منشور مدونة، إن سياسة المحتوى التي تم إنشاؤها بواسطة الذكاء الاصطناعي تغطي روبوتات الدردشة المدعومة بالذكاء الاصطناعي وتطبيقات توليد الصور وتلك التي تنشئ محتوى صوتيًا أو فيديو لأشخاص حقيقيين.

ومع ذلك فإن السياسة الجديدة لن تغطي التطبيقات التي تستضيف محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي أو تستخدم الذكاء الاصطناعي فقط لتلخيص المواد مثل الكتب بالإضافة إلى تطبيقات الإنتاجية التي تستخدم الذكاء الاصطناعي كميزة.

وقدمت جوجل أيضًا أمثلة على “محتوى الذكاء الاصطناعي الإشكالي”، يتضمن ذلك التزييف العميق للمواد الجنسية دون رضاهم، وتسجيلات لأشخاص حقيقيين مصممة للاحتيال، ومحتوى انتخابي كاذب أو خادع، وتطبيقات ذات ذكاء اصطناعي توليدي “يهدف في المقام الأول إلى إشباع الرغبة الجنسية”، وإنشاء أكواد برمجية ضارة.

أشارت جوجل أثناء الإعلان عن التغييرات إلى أن الذكاء الإصطناعي التوليدي “هو فئة تطبيقات سريعة التطور”، ما يشير إلى أن الشركة قد تعيد النظر في سياسات الذكاء الاصطناعي الخاصة بها مع استمرار تطور التكنولوجيا.

كذلك تعمل جوجل أيضًا على تحديث سياسة أذونات الصور والفيديو في متجر بلاي، من خلال الحد من مدى وصول التطبيقات إلى البيانات على نطاق واسع.

وأوضحت الشركة: “تعتبر الصور ومقاطع الفيديو الموجودة على جهاز المستخدم بيانات مستخدم شخصية وحساسة ويجب التعامل معها بأفضل ممارسات الخصوصية القصوى.”

وهذه المعلومات الحساسة تجعل المستخدمين عرضة للتسريبات أو أهداف الاستغلال، لذا فإن تقليل هذا الوصول إلى الحد الأدنى يساعد على تجنب العبء الواقع على المطورين في التعامل مع مثل هذه البيانات الحساسة.

ستسمح جوجل فقط للتطبيقات التي تحتاج إلى وصول واسع النطاق إلى الصور ومقاطع الفيديو بمواصلة الحصول على أذونات عامة.

وفي الوقت نفسه، سيُطلب من التطبيقات الأخرى التي لها استخدام محدود لملفات الوسائط استخدام منتقي الصور.