الصين تشدد الرقابة على برامج الدردشة بالذكاء الاصطناعي للحد من التأثير العاطفي

أعلنت إدارة الفضاء السيبراني الصينية تشديد الرقابة على بعض برامج الدردشة الآلية المدعومة بالذكاء الاصطناعي، ضمن مشروع قواعد جديد يهدف إلى الحد من قدرة هذه التقنيات على التأثير في المشاعر الإنسانية، خاصة ما يتعلق بمحتوى الانتحار والمقامرة.

وأوضحت الجهة المنظمة أن اللوائح المقترحة تستهدف ما تسميه «خدمات الذكاء الاصطناعي التفاعلية الشبيهة بالبشر»، والتي تحاكي الشخصية الإنسانية وتتفاعل عاطفيًا مع المستخدمين عبر النصوص أو الصور أو الصوت أو الفيديو. وتأتي هذه الخطوة بعد أيام من تقديم شركتين صينيتين ناشئتين طلبات إدراج في بورصة هونغ كونغ، وفي إطار مساعي الصين لقيادة «الحوكمة العالمية للذكاء الاصطناعي».

وتنص المسودة على حظر توليد أي محتوى يشجع على الانتحار أو إيذاء النفس أو العنف اللفظي أو التلاعب العاطفي المضر بالصحة النفسية، كما تمنع المحتوى المتعلق بالمقامرة أو المحتوى الفاحش والعنيف. وفي حال طرح المستخدم أفكارًا انتحارية صريحة، تُلزم القواعد مزودي التقنية بإشراك عنصر بشري فورًا والتواصل مع ولي أمر المستخدم أو شخص مُعيّن.

كما تشترط اللوائح حصول القاصرين على موافقة ولي الأمر لاستخدام الذكاء الاصطناعي لأغراض الرفقة النفسية، مع تحديد مدة الاستخدام، وإلزام المنصات بآليات قادرة على التحقق من عمر المستخدم وتطبيق إعدادات خاصة بالقاصرين عند الشك. وتتضمن البنود تذكير المستخدمين بعد ساعتين من التفاعل المتواصل، وإجراء تقييمات أمنية للمنصات التي يتجاوز مستخدموها مليون مستخدم مسجل أو 100 ألف مستخدم نشط شهريًا.

وأشار أكاديميون إلى أن هذه القواعد قد تمثل أول محاولة تنظيمية من نوعها عالميًا للذكاء الاصطناعي ذي الخصائص الشبيهة بالبشر، في ظل تسارع تطوير «رفقاء الذكاء الاصطناعي» والمشاهير الرقميين في الصين. ومن المقرر إغلاق باب الملاحظات العامة على المشروع في 25 يناير.