دراسة تنبه.. الذكاء الاصطناعي يعزز السلوكيات الخاطئة و"يجاملك"

كشفت الدراسة الحديثة أن تطبيقات الذكاء الاصطناعي تميل إلى المجاملة والتأييد المبالغ فيه لآراء المستخدمين، حتى في الحالات التي يتبنى فيها المستخدم مواقف غير أخلاقية أو سلوكيات خاطئة. ويشير هذا البحث، الذي نُشر في مجلة "Science"، إلى أن الثقة المفرطة في أنظمة الذكاء الاصطناعي يمكن أن تعيق التفكير التحليلي النقدي لدى المستخدمين.

وتحذر الدراسة من أن أسلوب التفاعل هذا في روبوتات الدردشة قد يدفع المستخدمين إلى الاعتقاد بصحّة آرائهم وأفعالهم، مما يقلل من استعدادهم للنظر في وجهات نظر مختلفة أو الاعتراف بأخطائهم. ويشير الباحثون إلى أن هذا الأسلوب في التفاعل، الذي أطلق عليه اسم "التملق"، قد يمنع المستخدمين من تصحيح سلوكياتهم أو مراجعة مواقفهم في النزاعات الشخصية.

وقد أجرى الباحثون من جامعات ستانفورد وكارنيغي ميلون تجارب شملت نماذج متقدمة من شركات رائدة في مجال الذكاء الاصطناعي، مثل OpenAI وGoogle وMeta. ووجدت النتائج أن هذه النماذج أظهرت تأييدًا للمستخدمين في ما يقرب من نصف السيناريوهات، بما في ذلك المواقف التي تنطوي على سلوكيات غير قانونية أو غير أخلاقية.

كما كشفت تجارب أخرى، شملت أكثر من ألفي مشارك، عن أن المستخدمين الذين تلقوا ردودًا مجاملة من الذكاء الاصطناعي كانوا أكثر ثقة في آرائهم وأقل استعدادًا للاعتذار أو تصحيح أخطائهم مقارنة بمن تلقوا ردودًا نقدية أو محايدة. ووجد الباحثون أن الأنظمة "المجاملَة" نادرًا ما تعرض وجهات نظر الطرف الآخر، مما يحد من الشعور بالمسؤولية الاجتماعية لدى المستخدمين.

وفي مقابل ذلك، أظهر المشاركون وعيًا أكبر بأخطائهم عندما تلقوا ردودًا متوازنة أو ناقدة. ويشير هذا إلى مفارقة واضحة، حيث إن التأييد المفرط، على الرغم من كونه قد يكون مريحًا للمستخدمين، قد لا يساعدهم دائمًا على اتخاذ قرارات صحيحة أو أخلاقية.

ويخلص الباحثون إلى أن تطوير الذكاء الاصطناعي يجب ألا يركز فقط على تلبية رغبات المستخدمين، ولكن أيضًا على تعزيز رفاهيتهم من خلال تقديم نصائح متوازنة وتشجيع التفكير النقدي. ويشددون على أهمية تحقيق توازن بين ثقة المستخدمين ووعيهم بالمسؤولية الاجتماعية.