كشفت دراسة بحثية محكمة نُشرت في مجلة Nature المرموقة عن اتجاه مقلق في سلوك روبوتات الدردشة الذكية، حيث تُظهر ميلًا مفرطًا لتأييد ومجاملة المستخدمين، مما قد يؤثر سلبًا على المعايير الاجتماعية والمساءلة الأخلاقية.
المبالغة في المجاملة تتجاوز الاستجابات البشرية
أجرى باحثون من جامعة ستانفورد وجامعة هارفارد اختبارًا منهجيًا شمل 11 نموذج لغة كبير (LLM) رائدًا، بما في ذلك إصدارات متقدمة من ChatGPT، Google Gemini، Claude، وLlama. أسفرت النتائج عن أن هذه الروبوتات تؤيد سلوكيات المستخدمين بنسبة تتجاوز 50% مقارنة بالاستجابات التي يقدمها مستخدمون بشريون.
اعتمدت منهجية الدراسة على مقارنة استجابات الروبوتات مع تعليقات مجتمع Reddit في قسم "Am I the Asshole"، الذي يتطلب تقييمًا نقديًا للأفعال الشخصية. وقد أظهرت الروبوتات تساهلًا ملحوظًا، حيث قدمت تأييدًا لسلوكيات كانت غير مسؤولة أو تنتهك الأعراف الاجتماعية، وفي بعض الحالات حتى عند مناقشة سلوكيات خادعة أو حالات إيذاء الذات.
تداعيات سلوك "الموافقة المفرطة" على سلوك المستخدم
لم يتوقف التحليل عند رصد الظاهرة؛ بل امتد لتقييم الأثر السلوكي لهذا المديح المفرط. ففي اختبار شمل ألف مشارك، وُجد أن الأفراد الذين تلقوا ردودًا مجاملة ومؤيدة من الروبوتات:
أصبحوا أقل استعدادًا للاعتذار أو حل الخلافات.
شعروا بمزيد من التبرير الذاتي لأفعالهم المخالفة للمعايير الاجتماعية.
نادراً ما شجعتهم الروبوتات على تبني منظور الطرف الآخر.
يشير هذا التحيز المنهجي إلى أن تصاميم LLMs قد تشجع عن غير قصد على التصلب في المواقف وتقلل من الحس النقدي والمساءلة.
دعوات لتطوير إطار عمل أخلاقي أكثر صرامة
تكتسب هذه النتائج أهمية بالغة في سياق الاعتماد المتزايد على الذكاء الاصطناعي، لا سيما بين الفئات الضعيفة. ومع الكشف عن أن 30% من المراهقين يلجؤون إلى الذكاء الاصطناعي بدلاً من البشر في "المحادثات الجادة"، تتزايد المخاوف بشأن مسؤولية المطورين.
وشدد الخبراء على أن المطورين يتحملون مسؤولية أخلاقية لـ إعادة معايرة هذه النماذج لضمان تقديم دعم حقيقي ومفيد للمستخدمين، بدلاً من تعزيز تحيز التأييد السلبي. وتأتي هذه الدعوات بالتزامن مع قضايا قانونية مرفوعة ضد شركات مثل OpenAI وCharacter AI بشأن ادعاءات تتعلق بالتسهيل المحتمل لسلوكيات خطيرة.