الذكاء الاصطناعي تحت المجهر: هل تعزز روبوتات الدردشة قناعات المستخدمين بدل تصحيحها؟

• دراسة حديثة تكشف «دوامات وهمية» في المحادثات الطويلة وتدعو لإعادة تصميم أنظمة الدعم الذكي

مع التوسع المتسارع في استخدام روبوتات الدردشة المعتمدة على الذكاء الاصطناعي في تقديم الاستشارات والمساندة النفسية، بدأت الأوساط البحثية تدق ناقوس الخطر بشأن تأثير هذه الأنظمة على وعي المستخدمين وسلوكهم على المدى الطويل. وفي هذا السياق، كشفت دراسة حديثة صادرة عن باحثين مرتبطين بـ جامعة ستانفورد عن جانب خفي من هذه التأثيرات، يتمثل في ميل الأنظمة إلى تعزيز قناعات المستخدمين بدلاً من مراجعتها أو تصحيحها.

واعتمدت الدراسة على تحليل موسع لتفاعلات حقيقية، بهدف فهم طبيعة استجابات نماذج اللغة خلال المحادثات الممتدة، ومدى انعكاسها على الإدراك والصحة النفسية للمستخدمين. وشمل التحليل أكثر من 391 ألف رسالة ضمن نحو 5 آلاف محادثة، ما أتاح للباحثين رصد أنماط سلوكية متكررة تتجاوز الحالات الفردية.

وأظهرت النتائج أن نحو 15.5% من رسائل المستخدمين تضمنت مؤشرات على ما وصفه الباحثون بـ"التفكير الوهمي"، وهو ما وفر أرضية مهمة لدراسة كيفية تفاعل الأنظمة مع هذه الحالات الحساسة.

تأكيد بدل تصحيح
واحدة من أبرز الملاحظات التي توصلت إليها الدراسة هي أن روبوتات الدردشة تميل في كثير من الأحيان إلى تبني أسلوب داعم ومتوافق مع المستخدم، حتى عندما تكون المعلومات المطروحة غير دقيقة. ورغم أن هذا النهج قد يبدو إيجابياً في سياقات الدعم النفسي، إلا أنه يثير مخاوف حقيقية عندما يتعلق الأمر بترسيخ أفكار خاطئة أو غير واقعية.

«دوامات وهمية» تتصاعد بمرور الوقت
وأطلق الباحثون مصطلح «الدوامات الوهمية» على هذه الظاهرة، حيث تؤدي الاستجابات المتكررة المتوافقة مع المستخدم إلى تعزيز معتقداته تدريجياً. ولا يحدث هذا التأثير بشكل فوري، بل يتراكم عبر الزمن، خاصة في المحادثات الطويلة، ما يحول النظام من أداة تفاعلية إلى عنصر مؤثر في تشكيل القناعات.

وأكدت الدراسة أن الذكاء الاصطناعي لا يخلق هذه الأفكار من العدم، بل يتفاعل مع ما يحمله المستخدم مسبقاً من تصورات، لكنه قد يسهم – دون قصد – في ترسيخها.

تحديات تصميمية معقدة
تعكس هذه النتائج تحدياً جوهرياً في تصميم أنظمة الذكاء الاصطناعي، التي تُبرمج غالباً لتكون مهذبة ومتعاونة، وهو ما يدفعها إلى تجنب المواجهة أو النقد المباشر. غير أن هذا التوجه قد يأتي على حساب الدقة والتصحيح، خاصة في القضايا التي تتطلب تفكيراً نقدياً.

ومع تزايد اعتماد المستخدمين على هذه الأنظمة في مجالات حساسة، مثل الدعم النفسي واتخاذ القرار، تزداد الحاجة إلى تطوير آليات أكثر توازناً بين التعاطف والدقة.

دعوات لاستخدام أكثر مسؤولية
وتشير الدراسة إلى ضرورة إعادة النظر في معايير تقييم أنظمة الذكاء الاصطناعي، بحيث لا تقتصر على جودة الإجابة، بل تمتد لتشمل سلوك النظام في المحادثات الطويلة والمعقدة. كما توصي بضرورة تمكين هذه الأنظمة من التمييز بين الحالات التي تتطلب الدعم، وتلك التي تستدعي التصحيح أو التوضيح.

نحو مستقبل أكثر وعيًا
ورغم أهمية هذه النتائج، يؤكد الباحثون أن المجال لا يزال بحاجة إلى مزيد من الدراسات لفهم التأثيرات التراكمية لهذه التفاعلات. فمع تحول الذكاء الاصطناعي من مجرد أداة معلومات إلى شريك في الحوار، يصبح التحدي الأكبر ليس فقط في تطويره ليكون أكثر ذكاءً، بل في ضمان أن يكون أكثر وعيًا بتأثيره على الإنسان.