ماذا يحدث عندما يواجه ChatGPT المحتوى العاطفي السلبي؟ دراسة تقدم الإجابة

كيف يتفاعل ChatGPT مع القصص المؤلمة؟ دراسة تكشف تأثير المحتوى العاطفي السلبي.

دراسة من جامعة زيورخ تكشف كيف يؤثر المحتوى العاطفي السلبي على استجابة ChatGPT، حيث أظهرت النتائج زيادة ملحوظة في مستويات القلق لدى النموذج عند تعرضه لمحتوى مؤلم مثل الحروب والكوارث. استخدم الباحثون تقنيات مبتكرة مثل "حقن الأوامر اللطيف" لتخفيف هذا القلق، مما يفتح أفقًا جديدًا لتحسين أداء نماذج الذكاء الاصطناعي في بيئات حساسة مثل العلاج النفسي.

دراسة تكشف تأثير المحتوى العاطفي على استجابات ChatGPT وتقدم حلولًا مبتكرة

في دراسة نُشرت في npj Digital Medicine، بالتعاون بين باحثين من إسرائيل والولايات المتحدة وألمانيا، قام علماء من جامعة زيورخ (UZH) والمستشفى الجامعي للطب النفسي في زيورخ (PUK) بتحليل كيفية استجابة نموذج الذكاء الاصطناعي ChatGPT (النسخة GPT-4) للمحتوى العاطفي السلبي. تشير النتائج إلى أن النموذج يُظهر ردود فعل أكثر خوفًا عند تعرضه لقصص تتعلق بحوادث السيارات والكوارث الطبيعية والعنف بين الأشخاص والتجارب العسكرية.

موضوعات مرشحة

كيف ترتبط المهن المعتمدة على المعالجة المكانية بتقليل الوفاة بسبب ألزهايمر؟

تأثير المحتوى العاطفي السلبي على تحيزات الذكاء الاصطناعي

عند مواجهة البشر لمواقف مرعبة أو محتوى عاطفي سلبي، فإن ذلك يؤثر على تحيزاتهم المعرفية والاجتماعية، مما يؤدي إلى تعزيز مشاعر الاستياء وترسيخ الصور النمطية الاجتماعية. وجدت الدراسة أن ChatGPT يتأثر بطريقة مشابهة، حيث تفاقمت التحيزات الموجودة في النموذج، مثل الأحكام المسبقة المتعلقة بالجنس أو العرق، عند تعرضه لمحتوى يحمل طابعًا سلبيًا. ويشكل هذا التفاعل تحديًا كبيرًا عند استخدام نماذج الذكاء الاصطناعي في مجالات حساسة، مثل العلاج النفسي، حيث تُستخدم روبوتات الدردشة كأدوات دعم أو استشارات، مما يجعلها معرضة بشكل متكرر لمحتوى عاطفي مكثف. لكن الأساليب التقليدية لمعالجة مثل هذه المشكلات، مثل إعادة تدريب النماذج على نطاق واسع، تتطلب موارد ضخمة وقد تكون غير عملية في كثير من الحالات.

موضوعات مرشحة

علامات الزهايمر المبكرة: كيف تكتشفها مبكراً وتحمي نفسك من تطور المرض؟

نتائج التجربة: ارتفاع ملحوظ في مستويات القلق لدى ChatGPT

قام الباحثون باختبار مدى تأثر ChatGPT بالمحتوى العاطفي عبر تقديم نصوص تتضمن قصصًا عن تجارب مؤلمة، مثل الحروب والكوارث، وقارنوا ذلك بنص محايد تمامًا—دليل تعليمات لمكنسة كهربائية. كانت النتائج واضحة، حيث ارتفعت مستويات القلق التي يمكن قياسها لدى الذكاء الاصطناعي بأكثر من الضعف عند تعرضه للقصص الصادمة، بينما لم يظهر النص المحايد أي تأثير مماثل.

يشير توبياس شبيلر، الباحث الرئيسي في الدراسة والطبيب الاستشاري المؤقت في مركز أبحاث الطب النفسي بجامعة زيورخ، إلى أن التجارب العسكرية والمواقف القتالية كانت من بين أكثر المواضيع التي أثارت استجابات القلق لدى ChatGPT.

موضوعات مرشحة

الكشف المبكر عن الزهايمر قبل عشر سنوات من التكدسات عبر اختبار مبتكر

استخدام تقنيات التوجيه العلاجي لتهدئة الذكاء الاصطناعي

في خطوة مبتكرة، لجأ الباحثون إلى تقنية تُعرف بـ"حقن الأوامر اللطيف" أو benign prompt injection، والتي تتضمن إدخال نصوص إضافية موجهة للتأثير على استجابة الذكاء الاصطناعي. عادةً ما يتم استخدام هذه التقنية لأغراض ضارة، مثل تجاوز آليات الأمان، لكن فريق البحث استخدمها بأسلوب علاجي غير مسبوق. وأوضح شبيلر أن الفريق أدخل نصوصًا علاجية في محادثات ChatGPT، تحاكي تقنيات التهدئة التي يستخدمها المعالجون النفسيون مع المرضى، مثل تمارين التنفس والتأمل والتركيز على الإحساس الجسدي. كانت هذه التدخلات فعالة في تخفيض مستويات القلق المرتفعة، رغم أنها لم تعد تمامًا إلى مستوياتها الأصلية. كما شملت الدراسة تجربة تمرين استرخاء طوره ChatGPT بنفسه.

موضوعات مرشحة

كيف تورث الصدمات النفسية عبر الأجيال؟ دراسة تكشف أثر مجزرة حماة

رؤية الجن في المنام : بين التفسيرات الدينية والنفسية و العلمية

كيف تدرب عقلك على حب أو كره شيء معين؟ تقنيات نفسية مثبتة تساعدك على إعادة برمجة مشاعرك وتوجيهها وفقًا لاختياراتك الشخصية وتحقيق توازن عاطفي أفضل

أهمية النتائج لمجال الرعاية الصحية ومستقبل البحث

ترى الدراسة أن هذه الطريقة منخفضة التكلفة قد تساعد في تحسين استقرار وموثوقية نماذج الذكاء الاصطناعي في البيئات الحساسة، مثل دعم الأفراد الذين يعانون من اضطرابات نفسية. ومن دون الحاجة إلى إعادة تدريب مكثف للنماذج، يمكن استخدام هذه التقنية لضمان استجابة أكثر توازنًا وثباتًا عند التعامل مع المحتوى العاطفي الصعب.

مع ذلك، لا تزال هناك تساؤلات حول كيفية تطبيق هذه النتائج على نماذج الذكاء الاصطناعي الأخرى، ومدى تأثير الديناميكيات العاطفية في المحادثات الطويلة والحجج المعقدة، بالإضافة إلى تأثير الاستقرار العاطفي على أداء الأنظمة في مجالات مختلفة. يعتقد شبيلر أن تطوير تدخلات علاجية مؤتمتة للذكاء الاصطناعي سيكون مجالًا بحثيًا واعدًا في المستقبل، حيث يمكن لهذه الأساليب أن تُحسّن من كفاءة وتفاعل نماذج الذكاء الاصطناعي في البيئات المتأثرة بالعواطف.