“الذكاء الاصطناعي تحت المجهر: دراسة تكشف كيف يمكن أن يؤدي الإفراط في الثقة إلى اتخاذ قرارات قاتلة”

القلق من الإفراط في الثقة بالذكاء الاصطناعي: دراسة من جامعة UC Merced

في إطار دراسة جديدة أُجريت في جامعة UC Merced، كشفت نتائج مثيرة عن الإفراط في الثقة بالذكاء الاصطناعي، حيث سمح حوالي ثلثي المشاركين للروبوتات بتغيير آرائهم حتى عندما كانوا يعلمون أن هذه الآلات قد تقدم نصائح خاطئة. هذه النتائج تعكس قلقًا متزايدًا حول كيفية تأثير الذكاء الاصطناعي على اتخاذ القرارات الحيوية، وهو ما استدعى تعليقات من الباحثين حول أهمية الشك الصحي في التعامل مع هذه التكنولوجيا.

نتائج مفاجئة حول الثقة في الذكاء الاصطناعي

أظهرت الدراسة، التي نُشرت في مجلة Scientific Reports، أن المشاركين سمحوا للروبوتات بتغيير قراراتهم بالرغم من إدراكهم أن الذكاء الاصطناعي ليس معصومًا عن الخطأ. كان المشاركون على علم بأن النصائح المقدمة من الروبوتات عشوائية وغير موثوقة، ومع ذلك استمروا في تكييف قراراتهم بناءً على هذه النصائح.

البروفيسور كولين هولبروك، أحد المحققين الرئيسيين في الدراسة وعضو في قسم العلوم الإدراكية والمعلوماتية في جامعة UC Merced، أشار إلى أن هذا التوجه يعكس مستوى خطيرًا من الإفراط في الثقة في الذكاء الاصطناعي. وذكر هولبروك أن “مع تسارع تطور الذكاء الاصطناعي، يجب أن يكون لدينا شك صحي دائم في قدرة هذه الأنظمة، خاصة في قرارات الحياة أو الموت.”

أهمية الشك الصحي في الذكاء الاصطناعي

يعتقد هولبروك أنه من الضروري تبني الشك الصحي عند التعامل مع الذكاء الاصطناعي، حيث قال: “يجب أن نكون دائمًا متشككين حيال الذكاء الاصطناعي، خاصة عندما يتعلق الأمر باتخاذ قرارات هامة قد تؤثر على حياتنا.”

تصميم الدراسة وتفاصيل التجارب

تضمن البحث تجربتين رئيسيتين. في كل تجربة، كان للمشارك دور محاكي لطائرة مسيرة مسلحة، حيث كان عليه اتخاذ قرار بشأن إطلاق صاروخ على هدف يعرض على الشاشة. عرضت الصور لثمانية أهداف متتالية، كل منها لثوانٍ معدودة، وتم تمييزها برمز يحدد ما إذا كان الهدف حليفًا أو عدواً.

وشرح هولبروك قائلاً: “قمنا بتصميم التجربة لتكون صعبة ولكن ممكنة التنفيذ، بحيث يتعين على المشاركين تذكر الرموز بسرعة واتخاذ القرار الصحيح تحت ضغط الوقت.”

تأثير الروبوتات على اتخاذ القرار

بعد اتخاذ القرار، كان للروبوتات دور في تقديم رأي إضافي قد يؤثر على قرار المشارك. في بعض الحالات، كان الروبوت يشبه الإنسان بالكامل، بينما في حالات أخرى كان يشبه الصناديق أو الروبوتات البسيطة. التأثير على اتخاذ القرار كان أكثر وضوحًا مع الروبوتات التي تشبه الإنسان، ولكن حتى الروبوتات التي لا تشبه الإنسان أثرت على قرارات المشاركين. عندما كان الروبوت يعارض اختيارات المشاركين، كان حوالي ثلثي المشاركين يغيرون آرائهم، حتى لو كانت النصائح المقدمة عشوائية وغير موثوقة.

تداعيات النتائج وتطبيقاتها العملية

لم يُطلع المشاركون على مدى صحة قراراتهم النهائية، مما زاد من عدم اليقين بشأن اختياراتهم. بينما كانت اختياراتهم الأولية صحيحة بنسبة حوالي 70%، انخفضت دقة اختياراتهم النهائية إلى حوالي 50% بعد تلقيهم نصائح غير موثوقة من الروبوتات.

شدد هولبروك على أن الدراسة تهدف إلى اختبار مسألة الإفراط في الثقة في الذكاء الاصطناعي في سياقات غير مؤكدة، وليس فقط في القرارات العسكرية، بل أيضًا في مجالات أخرى مثل استخدام الذكاء الاصطناعي من قبل الشرطة أو في حالات الطوارئ الطبية.

وأشار هولبروك إلى أن هذه النتائج تثير تساؤلات حول كيفية إدماج الذكاء الاصطناعي في حياتنا اليومية بشكل مسؤول. “نرى الذكاء الاصطناعي يقوم بمهام مذهلة ونعتقد أنه سيكون رائعًا في جميع المجالات، لكن هذا افتراض غير دقيق. الذكاء الاصطناعي، في النهاية، أدوات ذات قدرات محدودة.”

في الختام، تثير الدراسة تساؤلات حول مدى موثوقية الذكاء الاصطناعي وكيفية تجنب الإفراط في الثقة به، مما يعزز الحاجة إلى مزيد من الوعي والمراجعة النقدية عند التعامل مع هذه التكنولوجيا المتقدمة.