شهدت روبوتات الدردشة المعتمدة على الذكاء الاصطناعي انتشارًا ملحوظًا في السنوات الأخيرة وأصبحت جزءًا من الروتين اليومي للعديد من المستخدمين رغم الأخطاء المتكررة التي تعاني منها، حيث تشير البيانات إلى أن أنظمة مثل شات جي بي تي وجيميناي وكلاود لا تزال تقدم إجابات غير دقيقة في كثير من الأحيان، وأفادت دراسة أجرتها BBC في أكتوبر بأن نسبة الأخطاء قد تصل إلى 45% من الوقت.
تحذير من الاعتماد المفرط على الذكاء الاصطناعى
ثقة المستخدمين رغم الأخطاء
كشفت ورقة بحثية حديثة أعدها الباحث ستيفن شو وأستاذ التسويق جدعون ناف من جامعة بنسلفانيا أن المستخدمين يميلون إلى تصديق إجابات الذكاء الاصطناعي حتى عند كونها خاطئة، وخلال سلسلة من التجارب، اختار أكثر من 50% من المشاركين استخدام شات جي بي تي للإجابة عن أسئلة تتطلب التفكير والمعرفة رغم أن ذلك لم يكن إلزاميًا وفقًا لموقع futurism.
الاستسلام المعرفى وتأثيره
ركزت الدراسة على مفهوم “الاستسلام المعرفي” وهو ميل المستخدمين إلى قبول إجابات الذكاء الاصطناعي دون تدقيق، وفي تجربة شملت 359 مشاركًا، التزم المشاركون بإجابات الذكاء الاصطناعي الصحيحة بنسبة 92.7% بينما استمروا في اتباع الإجابات الخاطئة بنسبة 79.8%، وأظهرت النتائج أن المستخدمين يتبعون التوصيات حتى عندما تكون غير دقيقة في نحو 4 من كل 5 حالات تفاعل.
مخاوف بشأن التفكير النقدى
تشير نتائج الدراسة إلى تحول أوسع في طريقة تعامل البشر مع المعلومات واتخاذ القرار حيث أصبح من السهل تفويض عملية التفكير إلى الأنظمة الذكية، وأوضح الباحثون أن هذا التوجه قد يؤدي إلى تراجع مهارات التفكير النقدي مع مرور الوقت مؤكدين أهمية الحفاظ على القدرة على التحقق من المعلومات وعدم الاعتماد الكامل على الذكاء الاصطناعي في اتخاذ القرارات.