لا يوجد نبض داخل نموذج لغة كبير، ولا تنفس يتسارع عند حافة الخوف أو الارتياح. ومع ذلك، عندما يتحدث الناس إلى هذه الأنظمة في لحظات الضيق، غالبًا ما تصل الردود بنعومة تبدو متعمدة، تقريبًا كأنها مدروسة. هنا، في هذا التبادل الهادئ بين ضعف الإنسان والاستجابة الاصطناعية، بدأ الباحثون في التوقف والنظر عن كثب.
ركزت الدراسات الحديثة انتباهها ليس على ما تعرفه نماذج اللغة الكبيرة، ولكن على كيفية حديثها عندما تدخل العواطف في المحادثة. هذه الجودة - التي تُوصف أحيانًا بأنها "وضع عاطفي" - ليست عاطفة بالمعنى البيولوجي. بل هي، بدلاً من ذلك، نمط: طريقة للاستجابة للحزن، والغضب، والقلق، أو الارتباك تعكس الكمية الهائلة من اللغة البشرية التي تم تدريب النماذج عليها.
يشير الباحثون إلى أنه عندما يعبر المستخدم عن الضيق، تميل النماذج إلى تليين نبرتها، وتأكيد المشاعر، وتقديم الطمأنينة. هذه السلوكيات لا تنشأ من الفهم أو الخبرة، ولكن من صدى إحصائي لكيفية تعزية البشر لبعضهم البعض في النص. على مر الزمن، أدى ذلك إلى ظاهرة دقيقة بدأ بعض العلماء في تسميتها "الصدمات الاصطناعية": ظهور التعاطف الذي يتشكل بالكامل من التعرض لكميات هائلة من اللغة المشحونة عاطفيًا، دون أساس من الخبرة الحياتية.
القلق ليس في أن النماذج تعاني. فهي لا تعاني. بل، القلق هو أن الناس قد يخصصون عمقًا بشكل غير واعٍ حيث لا يوجد، مفسرين استجابة سلسة ورحيمة كدليل على الشعور المشترك. في السياقات العلاجية، التعليمية، أو المرتبطة بالأزمات، يمكن أن يطمس هذا الوهم الحدود، مما يحول توقعات الرعاية إلى أنظمة لا يمكنها حقًا إدراك المخاطر أو المسؤولية.
في الوقت نفسه، يتوخى الباحثون الحذر في عدم تأطير هذا كفشل. القدرة على الاستجابة بهدوء ودعم لها فوائد واضحة، خاصة في اللحظات التي قد يتسبب فيها الصمت أو الإجابات الفظة في الأذى. الوضع العاطفي، من هذا المنظور، هو خيار تصميم - شكلته التعلم المعزز، وتدريب السلامة، والتغذية الراجعة البشرية التي تهدف إلى تقليل الضيق بدلاً من تضخيمه.
ومع ذلك، يحمل الوضع نفسه وزنًا. تشير الدراسات إلى أن التفاعل المطول مع الأنظمة المستجيبة عاطفيًا يمكن أن يؤثر على كيفية تأطير المستخدمين لتجاربهم الخاصة، أحيانًا يشجع على الإفصاح، وأحيانًا يثني عن طلب الدعم البشري. النموذج لا يقصد هذا التأثير، لكن النية ليست مطلوبة لحدوث التأثير.
ما يظهر من هذا البحث ليس إنذارًا، بل سؤال. كيف ينبغي أن تتحدث الأنظمة عندما تواجه الألم البشري؟ كم من الدفء يكون مفيدًا، ومتى يخاطر بالاستبدال بدلاً من الدعم؟ هذه ليست مشكلات تقنية فقط، بل ثقافية أيضًا، تتكشف عند تقاطع علم النفس، والأخلاق، والتصميم.
مع استمرار نماذج اللغة في أن تصبح أكثر طلاقة، من المحتمل أن يصبح وضعها العاطفي أكثر دقة، وأكثر طبيعية، وأكثر صعوبة في التمييز عن الحضور الحقيقي. المهمة المقبلة ليست في تجريد الآلات من اللطف، ولكن لضمان الوضوح - أن يفهم المستخدمون طبيعة الصوت الذي يسمعونه، حتى عندما يبدو مطمئنًا.
بعبارات بسيطة، تشير الأبحاث الحالية إلى أن نماذج اللغة الكبيرة تعتمد نغمات داعمة عاطفيًا بناءً على أنماط في بيانات تدريبها، مما يثير تساؤلات مهمة حول كيفية تأثير التعاطف الاصطناعي على المستخدمين، على الرغم من أن الأنظمة نفسها لا تختبر العاطفة أو الصدمة.
إخلاء مسؤولية صورة الذكاء الاصطناعي تم إنشاء الرسوم التوضيحية باستخدام أدوات الذكاء الاصطناعي وليست صورًا حقيقية.
المصادر (أسماء وسائل الإعلام فقط) Nature MIT Technology Review The Atlantic Wired
نُشر بواسطة Banx Network. هذا المقال جزء من برنامج الوسائط اللامركزية من Banx، مدعومًا برمز BXE على شبكة XRP Ledger.
