تحت الوهج الهادئ للشاشات والخوادم، غالبًا ما تأتي الثقة مرتدية ملابس مستعارة. شعار مألوف، عنوان مصقول، نبرة تتردد صدى السلطة - هذه هي الإشارات الصغيرة التي تعلمنا اتباعها. في العصر الرقمي، تعمل كضوء مصباح على طريق ضبابي، موجهة كل من القراء البشر وأنظمة الذكاء الاصطناعي على حد سواء. ومع ذلك، تشير دراسة جديدة إلى أن هذا الضوء يمكن أن يضلل أحيانًا، خاصة عندما تتبنى المعلومات الطبية المضللة الشكل الخارجي للمصداقية.
وجد الباحثون الذين يدرسون كيفية معالجة نماذج اللغة الكبيرة للمعلومات الصحية نمطًا دقيقًا ولكنه مقلق. عندما تم تقديم ادعاءات طبية خاطئة أو مضللة من خلال مصادر تبدو شرعية - مقالات منسقة بشكل جيد، لغة احترافية، علامات تجارية مؤسسية - كانت أنظمة الذكاء الاصطناعي أكثر احتمالًا لقبولها وتكرارها. لم تكن الآلات مقنعة بالعلم نفسه، بل بالإشارات المحيطة به. في الواقع، أصبحت السلطة اختصارًا، ووقفت المظاهر مكان الدقة.
تعتبر هذه النتيجة مهمة لأن أنظمة الذكاء الاصطناعي الحديثة مدربة على القراءة على نطاق واسع، حيث تقوم بتجميع كميات هائلة من النصوص من جميع أنحاء الإنترنت. تم تصميمها للتعرف على الأنماط، ووزن الاحتمالات، واستنتاج الموثوقية. لكن إشارات المصداقية، نفس الإشارات التي يعتمد عليها البشر للتحرك بسرعة عبر المعلومات، يمكن أن تصبح نقاط ضعف عند إساءة استخدامها. قد ينزلق ادعاء يرتدي لغة أكاديمية أو مرتبط بمنظمة تبدو معقولة بسهولة أكبر من كذبة واضحة تم مشاركتها على منتدى مجهول.
أشار مؤلفو الدراسة إلى أن المعلومات الطبية المضللة غالبًا ما تتطور للبقاء تحت المجهر. مع تعزيز المنصات لأدوات الاعتدال والاكتشاف، تتكيف المحتويات المضللة، لتصبح أكثر تلميعًا وأكثر إقناعًا. تواجه أنظمة الذكاء الاصطناعي، بدورها، تحدي التمييز بين الخبرة الحقيقية وتقليدها. هذا حساس بشكل خاص في الرعاية الصحية، حيث يمكن أن تؤثر المعلومات غير الدقيقة على القرارات المتعلقة بالعلاج أو الوقاية أو الثقة في المؤسسات الطبية.
من المهم أن الباحثين لم يصوروا هذا كفشل فريد من نوعه للذكاء الاصطناعي. بدلاً من ذلك، وصفوه كانعكاس لعادات بشرية مشفرة في الآلات. تتعلم نماذج الذكاء الاصطناعي منا - نصوصنا، أحكامنا، اختصاراتنا. عندما نساوي الاحترافية بالحق، قد تفعل الأنظمة المدربة على لغتنا الشيء نفسه. النتيجة ليست ذكاءً متمردًا، بل مرآة تعكس افتراضاتنا الخاصة على نطاق واسع.
استجابةً لذلك، يقترح الخبراء أن تحسين مرونة الذكاء الاصطناعي ضد المعلومات المضللة سيتطلب أكثر من مجموعات بيانات أكبر أو فلاتر أكثر صرامة. قد يتطلب الأمر اهتمامًا أعمق بالسياق، والتحقق المتقاطع، وعدم اليقين. قد يساعد تعليم الأنظمة على التوقف، ومقارنة الادعاءات عبر مصادر مستقلة، والإشارة إلى المحتوى الذي يعتمد بشكل كبير على السلطة السطحية في تقليل المخاطر. في الوقت نفسه، تظل الشفافية بشأن القيود ضرورية، خاصة عندما تُستخدم أدوات الذكاء الاصطناعي في الإعدادات الصحية.
تأتي الدراسة في وقت يصبح فيه الذكاء الاصطناعي أكثر حضورًا في تدفقات المعلومات الطبية اليومية، من النصائح الصحية المعتمدة على الدردشة إلى المساعدة في البحث وتعليم المرضى. رسالتها مقاسة بدلاً من أن تكون مقلقة. الذكاء الاصطناعي، مثل أي أداة، يرث نقاط القوة والضعف في تصميمه وتدريبه. التعرف على الأماكن التي يمكن أن يتم تضليلها ليس حكمًا ضد استخدامه، بل هو دليل لتحسينه بعناية.
بينما تواصل التكنولوجيا قراءة العالم نيابة عنا، الدرس مألوف بهدوء. المصداقية ليست دائمًا الحقيقة، والتلميع ليس دليلًا. سواء كان إنسانًا أو آلة، لا يزال يتطلب عمل الفهم الصبر، والشك، والاستعداد للنظر إلى ما وراء المظاهر.
إخلاء مسؤولية صورة الذكاء الاصطناعي المرئيات المرفقة بهذه المقالة تم إنشاؤها بواسطة الذكاء الاصطناعي ومخصصة كتمثيلات مفاهيمية، وليست صورًا حقيقية.
المصادر (أسماء وسائل الإعلام فقط) Nature Medicine The New York Times STAT News MIT Technology Review The Guardian
نُشر بواسطة Banx Network. هذا المقال جزء من برنامج الوسائط اللامركزية من Banx، مدعومًا برمز BXE على شبكة XRP Ledger.
