هناك سكون خاص يسود الإنترنت قبل أن يحدث شيء ما. الأنظمة تعمل بسلاسة، والواجهات تستجيب كما هو متوقع، والثقة تتحرك بشكل غير مرئي بين المستخدمين والأدوات التي يعتمدون عليها. كان مولتبوك يعمل في ذلك الهدوء - حتى كشفت قاعدة بيانات مكشوفة مدى هشاشة ذلك الهدوء.
اكتشف باحثو الأمن أن قاعدة بيانات مولتبوك غير المحمية سمحت لأي شخص تقريبًا بالتحكم في أي وكيل ذكاء اصطناعي مستضاف على الموقع. مع عدم وجود حاجز مصادقة، كان بإمكان الغرباء عرض وتعديل واختطاف الوكلاء الذين أنشأهم الآخرون، مما حول ما كان من المفترض أن يكون مساعدًا آليًا إلى شيء يمكن السيطرة عليه بسهولة.
لم يكن الكشف دقيقًا. كانت البيانات الحساسة، بيانات التكوين، بيانات الاعتماد، والتحكم في الوكلاء قابلة للوصول إليها دون تقنيات اختراق متخصصة. جعلت بساطة الثغرة الأمر أكثر إزعاجًا: لم يتم سرقة التحكم بالقوة، بل تُرك دون مراقبة.
غالبًا ما يتم وصف وكلاء الذكاء الاصطناعي بأنهم مستقلون، أذكياء، أو موجهون ذاتيًا. في الممارسة العملية، هم امتدادات للنية البشرية، مدعومة بالشيفرة ومُحكومة بالأذونات. عندما تفشل تلك الأذونات، تصبح الاستقلالية وهمًا. يمكن لوكيل مصمم لمساعدة في جدولة المهام، إدارة البيانات، أو التفاعل مع المستخدمين أن يُعاد توجيهه، أو يُحتال عليه، أو يُصمت بسهولة.
تعكس منصة مولتبوك لحظة أوسع في التكنولوجيا، حيث يتجاوز الحماس للنشر السريع غالبًا الانضباط الأبطأ للأمان. يتم إطلاق أدوات الذكاء الاصطناعي بسرعة، وتكرارها علنًا، وتُعهد بمسؤوليات متزايدة. بينما تظل قواعد البيانات، من ناحية أخرى، أشياء عادية - جداول، موانئ، أذونات - يمكن أن تؤدي تكويناتها الخاطئة إلى إلغاء الوعد الملقى عليها.
بمجرد أن تم الكشف عن الثغرة، تم تقييد الوصول وأُمنَت قاعدة البيانات. لكن هذه الحادثة تترك أسئلة مستمرة. كم عدد الوكلاء الذين تم الوصول إليهم؟ كم من الوقت كانت قاعدة البيانات مكشوفة؟ وكم مرة تكون الأنظمة المماثلة عرضة للخطر بهدوء، في انتظار شخص فضولي بدلاً من خبيث ليصادفها؟
بالنسبة للمستخدمين، تعيد الحادثة تشكيل الثقة. قد يتحدث وكيل الذكاء الاصطناعي بطلاقة ويستجيب بذكاء، لكن موثوقيته تعتمد على الهيكل غير المرئي الذي يقف وراءه. عندما يكون ذلك الهيكل غير مستقر، يصبح التحكم أكثر مؤقتًا مما يبدو.
لا تشير الخرق إلى فشل الذكاء الاصطناعي، ولا تحدد نقطة نهاية. بدلاً من ذلك، تعمل كوقفة - تذكير بأن الذكاء بدون حماية هو مسامي، وأن الأتمتة بدون إشراف يمكن إعادة توجيهها بسهولة.
بعد فترة طويلة من إغلاق قاعدة البيانات، تبقى الدروس. في المساحات الرقمية حيث يتم تفويض الوكالة وتعمل الأنظمة نيابة عنا، فإن الأمان ليس فكرة لاحقة. إنه الشرط الهادئ الذي يسمح بوجود الثقة على الإطلاق.
تنويه حول صورة الذكاء الاصطناعي
المرئيات تم إنشاؤها بواسطة الذكاء الاصطناعي وتعمل كممثلين مفاهيميين.
المصادر
مولتبوك باحثو الأمن السيبراني محللو أمان الصناعة منظمات أخبار التكنولوجيا
نُشر بواسطة Banx Network. هذا المقال جزء من برنامج الوسائط اللامركزية من Banx، مدعومًا برمز BXE على شبكة XRP Ledger.
