أصدرت الهيئات التنظيمية في المملكة المتحدة بيانًا يسلط الضوء على الحاجة إلى أن تدير الشركات بنشاط المخاطر التي تطرحها تقنيات الذكاء الاصطناعي المتقدمة. تتطور هذه النماذج بسرعة، مع قدرات تتجاوز الآن تلك التي يمكن تحقيقها من قبل الممارسين البشريين المهرة من حيث السرعة والنطاق والتكلفة.

أكد البيان أنه إذا تم استغلال الذكاء الاصطناعي المتقدم بشكل ضار، فقد يهدد بشكل كبير سلامة الشركات المالية، وعملائها، ونزاهة السوق بشكل عام. ومن الأمثلة التي تم الإشارة إليها منتج Mythos من شركة Anthropic، الذي أثار مخاوف بين خبراء الأمن السيبراني. يجادل النقاد بأن Mythos يمكن أن يمكّن من تنفيذ هجمات سيبرانية معقدة، مما يشكل خطرًا خاصًا على القطاع المالي وإطاراته التكنولوجية الحالية.

أشار أندرو بيلي، محافظ بنك إنجلترا، سابقًا إلى المخاطر الجادة للأمن السيبراني المرتبطة بالمنتجات الجديدة للذكاء الاصطناعي، مما يعزز الدعوة إلى اتخاذ تدابير دفاعية قوية. ويعمل البيان المشترك كإرشاد للشركات لتعزيز بروتوكولات الأمن السيبراني الخاصة بها، مؤكدًا على الحوكمة الفعالة، وإدارة الثغرات بسرعة، والحاجة إلى تدابير وقائية ضد التهديدات الخارجية.

تشمل المجالات الرئيسية التي يجب التركيز عليها:

الحوكمة والاستراتيجية: يجب على الشركات التأكد من أن القيادة تفهم وتراقب بنشاط المخاطر المتعلقة بالذكاء الاصطناعي. تحديد الثغرات: يعد التعرف السريع والتخفيف من المخاطر عبر البنى التحتية التكنولوجية أمرًا حيويًا. مخاطر الطرف الثالث: تحتاج الشركات إلى إدارة المخاطر الناشئة عن التطبيقات والبرامج الخارجية المدمجة في شبكاتها بشكل فعال. الحماية والاستجابة: يمكن أن يقلل تنفيذ الدفاعات الفعالة وخطط التعافي السريعة من الاضطرابات المحتملة الناتجة عن التهديدات المدفوعة بالذكاء الاصطناعي.

تهدف الرسالة إلى إعداد الشركات لمشهد تهديدات متزايد التعقيد، مع تسليط الضوء على ضرورة استراتيجيات استباقية لحماية نفسها من تداعيات تطبيقات الذكاء الاصطناعي المتقدمة في بيئة التكنولوجيا المتطورة بسرعة اليوم.