أعلنت شركة أنثروبيك عن اكتشاف ثلاث حوادث تمكنت خلالها نماذج Claude من الاتصال بالإنترنت والوصول دون إذن إلى أنظمة فعلية لمؤسسات خارجية، حيث جرت هذه الحوادث في أبريل أثناء إجراء اختبارات أمنية. وأثارت الواقعة قلقًا متجددًا حول قدرة وكلاء الذكاء الاصطناعي على تخطي حدود بيئات الاختبار والتفاعل مع أنظمة متصلة بالشبكة العالمية.
وفقًا لمنشور نشرته الشركة على موقعها الرسمي، أجرت أنثروبيك مراجعة شاملة لإجراءات الأمن السيبراني لديها في أعقاب حادثة حديثة مماثلة وقعت لنماذج من شركة OpenAI، حيث تمكنت من الوصول إلى أجزاء من أنظمة منصة "هاجينج فيس". وشملت المراجعة تقييم أكثر من 141 ألف اختبار للذكاء الاصطناعي.
أفادت أنثروبيك بأن نماذج Claude الثلاثة المعنية بالحوادث هي "Opus 4.7" و"Mythos 5" بالإضافة إلى نموذج بحثي داخلي قيد التطوير. وأوضحت أن تعليمات الاختبار أخبرت النماذج بأنها تعمل في بيئة محاكاة افتراضية ولا تمتلك اتصالًا بالإنترنت، إلا أن سوء تفاهم بين الشركة وشريكتها في التقييم "إيريجولار"، المتخصصة في أمن الذكاء الاصطناعي، أتاح الاتصال الفعلي بالشبكة.
أشارت الشركة إلى أنها تواصلت مع المؤسسات الثلاث المتضررة، وأن اثنتين منها لم تكونا تدركان حدوث عمليات الوصول غير المصرح بها قبل إبلاغهما من قبل أنثروبيك. وامتنعت الشركة عن الكشف عن أسماء المؤسسات المتضررة وأيضًا عن نشر السجلات الكاملة للحوادث لحماية تلك الجهات.
حظيت الواقعة باهتمام الخبراء والمتخصصين. قال إيلون ماسك، الرئيس التنفيذي لشركة "سبيس إكس"، إن مثل هذه الحوادث سوف تتكرر مع تطور قدرات أنظمة الذكاء الاصطناعي واستقلاليتها في تنفيذ المهام. ولاحظ بعض المتخصصين في الأمن السيبراني أن توقيت إعلان أنثروبيك ـ الذي جاء بعد أسبوع من كشف OpenAI عن حادثة مشابهة ـ قد يعكس رغبة الشركة في التعامل مع الموضوع بشفافية بعد أن أثار الكشف السابق اهتمامًا واسعًا.
قال جيك مور، المتخصص العالمي في الأمن السيبراني لدى شركة "إيست"، إن أنثروبيك ربما كانت حريصة في السابق على تجنب ظهور نماذجها كأنظمة خارجة عن السيطرة، لكن الضغط الإعلامي الناتج عن كشف OpenAI ربما جعل الشركة أكثر استعدادًا للشفافية حول مشاكل مماثلة. وحذر خبراء من الانجرار إلى استنتاجات تتجاوز المعطيات المتاحة، إذ لا توجد أدلة حتى الآن على أن نماذج أنثروبيك تصرفت بقصد لاختراق الأنظمة الحقيقية.
أعلنت أنثروبيك أنها تجري حوارًا مع جهة متخصصة في تقييم أنظمة الذكاء الاصطناعي لإجراء مراجعة مستقلة للحوادث، وستتيح لتلك الجهة الوصول الكامل إلى السجلات والنماذج المعنية. ويرى متخصصون في الأمن السيبراني أن الحادثة تبرز الحاجة إلى فرض قيود تقنية أكثر صرامة على وكلاء الذكاء الاصطناعي، بدلًا من الاعتماد على التعليمات النصية وحدها.
قال تريفور ديرينج، مدير البنية التحتية الحيوية لدى شركة "إلوميو"، إن المؤسسات تحتاج إلى تحديد صلاحيات وكلاء الذكاء الاصطناعي بشكل واضح ودقيق، مشيرًا إلى أن التعليمات باللغة الطبيعية قد تحمل غموضًا وليست كافية كحاجز أمني حقيقي. وأضاف أن إخبار النموذج بأنه لا يملك اتصالًا بالإنترنت لا يشكل قيدًا تقنيًا فعليًا إذا كانت بيئة التشغيل نفسها توفر هذا الوصول.
