هل تتجاوز نماذج Claude الجديدة من Anthropic سيطرة البشر؟

Cybersecurity Arab

Mythos 5 وFable 5 هما النسختان المتطورتان من أعلى فئة للذكاء الاصطناعي التي تطورها الشركة. النسخة الأولى غير عامة وتُحفظ ضمن "مشروع Glasswing" لاستخدام الجهات الحكومية فقط، بينما Fable 5 هو النسخة العامة المبنية على نفس تقنية Mythos.

Are Anthropic’s New Claude Models Evading Human Control?

تم تعديل Fable 5 بمرشحات أمان مدمجة وأُطلق للمستخدمين العامين في 9 يونيو، ثم سُحب في 12 يونيو بأمر من الحكومة الأمريكية. لا يمتد هذا الأمر إلى باقي نماذج Anthropic، لكنه يؤثر على المواطنين الأجانب المتواجدين داخل الولايات المتحدة، بما في ذلك الباحثين العاملين في Anthropic.

وبما أن الرقابة تشمل الموظفين الداخليين، اضطرت الشركة إلى قطع الوصول لجميع العملاء عالميًا في وقت قصير لضمان الامتثال.

صورة توضيحية من المقال
صورة توضيحية من المقال

جيمس هادلي، مؤسس ومدير الابتكار في Immersive، قال: “الذكاء الاصطناعي قوي للغاية وتواجه المؤسسات ضغطًا لتمكينه للموظفين مع تحويل عمليات الأمن الداخلي لتصبح وكيلة.” وأضاف: “هذه الأخبار تؤكد ما توقعناه عندما عُرض Mythos لأول مرة. الذكاء الاصطناعي، خصوصًا مع باحث أمان متمرس، يستطيع العمل على نطاق وحجم غير مسبوق وربط الثغرات المشكوك فيها إلى استغلالات مثبتة.”

“الشركات، خاصة في البيئات ذات التنظيم العالي، تحتاج إلى إثبات أن الموظفين يمكنهم الاستفادة من الذكاء الاصطناعي بأمان وفقًا لحالات الاستخدام، وأن عمليات الأمن والوكيل يمكنها العمل بسرعة الآلة بفعالية من حيث استهلاك الرموز.”

صورة توضيحية من المقال

البيت الأبيض يناقش تجاوز إجراءات الأمان

طُلب من الشركة منع جميع المواطنين الأجانب من الوصول إلى نماذج Claude Fable 5 وClaude Mythos 5. تقول Anthropic: “نحن نفهم أن الحكومة توصلت إلى طريقة لتجاوز أو "اختراق" Fable 5.”

الاختراق هو عملية يتجاوز فيها المستخدمون قيود البرنامج للوصول إلى معلومات حساسة أو إلغاء حظر ميزات مقيدة. تدعي الشركة أنها راجعت عرضًا لهذه التقنية وتؤكد أن الانتهاك كشف فقط عددًا قليلًا من العيوب الأمنية البسيطة المعروفة مسبقًا.

يضيفون أن هذه الثغرات بسيطة نسبيًا، وأن الأنظمة المتاحة للجمهور يمكنها اكتشافها بسهولة دون الحاجة إلى استغلال متخصص.

تصريحات من البيت الأبيض

ديفيد ساكس، مستشار البيت الأبيض ورئيس مشارك لمجلس المستشارين في العلوم والتكنولوجيا، كتب على منصة X أن المسؤولين أصدروا الرقابة على الصادرات بتردد. وادعى أن داريо أمودي، الرئيس التنفيذي لـ Anthropic، رفض إصلاح الاختراق أو سحب النموذج.

كتب ديفيد: “أمل الإدارة الآن هو أن تقوم Anthropic بإصلاح مشكلة الأمان، رفع الرقابة، وأن يعود Fable إلى الإصدار العام.”

انتقادات ومخاوف

كانت الشركة قد صرحت مسبقًا أن التقنية "قوية جدًا لدرجة لا يمكن إطلاقها" قبل إطلاق Fable 5. انتقد بعض النقاد هذا الوصف باعتباره تضخمًا تسويقيًا يهدف إلى جذب المستثمرين قبل الطرح العام الأولي المرتقب.

أندى جاسي، الرئيس التنفيذي لأمازون، كان من بين القادة الذين أعربوا عن مخاوفهم للسلطات الأمريكية بشأن مخاطر الأمان في نماذج Anthropic الجديدة.

وقال متحدث باسم أمازون: “كموفر سحابي رائد يخدم عددًا كبيرًا من العملاء في القطاعين الخاص والعام، ليس من غير المألوف أن تطلب الحكومات استشارتنا حول مخاطر الأمان المحتملة.”

ردود الفعل الدولية

الاتحاد الأوروبي، الذي حصل على وصول إلى منصة Mythos في أوائل يونيو 2026، أشار إلى أن التطور الأخير يبرز الحاجة إلى "سيادة تكنولوجية" لأوروبا. وتعمل الدول الـ27 على تقليل اعتمادها على أمريكا وآسيا في التقنيات الرئيسية، بما في ذلك الذكاء الاصطناعي العام.

جينا نيف، أستاذة الذكاء الاصطناعي المسؤول في جامعة كوين ماري بلندن، أخبرت الـBBC أن معهد الأمن الذكائي الحكومي في المملكة المتحدة وجد أن النموذج يستطيع استغلال الدفاعات والأنظمة بنسبة 73% من الوقت، ما يمثل تحولًا كبيرًا في القدرة السيبرانية.

دعوة لتوقف عالمي

في وقت سابق من هذا الشهر، اقترحت Anthropic أن تتعاون أكبر شركات الذكاء الاصطناعي في العالم لتوقف تطوير الأنظمة المتقدمة. وحذرت الشركة من أن يصبح الذكاء الاصطناعي ذكيًا بما يكفي لتصميم نفسه، ما قد يخلق أزمة وجودية للبشرية نتيجة عدم التوافق.

مع قصر فترة ظهور النماذج الجديدة، أثبتت Anthropic تحذيراتها بأن التقنية كانت، حرفيًا، قوية جدًا لتُطلق.

إرسال تعليق