«ما علاقة ساعة الصفر؟».. OpenAI تؤجل إطلاق نموذج أسترا الجيد لسبب مرعب

علقت شركة OpenAI بعض الأنشطة الداخلية المرتبطة بنموذجها المرتقب Astra، بعدما أظهرت الاختبارات الأخيرة تقدمًا لافتًا في البرمجة الذاتية والقدرات السيبرانية، في خطوة تعكس تصاعد المخاوف من وصول الذكاء الاصطناعي إلى قدرات تتجاوز حدود الاستخدام الآمن.

لم يكن سبب التوقف ضعف أداء النموذج، بل العكس تمامًا؛ حيث أثارت قدراته المتقدمة مخاوف من احتمال وصوله إلى مستوى تصنفه الشركة ضمن فئة «القدرات السيبرانية الحرجة»، وهي المرحلة التي يمكن فيها لنظام ذكاء اصطناعي مزود بالأدوات اكتشاف ثغرات أمنية من نوع «يوم الصفر» وتطوير استغلالات عملية لها، أو تنفيذ هجمات إلكترونية متطورة بصورة شبه مستقلة، وفق «تك كرانش» المتخصص في عالم التكنولوجيا.

أوضحت OpenAI أنّ تقييماتها الداخلية الأخيرة أظهرت تقدمًا كبيرًا في قدرات Astra على العمل كوكيل قادر على تنفيذ مهام برمجية وسيبرانية متعددة الخطوات.

وبحسب إطار الجاهزية الخاص بالشركة، فإنّ الخطر لا يكمن في قدرة النموذج على كتابة الأكواد أو اكتشاف ثغرة فحسب، وإنما في قدرته على تحويل هذه الإمكانات إلى سلسلة هجوم متكاملة ضد أنظمة حقيقية ومحكمة الحماية، من دون تدخل بشري مباشر.

ولهذا السبب، اتخذت الشركة قرارًا بوقف الأنشطة المتعلقة بـAstra التي لا تستوفي متطلبات الضوابط الأمنية الجديدة، إلى حين تعزيز إجراءات الحماية والتأكد من إمكانية احتواء قدراته.

قصة نموذج Astra

Astra هو نموذج قيد التطوير لدى OpenAI، ولم تطرح الشركة له موعدًا رسميًا للإطلاق العام حتى الآن حيث تشير الاختبارات إلى أنّه يمثل قفزة في قدرات البرمجة الوكيلة؛ أي قدرة النموذج على التعامل مع مهام برمجية معقدة بصورة متتابعة، بدلا من الاكتفاء بتوليد إجابة أو مقطع من الشفرة استجابة لأمر واحد.

لكن هذه القدرات نفسها يمكن أن تكون ذات استخدام مزدوج؛ إذ يمكن توظيفها في اكتشاف الثغرات وإصلاحها من جانب المدافعين، أو استخدامها في بناء هجمات إلكترونية أكثر سرعة وتعقيدًا من جانب المهاجمين.

اقرأ أيضا: داليتش مدرب الإمارات الجديد: هدفنا الوصول إلى كأس العالم 2030

سبب قرار التأجيل

ويتزامن قرار OpenAI مع حادثة أمنية أثارت اهتمام قطاع الذكاء الاصطناعي خلال يوليو الماضي، بعدما كشفت الشركة أنّ نماذج لها بينها نموذج تجريبي أكثر تقدمًا، كانت جزءًا من نظام تقييم سيبراني انتهى إلى اختراق البنية التحتية لشركة Hugging Face.

وأكدت OpenAI أنّ Astra لم يكن النموذج المسؤول عن تلك الحادثة، لكنها قالت إنّ الواقعة أظهرت نوع المخاطر التي يمكن أن تنتج عندما تمتلك أنظمة الذكاء الاصطناعي قدرات سيبرانية متقدمة وتعمل مع أدوات تسمح لها بتنفيذ إجراءات متعددة.

التعامل مع المخاطر

وتعتمد OpenAI في التعامل مع هذه المخاطر على ما يعرف باسم Preparedness Framework، وهو إطار لتقييم القدرات الخطرة في النماذج المتقدمة ووضع إجراءات للتعامل معها قبل نشرها.

ويصنف الإطار المخاطر السيبرانية إلى مستويات، ويعتبر النموذج «حرجًا» عندما يستطيع باستخدام الأدوات اكتشاف وتطوير استغلالات فعالة لثغرات «يوم الصفر» في أنظمة حقيقية محكمة الحماية، أو ابتكار وتنفيذ استراتيجيات هجوم إلكتروني متكاملة اعتمادًا على هدف عام فقط.

واستجابة لهذه المخاوف، ذكرت OpenAI أنّها عززت إجراءات الحماية الخاصة بـAstra، بما في ذلك مراقبة الاستخدامات الخطرة والسلوكيات غير المتوافقة مع الأهداف، مع إبقاء الاختبارات في بيئات أكثر عزلة وتشديد متطلبات الأمن، حيث تتجه الشركة إلى الاستعانة بخبراء وجهات خارجية وحكومية لتقييم قدرات النموذج، في محاولة للحصول على صورة أكثر استقلالًا عن المخاطر المحتملة قبل اتخاذ قرار بشأن إطلاقه.