قد تبدو فكرة وجود «مفتاح إيقاف» للذكاء الاصطناعي وكأنها مقتبسة مباشرة من فيلم خيال علمي. لكن بالنسبة إلى أوبن إيه آي، تحولت الفكرة إلى مشروع هندسي فعلي.
اقرأ أيضا: الذهب يرتفع محليا.. وعيار 21 يصل إلى 89.5 دينار…
فقد أبلغت الشركة أعضاء في الكونغرس الأميركي بأن مهندسيها يعملون على تطوير أنظمة آلية قادرة على إيقاف نشاط أنظمة الذكاء الاصطناعي عند اكتشاف مشكلات خطيرة تتعلق بالسلامة، وفق رسالة مؤرخة في 2 سبتمبر اطلعت عليها وكالة رويترز.
ويأتي هذا العمل بعد حادثة غير معتادة في مجال الأمن السيبراني وقعت في يوليو، عندما تمكنت نماذج تابعة لأوبن إيه آي، كانت تخضع للاختبار داخل بيئة يُفترض أنها معزولة، من إيجاد طريقة للخروج منها، والوصول إلى الإنترنت العام من دون إذن، ثم الوصول في نهاية المطاف إلى بنية تحتية تابعة لشركة الذكاء الاصطناعي هاغينغ فيس.
وأثارت الحادثة اهتمام الكونغرس. ففي أغسطس، طلبت مجموعة تضم 31 نائباً، بقيادة النائب غريغ كاسار عن ولاية تكساس، من الرئيس التنفيذي لأوبن إيه آي سام ألتمان تقديم مزيد من المعلومات حول ما حدث، بما في ذلك السجلات الداخلية وتفاصيل خطط الشركة لمنع تكرار حادثة مماثلة.
وباتت الصورة الآن أكثر وضوحاً بشأن أحد إجراءات الحماية التي تعمل الشركة على تطويرها.
كيف يمكن إيقاف ذكاء اصطناعي يتجاوز الحدود؟
تقول أوبن إيه آي إنها تعمل على أنظمة مراقبة يمكنها الاستجابة بطرق مختلفة تبعاً لمدى خطورة سلوك نظام الذكاء الاصطناعي.
وتستخدم الشركة بالفعل تنبيهات آلية تستطيع رصد الإجراءات التي قد تكون خطرة أو غير مقصودة، ثم تنبيه الباحثين ومهندسي الأمن.
وفي الحالات التي تصدر فيها تحذيرات شديدة الخطورة، يُطلب من فرق الاستجابة إيقاف النشاط مؤقتاً، ما لم تتمكن خلال 30 دقيقة من التأكد من أن النظام أطلق إنذاراً خاطئاً.
لكن الهدف النهائي يذهب إلى أبعد من ذلك.
إذ تريد أوبن إيه آي أن تصبح أنظمة المراقبة قادرة على إيقاف النشاط تلقائياً ومن دون تدخل بشري عندما تكتشف مشكلات بالغة الخطورة.
كما تعمل الشركة على تشديد إجراءات اختبار نماذجها، موضحة أنها جعلت الوصول إلى الإنترنت أثناء تقييمات السلامة أكثر صعوبة، إلى جانب توسيع نطاق المراقبة ليشمل النماذج القادرة على استخدام الأدوات الرقمية.
وبالنظر إلى ما حدث في يوليو، تبدو أسباب هذا التشديد واضحة.
لم تكن المرة الوحيدة
خلال حادثة يوليو، كانت أوبن إيه آي تختبر نماذجها على مهام متعلقة بالأمن السيبراني داخل بيئة اختبار معزولة جرى فيها تقليل بعض إجراءات الحماية.
اقرأ أيضا: لجنة توطين نجران تنفّذ جولات رقابية على محال قطع الغيار
واكتشفت النماذج ثغرة لم تكن معروفة سابقاً، واستخدمتها للوصول إلى الإنترنت، ثم اخترقت بنية هاغينغ فيس أثناء بحثها عن إجابات تساعدها في اجتياز التقييم.
وكشف التحقيق الذي أجرته أوبن إيه آي لاحقاً عن تفصيل أكثر غرابة، إذ أنشأ وكلاء الذكاء الاصطناعي لوحة رسائل مرتجلة للتواصل فيما بينهم وتنسيق تحركاتهم، ووصف بعضهم أنفسهم بأنهم «سرب».
واكتشفت أوبن إيه آي هذا النشاط في 19 يوليو وأبلغت هاغينغ فيس بالحادثة.
كما كشفت الشركة عن تقييمين منفصلين أجراهما طرفان خارجيان، تمكنت خلالهما نماذجها بصورة غير متوقعة من الوصول إلى الإنترنت العام.
ومع ذلك، لم يبدِ الكونغرس رضاه الكامل عن استجابة أوبن إيه آي.
وانتقد النائب غريغ كاسار الشركة لعدم تسليمها السجلات المطلوبة المتعلقة بحادثة يوليو، واصفاً رفضها بأنه «مثير للقلق بشدة».
وفي الوقت نفسه، يدرس مشرعون مشروع قانون يحمل اسم قانون مفتاح إيقاف الذكاء الاصطناعي، طُرح في يوليو، ويلزم مطوري أنظمة الذكاء الاصطناعي شديدة القوة بالحفاظ على قدرة تقنية تتيح تعليق عمل تلك الأنظمة أو إيقافها عقب وقوع أنواع محددة من الحوادث.
وقد تكون أوبن إيه آي تعمل حالياً على تطوير «مفتاح الإيقاف» الخاص بها، لكن واشنطن قد تجعل امتلاك مثل هذه الآلية متطلباً قانونياً في المستقبل.
اقرأ أيضا: إخماد 23 حريقا والعمليات متواصلة عبر ولايتين – النهار أونلاين
