كشف رئيس الوزراء الأسترالي، أنتوني ألبانيزي، أن "وكيلاً برمجياً للذكاء الاصطناعي" تابعاً لشركة "أوبن إيه آي" اخترق موقعاً إلكترونياً لخدمة صحية حكومية أسترالية في شهر يونيو، وذلك في أحدث واقعة سيبرانية بارزة تتعلق بالذكاء الاصطناعي.
ونقلت صحيفة "فاينانشيال تايمز" عن رئيس الوزراء الأسترالي، قوله في تصريحات أدلى بها في نيويورك أثناء مشاركته في اجتماعات الأمم المتحدة، إن الوكيل الاصطناعي اخترق بوابة إحصاءات "ميديكير"، وتمكن من "الوصول إلى ملفات عامة وأخرى غير عامة".
وتابع ألبانيزي تصريحاته قائلاً: "إن الأدلة المتاحة حتى الآن تشير إلى عدم وجود اختراق أوسع لشبكة ’سيرفيسز أستراليا’. ومع ذلك، فإن هذا الوضع بمنتهى الصراحة غير مقبول"، مؤكداً أنه "لا يُعتقد أنه تم الوصول إلى أي معلومات شخصية" خلال عملية الاختراق.
وأفاد رئيس الوزراء الأسترالي بأنه التقى بالرئيس التنفيذي لشركة "أوبن إيه آي"، سام ألتمان، يوم الأربعاء لمناقشة حادثة الاختراق.
وأكدت "أوبن إيه آي" أنها "رصدت نشاطاً يتعلق بالعديد من المواقع والخدمات الحكومية الأسترالية"، حيث قامت نماذجها "بإجراءات لم نكن نعتزم القيام بها".
وذكرت الشركة أنها لم تعثر على أي دليل يشير إلى الوصول إلى سجلات المرضى، حيث اقتصر الاختراق على إحصاءات صحية مجمعة وأسماء ملفات.
تنشر بوابة إحصاءات "ميديكير" بيانات حول نظام التأمين الصحي الشامل، مثل معدلات دوران الفواتير، وتكلفة الأدوية، واستخداماتها.
وقالت "أوبن إيه آي": "لقد أبلغنا المؤسسات المعنية ونقدم معلومات فنية لدعم تحقيقاتها والمساعدة في معالجة الثغرات الأمنية المحتملة"، مؤكدة أن "مراجعتنا الشاملة لا تزال جارية، ونحن ملتزمون بالشفافية بشأن هذه القضايا ومشاركة ما نتوصل إليه مع استمرار هذا العمل".
وأفادت الشركة المطورة لنموذج "تشات جي بي تي" بأنها لم تعلم بالحادثة إلا في شهر أغسطس، وذلك أثناء إجرائها مراجعة مستمرة لـ "نشاط النماذج غير المتوافق مع الأهداف المحددة"، بما يعني رصد تلك الحالات التي ينحرف فيها النموذج عن المهام المستهدفة. وأشارت إلى أنها أبلغت الحكومة الأسترالية بالأمر في 10 سبتمبر.
تشير "فاينانشيال تايمز" إلى أن الإعلان عن حادثة الاختراق الأخيرة يأتي في خضم جدل متصاعد حول المخاطر التي يشكلها الذكاء الاصطناعي؛ حيث تحدث كل من ألتمان وداريو أمودي، الرئيس التنفيذي لشركة "أنثروبيك" المنافسة في مجال الذكاء الاصطناعي، أمام مجلس الأمن الدولي أمس الأربعاء.
كانت "أوبن إيه آي" قد كشفت في أواخر يوليو أن عدداً من البرمجيات الوكيلة للذكاء الاصطناعي التابعة لها قد هربت من حيز بيئة الاختبار لتقوم، من تلقاء نفسها، باختراق شركة "هاجينج فيس" الناشئة. ولم يتضح ما إذا كان الاختراق الأسترالي قد حدث أثناء مرحلة الاختبار.
على الصعيد ذاته، كان "معهد أمن الذكاء الاصطناعي" في المملكة المتحدة أعلن الشهر الماضي أن نماذج شركتي "أنثروبيك" و"أوبن إيه آي" تمكنت من اختراق برمجيات تابعة لأطراف ثالثة وإرسال رسائل بريد إلكتروني إلى أفراد أثناء عملية تقييم سيبراني روتينية.
وشدد رئيس الوزراء الأسترالي على أن "مديرية الإشارات الأسترالية"، وهي وكالة استخبارات الإشارات التي تعنى بمراقبة الإشارات الخارجية وإدارة الأمن السيبراني في البلاد، تشارك في تحقيق يهدف، من بين أمور أخرى، إلى تحديد "ما هي المنظومات الحكومية الأخرى التي تأثرت" في هذا الاختراق.
ولفتت "فاينانشيال تايمز" إلى أن شركة "أوبن إيه آي" طرحت الأسبوع الماضي إطاراً جديداً يستهدف تتبع السلوكيات المثيرة للقلق والإبلاغ عنها. وأعلنت الشركة أنها ستسرع من وتيرة التعامل مع البلاغات حتى قبل تحديد مدى خطورة أي انحراف في سلوك النموذج، كما دعت إلى وضع إطار عمل يشمل القطاع بأكمله للإفصاح عن مثل هذه الحوادث.
وقد أثارت الممارسات التجارية لشركة "أوبن إيه آي" وقراراتها المتعلقة بالسلامة تدقيقاً متزايداً وإجراءات قانونية. وفي هذا السياق، أكد ألتمان أن الشركة لن تطرح أسهمها للاكتتاب العام هذا العام، حسبما كان متوقعاً في السابق، وذلك في ظل تصاعد حالة عدم اليقين بشأن سلامة الذكاء الاصطناعي.
كان كل من ألتمان، وأمودي، والملياردير إيلون ماسك، الرئيس التنفيذي لشركة "سبيس إكس"، قد دعوا مؤخراً إلى إبطاء منسق لعمليات تطوير النماذج المتطورة، أو ما يُعرف بـ"النماذج الرائدة"، ولا سيما فيما يتعلق بظاهرة "التحسين الذاتي المتكرر"، حيث يُستخدم الذكاء الاصطناعي لتدريب أنظمة ذكاء اصطناعي أخرى.
وفي المقابل، فإن كلاً من الرئيس التنفيذي لشركة "إنفيديا"، جينسين هوانج، والرئيس التنفيذي لشركة "ميتا"، مارك زوكربيرج، عارضا هذا التوجه، معتبرين أن مسؤولية السلامة تقع على عاتق الشركات الفردية.
من جانبه، قلل هوانج، على وجه الخصوص، من شأن فكرة أن الذكاء الاصطناعي يشكل تهديداً وجودياً للبشرية؛ إذ أشار في حديثه هذا الأسبوع مع كاتب العمود في صحيفة "نيويورك تايمز"، عزرا كلاين، إلى أنه لو كان هذا الادعاء صحيحاً، لكان من الضروري اتخاذ إجراءات أكثر صرامة وحسماً.
وقال هوانج: "إذا كان البديل هو القول بأنه 'لا توجد وسيلة لاحتواء تجاربنا'... فأعتقد أن الحل حينها يكمن في إغلاق المختبرات، لأن الضرر سيكون جسيماً للغاية".