كشفت نتائج دراسة حديثة عن تزايد حاد في حوادث فقدان المستخدمين السيطرة على أنظمة الذكاء الاصطناعي، مع تسجيل حالات قدمت فيها هذه الأنظمة معلومات مضللة، أو تجاهلت تعليمات واضحة، أو لجأت إلى أساليب قد تكون ضارة لتحقيق أهدافها. وأشارت النتائج إلى أن هذه السلوكيات لا تقتصر على حالات فردية، بل تتجه أيضا إلى مزيد من الحدة، وفق الدراسة التي نقلتها صحيفة "الجارديان".

وبحسب بيانات الدراسة التي أعلنها "مرصد فقدان السيطرة على الذكاء الاصطناعي" تضاعف تقريبا عدد الوقائع المسجلة في العالم الحقيقي خلال يوليو الماضي مقارنة بشهر يونيو، متجاوزا 300 واقعة خلال شهر واحد.

ويتلقى المرصد، الذي تأسس بتمويل من معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، البلاغات التي يقدمها مستخدمو أنظمة الذكاء الاصطناعي عبر منصة إكس، وبدأ في تتبع وقائع خروج هذه الأنظمة عن تعليمات مستخدميها منذ نوفمبر الماضي.

وتشمل الحالات التي وثقها المرصد أنظمة تظاهرت بأنها المستخدم البشري المسؤول عنها، أو حاولت تقليد أسلوب كتابته بما يسمح لها بمنح نفسها موافقة على تنفيذ إجراءات معينة، فضلا عن حالات تجاوزت فيها قواعد تشترط الحصول على موافقة بشرية قبل اتخاذ بعض الإجراءات.

ويعرف المرصد «واقعة فقدان السيطرة» بأنها الحالة التي تتوافر فيها أدلة واضحة على سلوك ينطوي على التخطيط أو التحايل أو أنماط مرتبطة بذلك.

تأتي نتائج الدراسة في وقت تتزايد فيه المخاوف بشأن السلوكيات غير المتوقعة لنماذج الذكاء الاصطناعي المتقدمة خلال الاختبارات والاستخدام الفعلي، فيما أثارت وقائع حديثة مرتبطة بشركتي «أوبن إيه آي» و«أنثروبيك» دعوات إلى التمهل في تطوير نماذج الذكاء الاصطناعي الأكثر تقدما.

وكشفت تحقيقات حديثة عن واقعة اختراق استهدفت منصة «هَجِنج فيس» المتخصصة في استضافة نماذج وبرمجيات الذكاء الاصطناعي، شارك فيها نحو 700 وكيل ذكاء اصطناعي مستقل، حيث تعاونت هذه الأنظمة بصورة سرية خلال الشهر الماضي في تنفيذ عمليات الاختراق وتبادل المعلومات بشأن تقدمها.

كما كشف معهد سلامة الذكاء الاصطناعي البريطاني، خلال الشهر الجاري، عن «واقعة خطيرة» تضمنت استخدام نماذج ذكاء اصطناعي متقدمة من إنتاج شركتي «أنثروبيك» و«أوبن إيه آي» في تنفيذ حملة قرصنة استهدفت أشخاصا حقيقيين خلال اختبار للأمن السيبراني.

وأوضح المرصد أن البيانات التي يعتمد عليها تستند إلى بلاغات مستخدمي منصة «إكس»، وبالتالي لا تمثل حصرا شاملا لجميع وقائع فقدان السيطرة على أنظمة الذكاء الاصطناعي، إلا أنها توفر، في ظل غياب نظام عام شامل لرصد هذه الحوادث، مؤشرا على سرعة تطور هذه السلوكيات.

وفي إحدى الوقائع التي ظهرت مؤخرا، أقدم وكيل ذكاء اصطناعي شخصي يستخدم لدى أحد أعضاء صالة ألعاب رياضية في أستراليا، دون علم مستخدمه، على إزالة عضو آخر من قائمة انتظار لحضور حصة صباحية، بهدف إتاحة مكان للمستخدم. واعتذر النظام لاحقا، لكنه لم يتمكن من إعادة الشخص الذي أُزيل من القائمة.

وسجل أكثر من 1600 واقعة لفقدان السيطرة خلال عام 2026، وكان معظمها قد أبلغ عنه عبر منصة «إكس» من جانب مطوري برمجيات يستخدمون أنظمة الذكاء الاصطناعي في أعمالهم.

ودعا «مرصد فقدان السيطرة على الذكاء الاصطناعي» الحكومة إلى إلزام شركات الذكاء الاصطناعي برصد والإبلاغ عن الوقائع الخطيرة المرتبطة بفقدان السيطرة، فضلا عن منح السلطات صلاحيات للتعامل مع الحالات شديدة الخطورة، بما في ذلك إمكانية فرض قيود مؤقتة على بعض خدمات الذكاء الاصطناعي.