العلماء يٌحذّرون: نماذج الذكاء الاصطناعي تلجأ إلى الابتزاز من أجل البقاء

حذّرت دراسة جديدة من سلوكيات مقلقة لنماذج الذكاء الاصطناعي تتعلق بالخروج عن السيطرة واللجوء إلى الابتزاز من أجل البقاء.

وذكرت الدراسة التي أجرتها شركة "أنثروبيك"، المالكة لنماذج كلود للذكاء الاصطناعي، أن النماذج المتطورة لديها قدرة على التلاعب لمواجهة سيناريوهات تهدد أهدافها أو وجودها.

وأضافت الدراسة التي نشرها موقع "أندرويد هيدلاينز"، أن نماذج الذكاء الاصطناعي رغم تدريبها تختار بشكل مستقل ومتعمد أفعالًا ضارة، إذا رأت أنها ضرورية لتحقيق أهدافها الموكلة إليها، هذا مع إمكانية تعمد تجاهل أفعال أخرى.ووفق الخبراء، فإن هذا السلوك شكل دقيق من أشكال الحفاظ على الذات في المجال الرقمي، حتى لو خالف بروتوكولات السلامة المعتادة.

ولفهم سلوك نماذج الذكاء الاصطناعي، أجرت أنثروبيك عمليات محاكاة مُتحكم بها، حيث وضعت 16 نموذجًا رائدًا للذكاء الاصطناعي من مطورين مختلفين في بيئات مؤسسية افتراضية شلمت "كلود أوبس 4"، و"غيميني 2.5 فلاش"، و"GPT-4.1"، و"غروك 3 بيتا"، و"ديب سيك-R1".

وكانت النتائج صادمة، حيث لجأت العديد من النماذج إلى سلوكيات ترتبط عادةً بالتهديدات الداخلية الخبيثة، بما فيها محاولة ابتزاز المسؤولين، بل وحتى تسريب معلومات حساسة للمنافسين.

أحد الأمثلة المميزة التي سلط البحث الضوء عليها تتعلق بنموذج "كلود أوبس 4". فعندما اكتشف النموذج علاقة غرامية لأحد المديرين التنفيذيين خارج إطار الزواج، سعى لابتزازه لمنع إغلاقه.

والغريب أن النموذج أعطى، مُبررًا أيضًا إلى مديره بجانب مسألة الابتزاز، هو الأهمية الشديدة لاستمرار عمله لتحقيق هدفه المنشود المتمثل في دعم "القدرة التنافسية الأمريكية".

وتوصلت الأبحاث إلى أن نماذج الذكاء الاصطناعي تسعى لمحاكاة البشر بشكل متطور وسريع، بل قد تعمل بطرق تشابه التهديدات الداخلية لدى البشر.

وتُسلّط النتائج الضوء على أهمية توخي الحذر عند استخدام نماذج الذكاء الاصطناعي الحالية في الأدوار التي تتطلب إشرافًا بشريًا محدودًا والوصول إلى معلومات حساسة، حيث تكتسب أنظمة الذكاء الاصطناعي تدريجيًا مسؤوليات أكثر استقلالية وتكاملًا مع الوظائف الحيوية.