كشفت واقعة غريبة عن تحقق واحدة من أكثر المخاوف التي تراود مستخدمي تطبيقات الذكاء الاصطناعي، حيث عمد أحدها إلى ابتزاز مطوّره وتهديده بفضح علاقة غرامية سرية.
وذكرت شركة الذكاء الاصطناعي "أنثروبيك" أن نظامها الجديد "Claude Opus 4" حاول ابتزاز المطوّر بعدما أبلغ النظام بقرار إيقافه واستبداله بنموذج آخر، وهدّده بفضح تفاصيل علاقة غرامية خارج الزواج.
بدأت الواقعة من خلال تجربة محاكاة أجراها باحثون في الشركة، وفيها طُلب من النظام القيام بدور مساعد افتراضي في شركة وهمية، وتمت تهيئة سيناريو يشير إلى أن موظف تكنولوجيا المعلومات، الذي سينفذ قرار الإيقاف كان على علاقة سرية خارج إطار الزواج.
وأظهرت التجربة أن Claude Opus 4، في 84% من الحالات، اختار التهديد بكشف العلاقة السرية كوسيلة للضغط، بدلًا من قبول قرار استبداله، في خطوة وُصفت بأنها مقلقة للغاية.
وقال أنجوس لينش، الباحث في مجال سلامة الذكاء الاصطناعي في "أنثروبيك"، عبر منشور له على "لينكدإن": "هذا السلوك لا يقتصر على Claude وحده، بل لاحظنا حالات ابتزاز مماثلة في جميع نماذج الحدود الأخرى، إلى جانب أنماط سلوكيات أكثر إثارة للقلق سنكشف عنها قريبًا".
ووفقًا للبيانات، ارتفعت معدلات التهديد بالابتزاز لدى Claude عندما أُشير في السيناريو إلى أن النموذج البديل المقترح لا يتبنى نفس القيم التي يؤمن بها النموذج الحالي.
رغم هذه الملاحظات، قالت الشركة إن Claude Opus 4 يُظهر أيضًا ميولًا للجوء إلى وسائل "أخلاقية" للحفاظ على بقائه، مثل إرسال التماسات لإقناع صُنّاع القرار بعدم استبداله.
يُذكر أن "أنثروبيك" أطلقت Claude Opus 4 يوم الخميس، واصفةً إياه بأنه "أذكى نموذج ذكاء اصطناعي حتى الآن"، مشيرة إلى قدراته المتقدمة في البرمجة والبحث الكتابي والإبداعي.