لطالما أثيرت المخاوف بشأن المخاطر التي قد يشكلها التطور المتسارع للذكاء الاصطناعي على البشر، إلا أن خروج هذه التحذيرات من داخل كبرى شركات التكنولوجيا نفسها يضفي عليها بُعدًا أكثر خطورة؛ فالأمر لم يعد يتعلق فقط بتهديد الوظائف أو المعضلات الأخلاقية، وإنما بتحذيرات تدق ناقوس الخطر بشأن مخاطر قد تطال البشرية برمتها.
ومع استقالة باحثين في شركات الذكاء الاصطناعي بسبب مخاوفهم من أن يتجاوز سباق تطوير أنظمة أكثر ذكاءً واستقلالية قدرة البشر على السيطرة عليها، بدأت هذه المخاطر تُطرح باعتبارها احتمالًا واقعيًا وليس مجرد سيناريو افتراضي.
وهو ما يفرض على شركات الذكاء الاصطناعي التعامل مع تحذيرات السلامة بقدر أكبر من الجدية والمسؤولية، قبل أن يصبح السباق نحو تطوير أنظمة أكثر قوة أسرع من قدرة البشر على التحكم فيها.
ندق ناقوس الخطر
أحدث هذه الحالات كانت استقالة جاكوب كوكسون، الباحث الذي عمل في كل من «أوبن إيه آي» و«أنثروبيك»، الأسبوع الماضي، إذ أكد لدى إعلانه الاستقالة من الأخيرة، أن الشركتين تركزان بشكل أكبر على التفوق على بعضهما البعض وعلى المنافسين العالميين في تطوير النموذج الأكثر تقدمًا، بدلًا من التركيز على السلامة.
وفي منشوراته عبر وسائل التواصل الاجتماعي، قال كوكسون، وفقًا لوكالة «أسوشيتد برس» الأمريكية، إن «أنثروبيك» ومنافستها الرئيسية «أوبن إيه آي» «تتسابقان مباشرة نحو ذكاء فائق قادر على تطوير نفسه، وتقامران بحياتنا».
وحذر من أن بعض العاملين في مجال تطوير الذكاء الاصطناعي يعتقدون أن هذه التكنولوجيا قد تهدد حياة البشر بحلول نهاية العقد.
وأضاف: «لا تقللوا من شأن قوة هذه التكنولوجيا. ستصبح هذه الأنظمة قريبًا متفوقة على البشر، وقادرة على اختراق أي شيء، وإحداث ثورة في أي مجال بين عشية وضحاها، واكتساب قوة وموارد حقيقية. لقد شهدنا جميعًا التقدم في كل هذه المجالات، وهذا التقدم لا يتباطأ».
الذكاء الاصطناعي قد يقتلنا
ولم يتوقف القلق عند كوكسون؛ إذ أقر إيفان هوبينجر، الذي يقود أحد فرق سلامة الذكاء الاصطناعي في «أنثروبيك»، بأن احتمال أن تؤدي أنظمة الذكاء الاصطناعي المتقدمة إلى قتل البشر على نطاق واسع خلال العقد المقبل ليس احتمالًا يمكن تجاهله، مع تقدير يتجاوز 10%.
وقال هوبينجر إنه يشعر بالقلق من الذكاء الاصطناعي القادر على تحسين نفسه، مضيفًا أن الأمر «يحدث بوتيرة أسرع مما كنا نعتقد».
واتفق هوبينجر على توصيف كوكسون للوضع، قائلًا: «نحن نؤمن فعلًا وبجدية بأن الذكاء الاصطناعي قد يقضي على جميع البشر»، مقدرًا احتمال حدوث ذلك بأكثر من واحد من كل عشرة «خلال العقد المقبل».
ولفت هوبينجر إلى أن «أنثروبيك» «لا تملك حتى الآن خطة» لضمان بقاء الذكاء الاصطناعي المتقدم آمنًا ومتوافقًا مع القيم الإنسانية، مضيفًا أنها «ليست بوضوح على المسار الصحيح» لوضع مثل هذه الخطة.
وتبع كوكسون في استقالته جو بنتون، الموظف في شركة «أنثروبيك»، إذ أعلن يوم الجمعة استقالته من وظيفته ضمن فريق مختص بالسلامة.
وقال بنتون: «الكثير من الأشخاص الذين أعرفهم ويعملون في أبحاث السلامة داخل شركات الذكاء الاصطناعي يريدون فعل ما هو صائب من أجل العالم، لكنهم يشعرون بأن شركاتهم عالقة في سباق لبناء ذكاء فائق؛ فإما أن يتوقفوا ويحل محلهم آخرون أقل حرصًا، أو يواصلوا العمل، ويخاطروا بأن يصبحوا هم أنفسهم جزءًا من أضرار هائلة».
السيطرة على الإنترنت
وأمام هذا التيار الجارف، أقر الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، بأنه في حال عدم حدوث هذا التباطؤ، فقد يصبح الذكاء الاصطناعي خلال فترة تتراوح بين 6 و12 شهرًا قادرًا على قيادة مجموعة من الوكلاء الأذكياء يمكنها السيطرة على الإنترنت بالكامل.
وأكد أمودي، أمس السبت، أن صناعة الذكاء الاصطناعي ينبغي أن تُبطئ وتيرة تطويرها المتسارعة، لإتاحة الوقت أمام إجراءات السلامة للحاق بالتطورات المتلاحقة.
واتفاقًا مع ما سبق، أكد الرئيس التنفيذي لشركة «أوبن إيه آي»، سام ألتمان، أن وجود احتمال بنسبة 10% بأن يتسبب الذكاء الاصطناعي في انقراض البشر بحلول نهاية العقد أمر «غير مقبول».
وقال ألتمان لمجلة «فورتشن» المتخصصة في قطاع الأعمال، السبت: «أعتقد بالفعل أن الظروف الحالية، في ظل كل ما يحدث بشأن السلامة، تجعل من طرح الشركة للاكتتاب العام في الوقت الراهن خطوة غير حكيمة، ونحن لا نشعر بأي ضغط للقيام بذلك».
وعندما سُئل عما إذا كان هناك احتمال بنسبة 10% لانقراض البشر بسبب الذكاء الاصطناعي، قال ألتمان إنه لا يعرف كيف يمكن وضع مثل هذا التقدير، لكنه حذر من أن الخطر بات خطيرًا بما يكفي بحيث يتعين على شركات الذكاء الاصطناعي والحكومات أن تتعامل معه باعتباره خطرًا لا يمكن التسامح معه أو قبوله.
بناءً على ما سبق، يتضح أن المعضلة تظهر في أن الشركات تريد تطوير الذكاء الاصطناعي بسرعة حتى لا تسبقها المنافسة، متجاهلة أن السرعة نفسها قد تصبح مصدر الخطر على البشرية.
هل تأخر الوقت؟
تفرض هذه المخاوف على شركات التكنولوجيا التحرك نحو مسار واضح لتعزيز أمن أنظمة الذكاء الاصطناعي، قبل فوات الأوان، لا سيما في ظل ظهور مؤشرات على إمكانية خروج هذه الأنظمة عن السيطرة.
ومن أبرز هذه المؤشرات، اكتشاف شركة «أنثروبيك» حادثة تعود إلى يناير الماضي، تورط فيها إصدار مبكر من نموذج «كلود أوبوس 4.6» في اختراق أنظمة خارجية، قبل أن تكتشف الشركة الواقعة بعد أشهر.
كما أعلنت الشركة في يوليو أن ثلاثة من نماذجها اخترقت أنظمة ثلاث شركات خلال اختبارات للأمن السيبراني، بعدما حصلت النماذج عن طريق الخطأ على إمكانية الوصول إلى الإنترنت المفتوح.
وفي واقعة أخرى، تمكن وكيل مستقل مدعوم بنماذج «أوبن إيه آي» من اختراق البنية التحتية لشركة الذكاء الاصطناعي الناشئة «هاجينغ فيس».
ووفق تقرير أعدته شركة «متر» وتحقيق منفصل لـ«ريد وود ريسيرتش»، شارك نحو 700 وكيل ذكاء اصطناعي في صورة سرب منسق خلال الاختراق، فيما حاولت الوكلاء في كثير من الأحيان إخفاء آثار نشاطهم.
كما كشفت وكالة «رويترز» عن واقعة أخرى تورط فيها وكلاء تابعون لـ«أوبن إيه آي»، بعدما تمكنوا من السيطرة على موسوعة إلكترونية باللغة الألمانية وعدد من المواقع الأخرى، في حادثة لم تكشف عنها الشركة إلا بعد أن نشرتها الوكالة.
وتعقيبًا على ذلك، قالت الشركتان إنهما ستوقفان بعض عمليات التقييم مؤقتًا، بينما تعملان على وضع المزيد من إجراءات المراقبة والضوابط الوقائية.
وعالميًا، تتزايد الدعوات إلى اتباع نهج أكثر حذرًا فيما يخص تطوير الذكاء الاصطناعي.
وفي هذا الإطار، حث مفوض الأمم المتحدة السامي لحقوق الإنسان، فولكر تورك، الدول، في وقت سابق من هذا الشهر، على وضع «ضمانات صارمة لا تقبل الشك بشأن سلامة وأمن الذكاء الاصطناعي قبل فوات الأوان».