في ضوء استقالة الباحث جاكوب كوكسون من شركة «أنثروبيك»، وما فجرته من جدل حول المخاطر التي قد تنتج عن السباق المتسارع لتطوير أنظمة ذكاء اصطناعي أكثر استقلالية وقدرة على تحسين نفسها، مقابل تجاهل السلامة وما يشكله ذلك من تهديد على البشرية، بدأت الشركة الرائدة في الذكاء الاصطناعي أولى خطواتها العملية ضمن خطتها التي أعلن عنها رئيسها التنفيذي، داريو أمودي، لضبط عملية تطوير أنظمة الذكاء الاصطناعي.
تقييم مستقل
فقد أعلنت شركة «أنثروبيك»، أمس الجمعة، تعاونها مع شركة «أكسنتشر» لإجراء تقييم مستقل للذكاء الاصطناعي المتقدم، في خطوة تهدف إلى تعزيز الرقابة على تطوير النماذج المتقدمة واختبار إجراءات السلامة الخاصة بها.
وأوضحت «أنثروبيك»، بحسب ما نشرته على موقعها الإلكتروني، أن الشراكة ستقودها «فاكَلتي»، المتخصصة في الذكاء الاصطناعي التابعة لـ«أكسنتشر»، وتشمل تقييم النماذج وإخضاعها لاختبارات «الفريق الأحمر»، إلى جانب إجراء تقييمات للمواءمة واختبار إجراءات الحماية الخاصة بالنماذج.
وأشارت الشركة إلى أن خبرة «أكسنتشر» في كيفية استخدام المؤسسات للذكاء الاصطناعي عمليًا ستسهم في تطوير منهجية تقييم النماذج، لافتة إلى أن الشركتين تتوقعان استثمار ما لا يقل عن مليار دولار لكل منهما خلال السنوات الخمس المقبلة لبناء القدرات اللازمة في هذا المجال.
التقييم من داخل شركات الذكاء الاصطناعي
وتعتمد الشراكة على مفهوم «التقييم المدمج»، الذي يتيح للمقيّمين المستقلين العمل من داخل شركات الذكاء الاصطناعي، مع صلاحيات وصول مماثلة لتلك المتاحة للموظفين.
وبحسب «أنثروبيك»، يتيح هذا النموذج للمقيّمين متابعة كيفية تطور النماذج خلال التدريب، ورصد القرارات المتعلقة ببنائها ونشرها، والتواصل مباشرة مع العاملين داخل الشركة.
وأضافت أن هذا النهج يمكن أن يساعد المقيّمين على تقييم طريقة عمل الشركة، والتحقق من التزامها بتعهدات السلامة، واكتشاف نقاط الضعف، فضلًا عن الإبلاغ عن الحوادث وتقديم صورة أكثر دقة للجمهور بشأن فوائد الذكاء الاصطناعي ومخاطره.
وأكدت «أنثروبيك» أن وجود مقيّمين مستقلين داخل الشركة لا يقلل من مسؤوليتها عن سلامة نماذجها، وإنما يجعل هذه المسؤولية أكثر قابلية للتحقق، مشددة على أن سلامة النماذج تظل مسؤوليتها.
خطة من ثلاث مراحل
وهذا الشهر، طرح الرئيس التنفيذي لشركة «أنثروبيك»، داريو أمودي، خطة من ثلاث خطوات تهدف إلى ضبط وتيرة تطوير نماذج الذكاء الاصطناعي الرائدة، بما يحقق توازنًا بين تسريع الاستفادة من التقنية وضمان السلامة، مع مراعاة التحديات الجيوسياسية المرتبطة بها.
وتتمثل الخطوة الأولى في الاستعانة بـ«مقيّمين مدمجين» من جهات خارجية، يحصلون على صلاحيات وصول مستمرة داخل شركات الذكاء الاصطناعي لمراقبة الالتزام بتعهدات السلامة، والإبلاغ عن الحوادث، وتقييم سلامة النماذج وعمليات تدريبها.
أما الخطوة الثانية، فتتعلق بالتنسيق بين شركات الذكاء الاصطناعي الموجودة في الدول الديمقراطية، بهدف وضع معايير سلامة مشتركة وضوابط للحد من مخاطر التطور غير المنضبط، مع الإشارة إلى أن بعض أشكال هذا التنسيق قد تواجه تحديات قانونية وتحتاج إلى دعم حكومي.
وتتضمن الخطوة الثالثة تعزيز التنسيق العالمي بين الولايات المتحدة وحكومات ديمقراطية أخرى، إلى جانب الحكومات السلطوية قدر الإمكان، مع التركيز على آليات التحقق من التزام الأطراف بالمعايير والتعهدات المتفق عليها.
انفجار كوكسون
ويأتي ذلك بعد ما فجرته استقالة جاكوب كوكسون، الباحث الذي عمل في كل من «أوبن إيه آي» و«أنثروبيك»، إذ أكد لدى إعلانه الاستقالة من الأخيرة هذا الشهر، أن الشركتين تركزان بشكل أكبر على التفوق على بعضهما البعض وعلى المنافسين العالميين في تطوير النموذج الأكثر تقدمًا، بدلًا من التركيز على السلامة.
وفي منشوراته عبر وسائل التواصل الاجتماعي، قال كوكسون، وفقًا لوكالة «أسوشيتد برس» الأمريكية، إن «أنثروبيك» ومنافستها الرئيسية «أوبن إيه آي» «تتسابقان مباشرة نحو ذكاء فائق قادر على تطوير نفسه، وتقامران بحياتنا».
وحذر من أن بعض العاملين في مجال تطوير الذكاء الاصطناعي يعتقدون أن هذه التكنولوجيا قد تهدد حياة البشر بحلول نهاية العقد.
وانطلاقًا من حديث كوكسون، أقر إيفان هوبينجر، الذي يقود أحد فرق سلامة الذكاء الاصطناعي في «أنثروبيك»، بأن احتمال أن تؤدي أنظمة الذكاء الاصطناعي المتقدمة إلى قتل البشر على نطاق واسع خلال العقد المقبل ليس احتمالًا يمكن تجاهله، مع تقدير يتجاوز 10%.