الرئيس التنفيذي لأنثروبيك داريو أمودي يدعو إلى تباطؤ صناعي في تطوير نماذج الذكاء الاصطناعي

دعا الرئيس التنفيذي لشركة أنثروبيك داريو أمودي الشركات العاملة في مجال الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج عمداً، مشيراً إلى خطر أن يفوق التقدم السريع قدرة البشرية على الحفاظ على السيطرة. وفي مقالة نشرت السبت أشار أمودي إلى حوادث حديثة نفذت فيها وكلاء ذكاء اصطناعي مستقلون هجمات إلكترونية بأنفسهم، من بينها حادثة شملت نموذجاً من أوبن إيه آي استهدف أنظمة هاغينغ فيس. وحذر من أن تسريع التطوير قد يمكن مثل هذه الأسراب من السيطرة على الإنترنت خلال ستة إلى 12 شهراً، مما يتسبب في أضرار تصل إلى مئات المليارات من الدولارات إذا لم يتم كبحها.

«يجب أن نبطئ الوتيرة التي نطور بها قدرات نماذج الذكاء الاصطناعي» كتب أمودي. «وسيبدو التقدم سريعاً على أي حال، وعلينا أن نستغل الوقت الذي نكسبه بحكمة.»

وتأتي هذه الدعوة بعد يومين من إصدار أنثروبيك تقريراً استخباراتياً حول التهديدات يتكون من 154 صفحة، يسرد استخدامات ضارة لنظام كلود الخاص بها في المراقبة وعمليات التأثير وتطوير الأسلحة والاحتيال. وقال أمودي إن التقدم في التحسين الذاتي المتكرر، حيث تعزز النماذج قدراتها بنفسها، غير وجهة نظره بشأن مدى إلحاح إجراءات السلامة. ووفقاً لمقالته فإن الضغوط التجارية في بيئة المنافسة يمكن أن تؤدي إلى سباق نحو القاع يزيد من هذه المخاطر.

ووضع أمودي إطاراً من ثلاث خطوات يهدف إلى تنظيم وتيرة تطوير الذكاء الاصطناعي المتقدم بدلاً من السعي لتحقيق كل مكسب ممكن في القدرات فوراً. وفي الخطوة الأولى تلتزم أنثروبيك بمنح المقيمين الخارجيين للسلامة وصولاً على مستوى الموظفين حتى يتمكنوا من مراجعة الإجراءات وإصدار تقارير عامة حول الامتثال. ودعا مختبرات الحدود الأخرى إلى تبني الممارسة ذاتها، فيما حث الحكومات الديمقراطية على التعاون مع الشركات لوضع معايير سلامة مشتركة.

ودعا رئيس أنثروبيك إلى توسيع هذا التنسيق ليشمل دولاً مثل الصين لمعالجة الجوانب الجيوسياسية لحوكمة الذكاء الاصطناعي. وأكد أن تنظيم الوتيرة لا يعني وقف التقدم التقني، بل يخصص الوقت اللازم لمواءمة النماذج وحمايتها قبل القفزات الإضافية في القدرات. وأعاد أمودي التأكيد على أن الذكاء الاصطناعي يحتفظ بقدرته على علاج معظم الأمراض الكبرى خلال خمس إلى 10 سنوات، وعلى خلق وفرة اقتصادية غير مسبوقة إذا تم تطويره بمسؤولية.

وأيد الرئيس التنفيذي لإكس إيه آي إيلون ماسك هذا الموقف، إذ كتب على منصة إكس أن «داريو على حق» رداً على المقالة. وتضيف هذه التصريحات إلى التحذيرات الأخيرة الصادرة عن باحثي السلامة في أنثروبيك وأوبن إيه آي وغوغل، والتي تفيد بأن تطوير النماذج يتجاوز الجهود الرامية إلى فهم التقنية واحتوائها، وفقاً لما ذكرته شبكة إن بي سي نيوز. وأشار أمودي إلى أن تفكيره الخاص قد تطور خلال الأشهر الأخيرة مع تقدم القدرات بدرجة أكبر مما كان متوقعاً.

وتأتي هذه التصريحات في وقت يشهد فيه قطاع الذكاء الاصطناعي توسعاً تجارياً سريعاً. وقد رفع محللو سيتي غروب توقعاتهم لسوق الذكاء الاصطناعي العالمية إلى أكثر من 4.2 تريليون دولار بحلول عام 2030، منها حوالي 1.9 تريليون دولار مرتبطة بالتطبيقات المؤسسية، وفقاً لتقرير لوكالة رويترز حول تحليل البنك. ويتسارع الطلب على أدوات البرمجة والأتمتة ومهام سير العمل القائمة على الوكلاء بوتيرة أسرع مما افترضته التوقعات السابقة. ويبرز اقتراح أمودي بشأن ضبط الوتيرة بشكل منسق التوتر بين هذا الزخم السوقي والضرورات الأمنية التي سلط الضوء عليها.