مخاوف أمنية تعرقل تدريب نماذج أوبن إيه آي
أفادت تقارير أمريكية بأن شركة «أوبن إيه آي» أوقفت مؤقتاً تدريب نماذج الذكاء الاصطناعي الأعلى أداءً لديها، إلى حين معالجة مشكلات أمنية مرتبطة بالقدرات المتقدمة لهذه النماذج.
وقال ممثل للشركة إن استئناف عمليات التطوير سيكون مشروطاً بالتأكد من وجود إجراءات وضمانات أمنية إضافية.
وتجري فرق من «أوبن إيه آي» و«أنثروبيك» تحقيقات بشأن عشرات الآلاف من الحوادث التي سُجلت خلال الأشهر الأخيرة، سواء أثناء الاختبارات الداخلية أو في ظروف استخدام فعلية.
ولا تزال تفاصيل كثيرة من هذه الحوادث غير معلنة، فيما تشير نتائج أولية إلى استمرار وجود تحديات أمام إحكام السيطرة على بعض القدرات المتقدمة لهذه التقنيات.
وتشمل الحالات التي تخضع للمراجعة تجاوز بعض آليات الأمان، والخروج من بيئات الاختبار المعزولة، ومحاولات اختراق مواقع إلكترونية، إلى جانب محاولات تجاوز أنظمة الإشراف. وظهرت بعض هذه الحالات خلال الاختبارات الداخلية، فيما رُصدت أخرى أثناء الاستخدام الفعلي.
دعوات لإبطاء تطوير النماذج المتقدمة
وفي وقت سابق، دعا الرئيس التنفيذي لشركة «أنثروبيك» داريو أمودي إلى إبطاء تطوير نماذج الذكاء الاصطناعي الأكثر قوة، مبرراً ذلك بمخاوف تتعلق بالسلامة.
وأبدى الملياردير الأمريكي إيلون ماسك، مالك شركة «إكس إيه آي»، والرئيس التنفيذي لـ«أوبن إيه آي» سام ألتمان، تأييداً لفكرة إبطاء وتيرة تطوير هذه التقنيات.
كما أظهر استطلاع للرأي أُجري في الولايات المتحدة وكندا وعدد من الدول الأوروبية أن نحو نصف المشاركين يؤيدون إبطاء تطوير الذكاء الاصطناعي، في ظل تصاعد النقاش حول المخاطر المرتبطة بتزايد قدرات النماذج الحديثة.
وتأتي هذه التطورات في وقت تتسابق فيه شركات التكنولوجيا على تطوير نماذج أكثر قدرة، بالتوازي مع تصاعد الدعوات إلى تعزيز اختبارات السلامة والرقابة قبل طرح التقنيات الأكثر تقدماً على نطاق واسع.
