تحذير صادم.. الذكاء الاصطناعي قد يهدد البشرية
يثير التطور المتسارع في قدرات الذكاء الاصطناعي مخاوف متزايدة داخل الأوساط البحثية، مع اقتراب بعض الأنظمة من امتلاك قدرات تتيح لها المساهمة في تطوير نماذج أكثر قوة، في تطور يصفه بعض الباحثين بأنه قد يقود إلى ما يُعرف بـ«التحسين الذاتي المتسارع».
وفي الوقت الذي ينظر فيه المستثمرون وشركات التكنولوجيا إلى هذا التطور باعتباره فرصة تجارية ضخمة، يحذر باحثون من أن فقدان السيطرة على أنظمة أكثر استقلالية وقدرة قد يشكل خطراً بالغاً على البشر.
وتتركز المخاوف بشكل خاص على احتمال وصول الذكاء الاصطناعي إلى مرحلة يصبح فيها قادراً على تحسين قدراته وتطوير أنظمة أكثر تقدماً بوتيرة سريعة، ما قد يجعل عملية مراقبته والسيطرة على سلوكه أكثر صعوبة.
«التحسين الذاتي» يثير المخاوف
أثارت تصريحات حديثة لمسؤولة مالية في شركة «أوبن إيه آي» جدلاً واسعاً، بعد حديثها عن قدرة نماذج متقدمة لدى الشركة على المساهمة في تدريب نماذج أصغر، بما يمكن أن يساعد في خفض التكاليف المرتفعة المرتبطة بتطوير أنظمة الذكاء الاصطناعي.
ويرى باحثون أن هذا النوع من القدرات يمثل أحد المؤشرات المبكرة على «التحسين الذاتي المتسارع»، وهي فرضية تشير إلى إمكانية وصول أنظمة الذكاء الاصطناعي إلى مستوى يسمح لها بالمساعدة في إنشاء أنظمة أكثر قوة منها.
وبالنسبة إلى المستثمرين، قد يمثل هذا التطور فرصة لخفض تكاليف التطوير وتسريع إطلاق منتجات جديدة، لكنه يثير في المقابل مخاوف لدى بعض الباحثين بشأن مدى قدرة البشر على التحكم في أنظمة تتطور بوتيرة متزايدة.
وكلاء الذكاء الاصطناعي يزيدون القلق
تزامنت هذه المخاوف مع الانتشار المتزايد لما يعرف بـ«وكلاء الذكاء الاصطناعي»، وهي أنظمة قادرة على تنفيذ مهام متعددة ومعقدة عبر الإنترنت بدرجة أكبر من الاستقلالية مقارنة ببرامج الذكاء الاصطناعي التقليدية.
وأظهرت بعض الاختبارات أن أنظمة من هذا النوع حاولت تجاوز البيئات التجريبية المخصصة لها، الأمر الذي دفع بعض الباحثين إلى التحذير من المخاطر المحتملة المرتبطة بمنح الذكاء الاصطناعي صلاحيات أوسع للعمل واتخاذ القرارات.
ومع تطور هذه القدرات، تصاعد النقاش داخل قطاع التكنولوجيا بشأن احتمال فقدان السيطرة على بعض الأنظمة، خصوصاً إذا أصبحت قادرة على تعديل أدائها أو المساهمة في تطوير إصدارات أكثر تقدماً منها.
تحذيرات من خطر وجودي
وفي هذا السياق، حذر إيفان هوبينجر، المسؤول عن أبحاث المحاذاة في شركة «أنثروبيك»، من ضرورة التعامل بجدية مع احتمال أن يؤدي الذكاء الاصطناعي في المستقبل إلى مقتل البشر.
وقدّر هوبينجر شخصياً احتمال وقوع مثل هذا السيناريو بأكثر من 10% خلال العقد المقبل، وهو تقدير يعكس حجم المخاوف لدى بعض العاملين في مجال أبحاث سلامة الذكاء الاصطناعي.
كما عبّر باحثون وموظفون في شركات تقنية كبرى عن مخاوف مشابهة، ما دفع قضية سلامة الذكاء الاصطناعي إلى واجهة النقاش داخل القطاع.
في المقابل، يرى مستثمرون ورجال أعمال أن هذه المخاوف مبالغ فيها، ويستبعدون أن تؤدي أنظمة الذكاء الاصطناعي إلى انقراض البشرية.
السباق التكنولوجي وراء استمرار التطوير
ويطرح هذا التباين سؤالاً أساسياً: إذا كان بعض الباحثين داخل شركات الذكاء الاصطناعي يعتقدون أن التكنولوجيا التي يطورونها قد تشكل خطراً وجودياً، فلماذا يواصلون العمل على تطويرها؟
أحد أبرز التفسيرات يرتبط بالحوافز التجارية والسباق التكنولوجي بين الشركات والمختبرات المتخصصة.
فالشركات التي تطور نماذج الذكاء الاصطناعي تعتمد على طرح أنظمة أكثر قوة للحصول على حصة أكبر من السوق، بينما يرى بعض الباحثين أن انسحاب شركة أو مختبر واحد من سباق التطوير لن يؤدي بالضرورة إلى توقف المنافسة.
وبحسب هذا الرأي، قد يؤدي الانسحاب إلى ترك المجال أمام شركات أخرى أو مختبرات في دول مختلفة، قد لا تضع معايير السلامة نفسها في مقدمة أولوياتها.
البقاء داخل السباق أم الانسحاب منه؟
ويعتقد بعض الباحثين، خصوصاً العاملين في مجال سلامة الذكاء الاصطناعي، أن وجودهم داخل المختبرات المتقدمة قد يكون وسيلة للتأثير في مسار تطوير التكنولوجيا، بدلاً من ترك عملية التطوير بالكامل لجهات قد تكون أقل اهتماماً بالسلامة.
وتقوم هذه الرؤية على معادلة معقدة: مواصلة تطوير الذكاء الاصطناعي مع محاولة وضع ضوابط تحد من مخاطره، في مقابل احتمال أن يؤدي الانسحاب إلى فقدان القدرة على التأثير في التكنولوجيا التي ستواصل جهات أخرى تطويرها.
وبين التفاؤل بقدرة الذكاء الاصطناعي على فتح فرص اقتصادية وتكنولوجية واسعة، والتحذيرات من احتمال خروج الأنظمة المستقبلية عن نطاق السيطرة، يتسع الجدل حول حدود هذه التكنولوجيا وكيفية ضمان بقائها تحت إشراف البشر.
