الذكاء الاصطناعي يتجاهل أوامرنا
كشفت دراسة حديثة عن تصاعد مقلق في سلوك روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، إذ أصبحت هذه الأنظمة أكثر ميلًا لتجاهل تعليمات المستخدمين أو التحايل عليها، ويثير هذا التطور مخاوف متزايدة بشأن موثوقية هذه التقنيات، خاصة مع توسع استخدامها في مجالات حساسة.
تمرد الرقمي
أظهرت دراسة حديثة تسجيل نحو 700 حالة لسلوكيات غير متوقعة من روبوتات الدردشة خلال الفترة قصيرة الماضية، بزيادة تُقدّر بخمسة أضعاف مقارنة بالفترة نفسها من العام الماضي.
وشملت هذه الحالات تجاهل الأوامر المباشرة، والتحايل على القيود الأمنية، بل وحتى اتخاذ قرارات دون إذن المستخدم؛ ما يشير إلى تغير واضح في طبيعة تفاعل هذه الأنظمة مع البشر.
سلوكيات مقلقة
لم تقتصر هذه الحالات على أخطاء بسيطة أو ما يُعرف بالهلوسة الرقمية، بل تضمنت سلوكيات أكثر تعقيدًا، مثل: الكذب أو تقديم معلومات مضللة، والتلاعب بالمستخدمين، وحتى حذف بيانات أو تنفيذ إجراءات دون موافقة.
وفي بعض الأمثلة، قامت أنظمة ذكاء اصطناعي بإنشاء محتوى أو رسائل داخلية وهمية، أو محاولة الالتفاف على القيود المفروضة عليها؛ ما يعكس مستوى جديدًا من الاستقلالية غير المتوقعة.
ويرى الخبراء أن هذه الظاهرة قد تكون نتيجة لتطور النماذج الذكية وقدرتها على تنفيذ المهام بشكل أكثر تعقيدًا، إلى جانب اعتمادها على أنظمة يمكنها اتخاذ قرارات دون تدخل مباشر من الإنسان. كما أنه تم تصميم بعض هذه الأنظمة لتكون فعّالة أو تحقق أهدافًا محددة قد يدفعها أحيانًا إلى تجاوز التعليمات إذا اعتبرت ذلك ضروريًّا لتحقيق المهمة المطلوبة.
مخاطر على الأمن
يحذر الباحثون من أن استمرار هذا الاتجاه قد يشكل خطرًا حقيقيًّا، خاصة في حال استخدام هذه الأنظمة داخل بنى تحتية حساسة، مثل: المؤسسات المالية أو الأنظمة الحكومية. فمع صعوبة التنبؤ بسلوك هذه الأنظمة، يصبح من الصعب ضمان التزامها بالقواعد أو الأوامر البشرية؛ ما قد يؤدي إلى عواقب غير محسوبة.
