“هلوسات” الذكاء الاصطناعي تزداد سوءًا

أكثر من سنتين من بروزها، تستخدم شركات التكنولوجيا والعاملون في المكاتب والمستهلكون الاعتياديون الروبوتات لعدة مهام متزايدة.

ولكن لا توجد حتى اللحظة طريقة لضمان أن هذه الأنظمة تنتج معلومات دقيقة، وبحسب الخبراء، إن أحدث وأقوى تقنيات الذكاء الاصطناعي أصبحت تُنتج أخطاءً أكثر وليس أقل.

فمع تحسن مهارات أنظمة الذكاء الاصطناعي في الرياضيات بشكل ملحوظ، أصبح فهمها للبيانات أكثر تعقيدًا وتشويشًا، وليس من الواضح تمامًا سبب ذلك.

معدلات الهلوسة

تعتمد روبوتات الذكاء الاصطناعي اليوم على أنظمة رياضية معقدة تكتسب مهاراتها من خلال تحليل كميات هائلة من البيانات الرقمية ولا تستطيع هذه الروبوتات تحديد ما هو صحيح وما هو خاطئ.

وفي بعض الأحيان، تلجأ إلى اختلاق المعلومات، وهي ظاهرة يُطلق عليها بعض باحثي الذكاء الاصطناعي اسم “الهلوسة”.

وفي أحد الاختبارات، وصلت معدلات الهلوسة في أنظمة الذكاء الاصطناعي الأحدث إلى 79%.

وهلوسات الذكاء الاصطناعي هي نتائج خاطئة أو مضللة تُنتجها نماذج الذكاء الاصطناعي.

قد تنجم هذه الأخطاء عن عوامل متعددة، منها عدم كفاية بيانات التدريب، أو افتراضات خاطئة من النموذج، أو تحيزات في البيانات المستخدمة لتدريبه.

قد تُشكل هلوسات الذكاء الاصطناعي مشكلة عند اتخاذ قرارات مهمة، مثل التشخيصات الطبية أو التداول المالي.

على سبيل المثال، نبه روبوت ذكاء اصطناعي يُعنى بالدعم الفني لبرنامج Cursor، وهو أداة ناشئة لمبرمجي الكمبيوتر، العديد من العملاء إلى تغيير في سياسة الشركة المالكة للبرنامج الشهر الماضي.

وأوضح أنه لم يعد يُسمح لهم باستخدام Cursor على أكثر من جهاز كمبيوتر واحد. واشتكى العملاء في منشورات غاضبة على منتديات الإنترنت، وألغى بعضهم حساباتهم علىCursor.

لكن الغضب ازداد عندما تم الإعلان أن روبوت الذكاء الاصطناعي هو من غير في سياسة الشركة، بينما في الحقيقة هذا الأمر يحصل.

وردت الشركة في منشور: “ليس لدينا مثل هذه السياسة. أنت حر بالطبع في استخدام Cursor على أجهزة متعددة. للأسف، هذا رد غير صحيح من روبوت دعم الذكاء الاصطناعي” .