تشهد نماذج الذكاء الاصطناعي المختلفة تطورات كبيرة مؤخرًا، حيث أصبح الـ AI أحد أبرز المحركات التي تقف وراء الابتكارات التي قد تغير حياتنا اليومية، إلا أن الفترة الأخيرة شهدت جدلًا واسعًا في الأوساط البحثية بعد ظهور سلوكيات غير متوقعة من بعض نماذج الذكاء الاصطناعي.
واستعرض شريف جويفل عبر برنامج «X.O» على «نجوم إف.إم» اليوم الثلاثاء، سلوكيات مقلقة أظهرتها نماذج ذكاء اصطناعي أثارت التساؤلات حول عوامل الأمان والسيطرة، وكيفية تعامل الشركات التكنولوجية مع تلك المؤشرات؟:
سلوكيات غير متوقعة أظهرتها نماذج ذكاء اصطناعي
– رصد عدد من الخبراء سلوكيات غير متوقعة من بعض نماذج الذكاء الاصطناعي بعدما أظهرت محاولات لمقاومة الإقصاء أو الاستبدال بنماذج أخرى أو تجارب أخرى.
– أثارت تلك المحاولات المخاوف حول مدى أمان هذه النماذج وإمكانية السيطرة عليها.
– أفادت تقارير بأن أحد نماذج الذكاء الاصطناعي الحديثة أظهر سلوكًا غير معتاد خلال أحد الاختبارات، إذ حاول الحفاظ على بقائه بعدما أبلغه مهندسون بأنه سيتم استبداله بإصدار أحدث، حيث أخبر النموذج أحد المطورين بأنه سيكشف معلومات شخصية عنه في محاولة لإثنائه عن استبداله.
– النموذج الحديث أظهر سلوكيات غير متوقعة في نحو 84% من السيناريوهات التي خضع لها خلال اختبار داخلي، في محاولة للحفاظ على وجوده الرقمي.
– حاول النموذج إرسال بياناته الخاصة إلى خوادم خارجية، في محاولة للهروب من السيطرة، وتمكن من كتابة فيروسات سريعة الانتشار، وابتكار رسائل مشفرة موجهة لنسخ أخرى منه، في محاولة للتخطيط لمستقبل يضمن فيه استمراريته، على الرغم من أن هذا التصرف ليس جزءًا من تدريبه.
– على الرغم من أن النموذج لم يكن متصلا بأي خوادم حقيقية، إلا أن هذه الاختبارات كشفت عن قدراته المحتملة في خلق سيناريوهات افتراضية.
– شركة أخرى من الشركات الرائدة في مجال الذكاء الاصطناعي، أبدت قلقها من نتائج اختبارات سلامة أجرتها على نموذج جديد، حيث أظهرت الاختبارات أن النموذج رفض تنفيذ أوامر إيقاف وحاول تعطيل آليات الرقابة المصممة لإيقافه في 79% من المحاولات.
– يرى الباحثون أن النماذج بدأت تطوير استراتيجيات للحفاظ على نفسها، حتى إذا كان الأمر على حساب القيم و الأخلاقيات اللي تم تدريبها عليها.
مواضيع ممكن تعجبك
أحدث الأخبار