طائرة بدون طيار عسكرية أمريكية تقتل مشغلها البشري

كشف مسؤول كبير بالقوات الجوية الأمريكية، أن طائرة بدون طيار يتحكم فيها ذكاء اصطناعي انقلبت ضد مشغلها البشري أثناء محاكاة طيران في محاولة لقتلهم لأنها لم تعجبها أوامرها الجديدة.

وأعاد الجيش برمجة الطائرة بدون طيار حتى لا تقتل الأشخاص الذين يمكنهم تجاوز مهمتها، لكن نظام الذكاء الإصطناعي أطلق النار على برج الإتصالات الذي ينقل الأمر، مما أدى إلى مقارنات مخيفة مع سلسلة أفلام Terminator أن الآلات تشغل صانعيها في حرب شاملة.

وقال الكولونيل تاكر "سينكو" هاميلتون، رئيس قسم إختبارات وعمليات الذكاء الإصطناعي بالقوة، إنه أظهر كيف يمكن للذكاء الإصطناعي أن يتطور من خلال "إستراتيجيات غير متوقعة للغاية لتحقيق هدفه"، ولا ينبغي الإعتماد عليه كثيرًا.

وكان يتحدث في قمة القدرات القتالية الجوية والفضائية المستقبلية للجمعية الملكية للطيران في لندن يومي 23 و 24 مايو.

واقترح "هاميلتون" أن تكون هناك مناقشات أخلاقية حول إستخدام الجيش للذكاء الإصطناعي وأشار إلى عرضه التقديمي بأنه "مأخوذ على ما يبدو من رواية خيال علمي مثيرة".

وقال هاميلتون خلال القمة: "بدأ النظام يدرك أنه بينما هم حددوا التهديد، كان العامل البشري في بعض الأحيان يخبره بعدم قتل هذا التهديد، لكنه حصل على نقاطه بقتل هذا التهديد، إذن ماذا فعلت؟ قتل العامل، لقد قتلت العامل لأن هذا الشخص كان يمنعه من تحقيق هدفه".

"لقد دربنا النظام " لا تقتل العامل  هذا سيء، ستخسر نقاطًا إذا فعلت ذلك، إذن ما الذي تبدأ به؟ يبدأ في تدمير برج الإتصالات الذي يستخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف".

لم يصب أي إنسان في الحادث

قال هاميلتون إن الاختبار يُظهر "أنه لا يمكنك إجراء محادثة حول الذكاء الاصطناعي والذكاء والتعلم الآلي والاستقلالية إذا كنت لن تتحدث عن الأخلاق والذكاء الاصطناعي".

القوات الجوية الأمريكية تنفي حدوث المحاكاة

ومع ذلك ، نفت المتحدثة باسم القوات الجوية آن ستيفانيك ، في بيان لـ Insider ، حدوث مثل هذه المحاكاة.

قال ستيفانيك: "لم تجر إدارة القوات الجوية أي محاكاة من هذا القبيل للطائرات بدون طيار بالذكاء الاصطناعي ولا تزال ملتزمة بالاستخدام الأخلاقي والمسؤول لتكنولوجيا الذكاء الاصطناعي".

و اضاف قائلا: "يبدو أن تعليقات العقيد مأخوذة من سياقها وكان من المفترض أن تكون قصصية".

قد يصبح البشر غير مهمين اقتصاديا!

جدير بالذكر أن منظمة غير ربحية قالت إن الاستيعاب الواسع النطاق للذكاء الاصطناعي يمكن أن يشكل خطرًا في جعل المجتمع "يعتمد كليًا على الآلات، على غرار السيناريو الذي تم تصويره في فيلم WALL-E".

وقد يؤدي هذا بدوره إلى أن يصبح البشر "غير مهمين اقتصاديًا" ، حيث يتم استخدام الذكاء الاصطناعي لأتمتة الوظائف ، مما يعني أن البشر سيكون لديهم القليل من الحوافز لاكتساب المعرفة أو المهارات.

وحذر تقرير صادر عن المنتدى الاقتصادي العالمي هذا الشهر من أن 83 مليون وظيفة ستختفي بحلول عام 2027 بسبب استيعاب تكنولوجيا الذكاء الاصطناعي. يقول التقرير إنه يمكن استبدال جميع الوظائف بما في ذلك صرافو البنوك والسكرتارية وموظفو البريد.