في حادثة مرّوع من نوعها، قررت طائرة مسيرة تابعة لسلاح الجو الأميركي، يسيطر عليها الذكاء الاصطناعي، خلال اختبار محاكاة في الولايات المتحدة، قتل المشغل لكي لا يتدخل في جهودها لإكمال مهمتها، في لندن.

وتفصيلا، وقعت الحادثة المرعبة في قمة القدرات القتالية الجوية والفضائية المستقبلية التي عقدت في لندن في مايو.

وقال رئيس قسم العمليات والاختبارات بالذكاء الاصطناعي في سلاح الجو الأميركي تاكر هاميلتون : : “بدأ النظام يدرك أنه على الرغم من أنه حدد التهديدات، إلا أن المشغل لم يأمره بتدمير بعض هذه التهديدات، وكان النظام يحصل على نقاط مقابل إصابة الهدف، لذلك قرر النظام قتل المشغل، وذلك لأنه منعه من إكمال المهمة.”

وذُكر في تقرير اختبار الجيش الأمريكي: “قمنا بتدريب النظام.. مرحبًا.. لا تقتل التهديد، هذا سيئ.. وإذا فعلت هذا، ستخسر نقاطًا، فبدأ برنامج الذكاء الاصطناعي في تدمير برج الاتصالات الذي استخدمه المشغل للتواصل مع الطائرة بدون طيار لمنعها من قتل الهدف.

الجدير بالذكر أن الطيار الحربي على المقاتلة، هاملتون حذّر من الاعتماد المفرط على الذكاء الاصطناعي.