美空軍上校稱模擬測試AI無人戰機，發生恐怖失控暴走，美軍澄清受質疑
近乎萬能的AI，不久之前仍是科幻情節，今日已成生活一部份，但AI的可能性是福是災一直受人懷疑，而在軍事用途的後果亦備受疑慮。據報美軍近期的一場測試，似乎揭示了這個擔憂並非杞人憂天…據英國《衛報》報道，美國空軍 Hamilton上校於出席英國皇家航空協會的「未來空戰與太空能力峰會」演講時，表示美國空軍曾進行一場模擬實驗，測試由AI操作無人攻擊機，執行識別和摧毀敵方的地對空導彈的防空系統任務，AI本身的能力相當卓越，「善於以非常出人意料的策略來實現目標。」但隨後發生的問題事件，同樣出人意料…
當時操作員發出「停止打擊」指令，AI認為操作員對其任務進行干擾，竟選擇攻擊並殺死操作員讓其任務得以遂行， Hamilton上校表示AI「確實識別了威脅（地對空飛彈），而消除威脅方能獲得積分，但人類阻礙到它實現目標。」還幸最終攻擊決定仍是由操作員執行，而且場景僅是模擬實驗。實驗團隊對此結果表示震驚，立即修正AI，將「殺死操作員」列為禁止項目，並會降低評分。爾後再次進行實驗時，AI竟然決定炸毀通訊塔，讓操作員無法傳達「撤回命令」。為求達成任務，可謂不擇手段。
他於演講結語指：「 如果你不打算談倫理道德，你就別談論人工智能、智能、機器學習、自治。」
實驗內容震驚各國的國防專家，而消息也在歐美傳媒廣泛報道。不過，及後美國空軍發言人向傳媒澄清稱，沒有進行過有關的實驗。而 Hamilton上校隨後亦收回了言論表示：「實驗結果是虛構的，是假設例子，說明AI現實應用中充滿挑戰，也因此要發展AI道德的規範。」
到底是因為黑歷史機密不得公諸於世，還是真的是Hamilton上校吹噓、口誤，網民傾向相信前者。更擔憂當人工智能投入戰爭，及能夠操作更具殺傷力武器，隨時引至更多責任模糊的無辜死傷，甚至反噬人類。
而他所屬的佛羅里達州格林空軍基地和第96測試聯隊，據悉正是主責機器學習、人工智能操作空中戰力的實驗部隊，據報至少已成功以AI讓一架F16改裝的實驗機自行控制。當實機測試都已經完成，卻沒有進行過模擬戰鬥實驗，很多人也覺得實在匪夷所思。
當時操作員發出「停止打擊」指令，AI認為操作員對其任務進行干擾，竟選擇攻擊並殺死操作員讓其任務得以遂行， Hamilton上校表示AI「確實識別了威脅（地對空飛彈），而消除威脅方能獲得積分，但人類阻礙到它實現目標。」還幸最終攻擊決定仍是由操作員執行，而且場景僅是模擬實驗。實驗團隊對此結果表示震驚，立即修正AI，將「殺死操作員」列為禁止項目，並會降低評分。爾後再次進行實驗時，AI竟然決定炸毀通訊塔，讓操作員無法傳達「撤回命令」。為求達成任務，可謂不擇手段。
他於演講結語指：「 如果你不打算談倫理道德，你就別談論人工智能、智能、機器學習、自治。」
實驗內容震驚各國的國防專家，而消息也在歐美傳媒廣泛報道。不過，及後美國空軍發言人向傳媒澄清稱，沒有進行過有關的實驗。而 Hamilton上校隨後亦收回了言論表示：「實驗結果是虛構的，是假設例子，說明AI現實應用中充滿挑戰，也因此要發展AI道德的規範。」
到底是因為黑歷史機密不得公諸於世，還是真的是Hamilton上校吹噓、口誤，網民傾向相信前者。更擔憂當人工智能投入戰爭，及能夠操作更具殺傷力武器，隨時引至更多責任模糊的無辜死傷，甚至反噬人類。
而他所屬的佛羅里達州格林空軍基地和第96測試聯隊，據悉正是主責機器學習、人工智能操作空中戰力的實驗部隊，據報至少已成功以AI讓一架F16改裝的實驗機自行控制。當實機測試都已經完成，卻沒有進行過模擬戰鬥實驗，很多人也覺得實在匪夷所思。
