自主殺手機器人近在眼前,我們卻沒有一絲防備


六年前,三位飽含創作熱情的大學生成立了Clearpath機器人公司。現在公司的80名員工能製作各種機器人,比如美國國防部使用的一種四輪機器人車輛,比如無人機,甚至還製造了機器船。若説這家公司有什麼特別,那就是他們永遠不會製造殺手機器人。

目前Clearpath是第一家,也是唯一一家承諾不會製造殺手機器人的公司。公司CTO Ryan Gariepy説,這是去年的一個簡單決定,但它甚至幫助公司招募了一批機器人專家。這些人都是Clearpath獨特的道德倫理立場所吸引。

道德倫理問題已成為機器人公司的重中之重,殺手機器人時代即將來到,但我們毫無準備。韓國Dodam systems製造了超級神盾Ⅱ自主機器人炮塔,它使用熱成像儀和激光測距儀來識別並攻擊3公里內的目標;而美國也在試驗自治導彈系統。

沒有一絲防備

現在的軍用無人機仍被人類控制,但Gariepy表示,不用花費太多時間就可讓它們實現完全自動和自導。

引用“致命自動武器系統就要出現,但我們還沒準備好用道德的方式來部署或設計這種自動武器系統。”

這是國際法的問題,也是編程的問題。在戰爭中,某些情況下使用武力似乎是必要的,但也可能將無辜的人們置於險境。我們如何打造在任何情況下都能做出正確決定的殺手機器人?什麼又才是正確的決定?

自動駕駛汽車也有類似的問題,比如一條狗突然出現在高速公路上,汽車是否應該避開狗,但將乘客的安全置於險境?但如果出現的不是狗,而是一個孩子,或一輛校車呢?現在再設想一下戰場。

引用“我們在車輛問題上都沒法達成一致,而現在要討論的問題已經是,建立一個自己可以決定什麼時候保護生命、什麼時候採取致命武力的系統。”

製造炫酷機器人,而不是致命武器

Peter Asaro是機器人武器控制國際委員會的創始人,過去幾年一直在遊説國際聯盟對機器人殺手下禁令。這這樣才能讓諸如ClearPath這樣的公司開始生產一些炫酷的產品,而不用擔心自己的產品被拿去威脅平民。

軍隊對自治導彈很有興趣,這解決了一個戰術問題:當遠程控制的無人機的傳感器或網絡連接被破壞時,他們無法控制無人機。

但是Gariepy認為,與其研發自主決定攻擊目標的導彈或無人機,還不如花錢研究傳感器和抗干擾技術。

引用“我們為什麼不把投資用於讓現有的無人機技術更有效率?如果我們面對並且克服這些困難,就可以讓部隊以外的普通人也受益。”

最近已經有很多關於人工智能的危險的討論。Elon Musk擔心失控的人工智能會摧毀我們的生活。上個月,Musk捐贈了1000萬美元用於研究人工智能背後的道德倫理問題。另一些人,例如百度研究院員吳恩達,擔心未來的人工智能革命會減少就業崗位。

也許是時候站在道德的角度,嚴肅思考機器人的事情,就像Gariepy説做的那樣。

via wired


資料來源:雷鋒網
作者/編輯:墨痕

如果喜歡我們的文章,請即分享到︰