人工智能有危險？NO，“人工愚蠢” 才害死人！

虎嗅注：最近，德國大眾公司的一個生產線機器人“殺死”一名工人的消息再次引發公眾對於“人工智能”的熱議，人工智能真的會威脅人類的生存嗎？《紐約時報》本週末的一篇文章卻表達了不同的觀點，有業內人士在該文中指出，人工智能真正的威脅在於“人工愚蠢”帶來的浪費，例如機器在無意識的情況下完成大量重複勞動，造成浪費。全文如下：
去年10月，特斯拉CEO伊隆·馬斯克（Elon Musk）曾表示，人工智能是“對人類生存最大的威脅”，而開發能思考的機器就像是“召喚惡魔”。去年12月，著名物理學家史蒂芬·霍金（Stephen Hawking）指出，“全面的人工智能將意味着人類這一種族的滅亡”。今年，微軟創始人比爾·蓋茨（Bill Gates）也表示，他“對超級智能感到擔憂”，而這樣的超級智能只需幾十年就會誕生。

不過，即使認為人類將由於“殺人機器人”而面臨威脅，這樣的問題也不太可能來自人工智能，而更有可能是由於“人工愚蠢”。人工智能和人工愚蠢之間的差異反映了我們看待計算機的方式。

關於人工智能，大部分人擔心的一點在於，計算機會認為人類是錯誤的產物並殺死人類。對人類來説，這無疑非常糟糕，但對計算機來説可能是明智的決定。
但業內專家表示，真正令人擔憂的是，計算機程序會在無緣由的情況下，迅速而過度地完成某項單一工作。例如，一個生產回形針的機器可能會失控，導致在一夜之間生產出大量無用的回形針。

換句話説，這裏發生了非常愚蠢的錯誤，而錯誤影響範圍很大。在關於人工智能導致世界末日的報道中，你可能會看到“終結者”機器人的説法，但實際上這仍停留在想象之中。

麻省理工學院物理學教授、未來生命研究所主席馬克斯·泰格馬克（Max Tegmark）表示：“你真正應該擔心的是，一台計算機在某個非常狹隘的領域變得非常強大。”

今年6月底，德國一名工人遭到工廠生產線機器人的意外傷害而身亡。當時，泰格馬克表示：“這表明，機器非常愚蠢，將人體當做了一塊金屬材料。”

未來生命研究所近期獲得了馬斯克的1000萬美元資助，以探索如何避免自動化程序帶來危害。不過包括馬斯克、霍金和蓋茨在內，許多人似乎都沒有注意到真正的潛在威脅。

目前來看，沒有任何證據表明，機器人工智能能產生意識，並出現殺死自己創造者的想法。
非盈利組織艾倫人工智能研究所負責人奧林·艾奇奧尼（Oren Etzioni）表示：“這種對世界末日的設想搞混了科學的邊界，實際上是討論關於思想和意識等哲學問題。如果有更多人學會軟件開發，他們就會發現計算機其實只是很平常的工具。”

那麼是什麼原因導致了這樣的混淆不清？一大原因在於計算機科學家的工作。艾奇奧尼表示：“‘人工智能’一詞誕生於50年代，當時人們認為能思考的機器即將出現。我們目前沿用了這一説法。”

“人工智能”一詞目前已被廣泛應用。Google(微博)的人工智能項目主要由收購而來的DeepMind負責。這一領域的一家先行者名為Thinking Machines。而研究人員也在關注“深度學習”，這暗示了我們正在創造智能。

深度學習依靠了有層次性的邏輯能力，即神經網絡。神經網絡中的節點常常被比作人腦的神經元，但實際上兩者之間的差別就像麪包和太空船那麼巨大。

包括DeepMind在內，機器學習領域的大部分研究都主要關注模式識別、行為建議，以及預測。這類似於人腦的能力。

人工智能是科技行業最引人關注的一個領域。亞馬遜、Facebook和Google正在展開一場競賽，而Uber和通用電氣則將機器學習視為了未來。
但從本質上來看，機器學習就是自動化，而這也是長期以來機器的功能。人類在學習中可以變得更聰明，而機器的“學習”與人類不同。

DeepMind已開發出一款程序，能掌握簡單的視頻遊戲，然而這一程序無法將一款遊戲的經驗應用至另一款。這一神經網絡系統對圖片的識別方式與人腦仍有很大差異，並且很容易被擊敗。

從這類愚蠢的機器行為發展至更廣泛的與人類類似的行為被稱作“遷移學習”。這一領域目前還停留在研究階段。

加州大學伯克利分校計算機科學教授斯圖亞特·拉塞爾（Stuart Russell）表示：“人工智能專家知道，一台能下象棋的計算機不會渴望去吃掉對方的某個棋子。”他也是未來生命研究所的成員，並且獲得了馬斯克的資助。他目前正試圖通過數學方法，確保“愚蠢”的計算機程序不會與複雜的人類價值產生衝突。

他表示：“生產回形針的程序缺少的是作為背景的價值觀。目前的誤解在於，唯一的威脅在於機器可能出現意識。”


資料來源：虎嗅網