比爾·蓋茨：人工智能或將失控

比爾·蓋茨被認為是一個全能型的人才。除創建微軟之外，在拯救世界方面他更是用自己的實際行動來為世界做實事。從這點看起來，當他告訴我們：「和聰明而勤奮的史蒂芬·霍金、以及特斯拉創始人，擁有「Iron Man」之稱的埃隆·馬斯克一樣，自己也擔心人工智能將對人類造成威脅」這句話時，人工智能這一話題應該值得我們重新考慮了。
上週三，Reddit 網站的 AMA（Ask Me Anything）對話中，蓋茨呼應了在過去一年中由霍金和馬斯克等人提出的對人工智能的擔憂觀點。如果超級人工智能的潛力沒有被正視的話，那麼那些類似在《終結者》和《黑客帝國》科幻情節中的出現的東西將有可能會成為現實。

「我和那些擔心超級智能的人處於同一陣營。首先，機器會為我們做許多工作，更不用説超級智能了。從這方面來説，如果我們能管理的好，人工智能對我們來説是非常有利的。」蓋茨寫道。「不過，幾十年之後人工智能會強大到令人畏懼的地步。這一點，我贊同馬斯克等人的看法。同時，我不理解為什麼有些人對於這些卻毫不在乎。」

在本月初，馬斯克投入 1,000 萬美金資助一項讓人工智能保持友好的研究。考慮到人工智能很有可能不僅在微軟，而且有可能在馬斯克旗下的太空探索技術公司SpaceX和特斯拉的未來發展中扮演重要角色，所以蓋茨和馬斯克都有興趣投入確保人工智能不僅保持友好而且可行的研究中（例如公眾意見和國會議員不反對智能網絡和設備的基本概念）。
除去個人利益，就對於超級人工智能構成的威脅的觀點而言，馬斯克和蓋茨有可能是正確的。但是，當最有可能從這一項新的技術中受益的人都覺得有必要對它加以束縛時，那麼，有些東西該值得我們擔心了。

為了真正理解馬斯克和蓋茨所説的那種潛在威脅，我強烈推薦閲讀尼克·博斯特羅姆的新書《超級智能》（Superintelligence）。該書列出了全部的超級人工智能景觀，包括超級人工智能所構成的威脅。馬斯克曾提到過這本書並推薦過它，而且似乎近來許多關於人工智能的擔憂都是以這本書為主要基礎的。

文章來源：Forbes，本文由 TECH2IPO/創見 張靜 編譯

天使匯閃投 Speed Dating，產品級線下融資路演，致力於讓優秀的項目遇到智慧的投資人。從 10 月 31 日到現在，每期 8 個優質項目，50 個投資人，平均每個項目路演結束拿到 8 位投資人意向，40% 的項目一週內完成融資，創業項目請點擊這裏報名參加本期閃投。


資料來源：TECH2IPO