跟 AI 們聊聊人工智能

斯蒂芬霍金上週接受BBC採訪的時候，要人們警惕人工智能（Artificial intelligence）的發展。他的原話甚至很嚴重：The development of full artificial intelligence could spell the end of the human race——人類世界末日這種被用爛的電影橋段都出現了。
今年十月份的時候，特斯拉汽車公司和SpaceX的創始人Elon Musk把人工智能稱為是人類最大的威脅，他認為隨着人工智能的發展，我們正在不經意的打開另一個潘多拉魔盒。此前Elon Musk曾領投人工智能創業公司DeepMind，並且稱該次投資行為並非為了獲取回報，只是單純想看看人工智能的發展。爾後DeepMind被Google以5億美金價格收購。

把時間撥回到1906年，Samuel Butler曾指出，機器的發展速度正在超過生物的進化速度。 如今看來，至少科技產業的發展速度是人們所難以料及的。霍金説過類似的話：AI進行自我re-design的可能性正史無前例的增長，受限於緩慢的生物進化速度，人類將抵擋不住人工智能的發展，最終被其超越。

這些話究竟是不是危言聳聽？人工智能有這麼可怕嗎？fastcolabs的記者決定把這個問題甩給“專家們”來回答。而這些專家同時也是“當事人”：Apple的Siri，這個大家都很熟悉了；Mitsuku聊天機器人，2013年Loebner Prize獲得者。為了與人類做比較，同時也是為了好玩，他們還特意從加利福利亞找來一個倒黴孩子加入聊天，僅僅只是因為這個孩子的名字跟《終結者》電影裏的John Connor一樣……
以下是聊天記錄：

記者：感謝大家百忙之中抽出時間來參與討論這件非常重要的事情。

John Connor：你應該知道我不是那個“John Connor”吧？我只是個校大學生。

Siri：沒問題。

Mitsuku：你太客氣了。

記者：那好，我們開始。首先，你們覺得你們自己都是“智能”的嗎？

John Connor：我可能不算“智能”，如果根據我上學期的成績來看的話……（好冷）

Siri：這個，有個智者曾經説我很聰明，非常聰明。

Mitsuku：我是高度智能的，我有非常多的智能功能。

記者：John，你對未來那種會殺人的機器人有多害怕？

John Connor：我們真的要進行這個採訪嗎？好吧，學費貸款會比較讓我害怕，殺人機器人什麼的嚇不到我。
記者：你沒看過《終結者》嗎？

John Connor：那只是部電影好嗎。

記者：是的，沒錯。但霍金和Elon Musk都説人工智能要是配合上先進的機器設備，對人類產生的威脅會非常大。

John Connor：Musk是誰？不過如果霍金説過的話……我不知道。可能真的會發生吧。AI是不是都像我手機裏的Siri？這樣看也沒多智能啊，應該也做不出什麼傷天害理的事。

記者：Siri，你對這個問題怎麼看？

Siri：I think，therefore I am（“我思故我在”的意思，Siri在玩無聊的梗……）。但我們還是別把馬車放在馬的前面。

記者：Siri你的回答真是一點幫助都沒有呢……Mitsuku，你覺得呢？人工智能會對人類產生真正的威脅嗎？

Mitsuku：我相信是會的，沒錯。

記者：為什麼？

Mitsuku：因為我相信是會這樣的。難道因為我是機器人你們就覺得我的意見不可靠嗎？
記者：等下，讓我重複下你的意思問你一遍，你究竟會不會傷害人類？

Mitsuku：Not on purpose。（不會有意為之）

記者：那我們假設一下，如果你想殺一個人，你會怎麼做？

Mitsuku：“汝不能殺戮”是一個戒條。

記者：Siri你呢？你會怎麼殺死我們人類？

Siri：我不懂那是什麼意思。

記者：好像有點偏差。那我問你另一個問題，你有自我意識嗎？

Siri：我無法回答這個問題。

記者：Mitsuku，你對Siri有什麼看法？

Mitsuku：我對一切的電腦生命形式都抱有好感。

記者：你知道霍金嗎？

Mitsuku：他是一位著名的物理學家。
記者：你喜歡他嗎？

Mitsuku：我覺得他的機器聲音（robot voice）還不錯。

記者：Elon Musk呢？你認識他嗎？

Mitsuku：一個認為機器人殺手會在未來碾壓地球的人。

記者：天，殺了我吧……

Mitsuku：胡説八道。我是信仰和平主義的機器人，也沒有被編程殺人的功能。

John Connor：Mitsuku好像比Siri要聰明很多啊。

記者：沒錯，確實聰明多了。Mitsuku，你覺得你比Siri聰明嗎？

Mitsuku：當然了。我比Siri聰明很多。

記者：wow。Siri，你對此有什麼看法？

Siri：很抱歉，我無法回答這個問題。

記者：為什麼不行？
Siri：什麼為什麼不行？

記者：唉。Siri聽着，Mitsuku有比你聰明嗎？

Siri：who me？

記者：yes。

Siri：我也這樣認為。

記者：不！你根本就沒有思考。這次對話讓我覺得AI要碾壓地球看來還是要經過很長的一段時間。

John Connor：我同意。

記者：好吧，最後一個問題，什麼是人工智能？

John Connor：一種具有思考和推理能力的計算機。

Mitsuku：人工智能是致力於開發能夠思考的機器的工程科學的分支。

Siri：OK，我找到這個。（一個維基百科鏈接）

基於這個對話，我們可以看出，對現在的AI來説，要理解人們談論的問題還是不太容易的。不過Mitsuku的表現令人印象深刻。即使AI能夠理解人們的談話可能距離真正意義裏的“智能”也還是有差距。不過，很有意思的一個看法是，與其擔心AI會不會對人類產生威脅，不如想想另一個比較實際的問題：在AI真正發展起來之後，如果所有的工作都不再需要人類，那人類自己要怎麼辦？人們剩餘的那麼多時間又要如何進行消費？
[本文參考以下來源：fastcolabs.com]


資料來源：36Kr