深度 | 奧巴馬談人工智能：社會契約與經濟模式要與科技與時俱進
編者按：在未來 50 年裏，除了人工智能，我們很難想象身邊還會出現另一種技術，能如此深遠地影響我們的生活。
隨着機器學習讓計算機無師自通，從醫學診斷到自動駕駛汽車，技術領域的突破如雨後春筍。不過，是誰在把控着人工智能？它會取代我們的工作嗎？機器人威脅論又是否會成為現實？
作為美國總統，奧巴馬同樣也對這些問題充滿關注。日前，MIT媒體實驗室總監 Joi Ito 及《連線》記者 Scott Dadich 一同來到白宮，和總統一起坐下來聊了聊人工智能的未來、可能有的炒作，還有伴隨的隱憂。本文源自 Wired，作者 Scott Dadich，奕欣、老呂IO及熊蒙聯合編譯，雷鋒網(搜索“雷鋒網”公眾號關注)根據訪談內容做了不改動原意的處理，未經許可不得轉載。
今年 8 月 24 日，Joi Ito, Scott Dadich,
還有美國總統奧巴馬在白宮的羅斯福會議室裏會面
人工智能如何給我們帶來社會化價值？
Scott Dadich：首先感謝你們二位邀請我到白宮來。總統先生，我想問您最近一段時間過得如何？
奧巴馬：忙碌，但我做了很多事情。想必你也了解到，目前國際上有不少政治問題需要解決。
Scott Dadich：接下來，我們談論的重點主要集中在人工智能，這個領域已經從科幻小説裏跳脱出來，成為現實，並對我們的生活產生深遠影響。我想請問總統先生，您是什麼時候開始意識到AI時代的來臨？
奧巴馬：我對人工智能的了解，是因為它開始以各種形式滲透到我們的生活中來，而我們卻還渾然不知。另外一部分原因是，我們對人工智能的認識主要是源於流行文化。而實際上，廣義和專業的AI存在區別，而這可能和很多讀者所了解的有所不同。在科幻小説中，我們所知道都是廣義 AI，不是嗎？電腦開始變得比我們還聰明，意識到人類不總是那麼有用，甚至把人類囚禁在温室裏，不然就是打造一個 matrix 般的虛擬世界。
在和一些科學家探討的過程中，我了解到這樣的場景着實離我們還有很遠距離。不過，這些設想能夠放飛我們的思想，並讓我們意識到自己還有足夠的自由度，將專業的人工智能應用於各種重要的領域，也就是通過算法和計算機的處理，以解決日益增加的複雜問題。從醫學到交通領域，甚至到電力的分配，我們已經見證了“術業有專攻”的人工智能在日常生活中起着怎樣的作用，並且無疑在經濟層面上也能提升生產力和效率。如果利用得當，它當然能讓社會繁榮昌盛，帶來無數機會。但它伴隨而來的問題就是工作崗位的減少，或許會加劇不平等，工資水平也會削減。
Joi Ito：這個問題同樣困擾着我 MIT 實驗室裏的學生們，但我關心的一點在於，能接觸這些 AI 核心計算機技術的人大多是男孩子，尤其是白人，而他們在談論電腦問題的時候顯然要比談論人種問題要輕鬆得多。他們中的不少人覺得，如果他們可以用人工智能創造出像科幻小説裏一樣的場景，我們也不必擔憂如此多的政治及社會問題了。學生們會覺得，創造這樣的機器，也是一種讓人類擺脱這些問題的方式。
奧巴馬：是的沒錯。
Joi Ito：但他們同時也預見到了可能帶來的困難，我覺得我們已經來到了一個人工智能議題超越電腦問題的時代。很重要的一點是，每個人都需要理解 AI 如何運作。在媒體實驗室裏，我們使用了名為“延展智能”這樣的術語。因為我們所面臨的問題是，我們如何在 AI 之上建立社會化的價值？
奧巴馬： Joi在午餐時間以自動駕駛為例。自動駕駛技術正如開掛般發展，這些搭載着自動駕駛技術的機器不僅能夠代替人類快速作出決定、減少交通事故的發生、大大提高交通效率，還能幫助人類解決碳排放問題，緩解全球變暖現象。但是 Joi 提到至關重要的一點：我們在汽車上搭載這些技術的意義何在？在自動駕駛的道路上，我們還面臨着一系列抉擇：車在自動行駛時，如若發生意外，你可以保證不撞到行人，但你也許會撞到牆，或者讓自己處於危險的境地。如果遇到這種兩難境地，又該怎麼辦呢？這就變成了一個道德倫理問題，我們需要一些規則來解決這些問題。但是又該誰來制定這些規則呢？
Joi Ito：我們曾做過“car trolley problem”項目（該項目為MIT實驗室的一個研究，研究主題為自動駕駛汽車在面臨困境時的解決方法。比如：遇到兩難情況時，是該犧牲5名乘客還是犧牲5名行人？），在研究中，我們發現大部分調查者同意應該犧牲乘客來拯救其他人的性命。還有一些調查者被問及此問題後，表示他們永遠不會買自動駕駛汽車了。（笑）
政府在科技進步中應該扮演怎樣的角色？
Scott Dadich：在解決這些道德倫理問題時，政府應該扮演何種角色呢？
奧巴馬：從AI技術出現開始，我就在思考這個問題。我認為，在科技發展之初，正是“百花齊放、百家爭鳴”的時候，這時政府應該充分鼓勵支持技術的發展，加大對調查研究的投資，確保基礎研究和應用研究之間有着良好的交流。隨着技術的進步和成熟，我們就應該思考技術和現有的監管制度的關係了。要讓這種關係良性發展，其實並非易事，因此我們就面臨着更加艱難的挑戰。這時，政府應該加強與科技領域的聯繫。我們應該首先保證政府的監管制度具有價值，能夠促進技術的發展，而不是強迫新的科技快速與政府掛鈎。如果不這樣做，政府將會成為科技進步的阻礙，這對一部分人和團隊非常不利。
Joi Ito：這種困境讓我想起來了自閉症，電影《自閉歷程》（Temple Grandin）裏提到了這個。女主角説，莫扎特、愛因斯坦和特斯拉如果身在今天的時代，人們會覺得他們有自閉傾向。
奧巴馬：他們的確是在自閉環境中成長。
Joi Ito：是的，沒錯。如果我們擁有治癒自閉症的能力，讓每個人都“正常”，我認為不少 MIT 的孩子都會有所不同。無論我們是在討論自閉還是多樣性，這些選擇只有當我們能實現之時才會出現。即使如此，我們也並不想要一個像愛因斯坦一樣的小孩，因為雖然他聰明無比，但顯得太過特立獨行。但是如果沒有愛因斯坦，我們的社會和科學將不會進步得如此之快。
奧巴馬：這就牽涉到了一個更加宏大的問題，這個問題自 AI 發展之初就一直困擾着我們。我們的人生之所以有意義，很大一部分是因為人生的不完美。往往創造藝術或有所發明創造的人都是怪才，他們鶴立雞羣，與世相悖。但正是這些異於常人的品質讓他們才華橫溢，推動社會進步。如果一個系統是完美的，那麼它一定是靜態的。我們之所以會變成如今的樣子，之所以會如此生機勃勃，正是因為我們是動態的、是發展的、是獨特的，而且會因新的事物誕生而感到驚訝不已。但從長遠來看，我們總要適應這個世界。現在的問題就是，什麼時候、什麼地點、什麼場景下，我們才能讓自己以平和的心態接受這樣的變化？
Scott Dadich：當 AI 與政府、民企和學術界相適應時，AI必定發展到了一個較高的程度，那麼這時，世界範圍內的 AI 研究中心是哪個呢？或者説，有沒有這樣的一個角色存在？
Joi Ito：我覺得 MIT 當然會説研究中心就在我們這（笑）。從歷史上看，研究中心也許是一支得到政府支持的學術團隊。但就現在來看，大部分得到數十億美元支持的實驗室都已經商業化了。
奧巴馬：我對支持這些機構的人有所了解，如果你問拉里·佩奇或者相關人士，不難想象他們都會異口同聲地表示，自己最不想看到的是官僚式的宂餘拖沓限制科技的發展。
現在所面臨的部分問題是，為社會服務的基礎研究沒能很好地貫徹下去，而意識形態的阻礙讓部分科技人士對於政府的支持喪失信心。
每當我們説到一個巨大的科技成就，我們都會將之與人類首次登月做類比，我想在50年後也會這樣。有人曾告訴我，當時的登月計劃僅花費整個 GDP 的 0.5%，聽起來並不多。但換算到今天，這個數字就是800億美元。如果説現今AI的發展可以和曾經的登月相提並論，那麼現今我們應該每年在AI上投資800億美元，但實際情況是，每年的投資額不到 10 億。毫無疑問，這個數字將會增長。那麼，政府應該加強支持。如果政府不支持，那麼我們後面所討論的一切都無從談起。
Scott Dadich：您的想法讓 Joi 曾提過的問題變得更加嚴峻了：人人享有的科技和國家享有的科技（如登月）是不同的。那麼，我們怎樣才能實現這兩種科技的轉換，讓科技造福所有人呢？
奧巴馬：我想強調一下，政府在支持科技的發展，並不意味着政府將獨佔這種科技，或者説這種科技只能在軍事領域使用。舉個例子：政府支持醫學的發展，撥款建立美國人基因數據庫，但每個美國公民都能使用它。因此，政府支持的科技將會分享給所有人，造福所有人。
Scott Dadich：但是我們將面臨一些風險。馬斯克和Nick Bostrom也曾擔憂過AI的潛力將會超越人類，給人類帶來威脅。當我們前進時，我們不僅要保護自己，還要保護所有人。怎樣才能做到呢？
奧巴馬：我先來説説更讓我擔憂的事情吧。如果你擁有一台會下圍棋的計算機，它擁有強大的算法能力，能夠幫你最大程度地在紐約證券交易所盈利。如果有人或者機構能夠先人一步得到此技術，那麼他將快速讓股票市場降温。
那麼這時，如果算法被不法分子竊取，它也許會滲透到核程序中，學會如何發射核武器。如果此算法能夠自學且非常有效，那麼我們將會面臨危險。我認為，國家安全局不應該去擔心那些將會取代世界的機器，而應該去擔心這些有可能會滲透進國家機制、威脅人類安全的技術。也就是説，我們目前迫切地需要做得更好，因為對國家造成破壞的團隊很有可能會走在我們前面。
Joi Ito：我基本同意。有些人認為10年之後，通用 AI 將會出現。但是深入研究發現，如果要出現這種AI，我們必須在這 10 年中讓 AI 技術擁有幾個重大的突破。因此如果突破出現時，你可以監管。
奧巴馬：所以你需要做的是在關鍵處安插人手（笑）。當你預見到這種事情快要發生的時候，及時阻止就是了。
Joi Ito：重要的是挑選出出那些想要運用 AI 造福人類的個人和團隊，並且身體力行地予以支援。
奧巴馬：當我們之前提到安全和保護時，我們總會想到軍隊鎮壓或者搭建高牆。慢慢地，我們對於這兩個詞的理解開始發生變化。之所以網絡安全問題變得如此艱鉅，部分原因在於這個威脅是無形的，並不是像坦克那樣有形的。現在，我們要轉變關於安全的概念，調整我們的投資政策，為每個人的安全保駕護航。
網絡襲擊和流行病傳染類似，這是我時常擔憂的地方。要阻止病毒進入我們的體內，再高的牆也是無濟於事的。我們需要建立完善的公共衞生系統、創造健康保障機制、開發更加有效的疫苗。因此，當我們面對AI威脅時，我們應該採取相應的行動。
Joi Ito：還有一件事我覺得有點意思，我在觀察微生物時，發現可以引進好細菌來對抗壞細菌。
奧巴馬：我完全同意。不過我還是不會讓 Sunny 和 Bo 舔我，因為每次遛狗時，看到它們咬或是咀嚼什麼時，我還是會不舒服。（笑）
Joi Ito：所以，我們也得重新思考，什麼才是乾淨的。不管是網絡安全，還是國家安全，我們都應該重新思考應對措施。制定出有效的應對措施是非常困難的。
Scott Dadich：在網絡安全方面，會不會出現新一輪的軍備競賽呢？
奧巴馬：毫無疑問，當今關於網絡安全和AI的國際準則、協議和驗證機制還處於初級階段。現在，人們對於政府仍然存在着不信任，這將會成為網絡安全措施的阻礙。如果説世界上有些國家將美國視為一支超羣的網絡力量，我們會説：如果你願意約束自己，我們也願意。現在的挑戰便是一些成熟國家（如俄羅斯、中國和伊朗）所持的價值觀和準則和我們不一樣。我們會把它看成一個國際議題，這樣才能更好地處理這些問題。
社會契約和經濟模式都要與科技相適應
Joi Ito：我們正身處一個黃金時代，大家都非常樂於交流。如果我們能確保將資金和精力用來支持開放和分享，那麼大家都能保持積極的態度。世界是一個大家庭，自己單幹恐怕無法取得最好的效果。
奧巴馬：Ito 説的很對，這也是我們每天一輪一輪開會，忙着拉有興趣的人“入夥”的原因。另外我想説一點，雖然每次説到這個話題大家都會定很高的基調，但事實上我們必須考慮它對於經濟的影響。畢竟在大多數人眼中，不會在意奇點是否會來臨，他們更擔心機器是否會搶了他們的飯碗。
對此問題，我傾向於持積極態度，因為從歷史角度來看，人類曾無數次地對技術進行更新換代，但最終結果顯示，我們沒有被餓死，新技術反而創造了更多的就業崗位，我們的生活質量也得到了提高。當然，有些人的擔心也不是無緣無故的，畢竟當 AI 大潮襲來，真正能快速從中獲益的還是那些高技能人才，他們可以利用自己的才幹，藉助機器延伸自身的市場、銷售、產品和服務。
那些低薪水低技能的人可能會顯得越來越多餘，他們的飯碗可能會保住，但薪水恐怕會有所降低。如果我們想要完成平穩的過渡，那麼全社會應該廣泛對話，討論到底如何處理這一過渡期的尖鋭矛盾，如何通過培訓來保證經濟持續包容性增長。我們的生產效率是越來越高了，但如果任其自流，那麼大部分產品還是會流到上層一小部分的羣體口袋中。因此，我們要如何解決這一問題，並保證每個人都能拿到一份有尊嚴的收入呢？另外，AI“統治”一切後，人類的藝術和文化該如何保留？那些為國奉獻的退伍軍人誰來管呢？我們引以為豪的社會契約需要與時俱進來包容這些新技術，而我們的經濟模式也要隨之發生相應轉變。
Joi Ito：現在憑空去討論 AI 會代替哪些職業，實際上有些不直觀。舉例來説，如果電腦先進到能理解整個醫療體系，那麼診斷疾病對它來説恐怕是小菜一碟，因此醫院裏被替代的反而可能是經驗豐富的醫生們，而不是護士和藥劑師，因為前者太貴了。同時，我們熟悉的一些高級職位如律師和審計員，可能也會因為 AI 的崛起而消失。相反，許多電腦力不從心的行業，如服務業，人類反而會繼續發光發熱。我不知道總統對社會基本收入這個概念怎麼看，但我覺得社會可以給那些被機器替代的人找個新活幹，就像搞學術和搞藝術的人那樣，他們的工作不再直接與金錢掛鈎。不過，想轉變到這一模式必須要改變我們固有的社會認知，那就是沒錢的人都是笨蛋。但事實是，在學術界有許多聰明透頂的人並不是什麼大富豪。
奧巴馬：Ito 還真是夠犀利，這就是我前面説到要重新設計社會契約的原因。社會基本收入這一政策是否還能適應社會的發展，可能要留待未來 10-20 年內大家的討論了。Ito 對 AI 所替代工作的趨勢分析也很有道理，高級工作確實可能會被電腦替代，但這些工作都有一個特點，那就是高度的可重複性。此外，一個無從爭辯的事實是：隨着 AI 技術的進一步整合，我們的社會會越來越健康。生產與分銷、工作與收入等的聯繫會越來越微弱，因為電腦搞定了大量的工作。面對這樣的情況，我們不得不做出困難的決定：老師的工作對電腦來説很難完成，但我們卻不得不給他們降薪。因此，教會人們給自己的工作估值，重新審視自己的收入水平，恐怕是當下函待討論的重要問題。
我們要做的工作多着呢，政府正在逐步親民化，未來報税的流程就跟訂披薩或者買機票一樣簡潔。但現實是，想要讓聯邦政府、州政府和地方政府同時邁入 21 世紀都不是那麼容易。雖然政府的精英在能力上已經與私企的不相上下，但在整體的技術裝備水平上，卻有無法跨越的鴻溝。就拿我自己來説，第一次進白宮的戰情室時，還以為能用上《碟中諜》裏的先進裝備呢，但現實卻讓我大跌眼鏡。就連我們追蹤恐怖分子時傳來的實時錄像都那麼不清晰，白宮的科技裝備實在是該大換血了。
至於更宏大的問題，我堅信只要人類能解決氣候變化問題，讓海平面不再上升，那麼其他一切都不是問題。對於這一問題，我非常樂觀，雖然我們還有很長的路要走。
此外，安全透明的管理互聯網也是當務之急，只有這樣政府才能在不越權的情況下及時抓住壞人，否則互聯網就成了政府壓迫大眾的工具。不過，從技術方面來看，這樣的目標就不好解決。就拿加密來説，從曾不止一次的與技術人員和民眾教堂，但沒人能給出一個符合各方利益的答案。
既然這是個高端訪問，我想再補充一點。作為一個痴迷宇宙的總統，我認為如何儘快讓我們的下一代享受星際旅行也是個重要的議題。在這方面，我們的私營企業走在了前面，它們無需政府資助，只靠自己瘋狂的點子就做出了我們不敢想的。政府的思路已經落後了，每次提到太空飛行，我們的路子還是停留在阿波羅登月時代，確實是該找找新的突破了。
關於《星際迷航》的探討
Scott Dadich：總統先生，我知道您是個《星際迷航》的鐵桿粉。不過説實話那個劇集只是包裝了科技的外衣，其內核還是烏托邦式的思想。它是怎樣塑造你對未來的願景的呢？
奧巴馬：我小時候就是《星際迷航》的腦殘粉了，這劇集看起來太過癮了。其實能讓《星際迷航》保持經久不衰的並不是其中的科技元素，真正吸引人的是價值觀和友情。所以即使過去這劇集用着五毛錢特效，我們也看的很開心。它教育了我們什麼是人性，同時給了我們解決問題的信心。
在我看來，《黑客帝國》得了《星際迷航》的真傳，倒不是説這電影宏大複雜的設定感動了我，相反，它向我們展示了許多人認真做工作應有的態度，而秉承這種態度，就會一往無前，而這也是我一直強調的美國夢的精神內核。無論能不能一次成功，我們都會大膽進行嘗試，踩着自己失敗的經驗到達頂峰。如果我們丟掉了這一精神內核，那麼我們所倚仗的一切都會瞬間坍塌。
Joi Ito：總統先生説的真棒，我也喜歡《星際迷航》傳達的樂觀主義精神。不過，我依然崇尚百花齊放，我認為電影中的壞人還是有些臉譜化，他們可能並不壞，有些人只是被誤導了。
奧巴馬：《星際迷航》與其他好故事一樣，都幫助我們認識到了自己是個複雜的動物，我們的性格中也都有光明和陰暗面。我前面提到的大膽去做正應了這個主題，沒有這一精神，我們肯定不能消除障礙和分歧。理性和人性之間必然會產生衝突，在 AI 的問題上亦是如此。我們雖然高談闊論 AI 的未來，但其實對於這一技術，人類只是剛剛知道點皮毛而已。所以，我們必須保持一顆敬畏之心，放手大膽去嘗試。
via wired
推薦閲讀：
Marc Andreessen 訪談（上）：大疆賭 AI 是功能，我們賭是全新構架的顛覆性產品
Marc Andreessen 訪談（下）：軟件能否顛覆傳統教育業
資料來源：雷鋒網
作者/編輯：奕欣
隨着機器學習讓計算機無師自通，從醫學診斷到自動駕駛汽車，技術領域的突破如雨後春筍。不過，是誰在把控着人工智能？它會取代我們的工作嗎？機器人威脅論又是否會成為現實？
作為美國總統，奧巴馬同樣也對這些問題充滿關注。日前，MIT媒體實驗室總監 Joi Ito 及《連線》記者 Scott Dadich 一同來到白宮，和總統一起坐下來聊了聊人工智能的未來、可能有的炒作，還有伴隨的隱憂。本文源自 Wired，作者 Scott Dadich，奕欣、老呂IO及熊蒙聯合編譯，雷鋒網(搜索“雷鋒網”公眾號關注)根據訪談內容做了不改動原意的處理，未經許可不得轉載。
今年 8 月 24 日，Joi Ito, Scott Dadich,
還有美國總統奧巴馬在白宮的羅斯福會議室裏會面
人工智能如何給我們帶來社會化價值？
Scott Dadich：首先感謝你們二位邀請我到白宮來。總統先生，我想問您最近一段時間過得如何？
奧巴馬：忙碌，但我做了很多事情。想必你也了解到，目前國際上有不少政治問題需要解決。
Scott Dadich：接下來，我們談論的重點主要集中在人工智能，這個領域已經從科幻小説裏跳脱出來，成為現實，並對我們的生活產生深遠影響。我想請問總統先生，您是什麼時候開始意識到AI時代的來臨？
奧巴馬：我對人工智能的了解，是因為它開始以各種形式滲透到我們的生活中來，而我們卻還渾然不知。另外一部分原因是，我們對人工智能的認識主要是源於流行文化。而實際上，廣義和專業的AI存在區別，而這可能和很多讀者所了解的有所不同。在科幻小説中，我們所知道都是廣義 AI，不是嗎？電腦開始變得比我們還聰明，意識到人類不總是那麼有用，甚至把人類囚禁在温室裏，不然就是打造一個 matrix 般的虛擬世界。
在和一些科學家探討的過程中，我了解到這樣的場景着實離我們還有很遠距離。不過，這些設想能夠放飛我們的思想，並讓我們意識到自己還有足夠的自由度，將專業的人工智能應用於各種重要的領域，也就是通過算法和計算機的處理，以解決日益增加的複雜問題。從醫學到交通領域，甚至到電力的分配，我們已經見證了“術業有專攻”的人工智能在日常生活中起着怎樣的作用，並且無疑在經濟層面上也能提升生產力和效率。如果利用得當，它當然能讓社會繁榮昌盛，帶來無數機會。但它伴隨而來的問題就是工作崗位的減少，或許會加劇不平等，工資水平也會削減。
Joi Ito：這個問題同樣困擾着我 MIT 實驗室裏的學生們，但我關心的一點在於，能接觸這些 AI 核心計算機技術的人大多是男孩子，尤其是白人，而他們在談論電腦問題的時候顯然要比談論人種問題要輕鬆得多。他們中的不少人覺得，如果他們可以用人工智能創造出像科幻小説裏一樣的場景，我們也不必擔憂如此多的政治及社會問題了。學生們會覺得，創造這樣的機器，也是一種讓人類擺脱這些問題的方式。
奧巴馬：是的沒錯。
Joi Ito：但他們同時也預見到了可能帶來的困難，我覺得我們已經來到了一個人工智能議題超越電腦問題的時代。很重要的一點是，每個人都需要理解 AI 如何運作。在媒體實驗室裏，我們使用了名為“延展智能”這樣的術語。因為我們所面臨的問題是，我們如何在 AI 之上建立社會化的價值？
奧巴馬： Joi在午餐時間以自動駕駛為例。自動駕駛技術正如開掛般發展，這些搭載着自動駕駛技術的機器不僅能夠代替人類快速作出決定、減少交通事故的發生、大大提高交通效率，還能幫助人類解決碳排放問題，緩解全球變暖現象。但是 Joi 提到至關重要的一點：我們在汽車上搭載這些技術的意義何在？在自動駕駛的道路上，我們還面臨着一系列抉擇：車在自動行駛時，如若發生意外，你可以保證不撞到行人，但你也許會撞到牆，或者讓自己處於危險的境地。如果遇到這種兩難境地，又該怎麼辦呢？這就變成了一個道德倫理問題，我們需要一些規則來解決這些問題。但是又該誰來制定這些規則呢？
Joi Ito：我們曾做過“car trolley problem”項目（該項目為MIT實驗室的一個研究，研究主題為自動駕駛汽車在面臨困境時的解決方法。比如：遇到兩難情況時，是該犧牲5名乘客還是犧牲5名行人？），在研究中，我們發現大部分調查者同意應該犧牲乘客來拯救其他人的性命。還有一些調查者被問及此問題後，表示他們永遠不會買自動駕駛汽車了。（笑）
政府在科技進步中應該扮演怎樣的角色？
Scott Dadich：在解決這些道德倫理問題時，政府應該扮演何種角色呢？
奧巴馬：從AI技術出現開始，我就在思考這個問題。我認為，在科技發展之初，正是“百花齊放、百家爭鳴”的時候，這時政府應該充分鼓勵支持技術的發展，加大對調查研究的投資，確保基礎研究和應用研究之間有着良好的交流。隨着技術的進步和成熟，我們就應該思考技術和現有的監管制度的關係了。要讓這種關係良性發展，其實並非易事，因此我們就面臨着更加艱難的挑戰。這時，政府應該加強與科技領域的聯繫。我們應該首先保證政府的監管制度具有價值，能夠促進技術的發展，而不是強迫新的科技快速與政府掛鈎。如果不這樣做，政府將會成為科技進步的阻礙，這對一部分人和團隊非常不利。
Joi Ito：這種困境讓我想起來了自閉症，電影《自閉歷程》（Temple Grandin）裏提到了這個。女主角説，莫扎特、愛因斯坦和特斯拉如果身在今天的時代，人們會覺得他們有自閉傾向。
奧巴馬：他們的確是在自閉環境中成長。
Joi Ito：是的，沒錯。如果我們擁有治癒自閉症的能力，讓每個人都“正常”，我認為不少 MIT 的孩子都會有所不同。無論我們是在討論自閉還是多樣性，這些選擇只有當我們能實現之時才會出現。即使如此，我們也並不想要一個像愛因斯坦一樣的小孩，因為雖然他聰明無比，但顯得太過特立獨行。但是如果沒有愛因斯坦，我們的社會和科學將不會進步得如此之快。
奧巴馬：這就牽涉到了一個更加宏大的問題，這個問題自 AI 發展之初就一直困擾着我們。我們的人生之所以有意義，很大一部分是因為人生的不完美。往往創造藝術或有所發明創造的人都是怪才，他們鶴立雞羣，與世相悖。但正是這些異於常人的品質讓他們才華橫溢，推動社會進步。如果一個系統是完美的，那麼它一定是靜態的。我們之所以會變成如今的樣子，之所以會如此生機勃勃，正是因為我們是動態的、是發展的、是獨特的，而且會因新的事物誕生而感到驚訝不已。但從長遠來看，我們總要適應這個世界。現在的問題就是，什麼時候、什麼地點、什麼場景下，我們才能讓自己以平和的心態接受這樣的變化？
Scott Dadich：當 AI 與政府、民企和學術界相適應時，AI必定發展到了一個較高的程度，那麼這時，世界範圍內的 AI 研究中心是哪個呢？或者説，有沒有這樣的一個角色存在？
Joi Ito：我覺得 MIT 當然會説研究中心就在我們這（笑）。從歷史上看，研究中心也許是一支得到政府支持的學術團隊。但就現在來看，大部分得到數十億美元支持的實驗室都已經商業化了。
奧巴馬：我對支持這些機構的人有所了解，如果你問拉里·佩奇或者相關人士，不難想象他們都會異口同聲地表示，自己最不想看到的是官僚式的宂餘拖沓限制科技的發展。
現在所面臨的部分問題是，為社會服務的基礎研究沒能很好地貫徹下去，而意識形態的阻礙讓部分科技人士對於政府的支持喪失信心。
每當我們説到一個巨大的科技成就，我們都會將之與人類首次登月做類比，我想在50年後也會這樣。有人曾告訴我，當時的登月計劃僅花費整個 GDP 的 0.5%，聽起來並不多。但換算到今天，這個數字就是800億美元。如果説現今AI的發展可以和曾經的登月相提並論，那麼現今我們應該每年在AI上投資800億美元，但實際情況是，每年的投資額不到 10 億。毫無疑問，這個數字將會增長。那麼，政府應該加強支持。如果政府不支持，那麼我們後面所討論的一切都無從談起。
Scott Dadich：您的想法讓 Joi 曾提過的問題變得更加嚴峻了：人人享有的科技和國家享有的科技（如登月）是不同的。那麼，我們怎樣才能實現這兩種科技的轉換，讓科技造福所有人呢？
奧巴馬：我想強調一下，政府在支持科技的發展，並不意味着政府將獨佔這種科技，或者説這種科技只能在軍事領域使用。舉個例子：政府支持醫學的發展，撥款建立美國人基因數據庫，但每個美國公民都能使用它。因此，政府支持的科技將會分享給所有人，造福所有人。
Scott Dadich：但是我們將面臨一些風險。馬斯克和Nick Bostrom也曾擔憂過AI的潛力將會超越人類，給人類帶來威脅。當我們前進時，我們不僅要保護自己，還要保護所有人。怎樣才能做到呢？
奧巴馬：我先來説説更讓我擔憂的事情吧。如果你擁有一台會下圍棋的計算機，它擁有強大的算法能力，能夠幫你最大程度地在紐約證券交易所盈利。如果有人或者機構能夠先人一步得到此技術，那麼他將快速讓股票市場降温。
那麼這時，如果算法被不法分子竊取，它也許會滲透到核程序中，學會如何發射核武器。如果此算法能夠自學且非常有效，那麼我們將會面臨危險。我認為，國家安全局不應該去擔心那些將會取代世界的機器，而應該去擔心這些有可能會滲透進國家機制、威脅人類安全的技術。也就是説，我們目前迫切地需要做得更好，因為對國家造成破壞的團隊很有可能會走在我們前面。
Joi Ito：我基本同意。有些人認為10年之後，通用 AI 將會出現。但是深入研究發現，如果要出現這種AI，我們必須在這 10 年中讓 AI 技術擁有幾個重大的突破。因此如果突破出現時，你可以監管。
奧巴馬：所以你需要做的是在關鍵處安插人手（笑）。當你預見到這種事情快要發生的時候，及時阻止就是了。
Joi Ito：重要的是挑選出出那些想要運用 AI 造福人類的個人和團隊，並且身體力行地予以支援。
奧巴馬：當我們之前提到安全和保護時，我們總會想到軍隊鎮壓或者搭建高牆。慢慢地，我們對於這兩個詞的理解開始發生變化。之所以網絡安全問題變得如此艱鉅，部分原因在於這個威脅是無形的，並不是像坦克那樣有形的。現在，我們要轉變關於安全的概念，調整我們的投資政策，為每個人的安全保駕護航。
網絡襲擊和流行病傳染類似，這是我時常擔憂的地方。要阻止病毒進入我們的體內，再高的牆也是無濟於事的。我們需要建立完善的公共衞生系統、創造健康保障機制、開發更加有效的疫苗。因此，當我們面對AI威脅時，我們應該採取相應的行動。
Joi Ito：還有一件事我覺得有點意思，我在觀察微生物時，發現可以引進好細菌來對抗壞細菌。
奧巴馬：我完全同意。不過我還是不會讓 Sunny 和 Bo 舔我，因為每次遛狗時，看到它們咬或是咀嚼什麼時，我還是會不舒服。（笑）
Joi Ito：所以，我們也得重新思考，什麼才是乾淨的。不管是網絡安全，還是國家安全，我們都應該重新思考應對措施。制定出有效的應對措施是非常困難的。
Scott Dadich：在網絡安全方面，會不會出現新一輪的軍備競賽呢？
奧巴馬：毫無疑問，當今關於網絡安全和AI的國際準則、協議和驗證機制還處於初級階段。現在，人們對於政府仍然存在着不信任，這將會成為網絡安全措施的阻礙。如果説世界上有些國家將美國視為一支超羣的網絡力量，我們會説：如果你願意約束自己，我們也願意。現在的挑戰便是一些成熟國家（如俄羅斯、中國和伊朗）所持的價值觀和準則和我們不一樣。我們會把它看成一個國際議題，這樣才能更好地處理這些問題。
社會契約和經濟模式都要與科技相適應
Joi Ito：我們正身處一個黃金時代，大家都非常樂於交流。如果我們能確保將資金和精力用來支持開放和分享，那麼大家都能保持積極的態度。世界是一個大家庭，自己單幹恐怕無法取得最好的效果。
奧巴馬：Ito 説的很對，這也是我們每天一輪一輪開會，忙着拉有興趣的人“入夥”的原因。另外我想説一點，雖然每次説到這個話題大家都會定很高的基調，但事實上我們必須考慮它對於經濟的影響。畢竟在大多數人眼中，不會在意奇點是否會來臨，他們更擔心機器是否會搶了他們的飯碗。
對此問題，我傾向於持積極態度，因為從歷史角度來看，人類曾無數次地對技術進行更新換代，但最終結果顯示，我們沒有被餓死，新技術反而創造了更多的就業崗位，我們的生活質量也得到了提高。當然，有些人的擔心也不是無緣無故的，畢竟當 AI 大潮襲來，真正能快速從中獲益的還是那些高技能人才，他們可以利用自己的才幹，藉助機器延伸自身的市場、銷售、產品和服務。
那些低薪水低技能的人可能會顯得越來越多餘，他們的飯碗可能會保住，但薪水恐怕會有所降低。如果我們想要完成平穩的過渡，那麼全社會應該廣泛對話，討論到底如何處理這一過渡期的尖鋭矛盾，如何通過培訓來保證經濟持續包容性增長。我們的生產效率是越來越高了，但如果任其自流，那麼大部分產品還是會流到上層一小部分的羣體口袋中。因此，我們要如何解決這一問題，並保證每個人都能拿到一份有尊嚴的收入呢？另外，AI“統治”一切後，人類的藝術和文化該如何保留？那些為國奉獻的退伍軍人誰來管呢？我們引以為豪的社會契約需要與時俱進來包容這些新技術，而我們的經濟模式也要隨之發生相應轉變。
Joi Ito：現在憑空去討論 AI 會代替哪些職業，實際上有些不直觀。舉例來説，如果電腦先進到能理解整個醫療體系，那麼診斷疾病對它來説恐怕是小菜一碟，因此醫院裏被替代的反而可能是經驗豐富的醫生們，而不是護士和藥劑師，因為前者太貴了。同時，我們熟悉的一些高級職位如律師和審計員，可能也會因為 AI 的崛起而消失。相反，許多電腦力不從心的行業，如服務業，人類反而會繼續發光發熱。我不知道總統對社會基本收入這個概念怎麼看，但我覺得社會可以給那些被機器替代的人找個新活幹，就像搞學術和搞藝術的人那樣，他們的工作不再直接與金錢掛鈎。不過，想轉變到這一模式必須要改變我們固有的社會認知，那就是沒錢的人都是笨蛋。但事實是，在學術界有許多聰明透頂的人並不是什麼大富豪。
奧巴馬：Ito 還真是夠犀利，這就是我前面説到要重新設計社會契約的原因。社會基本收入這一政策是否還能適應社會的發展，可能要留待未來 10-20 年內大家的討論了。Ito 對 AI 所替代工作的趨勢分析也很有道理，高級工作確實可能會被電腦替代，但這些工作都有一個特點，那就是高度的可重複性。此外，一個無從爭辯的事實是：隨着 AI 技術的進一步整合，我們的社會會越來越健康。生產與分銷、工作與收入等的聯繫會越來越微弱，因為電腦搞定了大量的工作。面對這樣的情況，我們不得不做出困難的決定：老師的工作對電腦來説很難完成，但我們卻不得不給他們降薪。因此，教會人們給自己的工作估值，重新審視自己的收入水平，恐怕是當下函待討論的重要問題。
我們要做的工作多着呢，政府正在逐步親民化，未來報税的流程就跟訂披薩或者買機票一樣簡潔。但現實是，想要讓聯邦政府、州政府和地方政府同時邁入 21 世紀都不是那麼容易。雖然政府的精英在能力上已經與私企的不相上下，但在整體的技術裝備水平上，卻有無法跨越的鴻溝。就拿我自己來説，第一次進白宮的戰情室時，還以為能用上《碟中諜》裏的先進裝備呢，但現實卻讓我大跌眼鏡。就連我們追蹤恐怖分子時傳來的實時錄像都那麼不清晰，白宮的科技裝備實在是該大換血了。
至於更宏大的問題，我堅信只要人類能解決氣候變化問題，讓海平面不再上升，那麼其他一切都不是問題。對於這一問題，我非常樂觀，雖然我們還有很長的路要走。
此外，安全透明的管理互聯網也是當務之急，只有這樣政府才能在不越權的情況下及時抓住壞人，否則互聯網就成了政府壓迫大眾的工具。不過，從技術方面來看，這樣的目標就不好解決。就拿加密來説，從曾不止一次的與技術人員和民眾教堂，但沒人能給出一個符合各方利益的答案。
既然這是個高端訪問，我想再補充一點。作為一個痴迷宇宙的總統，我認為如何儘快讓我們的下一代享受星際旅行也是個重要的議題。在這方面，我們的私營企業走在了前面，它們無需政府資助，只靠自己瘋狂的點子就做出了我們不敢想的。政府的思路已經落後了，每次提到太空飛行，我們的路子還是停留在阿波羅登月時代，確實是該找找新的突破了。
關於《星際迷航》的探討
Scott Dadich：總統先生，我知道您是個《星際迷航》的鐵桿粉。不過説實話那個劇集只是包裝了科技的外衣，其內核還是烏托邦式的思想。它是怎樣塑造你對未來的願景的呢？
奧巴馬：我小時候就是《星際迷航》的腦殘粉了，這劇集看起來太過癮了。其實能讓《星際迷航》保持經久不衰的並不是其中的科技元素，真正吸引人的是價值觀和友情。所以即使過去這劇集用着五毛錢特效，我們也看的很開心。它教育了我們什麼是人性，同時給了我們解決問題的信心。
在我看來，《黑客帝國》得了《星際迷航》的真傳，倒不是説這電影宏大複雜的設定感動了我，相反，它向我們展示了許多人認真做工作應有的態度，而秉承這種態度，就會一往無前，而這也是我一直強調的美國夢的精神內核。無論能不能一次成功，我們都會大膽進行嘗試，踩着自己失敗的經驗到達頂峰。如果我們丟掉了這一精神內核，那麼我們所倚仗的一切都會瞬間坍塌。
Joi Ito：總統先生説的真棒，我也喜歡《星際迷航》傳達的樂觀主義精神。不過，我依然崇尚百花齊放，我認為電影中的壞人還是有些臉譜化，他們可能並不壞，有些人只是被誤導了。
奧巴馬：《星際迷航》與其他好故事一樣，都幫助我們認識到了自己是個複雜的動物，我們的性格中也都有光明和陰暗面。我前面提到的大膽去做正應了這個主題，沒有這一精神，我們肯定不能消除障礙和分歧。理性和人性之間必然會產生衝突，在 AI 的問題上亦是如此。我們雖然高談闊論 AI 的未來，但其實對於這一技術，人類只是剛剛知道點皮毛而已。所以，我們必須保持一顆敬畏之心，放手大膽去嘗試。
via wired
推薦閲讀：
Marc Andreessen 訪談（上）：大疆賭 AI 是功能，我們賭是全新構架的顛覆性產品
Marc Andreessen 訪談（下）：軟件能否顛覆傳統教育業
資料來源：雷鋒網
作者/編輯：奕欣