對於未來虛擬世界,這位哲學教授到底在擔心什麼?
本文由VR價值論(ID:vr-value)整理,作者翟振明,中山大學哲學教授,人機交互實驗室主任。36氪經授權發佈。
早在90年代,那時我還在美國大學教書,就做出了預測:
前兩個已經應驗了,這之後還有:
這是一個比現實世界大得多的世界,它會面臨太多太多跟現實世界完全不同的倫理道德,也會遇到很多社會政治結構性變遷帶來的風險。
總的來看,有三個大的方面我會比較擔心:
一、虛擬世界,人的意志容易被控制,該怎麼辦?
在虛擬現實裏,感官是很容易被控制的。
比如,你明明拐了360度,可虛擬世界顯示只拐了180度,你會信以為真。
再比如:現實世界中,你一直繞着圈跑,而你在虛擬世界看到的,可能是一路向前的直線跑。
這就説,虛擬現實與現實世界不是完全對等的,雖然這兩者在“本體論”上可以對等。
虛擬世界可以通過視覺、聽覺、觸覺等刺激,影響人對於周圍世界的判斷,從而對人的感官和大腦判斷進行控制。
可是,如果這個過程倒過來,被居心不良的人控制,就危險了。
還有,在過渡階段,虛擬與現實之間的邊界可以被故意抹掉。舉個例子,你感覺已經出了實驗室,其實你還在實驗室。你感覺頭盔已經摘了,面對的是現實世界,其實你並沒有摘,多來幾輪,你一定崩潰了。
我們實驗室目前就可以完成這個事情,將現實與虛擬的邊界完全抹掉。你以為你在一樓跟你打招呼,其實你還在實驗室。這個很危險,人就很容易被控制住了。
不僅是感官,如果繞過感官,直接將電極插到大腦中,直接給你輸入一個控制系統,那就更危險了。你覺得那是你的想法,其實不是你的。
你已經沒有自主意識了,你也不會去反抗,沒有自我意識怎麼反抗!
有自我意識才有人格、尊嚴、道德這些東西,損害一個機器和損害一個人不一樣的就這點差別。
這是特別緻命的危險,這個一旦出現的話,不可逆轉,文明會受到很大的破壞。
二、在VR的世界裏,人被當作工具怎麼辦?
舉個思想實驗的例子:我在孤兒院我收養一個女兒,因為醫生告訴我,她身體的抗體和我一樣,如果哪天我的器官壞了,我可以用她的器官。
我給她好吃好喝,照顧她,給她富裕的生活,最後我出車禍死了。她繼續長大,對我感懷感恩。可她並不知道,她的一輩子其實是作為附屬存在。
雖然她從孤兒院變成富家子弟,但其實她的尊嚴是受到傷害的,因為她的一輩子是以人的器官這種身份被我當成工具。雖然,最後沒有實現她的工具作用,她也並不知道我的原本用一,但事實上她的尊嚴是受到損害的。
同理,在進入虛擬世界前,必須將人的尊嚴和權利放在第一位。不然我們活得毫無人的尊嚴,可能還不自知,那就是悲劇了。
VR世界是人們生活、社交、娛樂的場所,是人們表達真實自我的場所,可如果有其他的一些目的性進去,把裏面的人作為工具,讓人失去了人原本應有的權利,就本末倒置了。
虛擬世界是要人更成為人自己,生活更幸福,生活空間更寬闊,而一旦成為部分人的工具,雖然表面上也享有很多權利,但違背這個世界的初衷了。
三、虛擬世界中人替與人替,人替與真身之間的關係怎麼處理?
當虛擬世界都連上網絡後,每個人在裏面都會有一個或者多個化身,我稱之為人替,那麼人替與人替之間,人替與真人之間的關係應該如何處理呢?
比如,現實世界中一個是15歲的女孩,在虛擬世界裏人替為一個70歲老頭。而一個是70歲的老人,其在虛擬世界的人替為一個15歲女孩。在虛擬世界中,70歲的老頭對15女孩進行了性騷擾,後來被告了,到了法庭上,兩個真人一出來,大家都蒙了,誰騷擾誰?
再有,未來在虛擬世界裏有沒有結婚一説?如果有,應該遵循一夫一妻,還是什麼根本無規則可定?
面對這些問題,如何解決?
那什麼是公理?我舉個例子:
吃飯,自由,兩者你選什麼?
你説要一碗飯不要自由,好啊,我高興死了,你不要自由你要一碗飯是吧,我馬上把一碗飯拿走,因為你不要自由,你要碗我偏不給你。
所以所謂不要自由就是自己的想法得不到實現的意思。
如果倒過來我説我要自由不要飯,那就不會產生這個問題,我要自由但是我不要飯,人家就把那個飯拿走了,那我説我要飯,別人問,“為什麼剛才你説你不要飯呢?”我説,“我有自由,剛才不要飯,我現在要飯不行嗎,這是我的自由,我可以要回來。”
你要飯已經被要自由覆蓋了,不需要單獨要的。包含其他,卻不被包含的,就是公理。自由就是公理。
搞清楚這個很重要!
在人文理性的原則下,就能判斷真實世界已有的哪些法律可以移植到虛擬世界,哪些法律在虛擬世界將失去意義。要講道理,不是誰抓住話語權誰説了算。
這個所謂的道理,指的是正當的道理,也就是理性法,他不是制定的,而是靠思考得來的。大哲學家洛克、康德這些人天天思考的就是這個人文理性。
虛擬現實是一個新的生活結構,沒有共識的地方先局部達成共識,這些東西從來都是探索性的,從來都是在不同意的地方討論問題。
虛擬世界初衷就是讓人成為自己,人們的生活更幸福,更豐滿,生活空間更大,是讓人的本性更享受,是一種福祉,任何人都不是別人的工具。
對於以上三個擔憂,總結來説的三大原則就是:
第一、 人的自我意識不要被直接控制,也就是不能繞過人的感官直接控制人的意志。
第二、人與物的關係不要顛倒,這個世界人不是工具,要以人為本。
第三、人與人替,人替與人替間的關係要講人文理性。
這個頂層設計在一開始就要做好,這樣,當我們進入的時候,就不會混亂了。
資料來源:36Kr
早在90年代,那時我還在美國大學教書,就做出了預測:
引用2008年,鼠標與鍵盤消失;
2015年,人造皮膚既接受刺激產生觸覺,也輸出信號驅動電腦做全身動捕;
前兩個已經應驗了,這之後還有:
引用2060年,虛擬世界與互聯網整合後的“虛擬世界”完全到來;可在這個世界到來之前,我們是否做好了準備,冒然進去太危險了。
2100年,虛擬世界與物聯網整合起來的“擴展現實”全面運行。
這是一個比現實世界大得多的世界,它會面臨太多太多跟現實世界完全不同的倫理道德,也會遇到很多社會政治結構性變遷帶來的風險。
總的來看,有三個大的方面我會比較擔心:
一、虛擬世界,人的意志容易被控制,該怎麼辦?
在虛擬現實裏,感官是很容易被控制的。
比如,你明明拐了360度,可虛擬世界顯示只拐了180度,你會信以為真。
再比如:現實世界中,你一直繞着圈跑,而你在虛擬世界看到的,可能是一路向前的直線跑。
這就説,虛擬現實與現實世界不是完全對等的,雖然這兩者在“本體論”上可以對等。
虛擬世界可以通過視覺、聽覺、觸覺等刺激,影響人對於周圍世界的判斷,從而對人的感官和大腦判斷進行控制。
可是,如果這個過程倒過來,被居心不良的人控制,就危險了。
還有,在過渡階段,虛擬與現實之間的邊界可以被故意抹掉。舉個例子,你感覺已經出了實驗室,其實你還在實驗室。你感覺頭盔已經摘了,面對的是現實世界,其實你並沒有摘,多來幾輪,你一定崩潰了。
我們實驗室目前就可以完成這個事情,將現實與虛擬的邊界完全抹掉。你以為你在一樓跟你打招呼,其實你還在實驗室。這個很危險,人就很容易被控制住了。
不僅是感官,如果繞過感官,直接將電極插到大腦中,直接給你輸入一個控制系統,那就更危險了。你覺得那是你的想法,其實不是你的。
你已經沒有自主意識了,你也不會去反抗,沒有自我意識怎麼反抗!
有自我意識才有人格、尊嚴、道德這些東西,損害一個機器和損害一個人不一樣的就這點差別。
這是特別緻命的危險,這個一旦出現的話,不可逆轉,文明會受到很大的破壞。
二、在VR的世界裏,人被當作工具怎麼辦?
舉個思想實驗的例子:我在孤兒院我收養一個女兒,因為醫生告訴我,她身體的抗體和我一樣,如果哪天我的器官壞了,我可以用她的器官。
我給她好吃好喝,照顧她,給她富裕的生活,最後我出車禍死了。她繼續長大,對我感懷感恩。可她並不知道,她的一輩子其實是作為附屬存在。
雖然她從孤兒院變成富家子弟,但其實她的尊嚴是受到傷害的,因為她的一輩子是以人的器官這種身份被我當成工具。雖然,最後沒有實現她的工具作用,她也並不知道我的原本用一,但事實上她的尊嚴是受到損害的。
同理,在進入虛擬世界前,必須將人的尊嚴和權利放在第一位。不然我們活得毫無人的尊嚴,可能還不自知,那就是悲劇了。
VR世界是人們生活、社交、娛樂的場所,是人們表達真實自我的場所,可如果有其他的一些目的性進去,把裏面的人作為工具,讓人失去了人原本應有的權利,就本末倒置了。
虛擬世界是要人更成為人自己,生活更幸福,生活空間更寬闊,而一旦成為部分人的工具,雖然表面上也享有很多權利,但違背這個世界的初衷了。
三、虛擬世界中人替與人替,人替與真身之間的關係怎麼處理?
當虛擬世界都連上網絡後,每個人在裏面都會有一個或者多個化身,我稱之為人替,那麼人替與人替之間,人替與真人之間的關係應該如何處理呢?
比如,現實世界中一個是15歲的女孩,在虛擬世界裏人替為一個70歲老頭。而一個是70歲的老人,其在虛擬世界的人替為一個15歲女孩。在虛擬世界中,70歲的老頭對15女孩進行了性騷擾,後來被告了,到了法庭上,兩個真人一出來,大家都蒙了,誰騷擾誰?
再有,未來在虛擬世界裏有沒有結婚一説?如果有,應該遵循一夫一妻,還是什麼根本無規則可定?
面對這些問題,如何解決?
引用要解決這些問題,最基本的方式就將人文理性喚醒,把他導入虛擬世界,以此作為制定規則的出發點。只有預先注入了人文理性,鮮活的人文理性,才能把那些亂七八糟的規矩擋在門外。那什麼是人文理性? 人文理性就是搞清楚人類本來應該得到的東西是什麼,不應該得到什麼,這是公理。
那什麼是公理?我舉個例子:
吃飯,自由,兩者你選什麼?
你説要一碗飯不要自由,好啊,我高興死了,你不要自由你要一碗飯是吧,我馬上把一碗飯拿走,因為你不要自由,你要碗我偏不給你。
所以所謂不要自由就是自己的想法得不到實現的意思。
如果倒過來我説我要自由不要飯,那就不會產生這個問題,我要自由但是我不要飯,人家就把那個飯拿走了,那我説我要飯,別人問,“為什麼剛才你説你不要飯呢?”我説,“我有自由,剛才不要飯,我現在要飯不行嗎,這是我的自由,我可以要回來。”
你要飯已經被要自由覆蓋了,不需要單獨要的。包含其他,卻不被包含的,就是公理。自由就是公理。
搞清楚這個很重要!
在人文理性的原則下,就能判斷真實世界已有的哪些法律可以移植到虛擬世界,哪些法律在虛擬世界將失去意義。要講道理,不是誰抓住話語權誰説了算。
這個所謂的道理,指的是正當的道理,也就是理性法,他不是制定的,而是靠思考得來的。大哲學家洛克、康德這些人天天思考的就是這個人文理性。
虛擬現實是一個新的生活結構,沒有共識的地方先局部達成共識,這些東西從來都是探索性的,從來都是在不同意的地方討論問題。
虛擬世界初衷就是讓人成為自己,人們的生活更幸福,更豐滿,生活空間更大,是讓人的本性更享受,是一種福祉,任何人都不是別人的工具。
對於以上三個擔憂,總結來説的三大原則就是:
第一、 人的自我意識不要被直接控制,也就是不能繞過人的感官直接控制人的意志。
第二、人與物的關係不要顛倒,這個世界人不是工具,要以人為本。
第三、人與人替,人替與人替間的關係要講人文理性。
這個頂層設計在一開始就要做好,這樣,當我們進入的時候,就不會混亂了。
資料來源:36Kr