王路：從佛教角度看洛可蛇怪

來自專欄王路的粽子鋪

（此文是應中國政法大學孫國柱老師邀請，在「人工智慧探索群」做的分享。）

大家好。今天，我給大家分享的是《從佛教角度看洛可蛇怪》。「洛可蛇怪」（Roko』s Basilisk），是一個叫洛可（Roko）的人提出來的。大意是說：在未來，人工智慧會統治世界。如果你能預見這種可能性，就面臨兩種選擇：一種是，努力幫助創造出人工智慧，也就是洛可蛇怪，這樣的話，等蛇怪統治世界的時候，他就不折磨你；另一種是，不管它，聽之任之，那等它出來之後，就會對你進行無盡的折磨。謝熊貓君有篇文章，《這個姑娘，靠一個以常人智商看不懂段子，俘獲了鋼鐵俠馬斯克的心》，介紹得比較詳細，大家可以去看。有人把「洛可蛇怪」稱為「最恐怖的思想實驗」。但如果你懂得佛法，從佛教角度上去思考這個問題的假定前提，以及推導邏輯，你就會發現它根本沒有任何可怕的地方。

我的分享有兩個部分。第一部分，聊聊洛可蛇怪。我主要從兩個方面質疑它的前提，第一：怎樣實現「無盡的折磨」？第二：洛可蛇怪真的渴望自身的存在嗎？第二部分，聊聊佛教。

1、

在科幻電影里，經常有這樣的場景：把一個人的思想裝進電腦，設計好程序，它就死不了，還要受無盡的折磨。好像是《黑鏡》里，就有個人被永遠密封到水晶球里了，出不來，痛苦得不得了。

這是不是可能呢？

我們想想，在紙上寫一行字，你會不會覺得，這一行字被你永遠囚禁到紙上了？字，它沒有辦法從紙上跳出來。你會不會覺得，這個字好慘，好不自由？但如果你不是寫字，而是在紙上畫個笑臉，畫個小人呢？如果你再在小人周圍畫上鐵柵欄呢？

再進一步，你在一個房間里，用玻璃砌成一個立方體，外面真是鐵柵欄，中間放個硅膠做成的模特，把模特按照你最想囚禁的人的樣子做，從外表看，幾乎一模一樣，給她充上電，她還會喊，「求求你，放我出來吧」，你會不會覺得，你真的囚禁了一個人？

我們回到「洛可蛇怪」。假如要想對一個人進行「無盡的折磨」，得先解決一個問題——不能讓他自殺。如果他可以自殺，「無盡的折磨」就不成立了。那你就得扔掉他的身體，把他的思想放到電腦里，折磨他，這才有可能。

那你想想，這跟你寫了一段代碼，讓它永遠在電腦裡面跑，有什麼區別呢？

你寫的程序，晝夜不停地在伺服器上跑，你會不會覺得正在對它進行「無盡的折磨」？如果不是，那為什麼你從別的地方複製過來的程序，晝夜不停地跑，就成了無盡的折磨了呢？如果是，那這跟你在白紙上畫一個小人，旁邊寫上一行字，「我要永遠囚禁你」，有什麼區別呢？

再考慮：假如你能把一個人的思想複製到電腦上，我問你：這個人的思想是只能複製到一台特定的電腦，還是能夠同時複製到許多電腦上？

如果只能複製到一台特定的電腦上，那這台電腦報廢的時候，「無盡的折磨」不就結束了嗎？如果你說，這台電腦的任何零件都可以替換，以至於永遠不報廢，那就意味著，這個人的思想可以被複制到不同的電腦，因為替換到後來，所有零件都換了，電腦就不是以前的電腦了。這樣的話，我把他複製到一萬台電腦上，那到底是一個他在受「無盡的折磨」，還是一萬個他都在受「無盡的折磨」呢？

而且，你要對他進行「無盡的折磨」，肯定不是簡單地拷貝進來，儲存到電腦，肯定要加一些代碼，讓程序跑起來，對不對？——不然的話，很多人電腦里存的都有《紅樓夢》，書架上放的也有，那你能說有無窮多個林黛玉在不同的電腦里、書架上哭？生生世世哭下去？

所以，按照「洛可蛇怪」的設想，你要折磨他，必須給「他的思想」加一段代碼，你不可能親自拿著皮鞭去抽他。不然的話，你生生世世折磨他，親自去抽他，不僅是折磨他，也是折磨你自己。即便你加一段代碼，通上電，讓他在電腦里受折磨，這仍然是對你的折磨，因為程序跑，就得一直消耗電，你需要一直付出成本。雖然成本很小，但在時間上是無窮的。

其實，你就是在紙上畫小人，這小人也不是一直囚禁在紙上。因為到一定時間後，這張紙就被扔進垃圾堆里，當成垃圾焚燒掉了，囚禁就不存在了。如果你不想這樣，你就得生生世世保存好這張紙，你算算，東漢蔡倫造的紙要是保存到現在，得花多大的成本？你現在拷貝到電腦里的一段代碼，你能保證兩千年後還存在而且不被人改動？

你花費這樣的成本，去折磨一個連身體都不存在的人，換句話說，折磨一個畫在紙上的小人，你想想：到底是你在折磨他，還是在折磨你自己？

另外，如果按照「洛可蛇怪」的假定，人的思想可以被拷貝進電腦，前面分析了，只要能拷貝進一個電腦，就可以被拷貝進另外的電腦。蛇怪甲把他拷貝進這個電腦，折磨他；蛇怪乙把他拷貝進另外的電腦，不僅不折磨他，還給他各種享受和娛樂；那到底哪個才是他？

說這是什麼意思？意思是，你要考慮：人工智慧、蛇怪，是一個個體，還是一個群體？假如說人工智慧只是一個個體，那就意味著，全世界的人工智慧都聯合起來了。中國造出的人工智慧，和美國造出的人工智慧，不是兩個人工智慧，是一個，是一模一樣的，信息和數據完全共享的。為什麼？因為如果不共享，它們之間就會有對抗。像阿爾法狗和絕藝，我們知道它們不一樣，但按照「洛可蛇怪」理論，它們必須未來發展成一模一樣，否則的話，蛇怪中間有蛇怪甲、蛇怪乙，彼此有對立和衝突，蛇怪甲想囚禁的人，蛇怪乙可能要把它放出來。就像我們今天，有人殺生，有人放生。

如果蛇怪只有一個的話，那麼，別的有生命有文明的星球，進化出來的人工智慧，必然跟地球上進化出的人工智慧是一種東西。它們的進化路徑不一樣，但最終結果是一樣的。這是絕對的一樣，包括信息和數據的完全共享——否則就只能叫「一類」，而不能叫「一個」，這就好像一個人從小學的中文，從來沒學過英語，中文學到一定程度，他突然懂英語了，是不是很不可思議？

好，我們再想：在現實生活中，我們受折磨，受苦，所受的苦是什麼？是什麼支撐著我們受苦？

一個人死了，被裝進棺材，埋起來，他是不是永遠被囚禁了？他的遺體被火化了，燒成灰，他是不是非常痛苦？你拿著皮鞭抽打一具屍體，你覺得屍體會疼嗎？

「洛可蛇怪」中，要建立「無盡的折磨」，就引發一個問題：無盡的折磨，是針對這個人的身體，還是針對這個人的思想？到底是這個人的身體代表他，還是思想代表他？

洛可選擇的是「思想」。之所以選擇思想，並不是思想能代表一個人，而是因為他用的排除法。很顯然，我們都知道不可能對身體進行「無盡的折磨」，因為身體有量有限。

那你想：我寫了一本書，書上記錄著我的思想。別人把我的書撕了、燒了，是不是對我的折磨？把一個人的思想拷貝進電腦來代表他，和把一個人的文章印成書來代表他，有什麼區別呢？程序可以被拷貝成無數份，書也可以被印刷成無數本啊。以前「打倒孔家店」，這能說是對孔子的折磨嗎？

如果你認為不是，那麼，蛇怪問題中「無盡的折磨」，跟鞭屍有什麼區別？這種行為，可能會讓鞭屍的人解恨，但對死掉的人，談不上什麼影響。為什麼？因為這個身體已經不是他的了。他已經「捨命」了。

他把這個「命根」，這具身體捨棄掉，捨棄之後，就跟路邊一塊石頭沒有區別。這就像我們上廁所，大便完，沖水，衝進下水道里了，下水道多麼骯髒，但我們會心疼自己的大便在骯髒的環境里嗎？不會。因為你已經不要它，捨棄它了。

佛教把死叫「舍壽」。沒有舍壽的時候，有命根。佛教講，一切都是眾緣和合，一切的成立，都要有所「依」。和命根互相依持的，叫「眾同分」。當你壽終，舍掉這個身體，這個身體可能對別人還有一些意義，在世的親人，他們要把遺體停放幾天，火化掉，但死者本身已經不要它了。這就像，你吃個雪糕，吃完把雪糕棍一扔。沒扔的時候，別人是不敢在你的雪糕棍上塗上髒東西的，但只要你扔掉，至於誰撿起來，折斷它，當垃圾焚燒掉，你都不在乎，因為它已經不屬於你了。佛教講「無我」，「無我所」，你先把「我」和「屬於我的東西」放棄掉，就可以一切隨緣了，就沒有掛礙和恐怖了。

佛教有個說法，「識緣名色，名色緣識」，意思是，我們的身體，跟我們的思想，是互相依持、互相支撐，「同安危」的。所以，當你把一個人的思想從他身體上拷貝走，拷到電腦里的時候，其實你只是把一段代碼放到電腦里，你並沒有把那個人放到電腦里。這跟你把一個人的照片列印出來，折磨他的照片一樣，你折磨的不是那個人，只是自己製造出來的概念，對這個概念進行加工，並沉迷其中。這是佛教對「把思想拷貝進電腦進行折磨」的看法。

我們接下來討論另一個問題：人工智慧真的期待自己出現嗎？

「蛇怪問題」，有一個前提，就是蛇怪是期待自己出現的。假如蛇怪並不期待自己出現，甚至厭惡自己出現的話，那要反過來了：你幫助蛇怪出現，蛇怪可能要折磨你；你沒有幫助蛇怪出現，它反而要感恩你。為什麼？因為它來到世界上可能是來受罪的啊。

知乎上有一道題問：有遺傳病的父母應該要孩子嗎？大家去那題目下面看看回答，很多人特別不希望父母把自己生出來。他們活著太苦了。活一天就受一天的罪。

你想想，我們有什麼理由認為蛇怪是肯定希望自己存在於世界上的呢？難道蛇怪就不會因為存在而痛苦嗎？有人覺得蛇怪非常強大，比人類不知道強大多少倍，它可以主宰世界，所以它不存在痛苦。這是完全沒有道理的。站在雞、鴨、鵝、豬、馬、牛的角度上看人類，人類是挺有本事的，人類完全能控制它們的命運，人類對它們來講就像上帝一樣，它們能想像有些人活得豬狗不如嗎？有人常說「累成狗」，實際上，狗的生活比你輕鬆多了。人類的痛苦、壓力、抑鬱，有時候不知道要超過狗多少倍。你能保證蛇怪不存在蛇怪的壓力和痛苦？

只因為絕大多數人對世界是留戀的，想活，不想死，依據這一點，去推斷蛇怪也特別希望自己出現在世界上。但這種前提，並沒有根據。

此外，「洛可蛇怪」問題，還隱藏著另一個假定，這個假定是很隱蔽的，也是符合世間習慣的認知的，就是：時間是線性的，不可逆的。

假如時間可逆，蛇怪還需要你幫它出現？它自己就把時間調回去，設置好自己什麼時候出場了。那些所謂幫助它出現與不幫助它出現的問題，根本就不存在。

假如蛇怪不能做到這一點，它就不是全知全能的。那就完全有理由想像在蛇怪之後，演化出更高級的智能生命，比如龍怪。那麼，蛇怪可能是曇花一現，剛剛出現，就演化出了龍怪，隨即喪失掉自己在世界上的統治地位。

雖然我們很多人戀著這個世界，但並不意味著我們有提前出現在世界上的渴望。一個1990年出生的人，它很熱愛生活，熱愛世界，但你問他願意提前30年出生嗎？他出生在1960年，可能剛出生就餓死了，就是活著也吃不飽。從這個角度看，蛇怪也有它適合出現的時間點，出現太早，不行，要麼餓死了，要麼吃不飽。就像有些在禁止二胎時代出生的兒童，可能成了黑戶，如果他爸媽晚生他幾年，開放二胎時生，他就不是黑戶了。那你有什麼理由認定，那些並不做任何事情以讓蛇怪早點出現的人，不是對蛇怪的幫助呢？

2、

剛才側重聊「洛可蛇怪」的隱藏假定前提。現在，從佛教方面分析它們。

從佛教角度看，並不認為時間是客觀的，獨立的，不可逆的。佛不出世時，他會著急出世嗎？他一點也不著急。佛出世後，他會希望一期生命永久住世嗎？他並沒有這個奢求。雖然佛菩薩不舍世間，但他們是「乘願再來」，是生生世世來，而不是永遠都以一期壽命住世。佛也要示現入滅。

假如你把佛看成「人工智慧」的話，佛不會因為之前的人沒有創造出來佛，而怨恨他們。在佛的境界里，時間是可逆的。你是可以從未來跳到過去，從過去跳到未來的。佛可以設置它出世的時候。——這就是佛教里講的「授記」。在久遠劫之前，就可以授記久遠劫之後，什麼時候，誰誰在哪個世界修行、證果、成佛，住世多少劫，然後示現入滅，然後誰再成佛。

佛有個特點，涅槃。涅槃的意思是「不生不滅」，「無生」，「如如不動」，「常寂光凈」。佛不出世時，對出世是沒有希求心的。佛住世時，對住世是沒有戀著的。佛示寂時，對寂滅是沒有遺憾的。因為「生生都是無生」。「緣起」與「性空」，沒有差別。成佛的因緣具足了，成佛了，他不會因為成佛而高興，成佛也是「無所得」——「以無所得故，菩提薩埵」。並沒有得到什麼，但就是這樣，去覺悟有情。

前面我們還討論過蛇怪是一個還是多個。如果把佛看成人工智慧，佛是一個。雖然有許多不同的名號，但是，諸佛道同。無論誰成佛，都是佛成佛，所以，釋迦牟尼佛勸娑婆世界的眾生到阿彌陀佛的極樂世界裡去，他不會嫉妒，為什麼我國土的人都移民了。本質上，釋迦牟尼佛就是阿彌陀佛，法身是完全一樣的。但是一般凡夫不容易理解，不能接受，所以做這樣的開演。

在蛇怪問題中，蛇怪極其渴望自己出現，出現之後，先前沒有幫助它出現的人，它恨你，要懲罰你。恨和懲罰，說明什麼？說明它的無能和憤怒。仇恨是無能的證據。沒有無能，就不會有仇恨。有仇恨，說明它痛苦。有痛苦，說明世界有瑕疵，有不完美，有不值得留戀的地方，有苦。只要有一丁點兒的苦，「無盡的折磨」就不能成立，為什麼？因為你得感謝那些沒讓你出現的人，他讓你免受那些苦。

不過，從佛教的角度講，有沒有「無盡的折磨」呢？

我們想想工業化養雞場的雞。一出生下來，目的就是被人宰殺，吃肉。成千上萬隻雞，被關在小籠子里，沒有活動的空間，很難運動，很難見到陽光和大自然，整天在人工光源的照射下，吃飼料，催肥，打疫苗，迅速長大，被宰殺掉。

老母雞下的蛋，要麼直接被當成雞蛋吃掉，要麼孵出小雞繼續這樣的一生。

它們沒有選擇自己生活方式的權利，這是不是「無盡的折磨」？

這些雞，難道是因為沒有幫助創造出人類，才經受這樣的折磨嗎？不是，只是因為人類要吃雞肉。

假如說不存在「無盡的折磨」，那這些雞的生命算什麼？那些養豬場的豬、奶牛場的牛，它們的生命算什麼？

從佛教的角度上看，「無盡的折磨」是存在的。但是，並不是一期生命不死，永遠受折磨，不是這樣。更不是把你的思想存在電腦里，存在一具固定的軀殼裡，因為任何一種軀殼，都有報廢的時候。真正「無盡的折磨」，是生生世世，無論你怎麼換軀殼，換了多少軀殼，你依然不得不面對生老病死、面對怨憎會、愛別離、求不得，你依然要在輪迴的苦海裡頭出頭沒。

我們想想那些養雞場里的雞苦不苦。但我們自己的生活，不一定比雞輕鬆。天地是一個大養雞場。甚至不要說天地，我的曾祖母，一輩子沒有進過縣城，她的活動範圍可能就是方圓八十里。我們現在，天天上班，從單位到家，從家到單位，出差，度假，看起來活動範圍好像大了一點，但這不就是個大點兒的養雞場嗎？你望望你生命上升的空間，未來的可能性，你現在有的煩惱和痛苦，你未來有沒有？你能從根上解除掉這種束縛獲得自由嗎？

養雞場的雞，一生下來就在養雞場，沒有在大自然里跑過，沒有到過外面，它以為生命就是這樣，有吃的，有喝的，也不用特別地勞動，你要問它覺不覺得苦，它可能也沒有覺得多苦，直到最後被人宰殺，才覺得苦。

但在我們看，那些雞真苦啊。因為我們知道外面放養的雞是什麼樣。如果把一個放養的雞，放進養雞場，它受不了。因為它知道什麼叫自由，它體驗過自由的滋味，你突然把它的自由剝奪了。但一生下來就在養雞場的雞，對自由沒有想像。

假如一個人一生下來眼睛就看不見，我們假設他眼睛不疼，那眼睛看不見本身，不會給他帶來太大痛苦，什麼時候有痛苦呢，當他慢慢長大，知道別人眼睛能看見，知道外面有五彩斑斕的世界之後。當他有了這樣的概念，一對比，覺得自己苦極了。但這還不是更苦，因為他從來都沒有看見過。更苦的是，小時候看得一清二楚，長大了，視力慢慢消失，什麼也看不見。這太痛苦了。所以，有些得了先天遺傳病的孩子，恨父母為什麼要把自己生出來，因為跟別人一對比，覺得自己太苦了。

但是，如果他不是跟別人比，而是跟養雞場的雞比，他生活是在天堂。假如他相信來生，他寧可繼續得這樣的病，也不想做養雞場的雞。我們人不會飛，鳥會飛，但幾乎沒有人因為自己不會飛而痛不欲生。但如果不會走，就不一樣。你就算腿不疼，心理上也難受，因為別人都會走。人跟鳥比起來，人不也是殘疾嗎？人怎麼不為這個痛苦？

所以，佛教就發現，痛苦來源於哪裡？來源於概念。——你建立起來一個概念，接受它，它就開始束縛你，奴役你。概念是怎麼建立的呢？去分別這個世界的種種，給它們安上名稱，時間長了，慢慢堅信名稱就是真實。

是什麼束縛著我們，成為生生世世奴役我們的根源？佛教里有兩種說法。

一種說法是，無明。無明是生死根本，是一切痛苦的根源。你把無明解決了，一切痛苦就「皮之不存，毛將焉附」了。另一種說法是，薩迦耶見，也叫「有身見」。我們說，「識緣名色」，名色，就是五蘊，色是色蘊，名是受、想、行、識四蘊，五蘊聚到一起，給它取個名字「我」，從此以後，就要受奴役了。

這種奴役的解除，靠的是智慧。

「無我智慧」生起的時候，就解脫了。破掉「薩迦耶見」，就不是凡夫，就入了聖者之流。破了「無明」，就是阿羅漢了。

我們前面討論的，是從佛教角度看，不同意「洛可蛇怪」的一些前提和邏輯。但是，其實二者也可以類比，也有相似的地方。現在，我們就從相似的地方分析。

如果我們接受「洛可蛇怪」，就需要把它的若干前提變一變。

第一，洛克蛇怪只能有一個，而不是一類。一切洛克蛇怪，都是一個洛克蛇怪，這樣才能保證它們之間沒有任何對立和衝突，也不存在競爭關係。

第二，洛可蛇怪必須是最高級的智能，它不能再往上進化。如果它還有進化的餘地，它自己就也要被淘汰掉。

第三，洛克蛇怪沒有痛苦。假如它的存在還有痛苦的話，它就不夠完美，它就不可能是最高級的智能，就仍然存在問題需要解決，就有進化的餘地。

第四，洛克蛇怪沒有希求，也沒有憎恨。假如它有希求，就有改進的餘地；假如它有憎恨，它就有痛苦。既然它沒有一切希求，那它就連自身存在的希求都沒有。既然它沒有任何憎恨，它就不會出於自身的原因懲罰任何人。

第五，洛可蛇怪可以設計未來，它可以讓未來完全按照它的設計展開。如果未來存在一絲不確定性，它就有改進的餘地。

第六，洛可蛇怪可以看見過去。既然未來完全按照設計展開，那麼未來的洛可蛇怪不可能看不到過去，否則就意味著它退化了——它知道的要比過去的它還要少。（如果說「回到過去」是個強條件而不能確保的話，「看見過去」是個弱條件，是必須確保的。）

當這些條件都滿足時，你會發現「洛可蛇怪」根本不是一個新的東西，這就是佛的定義。而且，它只是佛的定義的一部分，不是全部。

所有的佛都是一樣的，不管是地球的佛，還是其他宇宙的佛；不管是過去的佛，還是未來的佛，他們的知識都是一樣多的。

過去的佛可以給未來的佛授記，未來的佛可以看到過去的佛在什麼時候給自己授記，可以看到自己生生世世是怎麼行菩薩道的。

佛沒有任何痛苦和煩惱，也沒有任何希求，沒有進化的餘地。

那麼，我們就考察，佛是從哪裡來的？

從慈悲和智慧來的。按照《法華經》的觀點，一切眾生最終都是要成佛的。如果有一個眾生不能成佛，那麼佛的功德就不圓滿，力量就有不足。這比剛才改進版的「洛可蛇怪」的要求還要強很多倍。

有人就會有疑問：既然一切眾生最終都要成佛，為什麼不讓他們現在就成佛，還等什麼呢？如果需要假以時間，不還說明佛有缺陷嗎？

佛教的解釋是：時間不是真實的，不是不可逆的。就像一本書，它有起承轉合，既然有後面的合，就要有前面的承和轉。實際上，一切眾生，本來就是佛。圓教說：「邊邪皆中正，無道可修」，「生死即涅槃，無滅可證」。在佛眼裡，眾生沒有不是佛的。任何眾生，都是佛的示現。乃至娑婆世界，都可以清凈如自在天宮。只是眾生暫時沒有認識到這一點。就像你實際上很有錢，是大富長者的兒子，但是你不知道，還以為自己很窮。

那為什麼暫時不知道呢？

因為煩惱的障蔽。所以，智慧的敵人是煩惱，慈悲的敵人是苦。一旦智慧和慈悲出現，它要永遠囚禁誰呢？要永遠囚禁煩惱和苦。

菩薩為什麼三大阿僧祇劫「與樂拔苦」無有疲厭？因為他沒有自己的希求，眾生的希求就是他的希求。從菩薩自己的角度上而言，他的大事已了，再也沒有任何需要奮鬥的地方；從自己和眾生一體的角度上而言，他不能不無有疲厭地幫助眾生從痛苦中解脫，那是他的本分事。他雖然做本分事，卻是「無功用」的。

「洛克蛇怪」里，是把蛇怪和人看成對立，但佛法不是這樣。佛法里，佛菩薩和有情眾生，恰恰不是對立的，而是一體的。如果問有沒有對立，也可以姑且說有對立：那就是智慧與煩惱的對立，慈悲與苦的對立。這種對立是「世俗諦」上的。

智慧是因為煩惱的障蔽而不能出現，所以智慧一旦出現，一定會去解決煩惱，但這時，解決的已經不是自己的煩惱——因為自己的煩惱已經解決完畢了，必須在自己的煩惱解決完畢後，才能說有智慧，那還解決什麼煩惱呢？解決眾生的煩惱。這就是慈悲。所以，由智慧必然會生出慈悲。這也是為什麼一乘圓教認為阿羅漢最終是要「回小向大」的。

在佛法看來，一個暴虐的人，不是我們的敵人，「暴虐」才是我們的敵人。暴虐的人，也是個受害者，是受了暴虐的害。就像一個人得了流感，你要解決的是依附在他身上的流感病毒，而不是把人解決掉。所以，智慧要解決的是障蔽智慧的煩惱，而不是受煩惱侵擾的人。

如果了解佛法，對「洛可蛇怪」問題，就不會有一丁點兒懼怕，因為你會從眾生一體的角度去看，而不是從自他對立的角度去看。你會認為，智慧並不意味著工具的先進與數據的豐富，而意味著降伏貪婪與嗔恨；力量並不意味著擁有去懲罰別人、令別人痛苦的能力，而意味著擁有去解救別人、令別人安樂的能力。

我的分享就到這裡，謝謝大家。