生命3.0一書由邁克斯·泰格馬克所著，是作者對于未來的暢想，讓我們思考人工智能和人類的意識等問題，你有什么感悟？下面小編帶來的是《生命3.0》讀后感:意識的未來才是生命的未來。

人工智能的目標(biāo)與人類的目標(biāo)一致嗎？

由于人類發(fā)展人工智能的目的就是為了幫助人類去完成一些目標(biāo)，那么在完成目標(biāo)的能力上，最終的超級智能一定會強(qiáng)于人類。這些超級智能未必會對人類存在惡意，但是如果彼此的目標(biāo)不一致，就很有可能會對人類產(chǎn)生大麻煩。就像現(xiàn)在我們?nèi)祟愊胍�在一個地方修建水庫，會對附近的蟻窩造成滅頂之災(zāi)，可實際上我們對蟻窩其實并沒有惡意一樣。套用小說《三體》中的一句話就是：

我消滅你，與你無關(guān)！

因此，讓人工智能與人類的目標(biāo)保持一致至關(guān)重要，如果把這個問題進(jìn)行拆解，可以細(xì)化成三個子問題：

1.讓人工智能學(xué)習(xí)我們的目標(biāo)

2.讓人工智能接受我們的目標(biāo)

3.讓人工智能保持我們的目標(biāo)

首先第一步，對于要學(xué)習(xí)我們的目標(biāo)，也許你會說：“這很簡單啊，我們在設(shè)計人工智能的算法的時候，或者讓人工智能工作的時候，直接下達(dá)一個明確的目標(biāo)，不就行了嗎？”可是，一個目標(biāo)在執(zhí)行的過程中，會有很多意外情況的發(fā)生。比如在未來，你叫一輛無人駕駛的汽車“盡快送你去機(jī)場”，結(jié)果它就不擇手段的把你“盡快地”送到了，超速、違章、把你搞得暈車狂吐......這顯然不是你想要的，可是人工智能說：“我是按照你的目標(biāo)執(zhí)行的啊。”也許你會說，那我們把這些限制條件寫入到算法中去嘍，比如必須在遵守交通規(guī)則的前提下。可是，一定會有我們事先無法預(yù)料的復(fù)雜情況出現(xiàn)，比如著名的電車難題：如果在你去機(jī)場的路上，碰到了一個緊急情況，無人駕駛的汽車只有兩個選擇：要么，撞上突然橫穿馬路的學(xué)生；要么，撞向路邊的行人。你希望人工智能怎么選呢？因此，一個目標(biāo)的背后是一整套復(fù)雜的行為準(zhǔn)則，這套行為準(zhǔn)則很難在我們編寫軟件的時候直接寫入到計算機(jī)。有時候甚至?xí)�牽涉到價值觀取舍的問題，其實我們?nèi)祟愖约阂矝]有一個確定的答案，你如何能讓人工智能完全理解呢？

再看第二步，即便人工智能完全理解了我們的目標(biāo)，它也有可能未必會接受我們的目標(biāo)。就像我們教育我們的孩子，試圖讓孩子接受我們的價值觀和目標(biāo)體系，可是隨著孩子智力的發(fā)育和成長，我們的目標(biāo)未必會被他們所接受。同樣的，超級人工智能也擁有與人類相當(dāng)，甚至超過人類的智力水平，它們會完全接受我們的目標(biāo)嗎？這看起來也是一個一廂情愿的問題。

第三步，假設(shè)人工智能理解并接受了我們的目標(biāo)，它就能始終保持與我們的目標(biāo)一致嗎？答案還是存疑的。我們在實現(xiàn)一個相對復(fù)雜的目標(biāo)的時候，會把它拆分成若干個子目標(biāo)來進(jìn)行努力。假如我們現(xiàn)在給一個人工智能設(shè)置的目標(biāo)是“盡可能好的下圍棋”，那么對它來說，最佳的選擇就是把所有能利用的資源都用來增加自己的算力，比如把太陽系轉(zhuǎn)變成一臺巨大的計算機(jī)，或者向宇宙深處進(jìn)發(fā)以獲取更多的能源，這就很有可能與我們的目標(biāo)發(fā)生沖突。還有一種可能，就是也許隨著人工智能自身智力的發(fā)展，也許它會覺得原來被賦予的目標(biāo)無聊乏味。比如說，假如一群螞蟻創(chuàng)造了你，給你的目標(biāo)是修建更大更好的蟻丘。最初也許你是認(rèn)真的執(zhí)行，可是當(dāng)你的智力發(fā)展到遠(yuǎn)超螞蟻的時候，你會不會覺得原來的這個目標(biāo)變得索然無味呢？你會不會給自己設(shè)定一個“更有意義的目標(biāo)”呢？

可以看出，以上這三個問題，到目前為止，我們一個也沒有解決。事實上，暫時也不知道如何解決。

除了這三個問題，實際上我們還有一個更為棘手的問題，那就是：當(dāng)我們討論“我們的目標(biāo)”時，“我們”到底是誰呢？我們討論的到底是誰的目標(biāo)呢？這里面涉及到哲學(xué)、社會學(xué)、倫理學(xué)等諸多復(fù)雜的內(nèi)容，到目前為止，人類還遠(yuǎn)遠(yuǎn)沒有在這些方面達(dá)成共識，各種意識形態(tài)和文化之間充滿著矛盾和沖突。如果連這個最基本的問題都沒搞清楚，我們又怎么能保證人工智能的目標(biāo)是符合我們的預(yù)期的呢？因此，作者在本書中呼吁，人類應(yīng)該盡快對這些哲學(xué)和倫理學(xué)問題進(jìn)行討論，在超級智能發(fā)展出來之前，具備回答這些問題的能力，否則，這些問題的答案很有可能就與我們?nèi)祟悷o關(guān)了！

讓我們往更深一層去思考：當(dāng)我們談?wù)撍�謂的“目標(biāo)”的時候，我們?yōu)槭裁匆�有目�?biāo)？比如，今年你的小目標(biāo)是先賺一個億，為什么？因為可以從中獲得一種成就感。那“成就感”是什么？今天我的目標(biāo)是吃頓好的，因為美食可以讓我獲得滿足感，那“滿足感”是什么？這就牽涉到一個更為難以捉摸的概念——意識。

意識的未來

意識是一個有爭議的話題，有些科學(xué)家甚至認(rèn)為意識不是一個科學(xué)問題，不過越來越多的神經(jīng)科學(xué)研究正在逐漸揭開“意識”的神秘面紗。像之前一樣，我們首先要明確一下關(guān)于“意識”的定義。泰格馬克在書里對意識給出的定義也是這樣的：

意識（consciousness）=主觀體驗（subjective experience）

順便插一句，在閱讀整個《生命3.0》這本書的時候，你會處處體會到作者作為一個科學(xué)家的嚴(yán)謹(jǐn)，他會在討論每個關(guān)鍵概念的之前，給出他對于這個概念的定義。這并非是為了表示他的定義有多么高明，而是為了讓讀者明確的了解他所要討論的內(nèi)容，避免誤解。這是一個非常值得我們學(xué)習(xí)的科學(xué)態(tài)度。我們在生活和工作中經(jīng)常就會犯這種錯誤：兩個人對一個問題進(jìn)行激烈的爭論，爭得面紅耳赤，結(jié)果發(fā)現(xiàn)大家對其中使用的一個概念的含義理解完全不同。我就親身經(jīng)歷過在一個飯局上，來自全國各個地區(qū)的人爭論“地瓜到底長什么樣”，半個小時后發(fā)現(xiàn)大家說的“地瓜”根本不是同一個東西�？梢�，在溝通過程中，統(tǒng)一語言是多么的重要。

回到關(guān)于意識的話題。根據(jù)泰格馬克的定義，如果你能感覺到“這就是現(xiàn)在的我”，那么你就是有意識的。也就是說，如果一輛無人駕駛的汽車能夠認(rèn)識到自己就是一輛無人駕駛的汽車，那么我們就可以說這輛汽車是“有意識”的。

關(guān)于意識的研究，目前科學(xué)家們只對“大腦如何處理信息”這個相對簡單的問題上有所進(jìn)展。概括來說，意識就是信息處理時產(chǎn)生的感覺。由于人類的大腦從收集信息到做出反應(yīng)是需要一個時間的，因此，實際上意識是發(fā)生在“過去”的。也因此，我們會有很多無意識的快速反應(yīng)。然而我們對哪些物理性質(zhì)來區(qū)分有意識和無意識系統(tǒng)，以及為什么會產(chǎn)生意識這些更難的問題，科學(xué)家們還沒有什么頭緒。

那么，如果未來的人工智能擁有意識，那他的”主觀體驗“會是怎樣的呢？從目前我們已知的信息推測，雖然人工智能處理信息的速度更快（電磁信號以光速傳播，比神經(jīng)元信號快數(shù)萬倍），但是人工智能的尺寸也會更大，因此，人工智能的”主觀體驗“系統(tǒng)也很有可能分為“有意識”和“無意識”兩種，甚至有可能是一個層級嵌套系統(tǒng)，從微觀尺度一直嵌套到宏觀的宇宙尺度。

為什么我們要關(guān)心人工智能的“意識”問題呢？這其實是一個關(guān)乎人類存在的意義的問題。不管意識是如何產(chǎn)生的，為什么會產(chǎn)生，如果沒有了意識，也就是主觀體驗，那積極的體驗也就不復(fù)存在。也就是說，如果沒有意識，所謂快樂、美麗、善良、目標(biāo)，都沒有了意義。并不是我們的宇宙將意義賦予了有意識的實體，而是有意識的實體將意義賦予了我們的宇宙。然而，一旦未來的世界為超級智能所統(tǒng)治，一旦超級智能是根本沒有體驗的冰冷的機(jī)器，那么，這個宇宙的意義也就不復(fù)存在了。

因此，比起智能的未來，意識的未來才更為重要。在未來的場景中，要么，我們已經(jīng)“教會”了人工智能體驗這個宇宙的各種意義；要么，我們?nèi)祟愋枰�完成一次對自我認(rèn)知的革命性升級，能夠更加深刻的體會到生命的意義。如果我們這兩者都沒有做到，等待我們的，將是一個僵尸智能控制的沒有意義的宇宙。

我的感悟

故事到這里就結(jié)束了嗎？并沒有。如果我們把時間的維度拉的再長一點，我們看到的似乎是一個注定令人沮喪的結(jié)局。根據(jù)熱力學(xué)第二定律，宇宙中“熵”的總量是趨于增加的，也就是整個宇宙是趨向于混亂的。最終，它會達(dá)到一個極端混亂的最大值，被稱為“死寂”。在這個狀態(tài)下，萬事萬物都會擴(kuò)散成一種無聊而又完美的均質(zhì)狀態(tài)，沒有復(fù)雜性，沒有生命，也沒有任何變化。

那我們之前討論這些還有什么價值？我們努力地去為人工智能賦予“目標(biāo)”和“意識”，為這個宇宙賦予意義，豈不是白忙活？

并非如此。雖然宇宙整體是熵增的趨勢，但是為了熵增，大自然又有產(chǎn)生生命以促進(jìn)更有效的熱力消耗的趨勢。你看，大自然就是這么有趣：一方面它趨向于混亂，一方面又制造一個有組織的生命體，這個生命體通過讓環(huán)境變得混亂來維持自身的秩序和復(fù)雜度。

也就是說，生命的意義就在于折騰，你越折騰，就越是符合宇宙的終極目標(biāo)！

這不是什么雞湯，這個看起來矛盾，但是又非常合理的邏輯已經(jīng)被寫入到了物理學(xué)定律里面。也許就是因為這個基因，生命中也會出現(xiàn)很多看起來非常矛盾的事情和道理，不過沒關(guān)系，這只是因為我們還沒有參透其背后的物理學(xué)規(guī)律而已。

另外，在我們思考人工智能的未來，思考生命的未來的時候，經(jīng)常容易陷入一個“人類中心主義”的思維框架。在這個框架下思考所謂的“有益”和“有害”，其潛在的主體實際上是我們?nèi)祟�。但是，如果把人類只是看作生命形式的一個發(fā)展階段，未來的生命3.0才是生命的終極形式，也許我們就會少一點傲慢，多一點謙卑，在看待未來的時候，也就會多一分理智，而少一分焦慮。

有個說法是：超級人工智能將是人類最后一個發(fā)明，在那之后，所有的發(fā)明就將都是超級智能所為，跟人類沒什么關(guān)系了。我倒是覺得，超級人工智能更像是人類培養(yǎng)的一個孩子，它在我們的呵護(hù)下長大，繼承我們，超越我們，它也許會符合我們一切對“好孩子”的定義，也許會離經(jīng)叛道，不管怎樣，最終它都必將會離開我們，走上屬于它自己的道路�；蛟S，這就是我們生命2.0的最后一個使命吧。

來源：網(wǎng)絡(luò)整理 免責(zé)聲明：本文僅限學(xué)習(xí)分享，如產(chǎn)生版權(quán)問題，請聯(lián)系我們及時刪除。

《《生命3.0》讀后感:意識的未來才是生命的未來》由互聯(lián)網(wǎng)用戶整理提供,轉(zhuǎn)載分享請保留原作者信息,謝謝!
鏈接地址：http://www.taixiivf.com/gongwen/213304.html

• 上一篇：如懿傳觀后感:人性的江湖
• 下一篇：一個小忙觀后感欣賞