最近， 劉慈欣在直播時(shí)透露，自己實(shí)在沒(méi)時(shí)間，所以參加科幻大會(huì)時(shí)用 ChatGPT 寫(xiě)了一兩篇發(fā)言稿。
劉慈欣表示，ChatGPT 寫(xiě)得也還挺不錯(cuò)的。
此前劉慈欣發(fā)表了一篇題為《科幻文學(xué)中的可持續(xù)未來(lái)》的演講，用科幻的視角解讀了一個(gè)截然不同的人類(lèi)未來(lái)。
何為科幻視角？從距地球 60 億公里的太空之上，回望這顆比塵埃還小，卻又承載了和我們有關(guān)的一切的星球，即為科幻視角。
在演講結(jié)束后，劉慈欣談到了以 ChatGPT 為代表的人工智能可能會(huì)給人們帶來(lái)的影響。
2015 年，劉慈欣曾在一次采訪中引用了霍金的觀點(diǎn)，霍金曾預(yù)言「人工智能比核彈還危險(xiǎn)，人類(lèi)馬上就要被人工智能控制」，當(dāng)時(shí)的他認(rèn)為這個(gè)說(shuō)法有點(diǎn)危言聳聽(tīng)。
而現(xiàn)在，他認(rèn)為我們是時(shí)候?qū)ξ磥?lái)有所警覺(jué)。
劃重點(diǎn)
1. 人工智能會(huì)首先取代高智能的職業(yè)，這與我們的預(yù)測(cè)相反
2. 人工智能可以自我迭代出更高智能的版本，但我們的算力限制它的發(fā)展
3. 人工智能或許會(huì)讓人類(lèi)陷入舒適的陷阱之中
Q：現(xiàn)在 ChatGPT 橫空出世，被人們熱烈地討論，您覺(jué)得人工智能的發(fā)展對(duì)人類(lèi)的命運(yùn)會(huì)產(chǎn)生一個(gè)什么樣的影響？那自我迭代的人工智能有沒(méi)有可能會(huì)取代或者說(shuō)消滅人類(lèi)？
我覺(jué)得這（人工智能的影響）應(yīng)該從這個(gè)現(xiàn)實(shí)或近未來(lái)和比較遠(yuǎn)的未來(lái)這兩點(diǎn)來(lái)看待。
從我們近未來(lái)或甚至從我們現(xiàn)實(shí)來(lái)看，人工智能它對(duì)我們社會(huì)世界的影響我相信大家已經(jīng)都看到了，它現(xiàn)在已經(jīng)產(chǎn)生一個(gè)很明顯的趨勢(shì)：（人工智能）有可能在代替我們?nèi)巳氖潞芏嗟墓ぷ鳌?/P>
這個(gè)應(yīng)該說(shuō)是一個(gè)正面的趨勢(shì)，這種趨勢(shì)它可以提高我們的生活質(zhì)量、提升人類(lèi)的幸福感，讓我們的生活在科技的加持之下可能變得更加舒適。
但是另一方面我們也不能不正視，人工智能的發(fā)展給人類(lèi)社會(huì)帶來(lái)的沖擊。
首先，最明顯的一點(diǎn)是人工智能可能會(huì)代替相當(dāng)多的「人的工作」，而且這個(gè)趨勢(shì)與我們以前的預(yù)測(cè)正好相反。
以前我們預(yù)測(cè)認(rèn)為人工智能首先代替的是那些簡(jiǎn)單勞動(dòng)、重復(fù)勞動(dòng)的那樣的工作，但是現(xiàn)在看來(lái)正好相反，人工智能可能首先代替的是那些需要高智能的、很高的教育程度的那樣的工作，比如像醫(yī)生、教師、股票經(jīng)紀(jì)人等等這些工作可能是被首先代替的。這其中可能也包括我們作家也可能首先被代替的。
所以說(shuō)人工智能對(duì)于人類(lèi)的整個(gè)世界的發(fā)展來(lái)，它的影響很深遠(yuǎn)。我們?cè)偻鶎哟卧俑咭恍┑脑挘斯ぶ悄芸赡軙?huì)對(duì)我們世界中相當(dāng)多的比較基礎(chǔ)的東西可能會(huì)產(chǎn)生重大的影響。
比如它會(huì)對(duì)文化藝術(shù)、文學(xué)，對(duì)這個(gè)人的創(chuàng)造力，對(duì)人的對(duì)世界的認(rèn)識(shí)等等可能都會(huì)產(chǎn)生重大的影響，甚至可能讓這一些東西都會(huì)被重新定義。
當(dāng)這個(gè)人工智能現(xiàn)在已經(jīng)開(kāi)始介入到我們的科學(xué)研究之中，介入到我們對(duì)整個(gè)世界規(guī)律、對(duì)自然規(guī)律的認(rèn)識(shí)之中，介入到對(duì)人類(lèi)發(fā)展規(guī)律的認(rèn)識(shí)之中，它可能產(chǎn)生的影響十分的深遠(yuǎn)。
當(dāng)初人工智能在圍棋領(lǐng)域戰(zhàn)勝很多優(yōu)秀的圍棋選手的時(shí)候，有一位我們國(guó)內(nèi)最出色的圍棋選手說(shuō)了一句話，讓我印象很深刻。
他說(shuō)中國(guó)的圍棋博大精深，有兩三千年的歷史，積累了深厚的這個(gè)理論和經(jīng)驗(yàn)，甚至圍棋本身成為一種文化，具有了很深的禪意，但是就在這一夜之間，我們發(fā)現(xiàn)它的一切全是錯(cuò)的。
這一個(gè)說(shuō)法確實(shí)很令人震驚，這件事情會(huì)不會(huì)發(fā)生在別的領(lǐng)域我們不知道，如果廣泛發(fā)生的話，那么人工智能對(duì)人類(lèi)文化文明最深層的影響我們是不可忽視的。
下面我回答您的第二個(gè)問(wèn)題，就是說(shuō)人工智能是否會(huì)把這個(gè)會(huì)消滅人類(lèi)，這也應(yīng)該分兩個(gè)層次來(lái)回答。
第一個(gè)層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類(lèi)或是統(tǒng)治世界。
這一點(diǎn)從目前的這個(gè)技術(shù)發(fā)展趨勢(shì)來(lái)看，特別是從目前的技術(shù)水平來(lái)看，在可以看到的未來(lái)可能性不是太大。
當(dāng)然您剛才提到一個(gè)很有意思的概念叫迭代。人工智能的迭代，這是目前人工智能最可能出現(xiàn)危險(xiǎn)的一個(gè)行為。
這個(gè)行為是什么呢？就是說(shuō)當(dāng)人工智能按我們現(xiàn)在的發(fā)展，它比人類(lèi)的智能稍稍高一些的話，它自己也會(huì)像人類(lèi)一樣去創(chuàng)造新的人工智能，它創(chuàng)造出來(lái)的這個(gè)新人工智能可能比它的智能也稍微高一點(diǎn)，那么它又會(huì)接著迭代下一代，這樣的話他們就會(huì)很快的把這些人工智能的智能水平提高到很高。
可能迭代下去，會(huì)提高到人類(lèi)（智能）的幾百倍甚至上萬(wàn)倍。
而它而由于它的這個(gè)計(jì)算機(jī)的計(jì)算時(shí)間比這個(gè)人腦人的大腦要快成千上萬(wàn)倍，那么這個(gè)迭代的時(shí)間可能十分的短，據(jù)推測(cè)可能只有半個(gè)小時(shí)到一個(gè)小時(shí)。
就說(shuō)我們把人工智能發(fā)展到現(xiàn)在用了一個(gè)世紀(jì)的時(shí)間，而人工智能百倍于現(xiàn)在的這個(gè)程度，可能只用半個(gè)小時(shí)到一個(gè)小時(shí)，這是很可怕的一件事。
但是做出這個(gè)預(yù)測(cè)的人忘了一點(diǎn)，就是我們?nèi)祟?lèi)的計(jì)算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。
所以這就是一個(gè)有很諷刺意義的一件事情：我們?nèi)祟?lèi)的無(wú)能反而成為我們一個(gè)最后的屏障。所以您說(shuō)的這這種毀滅不太可能。
那么第二種消滅則是一種我們想不到的一種方式，就是說(shuō)第一種消滅人類(lèi)是完全違背人類(lèi)意愿的，而第二種對(duì)人類(lèi)的消滅可能完全符合我們的意義。
比如說(shuō)人工智能的發(fā)展，我剛才說(shuō)過(guò)它可能會(huì)代替我們的這個(gè)大量的工作，而我們的社會(huì)如果適應(yīng)了與人工智能的這種共存，我們發(fā)展出一種新的這種分配制度，那么我們就可能帶來(lái)一個(gè)十分舒適的那種社會(huì)環(huán)境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來(lái)進(jìn)行。
在這種情況下，我們會(huì)越來(lái)越多地交出自己對(duì)社會(huì)運(yùn)作的操作這種權(quán)利給到人工智能。
而生活會(huì)變得越來(lái)越舒適，那么這個(gè)樣子下去的話，我們可能面臨著人類(lèi)歷史上前所未有的一個(gè)巨大的陷阱。
就是說(shuō)在這個(gè)科技的這種安樂(lè)窩里面，那么人類(lèi)文明的活力在哪里？我們的開(kāi)拓精神在哪里？如果這樣一直發(fā)展下去的話，那可能人類(lèi)最后的命運(yùn)就是您說(shuō)的被人工智能所消滅，但這個(gè)消滅的過(guò)程完全是在我們的意愿之內(nèi)，而人工智能至始至終它沒(méi)有任何惡意，它只是照著人類(lèi)的指示去行駛。
而這樣的如果真的發(fā)生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計(jì)算能力遠(yuǎn)遠(yuǎn)小于我們前面那個(gè)真正的字面意義上的那種消滅。所以這確實(shí)是我們應(yīng)該對(duì)未來(lái)有所警覺(jué)的一件事情。
劉慈欣演講全文整理
大家好，我們今天要談?wù)摰脑掝}是科幻文學(xué)中的可持續(xù)未來(lái)。
作為一種基于想象力的文學(xué)形式，科幻小說(shuō)并不能夠?qū)ξ磥?lái)作出科學(xué)的預(yù)測(cè)，它只是描述未來(lái)的各種可能性，同時(shí)它也提供了一個(gè)看世界和看未來(lái)的獨(dú)特視角，這個(gè)視角與我們從現(xiàn)實(shí)看世界看未來(lái)的視角可能有很大的不同。
科幻的視角是什么？大家可能都知道一張叫《暗淡藍(lán)點(diǎn)》的照片，我本來(lái)想把那個(gè)照片拿來(lái)的，但我覺(jué)得好像大家應(yīng)該都看過(guò)那張照片，就沒(méi)有把它拿來(lái)放出來(lái)。
這可能是人類(lèi)歷史上最重要也是最著名的照片之一，他是上個(gè)世紀(jì) 70 年代發(fā)射的旅行者 1 號(hào)宇宙探測(cè)器，在 90 年代初在距地球 60 億公里的太空中拍攝的。
初看上去整張照片它都是黑色的，很仔細(xì)看才能發(fā)現(xiàn)這一片黑色中有一個(gè)小小的亮點(diǎn)。它十分的小，就是僅有這張照片的 0.12 個(gè)像素那么大。如果不加以指示，你說(shuō)觀看者是很難發(fā)現(xiàn)這個(gè)白點(diǎn)的。
有人形容它是太空中的一粒塵埃，其實(shí)是把它說(shuō)的大了。按照比例計(jì)算，這個(gè)暗淡的小點(diǎn)放在宇宙中，它比地球大氣層中的一粒塵埃還要小很多個(gè)數(shù)量級(jí)，要小得多。這個(gè)亮點(diǎn)就是地球，人類(lèi)世界的全部，和我們有關(guān)的一切，所有活著和曾經(jīng)活過(guò)的人，所有曾經(jīng)有過(guò)和正在進(jìn)行歷史和生活，都在這里塵埃上面，這就是科幻的視角。
對(duì)于人類(lèi)的發(fā)展和未來(lái)，這個(gè)視角與我們傳統(tǒng)的視角是有很大差異的。從這個(gè)視角去看，我們對(duì)人類(lèi)社會(huì)的可持續(xù)發(fā)展會(huì)有一些新的感悟。
首先，目前可持續(xù)發(fā)展所依賴(lài)的基礎(chǔ)環(huán)境保護(hù)，阻止全球氣候變化、對(duì)資源開(kāi)采的節(jié)約和節(jié)制、基于環(huán)保的綠色生活方式等等，其重要性是無(wú)需質(zhì)疑的。在可以想見(jiàn)的未來(lái)，堅(jiān)守并貫徹以上的理念是人類(lèi)文明得以延續(xù)的基本保證。
但是從科幻的視角看，從 60 億公里外，看一看那個(gè)暗淡的藍(lán)點(diǎn)，我們就真切地感受到，人類(lèi)世界在宇宙中是多么的渺小。
對(duì)于文明的發(fā)展，這樣一個(gè)小世界存在著天然的脆弱和不確定性。這些脆弱和不確定性極大地影響著人類(lèi)可持續(xù)的未來(lái)。對(duì)發(fā)展的威脅，它很可能來(lái)自發(fā)展自身。世界正走在現(xiàn)代化的進(jìn)程中。盡管近年來(lái)遇到了包括疫情、局部戰(zhàn)爭(zhēng)、國(guó)際社會(huì)分裂和對(duì)抗加劇這些挫折，但從長(zhǎng)遠(yuǎn)的大趨勢(shì)來(lái)看，現(xiàn)代化的進(jìn)程不可遏制。
現(xiàn)有的不發(fā)達(dá)國(guó)家和地區(qū)全面達(dá)到西方的發(fā)展程度和生活水平并非遙不可及的事，而如果全世界都進(jìn)入這樣的發(fā)展?fàn)顟B(tài)，我們粗略估算一下，人類(lèi)將需要 4 個(gè)半地球的資源。所以，要實(shí)現(xiàn)人類(lèi)真正的可持續(xù)發(fā)展，我們必須找到另外 3 個(gè)半地球。
另外也是更重要的就是未來(lái)的不確定性還來(lái)自地球自然界本身。地球生態(tài)系統(tǒng)是一個(gè)極其復(fù)雜的系統(tǒng)，處于不斷的波動(dòng)之中。
例如在漫長(zhǎng)的地球歷史中，在地球的地質(zhì)紀(jì)年中，大氣溫度上升或下降幾度，從這個(gè)地質(zhì)紀(jì)年的尺度來(lái)看那是一件很平常的事。但是對(duì)于現(xiàn)代人類(lèi)社會(huì)來(lái)說(shuō)，卻可能是滅頂之災(zāi)。
地球平均氣溫上升幾度，就會(huì)因冰川融化導(dǎo)致海平面全面上升至使沿海地區(qū)、沿海經(jīng)濟(jì)區(qū)被淹沒(méi)，大量人口向內(nèi)地遷移，進(jìn)而造成世界經(jīng)濟(jì)的混亂和崩潰。
而地球平均溫度下降幾度將導(dǎo)致全球農(nóng)業(yè)體系的崩潰，是世界處于大饑荒之中。就在現(xiàn)在人們擔(dān)憂(yōu)過(guò)量的碳排放導(dǎo)致氣溫上升時(shí)，卻很少有人注意到地球的下一個(gè)小冰期可能正在到來(lái)。在地球這樣一粒宇宙塵埃上，生態(tài)圈的長(zhǎng)期的穩(wěn)定，它只是一種幻覺(jué)而已。
為了應(yīng)對(duì)未來(lái)的種種不確定性，人類(lèi)社會(huì)將在政治、經(jīng)濟(jì)和文化等方面作出不斷的努力。但這也是從我一個(gè)科幻作家的這個(gè)角度來(lái)看，我們最終所能依賴(lài)的力量還是來(lái)自于科技的進(jìn)步。
首先，在地球的生態(tài)空間之內(nèi)，技術(shù)的進(jìn)步可以開(kāi)發(fā)出全新的資源。在歷史上，煤炭、石油和核能取代了木材，合成材料取代了棉花和皮革。在未來(lái)，科技的進(jìn)步能夠帶來(lái)更加高效和環(huán)保的能源，能夠從之前從未利用過(guò)的自然資源中產(chǎn)生出新的材料，能夠培育出適應(yīng)各種氣候的高產(chǎn)農(nóng)作物。
無(wú)論是在未來(lái)變化的地球環(huán)境中生存下去，還是努力阻止地球環(huán)境發(fā)生變化，都要借助科技的力量。如果從地球向外看，我們就看到了一條更為廣闊的發(fā)展之路。太陽(yáng)系中有著巨量的資源，在八大行星上，在小行星帶中，人類(lèi)生存和發(fā)展所需要的資源，從水到金屬，從有機(jī)物到核聚變材料到核聚變?nèi)剂蠎?yīng)有盡有。
我們能夠從太陽(yáng)系的太空中找到的遠(yuǎn)不止 3 個(gè)半地球，按照地球最終可以養(yǎng)活 1000 億人口計(jì)算，那么太陽(yáng)系中的資源總量可以養(yǎng)活 10 萬(wàn)個(gè)地球的人口，一個(gè)人只有走出搖籃才能實(shí)現(xiàn)可持續(xù)的成長(zhǎng)，而人類(lèi)文明作為一個(gè)整體，要想擁有真正的可持續(xù)的未來(lái)，也必須走出地球這個(gè)搖籃。
否則的話，人類(lèi)的未來(lái)就有可能像阿瑟克拉克在科幻小說(shuō)《2001 太空奧德賽》中描述的那樣，在一片豐饒之中他們慢慢餓死。
這兩個(gè)方向的可持續(xù)發(fā)展都是以科學(xué)技術(shù)的不斷進(jìn)步為基礎(chǔ)的，在這方面人們面對(duì)的現(xiàn)實(shí)并不是很樂(lè)觀的。我們現(xiàn)在所處的這個(gè)年份就是 2023 年，曾經(jīng)無(wú)數(shù)次在科幻小說(shuō)中出現(xiàn)。
對(duì)比一下以往的科幻小說(shuō)中的 21 世紀(jì) 20 年代和我們現(xiàn)在已經(jīng)變?yōu)楝F(xiàn)實(shí)的 2023 年，我們能有的也只是一聲嘆息。
在科幻小說(shuō)中的 2023 年，地球的同步軌道上運(yùn)行著宏偉的太空城，月球像地球的近鄰近郊一樣繁榮，在火星上已經(jīng)建成多處人類(lèi)知名城市，生活著數(shù)以百萬(wàn)的人，在小行星帶進(jìn)行著大規(guī)模的礦業(yè)開(kāi)發(fā)。在木衛(wèi)一的冰封海洋上，在海王星的軌道之外，都有人類(lèi)開(kāi)拓新世界的身影。太空航行已經(jīng)普遍使用核動(dòng)力飛船，擁有著現(xiàn)在的化學(xué)動(dòng)力飛船所不可比擬的運(yùn)載和續(xù)航能力。
在那個(gè) 2023 年，也就是在科幻小說(shuō)中的 2023 年，他們所展望的 2023 年， 10 萬(wàn)個(gè)地球正在誕生之中。談到可持續(xù)的未來(lái)，這應(yīng)該是一幅符合邏輯的圖景，但在現(xiàn)實(shí)的 2023 年中，我們確實(shí)還看不到這幅圖景的影子。
在現(xiàn)實(shí)的 2023 年，唯一與科幻小說(shuō)中對(duì)這個(gè)年份的想象相近的是信息技術(shù)的發(fā)展。在過(guò)去的 30 年，信息技術(shù)以遠(yuǎn)超其他技術(shù)的速度越近，信息網(wǎng)絡(luò)已經(jīng)滲透到人類(lèi)社會(huì)的方方面面，全面而深刻地改變著我們的生活。
特別是近來(lái)人工智能開(kāi)始有了取得突破的跡象，也引起了廣泛的關(guān)注�？苹眯≌f(shuō)中無(wú)數(shù)次描述過(guò)的 21 世紀(jì)強(qiáng)人工智能，它已經(jīng)現(xiàn)出端倪。
但正是信息技術(shù)的快速發(fā)展，掩蓋了其他科技領(lǐng)域進(jìn)步的緩慢，造成了科技全面飛速進(jìn)步的一個(gè)假象。 如果把科學(xué)發(fā)展產(chǎn)生的技術(shù)進(jìn)步看成是一棵大樹(shù)的話，那么在今天，這棵樹(shù)上最容易夠得到的果實(shí)都已經(jīng)被摘光。
科技進(jìn)一步的發(fā)展和突破需要巨大的投入和長(zhǎng)遠(yuǎn)的規(guī)劃，而這一點(diǎn)在目前對(duì)可持續(xù)發(fā)展所持的理念上似乎并沒(méi)有被放到最重要的位置。
目前世界各國(guó)對(duì)于基礎(chǔ)科學(xué)研究和航天探索的資金的投入，只有對(duì)環(huán)境保護(hù)事業(yè)投入的 1/ 10 �，F(xiàn)在對(duì)可持續(xù)發(fā)展的規(guī)劃是建立在環(huán)境保護(hù)、節(jié)約資源和建立綠色生活的基礎(chǔ)上。但要得到一個(gè)長(zhǎng)遠(yuǎn)的、真正可持續(xù)的未來(lái)，我們還需要更多的開(kāi)拓精神和進(jìn)取精神。
國(guó)際社會(huì)需要更長(zhǎng)遠(yuǎn)的發(fā)展規(guī)劃，需要對(duì)基礎(chǔ)研究和技術(shù)創(chuàng)新全力關(guān)注和投入。在這方面的很多事業(yè)可能只有大范圍的國(guó)際合作才能完成，聯(lián)合國(guó)無(wú)疑能夠在這方面發(fā)揮重要的作用。
科幻小說(shuō)描述了未來(lái)的多種可能性，用想象力構(gòu)建了無(wú)數(shù)個(gè)未來(lái)世界。他們色彩各異，形態(tài)萬(wàn)千，但都有一個(gè)共同點(diǎn)，那里的科學(xué)技術(shù)已經(jīng)發(fā)展到了很高的水平，借助于科技的力量，人類(lèi)能夠?yàn)樽约洪_(kāi)拓更加廣闊的生存空間。這無(wú)數(shù)個(gè)想象世界中的一個(gè)將變?yōu)楝F(xiàn)實(shí)，成為我們的未來(lái)。
也許在那樣的世界中，人類(lèi)仍然會(huì)面臨來(lái)自社會(huì)發(fā)展和大自然的更多的挑戰(zhàn)，我們也必須接受未來(lái)的挑戰(zhàn)，用發(fā)展來(lái)解決發(fā)展遇到的問(wèn)題。最后，對(duì)于人類(lèi)可持續(xù)的未來(lái)，引用科幻作家喬治威爾斯的一句話：
要么遍布宇宙，要么徹底滅亡。
謝謝大家，我的講話完了。
