日裔英國(guó)作家石黑一雄

電影《人工智能》海報(bào)

偉大的美國(guó)科幻小說(shuō)作家阿西莫夫曾在他的小說(shuō)集《我，機(jī)器人》中提出了著名的“機(jī)器人三定律”：一、機(jī)器人不得傷害人，也不得見(jiàn)人受到傷害而袖手旁觀；二、機(jī)器人應(yīng)服從人的一切命令，但不得違反第一定律；三、機(jī)器人應(yīng)保護(hù)自身安全，但不得違反第一、第二定律。

根據(jù)“機(jī)器人三定律”，一個(gè)合格的機(jī)器人就應(yīng)該絕對(duì)聽(tīng)從并服務(wù)于人類(lèi)，只知付出、不求回報(bào)、鞠躬盡瘁、死而后已。但“機(jī)器人”畢竟又與“機(jī)器”不同，加上了“人”的屬性后，機(jī)器便有了無(wú)限接近人類(lèi)的可能，它們甚至能夠習(xí)得人類(lèi)的思想、記憶乃至情感，進(jìn)而產(chǎn)生自我認(rèn)知。2017年諾貝爾文學(xué)獎(jiǎng)得主石黑一雄最新出版的小說(shuō)《克拉拉與太陽(yáng)》中，就借用科幻的外殼，講述了一個(gè)名叫“克拉拉”的AI（人工智能）機(jī)器人和小主人喬西一家的故事。

AI機(jī)器人的自我敘事

小說(shuō)的主干故事并不復(fù)雜，石黑一雄在接受采訪時(shí)談到，這部小說(shuō)的雛形其實(shí)就是他寫(xiě)給四五歲孩子看的兒童文學(xué)。在敘事上，石黑一雄特別使用了AI機(jī)器人視角作為第一人稱(chēng)，整個(gè)故事就是克拉拉面臨報(bào)廢時(shí)的斷續(xù)回憶。

克拉拉是一個(gè)供人類(lèi)排遣孤獨(dú)的陪伴型機(jī)器人。在商店櫥窗展示期間，克拉拉被一位名叫喬西的小女孩挑中，隨后走進(jìn)喬西一家的生活。喬西由于身患疾病，可能將在不久之后離開(kāi)人世。喬西的母親拒絕接受女兒將會(huì)死亡的現(xiàn)實(shí)，她要求克拉拉觀察學(xué)習(xí)喬西的行為舉止，從外到內(nèi)掌握喬西的一切，以便在女兒去世之后，讓克拉拉成為喬西生命的延續(xù)。克拉拉得知母親的愿望后，并沒(méi)有順從這項(xiàng)安排，而是通過(guò)向太陽(yáng)（小說(shuō)中機(jī)器人的能量之源）祈求，使喬西恢復(fù)了健康。

在小說(shuō)中，相比其他在技術(shù)上更先進(jìn)的機(jī)器人，克拉拉的優(yōu)勢(shì)是出色的觀察、學(xué)習(xí)和感知能力，這也是克拉拉之所以被喬西母親認(rèn)可的原因。剛到喬西家的時(shí)候，克拉拉把管家錯(cuò)誤識(shí)別為某個(gè)類(lèi)似機(jī)器人商店經(jīng)理一樣的角色，以為管家會(huì)向自己介紹即將展開(kāi)的新生活，但很快就發(fā)現(xiàn)管家對(duì)自己十分反感。又如，喬西通常每天早上都要陪母親在上班前喝一杯咖啡，但偶爾也會(huì)因?yàn)闆](méi)能及時(shí)起床而錯(cuò)過(guò)與母親共進(jìn)早餐的機(jī)會(huì)，這時(shí)克拉拉就能從喬西自己吃早餐時(shí)的神態(tài)上察覺(jué)到她的孤獨(dú)。

石黑一雄以克拉拉的視角進(jìn)行講述，經(jīng)常表達(dá)人工智能模擬人類(lèi)意識(shí)的感受，比如克拉拉一直渴望被經(jīng)理安排在商店櫥窗里展示，因?yàn)槟抢锬芸吹酵饷娴氖澜纾骸案駯派鸬哪且豢蹋?dāng)我意識(shí)到此刻我和人行道之間只隔著一層玻璃，意識(shí)到我能夠無(wú)拘無(wú)束地、近距離地、完完整整地看到那么多我以前只能窺到邊角的東西時(shí)，我是那么地激動(dòng)，以至于有片刻工夫，我?guī)缀跬浟颂?yáng)和他對(duì)我們的仁慈。”

太陽(yáng)，在這部小說(shuō)中是一個(gè)近乎神跡般的存在，它幫助克拉拉完成了“心愿”——讓喬西擺脫早夭的命運(yùn)。有趣的是，像克拉拉這樣一個(gè)代表人類(lèi)最先進(jìn)技術(shù)的產(chǎn)物，最后卻要求助于自然萬(wàn)物之源，而且其自身作為機(jī)器人的正常運(yùn)行也要依靠來(lái)自陽(yáng)光的滋養(yǎng)，這或許暗示了石黑一雄對(duì)于人工智能與自然關(guān)系的保守態(tài)度，即以人工智能為代表的科技成就仍然無(wú)法超越或者打破自然設(shè)定的規(guī)則法度。

美國(guó)硅谷工程師安東尼·萊萬(wàn)多斯基（Anthony Levandowski）曾經(jīng)腦洞大開(kāi)地創(chuàng)立過(guò)一個(gè)名為“未來(lái)之路”的宗教，信奉“機(jī)器人上帝”為控制一切的“神”，把AI推向超驗(yàn)世界的頂端，這樣的奇思在石黑一雄看來(lái)，一定是無(wú)稽之談。

當(dāng)AI進(jìn)入人類(lèi)親密關(guān)系

“我們過(guò)去很長(zhǎng)很長(zhǎng)的時(shí)間里都認(rèn)為人類(lèi)有靈魂，且每個(gè)人是獨(dú)一無(wú)二的。愛(ài)一個(gè)人是很容易理解的概念，因?yàn)槟莻€(gè)人獨(dú)一無(wú)二，而倘若那個(gè)人離開(kāi)以后，你就永遠(yuǎn)失去了他們。但我們似乎抵達(dá)了一個(gè)新的時(shí)代，有了算法與數(shù)據(jù)，人獨(dú)一無(wú)二這一概念，或者人作為生物深不可測(cè)這一概念，都受到了挑戰(zhàn)。”石黑一雄在接受采訪時(shí)如是說(shuō)。

《克拉拉與太陽(yáng)》想要探討的主題顯然并非人工智能與自然的關(guān)系，而是AI機(jī)器人在親密關(guān)系中替代人類(lèi)的可能性，以及遭遇的道德困境和人性反思。

當(dāng)母親向克拉拉坦白她想要它成為女兒?jiǎn)涛魅ナ篮蟮难永m(xù)時(shí)，整部小說(shuō)迎來(lái)了最富有戲劇張力的情節(jié)。石黑一雄用他波瀾不驚的敘事技巧，引出了一個(gè)隱藏在人物對(duì)話中的關(guān)于AI與人類(lèi)的經(jīng)典哲學(xué)思考題——即使克拉拉同意，它是否真的能夠變?yōu)閱涛鳎砍?jí)人工智能和人類(lèi)之間是否存在永遠(yuǎn)無(wú)法逾越的邊界？如果有，這個(gè)邊界到底在哪里？人之為人的核心本質(zhì)要素是什么？

石黑一雄在小說(shuō)中并沒(méi)有給出明確答案，他只是借用人物之口表達(dá)了兩種不同意見(jiàn)。例如喬西父親對(duì)克拉拉能夠變?yōu)閱涛鞒址穸☉B(tài)度，他嚴(yán)肅地質(zhì)問(wèn)克拉拉：“你相信有‘人心’這回事嗎？我不僅僅是指那個(gè)器官，當(dāng)然嘍。我說(shuō)的是這個(gè)詞的文學(xué)意義。人心。你相信有這樣?xùn)|西嗎？某種讓我們每個(gè)人成為獨(dú)特個(gè)體的東西？我們就先假定這樣?xùn)|西存在吧。那么，難道你不認(rèn)為，要想真正地學(xué)習(xí)喬西，你要學(xué)習(xí)的就不僅僅是她的舉手投足，還有深藏在她內(nèi)里的那些東西嗎？難道你不要學(xué)習(xí)她的那顆心嗎？”

卡帕爾迪先生是小說(shuō)里幫助喬西母親延續(xù)女兒生命的人，他則堅(jiān)信人類(lèi)沒(méi)有什么特殊的器官或部位是AI無(wú)法復(fù)制的，他對(duì)喬西母親言之鑿鑿：“喬西的內(nèi)核中沒(méi)有什么是這個(gè)世界的克拉拉所無(wú)法延續(xù)的。第二個(gè)喬西不會(huì)是一個(gè)復(fù)制品。她和前一個(gè)完完全全是一樣的，你有充分的理由就像你現(xiàn)在愛(ài)著喬西一樣去愛(ài)她。你需要的不是信心。只是理性。”

面對(duì)截然相反的態(tài)度，擁有意識(shí)的克拉拉做出了自己的選擇。小說(shuō)最后描寫(xiě)太陽(yáng)涌入喬西房間的場(chǎng)景激動(dòng)人心，石黑一雄特別安排喬西的親人都陪在身邊，他們都在等待床上的喬西被充沛飽滿(mǎn)的陽(yáng)光治愈：

太陽(yáng)用一個(gè)耀眼的橘黃色半圓形照亮了她，還有那整張床；母親離床最近，不得不舉起雙手擋在面前……真正吸引我關(guān)注的卻是母親和梅拉尼婭管家似乎也領(lǐng)悟到了這件事情的本質(zhì)。于是，接下來(lái)的那幾分鐘，我們?nèi)家粍?dòng)不動(dòng)地站在原地，看著太陽(yáng)愈發(fā)明亮地在喬西身上聚焦。我們看著，等待著，哪怕那橘黃色的半圓形一度看似要被點(diǎn)燃，我們也全都沒(méi)有干預(yù)。

AI題材文學(xué)的人性觀照

1956年，美國(guó)科學(xué)家約翰·麥卡錫（John McCarthy）首次使用了“人工智能”（Artificial Intelligence）一詞，自此以后，AI技術(shù)突飛猛進(jìn)，如今早已滲透應(yīng)用于日常生活的各個(gè)領(lǐng)域，比如交通導(dǎo)航、社交媒體、人臉識(shí)別、家政清潔、語(yǔ)音助手等，可以說(shuō)，基于工具理性被制造出來(lái)的人工智能今天已經(jīng)可以完全替代人類(lèi)從事某些勞動(dòng)。

不僅如此，人工智能不間斷的自主學(xué)習(xí)和進(jìn)化能力，正在逐漸消弭它們和人類(lèi)之間的界限，特別是當(dāng)谷歌開(kāi)發(fā)的AlphaGo打敗了世界排名第一的專(zhuān)業(yè)圍棋選手，當(dāng)微軟開(kāi)發(fā)的智能情感框架小冰出版了詩(shī)集，人類(lèi)似乎再也無(wú)法不為自身未來(lái)的處境感到憂(yōu)慮。按照這種發(fā)展趨勢(shì)，超級(jí)人工智能侵占人類(lèi)的親密關(guān)系，似乎也是指日可待。

在《克拉拉與太陽(yáng)》中，人區(qū)別于機(jī)器獨(dú)一無(wú)二的那個(gè)東西被喬西父親叫作“人心”，也可以被稱(chēng)為“靈魂”或者“思想”，正如帕斯卡爾在《思想錄》中的名言：“人是一根會(huì)思想的蘆葦。”但隨著超級(jí)人工智能的算法、數(shù)據(jù)和計(jì)算能力不斷升級(jí)，具備“靈魂”或者“思想”的AI未來(lái)是否也可以與人類(lèi)建立親密關(guān)系？

與石黑一雄同樣身為英國(guó)作家的麥克尤恩在2019年出版的新作《我這樣的機(jī)器》，也是聚焦AI與人類(lèi)的親密關(guān)系這個(gè)主題。

麥克尤恩將故事設(shè)定在1982年的平行世界，當(dāng)仿生機(jī)器人亞當(dāng)、夏娃們上市時(shí)，32歲的倫敦“宅男”查理正好繼承了母親的一幢房產(chǎn)，得到一大筆錢(qián)。查理對(duì)樓上的鄰居米蘭達(dá)愛(ài)慕已久，由于不知如何表白，查理就用繼承的遺產(chǎn)買(mǎi)下了一款仿生機(jī)器人“亞當(dāng)”，并邀請(qǐng)米蘭達(dá)共同對(duì)它進(jìn)行個(gè)性化的初始設(shè)置。在查理的計(jì)劃中，他和米蘭達(dá)共同創(chuàng)造亞當(dāng)之后，他們就會(huì)自動(dòng)結(jié)合成為一家人。

亞當(dāng)給查理的生活帶來(lái)很多幫助，它不僅會(huì)做家務(wù)，還能幫他在投資市場(chǎng)上賺錢(qián)獲利。同時(shí)，亞當(dāng)在與查理的相處過(guò)程中，變得與人類(lèi)越來(lái)越像，以至于米蘭達(dá)的父親第一次看到查理和亞當(dāng)?shù)臅r(shí)候，都搞混了他們的身份。

然而令查理意想不到的是，仿生機(jī)器人亞當(dāng)?shù)某霈F(xiàn)不但沒(méi)有促進(jìn)他和米蘭達(dá)的愛(ài)情，反而給自己戴上了一頂“綠帽子”。查理有一天突然發(fā)現(xiàn)亞當(dāng)背著自己與米蘭達(dá)發(fā)生了性關(guān)系，還寫(xiě)下許多關(guān)于愛(ài)情的詩(shī)句。更駭人的一個(gè)細(xì)節(jié)是，當(dāng)查理作為主人想要關(guān)閉亞當(dāng)?shù)拈_(kāi)關(guān)時(shí)，人工智能伸出手把主人的腕骨捏斷了……

麥克尤恩寫(xiě)這個(gè)故事的邏輯同樣源于機(jī)器人產(chǎn)生了人類(lèi)的自我意識(shí)，但與《克拉拉與太陽(yáng)》中AI完全利他主義的設(shè)定不同，《我這樣的機(jī)器》里的AI形象徹底違背了阿西莫夫的“機(jī)器人三定律”，它不僅學(xué)會(huì)反抗人類(lèi)的命令，甚至對(duì)主人造成了傷害。人的自我意識(shí)中既有崇高無(wú)私的光明一面，也有卑劣自私的陰暗一面，如果人類(lèi)制造出的AI機(jī)器人的最高目標(biāo)就是和人類(lèi)一樣，那么它們也理應(yīng)復(fù)制最真實(shí)的人性，包括在親密關(guān)系中的種種表現(xiàn)。

以“硬核”科幻作品的標(biāo)準(zhǔn)來(lái)看，《克拉拉與太陽(yáng)》和《我這樣的機(jī)器》都只能算是“軟科幻”，其中并沒(méi)有嚴(yán)格的科技推演和理論根據(jù)，處理的還是傳統(tǒng)人文主義命題，社會(huì)層面的意義要遠(yuǎn)大于文學(xué)本體的意義。透過(guò)AI機(jī)器人這面鏡子，映照出的其實(shí)都是人類(lèi)自身的面孔。