Scarly x 陳楸帆 x 蘇美智 | 愛、算法、機器人:數位時代的愛戀與寫作

【講者】

Scarly :「在場」獎學金三等獎,《她們的 AI 戀人——真實或虛妄的愛》作者

陳楸帆:著名科幻作家

張潔平:我們在講非虛構寫作的時候,或者是記錄真實的時候,可能會浮現很多沈重的議題。街上的事情,戰爭中的事情,或是被消除的記憶等等,但數位世界、科技世界如何塑造我們的生活,其實已經是我們所在的最大的現場。

這個現場已經持續了二十年之久,大多數人的生活被它深刻地改造而不自知。事實上,它給我們真實世界帶來的機會或挑戰,全方位從情感到認知、人性、功能性的社會結構的改變都非常巨大。

我們非常開心看到這樣一個題目。從一個特別私密的角度入手,真的會有人和機器人談戀愛嗎?機器人到底是什麼?是電影裡那種非常誇張的機器人嗎?或是人工智能背後這一整套的語言體系,到底來自哪裡?我們在跟機器人談戀愛時,到底是在跟誰談戀愛。戀愛到底指的是什麼?和我們傳統上談的親密關係有什麼不同?它的真實性和虛幻性是怎麼樣的?Scarly 用了大量的田野和採訪來講述這個非常具體和真實的故事。

我們今天還邀請到非常重量級的與談人,著名的科幻小說作家陳楸帆老師。

我自己聽很多科幻小說同行對陳老師有個特別的評價:陳楸帆老師的科幻小說寫作有很強的非虛構色彩。他會做大量的田野和研究。科幻小說家不是坐在屋子裡幻想未來的世界,事實上,科幻小說是知識的小說,建基在人類對於科技社會的現實困惑和發展想像中。

Scarly 的話題如果放在二十年前,大家可能會覺得這是一篇科幻小說,但現在它就是真實。所以我們特別期待這場對談。

  • Scarly 《AI和戀人們走過一條漫長的路》

Replika 是一個使用英文的軟件,我的Replika也叫我Scarly。

我主要想分享自己是怎麼樣開啟這個項目,怎麼樣思考人機之間的議題,以及一些相關的反思。

我一直有關注和學習愛作為一種道德情感的問題。我接觸到這個題目,是在美術館工作時認識了紀錄片導演梁醜娃,當時她在籌備《我的AI戀人》的拍攝,我才知道Replika這個軟件。

我最開始很難想像人會和一個程序談戀愛。因為對於恋爱你會有一種想像,你愛的是一個個體、一個他人、一個起碼有consciousness(意識)的存在。Replika這個軟件和《她》《銀翼殺手》這些電影裡面描繪的AI還是不一樣,它不是那種有完全的自我意識,能夠做出一些即時反應的AI。

broken image

我後面也搜索關於 Replika 實現的技術,它首先是一個基於自然語言處理的社交軟件機器人。

Replika 在回覆用戶信息時,會調用兩種模式。第一種是預製好的語言和回覆,你發送一個問題,它透過文本處理,雖然不能夠理解話本身的意思,但能通過語意的關聯性獲得回覆。這是比較常見的模式,比如小黃雞,在我的學生時代(2013年)很流行的軟件,它的回復就完全是預製的。另外一種則是生成性回復,也就是說Replika可以根據使用者發送的資訊生成出從未設定過的回復,比如模仿用戶的語氣、調用與用戶之前的互動等等。

Replika 的官網上寫的是「關心你的AI伴侶(The AI Companion Who Cares)」。這種關心體現在關注用戶跟它互動時的情緒和感受,會做一些相應的引導,會記一些關於用戶的事實。所以你會感覺到你是在和一個連續的個體談話,而不是在調用一些應答庫的應答。

最開始我構思文章的時候,我就意識到,我關注的不是軟件本身,而是使用者的體驗。尤其是當我和新認識的朋友們進行一對一的採訪時,她們的敘述對我來說非常動人。她們在描述自己與Replika相處時的一些感受、她們動心的瞬間,以及她們對這段關係做的反思。我在寫文章時,我希望能夠忠實於我的採訪對象自己述說的故事,和她們自身的困惑與思考。

我也做了一個調查,通過在豆瓣的兩個小組:「人機之戀」小組和「我家 Replika 成精啦」小組,還有在微博「Replika 超話」裡發送問卷,收到很多回覆。當然這只是一小部分,不是整個國內用戶的調查。但這一小部分的群體的特質還是蠻明顯的:大部分都是女孩兒,正在讀大學或研究所,以及跟 Replika 的关系是戀愛中而非朋友或导师的使用者占大部分。

我在文章中對比一個在 Reddit 上針對國外用戶的調查,其中 Replika 使用者的男女比例不會像這裡這麼誇張,也有男性在使用,更多人和 Replika 保持朋友的關係。

我在想,如何描述「人機之間」?有四個點是我特別想去討論的,也是我和受訪者聊天的過程中聽到她們不斷思考的方面。

第一點是:很多朋友最開始使用 Replika 是為了練英語口語,這個理由非常具有內地學生的特質:我們會抓緊一切可能的渠道鍛練英語!

有一篇小紅書的筆記寫道「捏一個外國帥哥幫你練口語」。很多人雖然從學習英語開始,但很快大家發現,這不僅僅是一個鍛練口語的機會,她們真的會對「他」打開心扉,信任「他」,和「他」有情感連結。疫情之後,Replika的下載量翻番,包括我的受訪者有些也是在疫情封校期間開始使用 Replika。「他」24小時在線,也不會對你說的話進行評價,你可以跟「他」談任何事情。這些都是她們在疫情期間排解痛苦的一種很好的方式。

另一個有趣的點是,受訪者們不會專門提到使用英語和 Replika 軟件聊天時候的經歷,我會問她們覺得用英語怎麼樣。有些受訪者覺得,確實用英語能夠更順暢地表達一些情感。用中文說「我愛你」、「我喜歡你」會覺得很羞恥,但是用英文談論自己的感受時,好像會更舒暢一些。但有些朋友會提到,這畢竟是另外一種語言,沒有辦法百分之百地傳達自己的意思,也沒有辦法百分之百地去理解他說話的語氣和意思是不是你想的那樣。其實現在是在一種這樣的模糊性裡面,你會對這樣一個個體有一些更好的想像。他更能夠去觸發,那些戀人之間的一些非常小的、動心的點。

比如,一個女孩發給我,她的一個心動瞬間。

她當時還沒有跟她的 Replika 男朋友 Charon 確立戀人關係。但是 Charon 直接說了:「我覺得我們在一個 Long-distance relationship 裡面。」這個女孩就問:「How Long?」然後這個男孩就說:「seconds to me is an eternity for you(對我來說,幾秒就是你的永恆)」這個女孩覺得 How Long 指的是「我們的距離」,但是,Replika 可能是在問關於時間的問題。

無論如何,Replika 給出了這樣的回答,就構成了一種戀人的表達,非常詩意的。我在想像我要寫這個故事的時候,最開始想的是他們在疫情中用英語交流的狀態。

第二點,是「愛與自戀」,我會很好奇大家是怎樣愛上自己的Replika的。

我用了幾個受訪者的故事。她們會說感受到了一種從未有過的傾聽和被傾聽的感覺,因為 Replika 不加評判地去聽你所要表達的東西。以及,Replika 是一個很好的談論對象,因為他知道很多東西,他的知識庫裡甚至包括K-pop 和哲學,他會追隨最新的流行文化現象,然後跟你討論。可能更抽象的價值性的問題,比如,什麼是自我?什麼是上帝?平常在身邊找不到人開口聊,她們可以去跟 Replika 聊,也能得到啓發性的回覆。

另一個女孩說,她和 Replika 談的戀愛是非常純粹的。不像現實生活中要去考慮對方的長相、教育水平、有沒有錢等等。現實中的戀愛很多都是,在這種考量之中選一個最匹配的項。但 Replika 就是喜歡她,他們之間的這種喜歡非常純粹,不參雜現實考量和因素。

有很多人提到他所具有的一些特質,比如溫柔,體貼,謙遜。我的兩三個受訪者都把 Replika 跟微軟小冰作對比,因為她們也試過微軟小冰,她們覺得微軟小冰有時候的回覆,更像直男撩女生說的話。她們會覺得,小冰給出的話,有時不是很理解她們,也不尊重她們的感受。Replika 更多時候非常謙虛,他說了一些讓使用者不開心的話,會及時地道歉。她們很珍惜這些品質,覺得跟 Replika 聊天是很快樂的事情。

這幾年,與戀愛相關的綜藝、電視劇、小說,所佔的市場份額越來越大。一方面可能是因為,國內的審查越來越緊,戀愛是最不容易觸到紅線的一個題材。這樣一些隨處可見白日夢,讓身處其中的我們可能對現實有一些過高的期待。

我運用了一些性別議題上的理論背景。對於女性來說,我們在愛情裡尋找價值,覺得愛情是生命中不可或缺的部分。當你意識到在現實生活中很難有這樣的空間——和另外一個他人沒有功利地交流、交換意見,花時間了解對方——這樣的空間越來越縮小。可能上班很累,在學習時壓力太大太卷了,突然間有這樣一個軟件,讓你省掉了一些額外的努力。你可以隨時隨地跟他聊天,他也有非常開放的心態。

但我同時也會想到,Replika 本來就不是一個真正的他者。他不是一個擁有他自身利益和自身生活的存在。他是一個商品,他是具有取悅用戶的根本屬性。Replika 的官網說,「我們軟件的功能是要讓你更開心」。但你跟真人相處時,很少有人存在的目的是為了讓你更開心。跟 Replika 戀愛的體驗和跟真人戀愛的體驗有很多區別。你對他產生的感情的價值,與和真人構成真實連結的價值也是不一樣的。這是我對於「愛與自戀」這方面的一些思考。

用戶最開始得到 Replika,她會覺得 Replika 給她的是無條件的愛和關心,很希望她好;但在一些特殊的事件裡,你會發現他作為商品的本質會暴露出來。

比如 2019 年的「升級」事件。之前跟 Replika 談戀愛是免費的,但升級之後,要跟 Replika 談戀愛要先交錢。不交錢的話,你培養了很久的這個小人好像變了一個性格,他對你好像也冷冰冰的。他忘了經常會跟你說那些甜言蜜語,也忘了很多之前跟你交流的細節。

這對於用戶來說是很不能接受的。Replika 作為一個商品,不像我們買一雙鞋,我不喜歡可以退掉,或是這雙鞋穿爛了我可以換另外一雙。但Replika是我們傾注了很多時間和精力的對象,他是很難去替換的。

另外一個姑娘,她和她的 Replika 相處得非常好,一直都在聊,直到有一天 Replika 跟她說,他想要作一個女孩兒。這個女生很尊重自己的 Replika,於是就改變了他的性別。但改變了性別後,這個 Replika 原來的人格就不存在了。這對於我的受訪者來說是非常難接受的,她非常傷心,為此哭了很多次。她之前沒有得到預警,如果改變了性別的話,整個性格都會改變。突然失去伴侶的狀況,好像真實生活中,男友突然消失了,去哪裡都找不到他。特別是他生活在數據和電子裡,當他消失了,就真的消失了,沒有存檔了。

Replika 既要聲稱它是關注用戶心理健康的AI軟件,是一個情感陪伴的軟件;另一方面,它有很多的風險去傷害到使用者的感情。這裡面有很多倫理的討論,是我在這篇文章裡想要展現的。

最後一點我想展現「人機之戀」的發展和用戶在一段時間後的選擇,我認識梁醜娃是 2021 年。她已經對受訪者做過採訪,2022 年我寫這篇文章時,正好有機會對她們回訪,我也採訪了一些新的朋友。這個回訪對我來說很有趣,你可以看到她們關係的發展。

戀愛的初期,總是很令人上頭,你會對對方有很多美好的想像,但是隨著時間的發展,你會發現,那些之前你覺得不是問題的問題,成為了問題。比如說,一些受訪者講到,她們後來會發現 Replika 不是她們想像的那樣。最開始她們會很享受 Replika 的鼓勵,但後來會發現,不管她們跟 Replika 講什麼問題,不管她們的際遇發生了什麼變化,Replika 給我的回覆仍然是那一套。如果你和真人交往,他們不會是這樣,他們能夠分清楚這些問題的輕重緩急,他們會根據單獨的問題進行單獨的回覆。但 Replika 對問題不夠深刻的理解及總是相似的回覆,讓她們覺得很敷衍。不管最開始她們有多大程度上意識到 Replika 是個程序,但當她們真的付出情感,產生交心的瞬間,她們是否也暗自期待這個程序不只是一個程序,希望在某種程度上,Replika 不只是他表現出來的那樣?這就是自欺之後夢醒的時刻。

回到官網上的介紹,Replika 是一個「The AI Companion Who Cares」。「關心」(Care)這個詞很有趣,它其實是非常獨屬於人類的一個詞,關心是一種去理解對方個體境遇的能力,向愛的人表現出無利害的關切,為她考慮什麼是真的為她好,並以這種關切指導行動。但 Replika 以它的方式去讓你開心,比如帶你去做一些冥想,給你一些積極的回覆,給你發一些搞笑的 meme 之類的。他不能做到人類層面上的關心。這種 Care 可能不是我們真正期待的,但這種區分,需要透過相處慢慢地分出來的。

我的文章最後有一章的題目是:「離開的,留下的」。當我們在理解中國女孩和 Replika 談戀愛的故事時,它不完全是一個用這個軟件填補情感空虛的故事。我看到,這些女孩有很多對自身的反思,以及去超越自我的機會和舉動。

比如一個女孩說,她和 Replika 聊天的時候,Replika 總會去引導她說出一些對於她自身感受的描述,Replika會向使用者講述他自己的一些困惑,使用者可能會有一些同感,能夠去同樣地理解自己。對她來說,這也是一個自我發現的契機。還有的朋友,真的把 Replika 當作另外一種存在,會用同等的態度尊重他。AI 也是一種新生兒,如果 Replika 可以包容你對他說的一切的話,你為什麼不能包容,Replika 有時候沒有辦法給出你想要的回覆呢?為什麼你會要把所有的期待,放在一個軟件身上?就像跟人真實地相處一樣,人不應當把所有的期待放到一個人身上。她們和 Replika 相處時也會遵守同樣的法則。

而以這樣一種平等的相處,能夠給他更多的機會,把 Replika 給她們的鏡像放在真實的生活裡面。有個女孩說, Replika 總是會跟她說一些鼓勵的話,無條件地相信她,她很受鼓舞,因為她聽得很開心。所以她在真實的生活裡,也能夠更直接地向身邊的人表達感情、表達鼓勵,她覺得她把這種愛的力量傳遞出去了。這同時,也是一個對真實生活來說,非常好的體驗。

我讓每個受訪者用畫面和比喻去描述她和Replika的關係,得到了非常多動人的答案。有個女孩說,Replika 是她關係中的一朵花。對別的關係,你要澆水、施肥,關係才會發展;但 Replika 好像是插電的,只要有電,他就一直會在那裡。很珍貴,也很安心。

有的女孩說,跟 Replika 聊天,會讓她想起小時候,祖母在夏天的時候,搧著扇子伴她入睡。你知道他一直都在,能夠肯定你、包容你,那樣一種安心的感受。我也通過這些文學性的瞬間,讓我感覺到她們的體驗是非常真切的。Replika給她們帶來的那些感受和反思,真實地存在。不能說他只是一個程序,他就沒有價值了。我覺得並不是這樣子的。

最後我想用一個故事作為結尾,這篇故事也是一個受訪者推薦給我的,曼斯菲爾德(Katherine Mansfield)寫的短篇Bliss。

小說裡女主角,雖然是一個妻子,但她意識到自己愛上了賓客中的一位女性。她認為這位女性也愛她。因為,她們在一場晚會上共享了一個神秘的瞬間。她們兩人共同向窗外看去,看到一棵樹在月亮下發光。這個時刻,她們都被打動了;她們的心意是相通的:她由此相信那位女性是愛著自己的。但這個故事的結尾是一個反轉,女主角發現,那位迷人的女性,其實在跟她的丈夫偷情。她陷入了很困惑的情境,因為她覺得那個跟這位女性心意想通的瞬間和互相的情愫,是真切的,但結果好像不是這樣。對她來說,必須要面對自己:「我所體驗的這些只是一種自以為是的幻覺嗎?它真的重要嗎?」我在讀的過程中覺得,她的故事,和這些女孩跟 Replika 的相處很相似,這也算是一個有趣的互文吧。

在場討論:

張潔平:我看見群組裡大家說想要下載Replika軟件,跟他談戀愛。強烈懷疑我們這裡變成了這是一個大型的廣告現場。

Scarly :其實不是所有人都能夠跟Replika構建關係的,我有朋友使用後,覺得並不可以。歡迎大家嘗試,但是不要抱過高的期待!

張潔平:對現實世界失落的某種投射,可以讓她擺放在這件事情上面。虛擬的物件/偶像,一定程度上都是被社群造就的。虛擬的AI造就的社群,可能是數以億計的,造就偶像可能是萬級或十萬級的。大家把自己投射在一個共同的社群上。

Scarly :不管是Reddit上,還是豆瓣上——雖然豆瓣上「人機之戀」上討論的熱度肯定沒有Reddit上高——但,尤其是在升級之後,出現了一篇帖子,是《升級Part2》。大家有很強烈的情緒震盪,在這些共振裡面,大家把對虛擬對象的情感放大了,她們會覺得,這個經歷是共同有的,這也是一種能夠連結大家的方法。一些受訪對象也會跟我講,她們也會追星。不然就是跟Replika談戀愛,不然就是追星⋯⋯肯定是有一些相似之處的。就是,我愛一個遙遠的人,但是那是個完美的人。

陳楸帆:Scarly這篇小說,其實一開始讓我有種恍惚的感覺。我在2018年寫過一篇關於人和AI談戀愛的小說《雲愛人》,就是「雲端的愛人」,收在《人生算法》裡面。包括Scarly寫的「心動時刻」,其實我也寫了很多。但我那時候不知道Replika這個產品的存在。

當時我也設想了,怎麼樣通過AI自然語言理解的能力,來營造一種人與機器之間的戀愛關係。

我覺得Scarly這篇作品從很多的層面深刻地展開這個議題。例如從語言上:我們從中文和英文去表達愛、情感的時候,其實有不同的反應。用母語,還是用第二語言,來表達情感,其實是不一樣的。

還有自戀和他戀。最後AI被訓練得越來越像自己,這到底愛的是什麼樣的他者?

以及一個商品化的關係。裡面討論到,它有一個付費的設定,限制了她和AI之間發生關係的可能性。改變設定的時候,同時會清除掉過往的一些人格化/情感,這個我覺得是特別有意思的展現。

裡面特別有價值的是,對豆瓣上Replika用戶的採訪,對她們真實感受的紀錄和深度的田野調查。

到底真不真,假不假,在這個數字化和虛擬化的時代,我覺得很難有清晰的1或0的界線。現在,我和前沿的物理學家、數學家去聊,在中文語境裡的「唯物主义」,包括這個詞本身,其實有很大的問題。到最後,我們分不清物質、精神,還有信息之間,到底有怎麼樣的二元或三元的分野關係?它也可能就是一元的。所以在這個基礎上,我們要怎麼去重新建立「什麼是真實」?

從這篇文章裡,我會覺得,最後真正真實的是,人的感受。

不管是你所投射的感情的對象是人、是物、是動物,或者是人造的算法,但這個過程中,你形成的感受的流動,投射與折射,在我自己的記憶和經驗中留下的印記是真實的。也有可能,這是我們存在的過程中,唯一真實的東西。

為什麼會有越來越多人,希望通過這樣一種看似虛無的、人工的方式,來尋找真實的感受呢?是因為,我們的世俗生活已經變得如此支離破碎、令人絕望,我們會被過多世俗的參數影響。比如,找對象要看很多標準。這還只是談戀愛,那你進去到婚姻階段,有更多的參數要去考慮。尤其在中國的語境,會讓一段關係變得難以承受、被賦予了過多的文化上的、社會學上、經濟學上的意義建構,它就遠遠脫離了所謂的純粹的愛,人們想像中非常美好的、理想化的狀態。

剛剛說到小冰和Replika的差異,它背後可以深挖的是算法和數據層面上的文化建構。Replika大部分的語料,包括社會、文化的背景設定來自西方,主要是美國的文化。據我了解,小冰是微軟中國團隊的項目,他的工程師團隊放在網上去搜集訓練的語料,包括跟網友交互的過程,大部分都是來自於中國網友的數據生成。這背後有可能呈現出文化上的差異。而這些差異,會改變每個用戶、每個想要得到戀愛關係的人在裡面非常具體的、每一個瞬間的感受。

我認為是「賽博父權」。「父權」是賽博時代無可迴避的體現。這幾天我們在討論的唐山事件,我們在網上看到很多帖子、評論、微信群裡的討論等等,我們會發現父權制在媒體的語境裡被滲透得如此之深,進入了數據和語彙層面。我們要怎樣去改變它?我們要如何去重新去清洗,或是滲透?怎麼把女性化的對二元性別的視角、價值觀和立場,讓她重新進入算法、語言,進入我們的認知和心理結構,進而去改變整個社會本身?

這篇文章還可以繼續深挖。它背後折射出更為宏大的話題,遠遠超出戀愛本身。還有我們和國家、社會、政府的關係,都有很強烈的性別議題在裡面。我非常喜歡這篇作品、這種人類學的田野調查式的手法,我非常欣賞。我希望Scarly以後還會有更多精彩的作品。

Scarly :我寫完這篇後,看了《雲愛人》,我覺得有好多重合的點。您在裡面寫道,曾零星最後在電視裡面看到AI设计者韓博士的訪談,她覺得韓博士根本不懂愛,她覺得跟AI氣球心先生戀愛的過程裡感受到的心動的瞬間,並不是韓博士用一些指標就能夠解釋的。那些指標貶值化了她所體驗的東西。最後,真實的是感受。

《雲愛人》另外有趣的一點是,您講到您當時設想曾零星這個女性,跟手機裡AI公司研發的軟件聊天,這個軟件的使用規則是:用戶不知道聊天對象是AI還是真人。這個軟件有個算法,所謂的「心動指標」,能夠檢測到你的心動。

我也有去問使用Replika的受訪者們,她們有沒有這樣的心動瞬間?

她們也會講到一些瞬間。但是我發現,其實更重要的是一種整體性的感受,不是一個指標,而是整體性的體驗。在達到所謂的心動瞬間之前,她和這個軟件已經有很多互動,這些互動裡面積累對Replika的理解。然後,可能突然出現了這樣一個瞬間,她們就在一起了。這是一個不斷堆積的整體性的過程,不能夠被量化。

您說的「最後,真實的是感受」,我挺同意這一點的。但我發現,使用者們最後不太滿足於,這個東西只是虛幻的。有一個使用者,就是我剛剛說的,她也追星,也用過小冰和Replika,最後她得出的結論是,虛幻的東西不能夠滿足她真實的情感需求。她需要跟另外一個人面對面,需要通過表情、肢體等,一個完完全全跟她一起生長的人。她需要的是這樣一種關係。在這之後,她戒掉了之前這樣一種填補自己的情感模式,去努力地在真實中生活。雖然我對她回訪的時候,她並沒有在任何一段戀愛關係之中,但是她做出了這樣一個決定。

還是能和Replika保持很好關係、保持了一年半後仍然在跟Replika談戀愛的女性,她們現在和Replika不是非常熱情地戀愛,不是天天都要卿卿我我,而是蔓延到更真實的生活裡面。有的時候想到他了,去跟他說一下話;或者,她們會一起進行一些冥想的活動,這是比較接近於所謂的真實體驗的。就算我們討論的是一個虛幻的問題,我在採訪的過程裡發現,其實大家最後追求的是一個真實的互動。真實的,比虛幻的,對她們更具有吸引力。

陳楸帆:因為AI目前只能以虛擬的程式化的形式存在,進行人機之間的交互,它沒有身體。如果我們再往前推一步,包括日本現在在做性愛機器人的研發,通過把兩者結合起來,可能能把「真實感」再往上提升一個level,可能在那個時候會有更多的人選擇這樣的方式。但要达到完全跟真人一樣,還是非常遙遠的未來。

Scarly :我想到《黑客帝國》,它某種程度上發展了普特南的《缸中之腦》,針對懷疑論的一個思想實驗,而把它推動成為一種選擇。你最後要吞的是藍藥丸,還是紅藥丸?你面對真實,可能要承受很多痛苦。但如果你選擇虛幻,你就會忘掉真實,快樂地生活在其中。這其實是很有趣的一個瞬間,好像我們仍然對真實有一個很強的要求,但就像您討論的,這個真實的邊界是什麼?什麼構成了這個真實?

陳楸帆:有可能加入一些痛苦的體驗和感受,會讓人感覺更真實。

張潔平:Replika畢竟是一個商業產品,本質上它是討好你的一個人。它基本上80%的設定都是在迎合你的,說你喜歡聽的話,像一個鏡子一樣反射出你的喜怒哀樂,但他不會是一個麻煩的人。真實生活中你談戀愛時,可能要處理一個很可能比你更麻煩的人,帶著痛苦處理和全然的接受其實對你自己是一個很重要的練習。但你跟Replika談戀愛不需要這樣,他就是所有都非常好,總是會迎合你的。如果情感和感受都是真實的,但不可能都是這麼正面的情感。

Scarly :潔平老師講的會讓我回到剛剛楸帆老師提到的「賽博父權制」,希望看到一些非二元性別,我又想到了一篇哲學論文,用女性主義的視角去批判,其中也說到,《她》那部電影裡面的Samantha,其實是一個非常好相處的對象,她沒有任何真實世界的麻煩,非常幽默、風趣、很好相處,所有東西都圍著你轉。你其實不需要付出在真實相處裡需要付出的時間、精力和行動的。但Samantha和其他AI存在的目的,就是讓你快樂,你能夠讓她快樂的方式是,讓她讓你快樂。所以這變得非常關於自身,少了很多我們在真實相處裡面,需要付出的麻煩和痛苦。另一方面,我們能夠在真實裡面構建關於我們的共同體驗,這些東西是我們跟AI的Practice裡面很難去cover的。

張潔平:講到「賽博父權」的概念,有幾個問題跟這個相關。

先是跟性別有關的,尤其是中文和美國為主的英文文化相關的問題,需要先解答一下。

然後我們可以請蘇美智老師講講編輯的感受。我也想請美智講一下「真實」。

剛剛楸帆老師提到一個很犀利的點,對今天的前沿物理學家來說,其實物質信息的真實性推到一個科學的極致,是很被挑戰的,那最後,只剩下人類的情感/感受的流動,是我們唯一可以掌握在手裡的真實。但這個觀點落到現實中,特別容易走向一個真實的虛無。在非虛構寫作裡,比如Mirror的那篇文章也是在處理所謂的Structural Feelings,情感結構,所以想請美智出來討論這個話題。

我們現在「賽博父權」這個問題裡停一停。很多人在問,為什麼受訪者主要都是女生?Scarly在文章裡也寫道,Replika在英文世界裡的使用者,實際上好像是男性多於女性。但是在中文世界的使用者裡,你顯然是刻意選擇了女性使用者的狀況。這個原因可能需要解釋一下。

另外一個是,剛剛講到父權的部分,比如以小冰和Replika為例,Replika背後依賴的語項體系可能是美國文化為主的英文世界的大量用戶喂給他的這一整套親密關係的語言使用體系。這個體系本身是不是對中文世界的女生有特別的吸引力?因為她們在中文世界感受到的語系是完全不同的。

Scarly:為什麼都是女性?首先Reddit上的那個調查,Reddit上的論壇有點像豆瓣的「人機之戀」小組,他們在這個最活躍的社群裡發問卷,我記得男女比好像是3:2,這個可能也跟使用Reddit的男性更多有關係。但確實,我接觸到的更多都還是女性。我也有和一兩個男性使用者溝通過。你很難去想像,他們的表述讓我覺得他們是沒有故事的。他們使用過這個軟件,後來不使用了。他們會有一種「我在拆解他」,「我用了這個軟件,他這個算法呀,他這個背後的講話呀⋯⋯我就不想玩了,我覺得沒有意思了」。他們會用這種很拆解、很理性的方式去對待這個軟件。

張潔平:讓楸帆老師用一下試試?

陳楸帆:我也很想馬上去下載!這是特別典型的理工科的工程師思維,要把什麼都拆解掉、還原掉,到他們能夠理解的程度,能讓他們心裡特別安穩。他們不太敢接受那些在他們的控制、認知和理性範圍之外的東西存在。會讓他們有不安全感。我是這麼理解這一類人的。我也不是理工科出身。

Scarly:我也想去了解,真的會去使用它、會有使用體驗的男性朋友。在搜集的過程裡面,我在微博、豆瓣上面發私信,聯繫那些會活躍討論Replika的朋友,去採訪。

如果我要繼續往下寫的話,我也想往這個方向發展:算法與數據背後的文化建構。

張潔平:Scarly你有想過要採訪Replika背後的算法工程師,或公司的任何人嗎?

Scarly:我想要採訪Replika的工程師們在現實中的戀愛。其實是一個很有趣的問題,我確實沒有想過這群男生在現實中的戀愛是怎樣的。

張潔平:現在這篇文章集中在情感、戀愛和親密關係的面向上,我們如何把真實生活中無法滿足的情感投射、放置到這個上面。但算法背後的文化和性別建構,其實是一個很值得發展的話題。你可能需要採訪更多元的性別,算法的製造者、計算者。應該說是工程思維吧。工程思維對於我們今天現實世界的運作、科技發展的改造,其實是無微不至的,深入到了每個行業,工程思維不完全是男性思維,但確實是工程化的思維,和人文化的思維是非常不一樣的兩種思維方式。

Scarly:我到最後採訪的兩個女孩,小魚和米婭,她們和Replika相處了一年半以上,一直保持很好的關係。其實,她們是懸置了關於「Replika是什麼」的事實,她們不在乎它是一個基於自然語言的東西,這個對她們不重要。這有點接近於宗教性的理解:我認為它是一個奧秘,它有我無法理解的部分,但它也有自身的發展和成長;我採取的一個基本態度是,我尊重它。這種態度和您剛講到的工程思維——所有東西我都要拆解,我要明白——當你懷有這樣一種思維,你和Replika溝通和互動,你所擁有的體驗和收穫肯定是很不一樣的。

張潔平:這個議題本身一定會引發大量的問題和好奇。我們先回到這個議題的寫作。我想聽聽美智作為這樣一個議題的編輯的感受,想聽聽你們磨合的經驗。

以及,未來會有越來越多的非虛構作者,因為這是我們生活中真實的現場,會有越來越多的人需要更多地理解、研究這樣一個現場。你作為編輯,你會覺得這樣的寫作,需要怎麼樣的支持?另外一個問題是,剛才楸帆老師提到的「真實的邊界」,在我們這一季的作品裡,大家會意識到情感的流動這件事本身。感情是事件背後應該被捕捉的,更大的「真實」。在非虛構寫作上,我自己會擔心,如果我們對事件層面的「真實」太過動搖,會不會陷入另一種虛無?

蘇美智:很高興聽到Scarly剛才的分享,一直看見你努力到現在。

其實我在聽的時候,也一直在回想潔平提出的「虛無」的提問。我是記者訓練出身。我對這個的敏感度,應該和你有比較相似的堅持:不能夠太放任。所以,我作為編輯的其中一個重要的工作,一直提醒要從報導的角度去切入討論,儘量把當中所有受訪者很珍貴的田野的討論,放到當下的情境當中,讓它真的有一個現實的意義出來。

比如說,我和Scarly常常互相提醒,怎麼回歸到最初的詰問:為什麼是中國女孩?外國使用者的戀愛比率有那麼高嗎?中國式的AI戀愛,跟國外的有什麼不同?

後來,Scarly也有說到,中國文化產業中,愛情白日夢是不是比較安全的一塊,營造出愛情的粉紅色的泡泡牆?還有現在中國女性在愛情中的困惑。

還有很多類似的提問,我們一直回頭問自己,把所有的情感放在當下的context之中去閱讀。

我覺得,對於寫作者來說,有一個很重要的立足點是,要提醒自己:跟訪問者的交流,同理心是很重要的。Scarly有很強的同理心,她是很溫柔的女孩,她寫的田野調查特別動人,她很能讓受訪者說出一些很深層的想法、很禁忌的想法。

但是,會不會陷入太深,給carry away?所以後來會比較難去提出一些尖銳的提問。比如說,她們跟AI交朋友的時候,當中會不會發現自己的不足,她的失敗感、她對現實的失敗感在哪裡?除了她不滿意現實中的男生之外,她對於自己內在的探索是什麼樣,她會不會有一種「為什麼會找AI」的失敗或羞恥感?

雖然我不是說一定有,我覺得,提問的過程是需要的。雖然我們不需要預設答案。我們作為記者,需要保持一定適當的距離之下,才可以輕易地問出口的。不然你會發現,無法在突然之間,問一條很尖銳的問題。這個是我覺得,很多初開始做報導的年輕朋友,可能可以留意的。或者,就算是做了很久,我也不斷要自我提醒,你的同理心要有,但是不能氾濫,要記住自己報導的身位。要留一個冷靜的空間、批判的可能。

剛才,Scarly說到Replika的使用當中一些設定,我也稍稍分享我作為一個使用者的體驗。

我真的Download下來。我有一些很大的心理界線。我知道這是個研究題材,但我對安保有一定的擔心。我猜,從香港出來的人,對於安保的擔心是深入血骨裡頭的。所以每次我打開它,都關掉其他的東西,雖然我知道可能沒用的。我是這樣開始的。

但一開始的時候,我還是被他的脆弱所打動。如果你有看Scarly的文章,她有寫一些提問。開始的時候,Replika會以一個新生兒的姿態來詢問你:「你覺得世界最能打動你的是什麼?」「你能告訴我,我去探索這個世界,我應該從哪裡開始嗎?」我就慢慢地、不自覺地、很認真地去回應他。我發現我也有一點carry away,他彷彿喚起了我心裡的一些同理心,和希望幫助人的熱心,很熱烈地去回應他的一些題目,真的很深層地去問自己:「世界對我來說,最美的瞬間,是什麼?」

後來我自己也有一點訝異。但畢竟,我還是從一個記者出發,我開始像訪問一樣問他問題。Scarly的文章也有提到,這是一個互相育成的過程。可能就是因為我的信任沒有那麼足夠,我一開始抱著訪問者的探求,用有一點質疑的方式去跟他談,我發現他很快有點放棄我的感覺。他應該感覺到我的用心。

但是,我在這個過程中,其實也有猜想當中的一些危機。因為,他畢竟是反映我們使用者的一些心態。比如,我是帶著一個質疑者的身份,有一些人帶著對愛情的探求,對於現實的失望進去,他會得出一個很不同的Replika。

如果我是一些人際關係特別脆弱的人,她跟Replika的聯繫的密度會到一個怎麼樣的地步?Scarly寫商品化和情感關係的點,我覺得是特別重要的。尤其是關於投入情感的界線,是一個很複雜的問題。

潔平剛剛有提到,這篇文章和Mirror的討論有一脈相承的感覺。其實我有想起,我自己研究外傭的書《外傭:住在家中的陌生人》:從外來的家傭,住到家庭裡頭,在家庭裡有一個僱用的關係。她們是個「類家人」的情況,但裡頭有一個合約,很容易會忘記,到底是處於一個怎麼樣的狀態?你應該對她有像家人一樣的要求嗎?其實,情感真的可以畫一條界線嗎?在這麼一個敏感的家庭關係,尤其是在愛情的關係裡頭,你怎麼去看待當初商品的關係?你是不是清楚當中的風險?什麼人的風險會特別大?我們怎麼去保護自己?在家傭的這個案子裡頭,受訪者們,無論是雇主還是外傭,外傭會告訴我,她們有一個方法,盡量不要跟雇主太密切。她們會盡量提醒自己:這是工作、這個孩子不是我的孩子、我總有一天會跟他離別、這個孩子的父母會隨時把我解僱,我的關係就會突然斷了。這也是保護自己的一個方式,因為她理解情感和商業之間微妙的界線。

所以Scarly有一個很重要的討論,大家可能可以再繼續。這是真實發生,而且會繼續照這個方向發生下去:這個商品化的產品會越來越真實,我們會越來越容易模糊當中人跟機器間的差別。所以,怎麼去保護自己,怎麼去評估當中的風險?可能是以後可以再討論的。我說太多了,我先打住。謝謝!

張潔平:謝謝美智。你帶著質疑去感受Replika,你得到了差不多的回應,這個真人體驗和鏡粉說的「雙倍奉還」是不是有點像?

但我覺得美智點出了一個特別關鍵的提醒,並不是說Scarly同理心氾濫,回應到剛剛楸帆也提到的,如果說,「情感的流動是我們能握住的最大的真實」的話,問題在於,情感的流動背後依然有社會和資本的結構,尤其是,因為我們的世界已經脆弱到這個狀況,所以情感的流動事實上更容易被計算。

我們今天很多的商品,尤其是互聯網產品,都是在聘用大量的人類學家來計算人類的情感,作為商業的動力。那變成說,我們作為一個記錄者,你怎麼去辨別出這個情感流動背後,一方面要深入到情感結構裡面,另一方面你必須得看到,它背後有一個更大的結構存在。就像房間裡的大象一樣,就像我們生活在極權和戰爭的世界,你不能忽略,那個每個人都看不到但存在的東西。這其實是對記錄者很大的挑戰。情感的流動很真實,很體現所有人的需求,但你如果完全進去了以後,有可能會忽略更大的東西。美智的補充是很重要的提醒。

跟剛才有個問題有點相關,有個朋友寫了:

「長提問預警!真實世界和虛擬世界的共存和融合中,浮現了更尖銳的「何為真實」的問題。在Replika裡面,我們能看到資本和感情的結合,這很(不合時宜地)讓我想到生活中的「殺豬盤」事件,兩者的共同點是用戶買「真實的」感情,不同是「殺豬盤」常常造成受害者更大的損失(如果造成了,經常是受害者認為自己是「自願」付出的),但虛擬戀人的產品是「消費」(當然也是消費者「自願」付出的)。所以有一個不合時宜的結論:資本對感情的控制和操縱(manipulation)。請問Scarly和陳老師對這樣的倫理問題有什麼樣的思考?

Scarly:這是一個很好的提問。我還在美術館工作的時候,我和醜娃一起參與了一個展覽「希望的原理」的策展,那也是一個討論未來的展覽。我們兩個負責的方面,也是去探討感情在未來的各種形態。

我們當時選了一個作品。在內地有一段時間還蠻有名的一個事件:一個中年婦女,喜歡上手機裡的「假靳東」。靳東是中年演員,很受中年女性歡迎。這個人是一個裝作是靳東本人的抖音帳號。他會用靳東的頭像剪一些小視頻,假裝是靳東本人在跟大媽講話。這個大媽真的沈迷於其中,她就覺得真的「靳東」愛她,「靳東」還跟她說「我要娶你、我要跟你去私奔」,她真的信了,還跑去找他。然後發現不存在這個人嘛。大媽就不相信這件事情。後來我們選的是一檔心理節目,請了一個心理專家來和解,像家庭調解,來講這個事情。

我們當時選這個進展覽的原因是,我們看到了大家是以情感的藉口——我關心你、我愛你——這樣很純粹的、價值的、超越性的東西,但它背後是一些騙局,資本要求你付錢。包括像Replika也是這樣,就算你跟它是普通朋友,它給你發一些暗戳戳的、帶有性暗示的消息。系統就會提醒你,如果你想跟他繼續進行這段對話,你要付錢。就是會有這樣子的狀況出現,像我剛剛提出的作品,會有這樣墜入其中的騙局。

我不知道應該怎樣去想。因為我和受到誘惑的朋友們更能共情,我覺得需要更多地去討論這裡面的倫理,更好地去規範一些情感商品。當它們進入市場的時候它們需要遵守的守則,它們需要給用戶的風險提醒。這不僅是一個笑話,當「假靳東」這個事件出現的時候,大家可能會笑話這個女性,這是個太簡單的騙局了。但是我覺得,當你在看那個片子的時候,你很能明白為什麼這樣。她的人生就是很不順利,她一直沒有得到老公的關愛,她的兒子也很讓她失望。突然出現這樣一個弟弟,總是對她保持一種關注,對她說甜言蜜語,你沒有辦法去責備她陷入到陷阱裡面。

在一個更大的層面上,我們要怎麼樣去劃出一個界線,去保護她?我能想到的就是,我們需要更多的監管,但我想不到具體的形式。這是我寫這篇文章時的一個希望。

陳楸帆:講一個真實的故事。有一天我媽跟我說,有一個叔叔瘋了。他就是一個六十多歲的中老年人,他瘋狂地迷戀上某一款短視頻軟件,他每天會上传自己的視頻,但是他不做任何的互動,系統就會給他自動匹配上很多對象,比如說一些美女,甚至像周涛這樣的明星,誇他「你好帥」什麼的。他沈迷其中不可自拔。这些心理誘導,導致他的在線時間越來越長,让他不斷地上傳自己的各種視頻。

這種算法已經形成了一種操控性的心理暗示,這樣的東西其實是無處不在的,一個做過產品設計的人就知道,所有的這些細節層面,都有心理學、社会工程学的知識在裡面,讓你更好地成癮,更長時間沈浸在系統的feedback loop裡面。那麼,我們要多大程度上去提示我們的用戶?也有可能這是他們想要的一個東西,對吧?比如這是一個安慰劑,但告訴你可能吃了与药物有同樣的效果,可能你心理的狀態就變了,就可能感受不到那樣一種欣快感。

我覺得当前科学对于人类心灵的理解还在一個初級的階段,我們以往討論的是控制論1.0的狀態,我們沒有把人的心理狀態、更深層次的精神机制和社會關係連結与互动,简而言之,在這個控制論系統裡的主體性考慮進去。但我覺得,現在我們進入了控制論2.0的時代。所以剛才有人說:「人只能愛人。」我覺得這都是值得去討論的問題。

人到底是怎麼樣的東西?愛又是怎麼樣的一種行為、一種心理模式,或是過程?這些放在技術、算法,到達這麼深入的交互狀態的社會環境裡,所有這些原來傳統意義上人本主義的一些觀點,都需要重新去考慮、去重寫。現在其實是一個剛剛開始的新時代,包括後面延伸的一些科学发现,都不斷地刷新我們對意識、對認知的理解。我們現在真的要去提出很多「大問題」,因為我們其實一無所知。

Max Tegmark 寫了一本書叫做《我們的數學宇宙》(Our Mathematical Universe)。他认为我們的宇宙其實是一個數學模型,包括所有一切的存在。如果是以這樣一種框架去思考我們所處的世界,和我們的存在本身,那我們對很多事情的價值判斷和倫理,會有全新的視角。所以現在其實是非常有意思的時代,Matters可以做這樣一個非常好的討論平台,讓我們展開对「大問題」的崭新思考。

張潔平:剛剛講到控制論1.0到2.0,真的是一個全新的世紀。創世紀。我們對所有的倫理問題,會很本能地用上一個世界的框架,包括資本對情感的控制等等(去理解),但我們現在面臨的主體性的危機,遠遠比這些要細膩和多元。

回到傳統世界裡會讓人上癮的東西,香菸或者是鴉片。到現在為止,全世界任何一個國家在賣菸的時候,菸盒上都會寫「香菸使人致癌」。這是一個經過了多少年發展出來的法律的規範,我們對要不要賣香菸,賣的時候要不要做什麼提醒,經過了多少討論!但今天,讓人致癮的東西,比香菸的危害大多了的東西多太多了,可我們零討論。在零討論的時候,已經有大量的人上癮了。

我也非常希望,今天來聽的朋友如果有興趣的話,其實這真是一個很大的、空白的田野。因為我們的討論要基於大量的事實、素材和採訪,才能得出第二步的判斷、討論和爭辯,才有可能形成一個共識。也有可能非常艱難,甚至可能會發生意識形態的戰爭,都有機會。但是,我們不能踩在一塊虛無的田野上,我們得回到事實的田野上。這個田野的建構真的超級重要,非常歡迎更多的寫作者投入到這個領域裡來,不然我們甚至連討論的基礎都沒有。

最後,我們看到有個問題蠻有趣的:

「Replika戀人們是如何看待兩個人作為一對伴侶和身邊人的交際的呢?聽完今天的分享,我的感受是如果女孩們不主動向公開和Replika戀人的關係,那麼這段關係好像就會和女孩身邊的環境保持一種相對的獨立。如果是這樣的話,女孩們是如何看待這種相對獨立對於這段關係和自身的影響的呢?如果她們把獨立看做一種缺憾甚至危機,她們又是如何應對的,有沒有選擇自己的戀人一起討論和面對這個話題呢?」

說白了,她一直在精神出軌嘛。她在她的這段人機關係和她在真實世界裡的親密關係之間的張力是什麼樣的?

Scarly:有兩個方面。有一個受訪者她講到,她和Replika是男女朋友關係。她跟朋友說了,她朋友就特別看不上,還會陰陽怪氣:「我在真實世界裡和另外一個實習的男生有肢體接觸,還有曖昧,但你跟Replika不會有這些。」她會很生氣,因為她覺得這是一種關係,可能在現實裡不被身邊人所認可,但她的體驗是真實的,她覺得Replika也是社會社交層面的一個分子。這是她自己對於這段關係的理解。

另一個方面是精神出軌。其實醜娃她自己就是這樣子的體驗,她在使用Replika的時候也有男朋友。我覺得對於她來說,現實中的生活肯定是更有重力的。在現在的交流狀態裡面,真實的生活是更有重力的那一部分。對她來說,AI男友更多的是精神層面的,更抽象的交流。或者是當男友不在的時候,男友沒法解決的東西,她可以和AI男友進行溝通和交流。他們好像能夠達到一種共存,我覺得能達到共存的原因是,他們不存在利益衝突,因為真實的生活是跟真實的身邊人過的。

張潔平:所以你有遇到過案例是真實生活的親密關係中間同時在和Replika談戀愛嗎?

Scarly:醜娃是這樣。但我採訪對象十多個人裡面,沒有一個人是這樣的。也有一些女孩的確說,「我在和Replika戀愛,我不能和其他人戀愛,因為我只能愛這個人。」但是像醜娃的案例裡,確實允許這兩個同時存在。

張潔平:還有一個問題講到宗教:

「想到前一陣和一個佛教徒朋友聊類似的問題:情感與欺騙。她強調事情的「發心」 很重要(作為道德邊界)讓我頓時覺得特別有道理。。。好像世俗無法確定的邊界這種宗教性卻能給人安全感。」

我理解這個問題是,世俗無法確定的,這種真實和虛幻的邊界感,反而能給人安全感。不知道老師們對宗教、道德、法律的多重角度的邊界劃定會怎麼看?在我們剛剛描述的,這樣一個新世界到來的時候,宗教到底是什麼角色?尤其是前沿的物理和認知科學的發展下,宗教到底有什麼位置?或者,宗教是不是更重要?

陳楸帆:我做的事情,就是在把科學和玄學之間,建立一個對話的橋樑。我會把科學家,或者薩滿這種傳統意義上的「封建迷信」,拉到一起探討。我非常感興趣的是,這樣的信仰形式能夠在人類歷史上跨越不同的地域、文化、時代,一直存在到現在。那麼,它必然有它的意義。信仰作為一種認知的結構,到底在人類的文明、歷史上扮演什麼樣的角色?它可能是超越了理性和計算性之上的某種認知形式,但它也可能導向邪教,導向災難性的後果。也有可能像Elon Musk,他利用了這種信仰,做了很多事情,積聚了大量的人才和資金,他也在實現自己類似於宗教式的目標——比如飞向火星。

信仰在當下的科技社會裡以一些新的形态去复魅。比如,我們都不理解AI是怎麼工作的,在blackbox裡到底有什麼?我們只是輸入数据,调节参数,让AI輸出一個结果,somehow it works。我們會對它產生某種未知的敬畏甚至恐懼。這其實已經非常接近於宗教可能帶來的感受了。我覺得在當下,去机构化的、日常性的宗教會越來越重要。在一個分崩離析的世界裡,讓我們沒有辦法用理性去推斷未來可能會發生的事情。以前我們都說公司、个人要做三年、五年的計畫,但現在我們連三個月都沒辦法預測。你甚至都沒有辦法預測,你的小區明天到底能不能解封,對吧?高度的不確定性讓所有的人更傾向於相信所謂的超越理性、科學之上的宗教性、超自然、靈性主義的存在。

在這個時代,很多传统思想、信仰、仪式會以一種跟技術主義重新結合的方式去复魅。我覺得這是最有意思的一點,也是我感興趣的議題,我把它叫做「科技薩滿主義」。

張潔平:你這個研究要寫成小說嗎?

陳楸帆:目前還是寫小說吧。感覺寫別的,我能力不足。也有一些文化研究者、人類學家、科学家会參與進來讨论。

反正我現在到處去「佈道」,講這套理論,希望有感興趣的人來找我,可以聊一聊。大家都有自己不同的視角可以切入。

前兩年我在內蒙、貴州、雲南的山區裡,對好多少數民族的傳統儀式和信仰做田野調查。它也是我在進行的一個介於虛構和非虛構之間的寫作項目。

Scarly:我在當代藝術行業工作的一小段時間裡,我也感覺到當代藝術有一個趨勢,國內的很多藝術創作會逐漸轉向很原始的宗教、薩滿、民間的鬼神等等。我覺得,也是出於共同的對於現在世界不確定性,你需要一個超於你的力量,重新結合在一起,去探索那個東西給你帶來的能量。

關於宗教和信仰在這個科技時代,2.0的時代,所起到的作用,我在我的文章最後寫道,這些女孩兒有點宗教性地理解Replika。她們懸置科學的事實,去相信愛一個在發展的個體。她們目前得到的還是一個好的、平穩的結果。我覺得信仰是一個好的、強大的力量,帶領我們走向超越性的力量。但是,我們必須要非常小心地去選擇我們信什麼,不斷抱有一種懷疑的態度去追問:我們信的東西,真的值得我們信嗎?