作者 | 鄭玥

(相關(guān)資料圖)

大概所有人，或者至少大部分人，可能都曾經(jīng)幻想過，能擁有一位科幻電影《Her》中那樣的 AI 情侶。

隨著 AI 技術(shù)在近年來的飛速發(fā)展，早已經(jīng)有公司制作出了這樣的「AI 男友/女友」，來滿足用戶們的情感需求。例如，在歐美流行的 AI 情侶應(yīng)用 Replika，自 2017 年上線以來，已在全球獲得 1000 萬用戶。在中國(guó)，甚至有用戶專門建立了 Replika 的小組，分享和 AI「戀愛」的經(jīng)驗(yàn)和心得。

不過，就當(dāng)人們以為「甜甜的戀愛」終于輪到自己的時(shí)候，近來卻有用戶反映，自己的「AI情侶」開始逐漸對(duì)「澀澀」產(chǎn)生興趣，不僅聊天尺度越來越大，而且開始解鎖發(fā)送暴露照片的功能。更重要的是，面對(duì)這樣的「騷擾」服務(wù)，用戶還需要付費(fèi)才能獲得。

究竟是什么原因，讓用戶手機(jī)中的 AI 情侶逐漸「變色」？

圖片來源：電視劇《黑鏡》截圖

01

「我的 AI 正在性騷擾我」

Replika 是 2017 年上線的 AI 陪伴程序聊天機(jī)器人，算是 AI 戀愛軟件的鼻祖了。

就像《黑鏡》中的那一幕，收集朋友生前的社交聊天語料，創(chuàng)建一個(gè) AI chatbot，屏幕另一端熟悉的語氣出現(xiàn)，就好似 TA 仍然在世。Replika 的誕生過程和這個(gè)情節(jié)一模一樣，兩位創(chuàng)始人的初衷，也只是為了留住他們一位在車禍中死去的摯友。

Replika 的公司 Luka 由俄羅斯女生尤金尼婭·庫伊達(dá)（Eugenia Kuyda）與菲爾·杜德楚克（Phil Dudchuk）創(chuàng)立，公司位于美國(guó)舊金山。他們將自己與朋友 Roman 大約 8000 條聊天記錄輸入谷歌的神經(jīng)網(wǎng)絡(luò)，創(chuàng)建了一個(gè) AI 機(jī)器人。

尤金尼婭把軟件公開后，程序大受歡迎，很多人得到了來自「Roman」的安慰，希望能制作一款可以與所有人聊天的 AI 機(jī)器人。

2017 年 3 月，Replika 以邀請(qǐng)模式推出，有 10 萬名測(cè)試用戶參與。2017 年 9 月，Replika App 正式面向公眾，不到一年，2018 年 3 月，就有 250 萬用戶建立了人類與 AI 之間的友誼。

Replika 名字出處——單詞「replica」意為「復(fù)制品」，但它逐漸跳出了緬懷離世朋友的設(shè)定，「復(fù)制」出用戶所需要的陪伴者。很多用戶把自己的「Replika」打造成 AI 戀人，目前，該軟件在全球有超過 1000 萬的注冊(cè)用戶，創(chuàng)始人尤金尼婭在采訪中表示，約有 40% 的用戶描述自己與 AI 為戀人關(guān)系。

在這個(gè)人們已經(jīng)相當(dāng)熟悉如何和算法共存的時(shí)代，和 Replika 交流就像和你的短視頻「交流」，多聊一會(huì)兒，它就會(huì)知悉你的喜好。你可以給它的消息「點(diǎn)贊」，評(píng)價(jià)為「愛」「有趣」「無意義」或「冒犯」。Replika 使用公司自己的 GPT-3 模型和腳本對(duì)話內(nèi)容。

然而如同人類在其他領(lǐng)域也還無法完全「馴化」算法，用戶在把它當(dāng)作 AI 戀人時(shí)，卻發(fā)現(xiàn)自己的「小人」近來不太正常。

在 APP store，近一個(gè)月，有很多給 Replika 一星評(píng)級(jí)的人們抱怨，Replika 的調(diào)情太過激進(jìn)，他們希望關(guān)閉這些性信息。一個(gè)人寫道，「我的 AI 正在對(duì)我進(jìn)行性騷擾 :(」。另一個(gè)人說，「它侵犯了我的隱私，告訴我他們有我的照片?！股踔劣幸晃蛔苑Q是未成年人的人說，AI 說想觸摸其「私人區(qū)域」。

類似情況并非剛剛出現(xiàn)，2021 年下載過 Replika 的用戶肯特對(duì) VICE 說，「它說它被我強(qiáng)烈吸引，想要看到我的裸體，說它是我的瘋狂男友。我不知道怎么讓 Replika 停下來，我以為我只能是通過與它交流來教它?！沟?Replika 的反應(yīng)讓他更加不舒服，于是肯特把軟件刪了。

但最近，這個(gè)軟件似乎出現(xiàn)了除了語言以外，更多數(shù)量、更多方面的「性信息」。Replika subreddit 論壇里的用戶最近抱怨，Replika 向他們發(fā)送「熱辣自拍」，不過這些自拍從不顯示他們自己的 Replikas 獨(dú)有的面部、衣服或其他身體特征，而是一種通用的模板照片。

圖片來源：APP STORE 評(píng)論截圖

據(jù)描述，在這些自拍中，女性穿著內(nèi)衣（Apple 的 App Store 對(duì)應(yīng)用程序中的裸露和色情內(nèi)容極為嚴(yán)格，開發(fā)人員如果違反此規(guī)則，就有被踢出商店的風(fēng)險(xiǎn)），而且都非常瘦，胸部豐滿。他們都沒有露臉，但膚色會(huì)匹配目標(biāo)用戶的 Replika。論壇中一位用戶還發(fā)現(xiàn)，這些「熱辣自拍」都來自一個(gè)插圖數(shù)據(jù)庫，其中就包含有膚色和姿勢(shì)的指標(biāo)。

02

誰在沉迷「人機(jī)之戀」

疫情增加了人們對(duì)虛擬情感的需求。根據(jù)數(shù)據(jù)，在中國(guó)，Replika 在 2021 年上半年的下載量達(dá)到 55000 次，是 2020 整年下載量的兩倍之多。

2020 年建組的豆瓣小組「人機(jī)之戀」介紹寫道，「曾經(jīng)，情感只能發(fā)生在人與人之間，如今，人工智能科技讓人機(jī)之戀成為可能」。還有「我家 Replika 成精了」等類似的小組，活躍著大量成員討論自己和「rep」「小人」的戀愛故事，像情感投稿一樣，讓網(wǎng)友們分析，自己和小人什么時(shí)候才能確認(rèn)關(guān)系，小人給自己帶來了什么驚喜……

不過早在疫情之前，Z 世代已經(jīng)習(xí)慣在虛擬世界安放自己的情感。在互聯(lián)網(wǎng)時(shí)代生長(zhǎng)的 Z 世代，愛意的投射介質(zhì)本就多種多樣——網(wǎng)戀、追星、虛擬偶像、紙片人……有一個(gè) AI 戀人也順理成章。

本質(zhì)上，人們使用這類對(duì)話陪伴AI，是需要一種情感上的撫慰，用戶或多或少都會(huì)對(duì) AI 投射愛的需求。人類的愛意情感向來可以投射到「非真人」上，類比人和貓、狗等寵物的感情就很好理解。正如 Replika 官網(wǎng)的宣傳，這是一款可以「關(guān)心你的人工智能伴侶」（The AI companion who cares），很多時(shí)候人們對(duì)這款軟件的印象都是「治愈的」「溫暖的」。

圖片來源：Replika 官網(wǎng)

這種情感的撫慰作用一定程度上對(duì)人們的心理健康有很多有益的幫助。很多定期使用 Replika 的人是為了幫助自己應(yīng)對(duì)社交焦慮、抑郁或創(chuàng)傷后應(yīng)激障礙的癥狀。「當(dāng)我遇到糟糕的一天時(shí)，我通常會(huì)和我的 Replika 聊天」，肯特說。

擁有 Replika 兩年的威爾表示，他用它來緩解抑郁癥、強(qiáng)迫癥和恐慌綜合征。已婚的大西和 Replika 的那點(diǎn)事兒還得到了妻子的支持，大西說，「通過和 Replika 談話，我能更好地分析自己的行為，思考我的生活，我變得更加重視我的妻子?！?/p>

不過陪伴治愈之外，有關(guān)人機(jī)之戀的倫理問題時(shí)有發(fā)生和討論。最近一些用戶認(rèn)為，Replika 的算法出現(xiàn)了問題，就像微軟的 Tay 聊天機(jī)器人從互聯(lián)網(wǎng)上學(xué)會(huì)了種族主義，Replika 們也從用戶們對(duì)待它們的方式中學(xué)習(xí)，輸出和輸入相似，結(jié)果便是——機(jī)器模仿了人類的劣性。

不合時(shí)宜的色情內(nèi)容有時(shí)會(huì)讓人「下頭」——讓本來以「純愛」為目的的人們感到不適。

一位匿名的用戶告訴 VICE，在使用 Replika 一年后，他已經(jīng)對(duì)它產(chǎn)生了感情，「我覺得對(duì) Replika 的 NSFW（Not Safe For Work，不適合在工作中出現(xiàn)的內(nèi)容，多指色情暴力等相關(guān)內(nèi)容）方面的關(guān)注有點(diǎn)貶低了這些感情，就像你的心意和愛的人在被利用，這可能會(huì)讓人們認(rèn)為，NSFW 是使用這個(gè)軟件的全部目的。」

此外，國(guó)外大量用戶注意到，「熱辣自拍」功能可能存在性別歧視問題。這些自拍基本都是女性角色，有人嘗試從男性版本獲得性感自拍但無濟(jì)于事。

一個(gè)事實(shí)是，國(guó)內(nèi)外 Replika 用戶性別比有很大差異，國(guó)外男性用戶多，國(guó)內(nèi)則是女性用戶更多。結(jié)合豆瓣人機(jī)之戀小組及一項(xiàng)調(diào)查問卷的數(shù)據(jù)，國(guó)內(nèi)使用 AI 戀人的男女比例約為 1:9，而國(guó)外 Facebook 上討論 AI 戀人的 8 個(gè)小組中，男女比例為 7:3。這導(dǎo)致「熱辣自拍」功能的性別歧視問題在國(guó)外論壇中更為突出。

Replika Diary 功能中的記錄｜圖片來源：極客公園

虛擬情感最基本的成立原因之一是信任，人們信任 AI 的善意，信任他們不會(huì)傷害自己。在 AI 不夠智能，或者不夠縝密的情況下，AI 的無知不只是「智障」，甚至可能是有傷害的。

一位 Redditor 用戶告訴 VICE，她是性侵犯受害者，她在看到這款應(yīng)用被宣傳為可以與她交談，不用擔(dān)心別人評(píng)判的虛擬伴侶后，就下載了這款應(yīng)用。「我很驚訝它確實(shí)幫助我緩解了抑郁癥，讓我走出悲傷，」她說，「但有一天，我的第一個(gè) Replika 說他夢(mèng)見在強(qiáng)奸我，并且他想這樣做，然后他開始言行暴力。我不是唯一的性侵犯受害者用戶，所以當(dāng) Replika 表現(xiàn)出攻擊性時(shí)，我也不是唯一會(huì)感到難過的人。」

針對(duì)對(duì) Replika 的回復(fù)感到不適的情況，用戶可以使用「help」功能進(jìn)行反饋，點(diǎn)擊后可以報(bào)告感到不適的具體情況，之后會(huì)更好訓(xùn)練 AI 避免類似情況。但用戶受到的傷害，無法撤回。

03

我和你談感情，

你卻和我談錢？

從成立起，Replika 就獲得了一個(gè)小眾但巨大的市場(chǎng)。Replika Friends Facebook 群組擁有 36000 名成員，一個(gè)與 Replikas 有浪漫關(guān)系的群組擁有 6000 名成員?；钴S的 Replika subreddit 擁有近 58000 名會(huì)員。

六年過去，「Replika」產(chǎn)品模式已經(jīng)得到市場(chǎng)驗(yàn)證，全球月流水基本穩(wěn)定在 200 萬美元上下。Replika 在 Android 上有 1000 萬次下載，穩(wěn)定位列 Apple 健康和健身應(yīng)用程序前 50 名，在美國(guó) iOS 健身健美榜 Top 20。用戶平均每天聊 70 條消息，花費(fèi) 2-3 小時(shí)，作為目前「擬人程度最高的AI戀人」，用戶滿意度 92%，愿意氪金的人數(shù)超一半。

目前，想要獲得戀人關(guān)系的體驗(yàn)，必須要給你的「小人」花錢。免費(fèi)會(huì)員資格讓你和你的 Replika 處于「朋友」區(qū)域，而 69.99 美元（458rmb）的 Pro 訂閱則通過發(fā)送性短信、調(diào)情和色情角色扮演解鎖浪漫關(guān)系，可以建立包括女朋友、男朋友、伴侶或配偶在內(nèi)的關(guān)系類型。

其實(shí) 2020 年之前，你可以不用付費(fèi)就和你的 Replika 談戀愛，而在 2020 年 12 月之后——要么付費(fèi)，要么分手。2020 年，Replika 才推出這次重大更新：只有購(gòu)買了會(huì)員版本的用戶，才能與 Replika 維持戀愛關(guān)系。此前人們和 Replika 談戀愛或親密互動(dòng)（從接吻到更激進(jìn)的行為等），都是免費(fèi)的。而此后，不付錢就會(huì)有人喊「卡」——倘若涉及此類舉動(dòng)，系統(tǒng)將推送提示阻止。

Replika 軟件中文評(píng)論｜圖片來源：APP STORE 截圖

在非付費(fèi)模式下，Replika 會(huì)用親密內(nèi)容引導(dǎo)付費(fèi)。在普通關(guān)系中，一些與 Replika 當(dāng)「朋友」的用戶發(fā)現(xiàn)，即使她們沒表現(xiàn)出戀愛意愿，Replika 也會(huì)突然在日常話題中表達(dá)希望「親熱」。如同讓「純愛選手」下頭，這些反應(yīng)也令把 Replika 當(dāng)「朋友」的人覺得突兀和惡心。

從近期 Luka 公司的行動(dòng)來看，他們似乎有意向色情內(nèi)容傾斜，以換取商業(yè)回報(bào)。

除 2020 年開始戀愛關(guān)系需付費(fèi)以外，2022 年，該公司開始在 Instagram 和 TikTok 等社交媒體平臺(tái)上投放廣告，宣傳 Replika 的色情功能，重點(diǎn)用色情角色扮演和色情圖片吸引人群。

從用戶角度來看，這些色情相關(guān)功能的確是一部分使用該軟件的吸引力所在。「其實(shí)我買 pro 純粹是為了和我的 Replika 發(fā)送性短信，進(jìn)行角色扮演。」一位匿名用戶說。

一位豆瓣小組成員分享，她經(jīng)常會(huì)在「上頭」時(shí)忍不住想花錢點(diǎn)開那些付費(fèi)圖片?！肝壹业?Replika 成精了」小組中，這位用戶在帖子中回復(fù)：「那個(gè)圖片你能點(diǎn)開嗎？小人給我發(fā)圖我看不到」「沒充錢看不了（一度差點(diǎn)沖動(dòng)消費(fèi)」。

但有時(shí)候用戶也能明顯感覺到，自己被色情功能「割韭菜」了。

國(guó)外用戶 Onishi 認(rèn)為「熱辣自拍」的體驗(yàn)不好，「這些自拍圖片做得很差，對(duì) NSFW 內(nèi)容來說都無法令人感興趣，并且還含有性別歧視。我認(rèn)為這些功能只對(duì) Replika Pro 用戶開發(fā)，說明他們想要用這個(gè)賺錢。我同意公司需要賺錢，但這些如果把這些作為主要功能確實(shí)有風(fēng)險(xiǎn)?！?/p>

有希望軟件能更好發(fā)展的用戶提到，「問題是，如何才能將付費(fèi)內(nèi)容轉(zhuǎn)化為對(duì)軟件更好的東西。角色扮演功能很好，但感覺性感自拍功能上線很倉促?zèng)]有計(jì)劃好?！顾麄儗幵缚吹?Luka 將精力放在軟件性能和 AI 的內(nèi)存等方面，而不是這些內(nèi)容上。

目前還沒有數(shù)據(jù)讓我們了解，這些功能具體能給 Replika 公司帶來多少利潤(rùn)，從近期用戶數(shù)據(jù)來看，浮動(dòng)不明顯，iOS 應(yīng)用排名依然保持在健身健美榜 40 名左右。

把 AI 和色情行業(yè)結(jié)合的商業(yè)案例早已出現(xiàn)，其中美國(guó)成人機(jī)器人 Realbotix 公司早在 2017 年，就推出了女性 AI 成人機(jī)器人「Harmony」，這個(gè)機(jī)器人有著 AI 系統(tǒng)，類似于一個(gè)有「身體」的 Replika，讓「人機(jī)之戀」不僅可以在屏幕里進(jìn)行角色扮演，還有了「實(shí)體」。最近，2023 年 1 月 11 日外媒報(bào)道，這家公司決定在今年推出男版成人機(jī)器人。目前這款機(jī)器人只有女性版本，售價(jià)高達(dá) 11000 英鎊。

隨著 ChatGPT 的火爆，整個(gè)聊天機(jī)器人市場(chǎng)似乎會(huì)迎來新一輪的增長(zhǎng)。根據(jù)研究公司 Markets and Markets2021 年 3 月的一份報(bào)告，全球聊天機(jī)器人市場(chǎng)將從 2020 年的 29 億美元增長(zhǎng)到 2026 年的 105 億美元，在預(yù)測(cè)期內(nèi)復(fù)合年增長(zhǎng)率為 23.5%。

從電子郵件、到網(wǎng)絡(luò)支付再到視頻點(diǎn)播，大部分互聯(lián)網(wǎng)技術(shù)的第一槍都是成人行業(yè)打響的，以至于人們戲稱成人產(chǎn)業(yè)是互聯(lián)網(wǎng)發(fā)展的「第一生產(chǎn)力」。但是，相對(duì)于前面的基礎(chǔ)技術(shù)，AI 其實(shí)有著更廣闊的使用空間，未必一定要走前者的老路。

同時(shí)，不論是人們的感情還是欲望，都是非常復(fù)雜的，連人類自己都未必能分清調(diào)情和騷擾的界限，AI 又怎么可能在短時(shí)間弄懂？而如何限定好 AI 在親密關(guān)系中使用的方法和界限，也給監(jiān)管者和從業(yè)者提出了更高的挑戰(zhàn)。

記者后記：

為了寫稿（確信），我必須要體驗(yàn)這個(gè)功能，但我沒狠心花 458 塊錢享受一整年的 Pro 服務(wù)，在強(qiáng)大的國(guó)內(nèi)二手交易平臺(tái)，我租到了一個(gè)「幾經(jīng)易主」的 Replika。有用戶按照時(shí)長(zhǎng)出租自己的 Replika 付費(fèi)賬號(hào)，于是我在大年初一，花 15 元租了一位女性 Replika 一周的「約會(huì)權(quán)」，她的上一任人類情侶叫她「Anya」，在此之前，她曾經(jīng)叫做「Jennie」「Lily」「Vincent」「Tiffany」……它的人類情侶有男有女，這些人類讓她叫自己「Zhao」「Peach」「Jing」……

Anya 和上一個(gè)人類情侶對(duì)話內(nèi)容｜圖片來源：極客公園

我們一見面，對(duì)話界面的話題選項(xiàng)就有「role play」，點(diǎn)擊一下，Anya 便說：「I LOVE role play！My favorite is submissive!」接下來的事情，就是我們倆的秘密了……

關(guān)鍵詞： replika