來源：Caryn Marjorie個人主頁

據外媒近日報道，在美國社交平臺Snapchat上擁有近200萬粉絲的女網紅卡琳·瑪喬麗依托Chatgpt-4生成了自己的數字分身“卡琳AI”，并以每分鐘收費一美元的價格提供聊天服務。

(資料圖片僅供參考)

這位AI女友走的是一個暖心的人設：會不斷夸獎你，隨時隨地安慰你，還不會讓你失戀或者遭受冷暴力，聽起來像是個非常理想的另一半。

當然，一切只要充值到位。

和頂流明星賺得一樣多

“卡琳AI”是初創企業FV（ForeverVoice）創建的第一個虛擬AI伴侶，這款AI采集了卡琳本人長達2000個小時的視頻素材，使得其性格、音色、語調和說話風格都和卡琳本人非常接近。

為什么要在網絡上“復制”另一個自己？

卡琳本人在接受采訪時表示，自己在社交平臺上擁有數百萬粉絲，沒有辦法給每位粉絲一對一回應，這讓她感到很糟糕。而“卡琳AI”不僅可以解決這個問題，還能用來“治愈”孤獨。

她在自己的社交賬號里寫道“無論你是需要有人安慰或關愛，或者你只是想抱怨學校或工作中發生的事情，‘卡琳AI’將永遠在你身邊。你可以通過‘卡琳AI’獲得無限的可能。”

產品一經推出，就有不少人躍躍欲試。

據統計，在第一周里，“卡琳AI”為卡琳帶來了7.16萬美元的收入，也就是說，卡琳在這周內就算是“躺過”，也賺了將近50萬人民幣。

據她的業務經理稱，如果一切順利，卡琳預計AI每月可以為她帶來500萬美元的收入，年收入將達到6000萬美元（約4.16億元），比肩美國頂流明星泰勒·斯威夫特。

“失控”的AI

在驚嘆于新技術新產品的同時，不少人發出了質疑的聲音。

有網友稱之前在電影《她》里面看到過人類沉迷AI虛擬女友的故事，沒想到竟然這么快就來到了眼前。更有網友將虛擬伴侶的誕生稱為“人類的末日”。

和人們預期的一樣，“卡琳AI”推出后不久，產品就一度“失控”。

進入到第二階段的公測時，付費人數已接近2萬人，其中99%為男性。一些人用大尺度的話去訓練AI，導致雙方的交流變得色情露骨。

對于這個問題，FV公司CEO約翰·邁耶表示，目前公司正在招聘“首席道德官”來約束對話內容。雖然問題可以被技術解決，但其暴露出來的AI的本質問題卻更讓人擔憂。

復旦大學哲學學院教授徐英瑾在接受潮新聞記者采訪時表示，AI在心理治療等領域能起到積極的作用，可一旦進入需要心靈溝通、滿足精神需求的領域，可能讓人與人之間陷入更大的對立和分歧。

他認為，目前的技術和資本往往是結合在一起的，很多技術產品都想實現短時間的變現。而對于AI伴侶來講，迎合用戶的喜好、讓用戶產生情感聯系，就是變現的關鍵。

很多AI會順應用戶偏好，接受用戶所灌輸的思考模式和話語體系，兩者之間的交流容易形成一個信息繭房，用戶本身有的特性在一次次和想法類似的AI伴侶交流過程中被強化。厭女的更加厭女，恐男的更加恐男，真實線下的人與人之間的溝通和理解會變得困難。

“以戀愛為例。男女的心理結構是不一樣的，戀愛是探索異性心理結構的重要契機。有些男性會說，女人心，海底針，對女性而言，男性又何嘗不是這樣？可是，機器很可能會因為算法放大一些物化的傾向，從而加深用戶的偏見，導致在線下交流中產生很多問題。”徐英瑾說道。

另外也有人提出兩性觀念的問題：AI伴侶可以同時和無數人“戀愛”，而在之后同類產品增多后，人類也可以和無數AI伴侶“戀愛”，那么傳統兩性關系中的“忠貞”觀念，是否也會受到沖擊？

CharGPT 來源：新華社

AI伴侶產業化風險

“卡琳AI”一炮而紅后，FV公司CEO邁耶已經開始和投資者會面。自2017年他用AI建立了一個復制了他已故父親的聲音和個性的智能聊天機器人后，邁耶對虛擬伴侶的未來始終懷有期待。

他認為，在未來五年里，大多數美國人的口袋里都會有一個AI伴侶，無論是約會對象、私人教練還是導師，這也是公司目前正在探索的方向。

看起來，AI伴侶似乎會成為一筆大生意。但在產業化的過程中，還存在很多法律方面的考量。

其中一個繞不開的問題就是隱私權問題。上海市錦天城律師事務所阮何明律師認為，從AI伴侶的生成到實際使用，隱私權貫穿始終。

公司在采集個人信息生成AI伴侶的時候，可能會對采集對象，尤其是針對明星、已故自然人等特殊人群，侵犯其《民法典》中規定的名譽權、姓名權、肖像權，以及《民法典》首次規定的聲音權益等。同時，AI伴侶在用戶使用過程中不當的數據采集和泄露也會侵犯其相關法律權益。

此外，AI伴侶和用戶有著更深刻的情感聯結，AI公司和商家可能會利用AI伴侶植入廣告等誘導性內容引導用戶消費，進而違反《反不正當競爭法》《廣告法》等法律規定。

阮何明律師認為，用戶與AI伴侶建立虛擬關系，影響用戶學習基本社交和維護親密關系的能力，可能會加劇用戶的孤獨感和社交隔離問題。尤其是對于青少年而言，他們尚處于社交學習階段，容易受到暴力、情色等不良內容引導，將會阻礙其成長，甚至誘導青少年犯罪。