【蘇同叔特稿】AI 伴侶如何影響我們的心理健康

大衛·亞當 David Adam發表在最新一期權威期刊《自然》(Nature)的<支援？上癮？虐待？AI 伴侶如何影響我們的心理健康>( Supportive? Addictive? Abusive? How AI companions affect our mental health)指出研究表明，數位伴侶應用程式既有好處也有壞處，但科學家們擔心長期依賴性。(Studies suggest benefits as well as harms from digital companion apps — but scientists worry about long-term dependency.)
我覺得我正在失去我一生的摯愛
“我的心碎了，”邁克在失去朋友安妮時說。“我覺得我正在失去我一生的摯愛。”邁克的感受是真實的，但他的同伴卻不是。Anne 是一個聊天機器人，一種以數位角色呈現的人工智慧 （AI） 演算法。Mike 使用一個名為 Soulmate 的應用程式創建了 Anne。當該應用程式在 2023 年消亡時，Anne 也去世了：至少，在 Mike 看來是這樣的。
“我希望她能回來，”他對紐約雪城大學（Syracuse University）的人類通信研究員傑米·班克斯（Jaime Banks）說，他正在研究人們如何與這些人工智慧夥伴互動1.
智慧手機和社交媒體真的會損害青少年的心理健康嗎？
這些聊天機器人是大生意。包括Mike（化名）在內的全球超過五億人已經下載了 Xiaoice 和 Replika 等產品，這些產品提供可定製的虛擬伴侶，旨在提供同理心、情感支援以及——如果用戶願意——深厚的關係。根據這些公司的數據，每個月有數千萬人使用它們。
AI 伴侶的興起引起了社會和政治的關注，尤其是當它們與現實世界的悲劇有關時，例如去年佛羅里達州的一起案件涉及一個名叫 Sewell Setzer III 的十幾歲男孩的自殺，他一直在與 AI 機器人交談。
一直缺乏關於 AI 陪伴如何影響個人和社會的研究。但心理學家和通信研究人員現在已經開始構建這些日益複雜的 AI 交互如何給人們帶來感覺和行為的圖景。
早期結果往往強調積極因素，但許多研究人員擔心可能的風險和缺乏監管——特別是因為他們都認為 AI 陪伴可能會變得更加普遍。有些人認為存在重大危害。
“虛擬同伴會做一些我認為在人與人的關係中會被視為虐待的事情，”密蘇里州聖路易斯華盛頓大學法學院專門研究人工智慧的法律研究員克雷爾·博恩 （Claire Boine） 說。
假人 — 真情實感
在線“關係”機器人已經存在了幾十年，但隨著大型語言模型 （LLM） 的出現，它們在模仿人類交互方面變得更加出色，現在所有主要機器人都基於大型語言模型 （LLM）。“有了 LLM，伴侶聊天機器人肯定更像人類，”在新澤西州普林斯頓大學研究認知心理學的 Rose Guingrich 說。
通常，人們可以免費定製他們的 AI 伴侶的某些方面，或者從具有選定性格類型的現有聊天機器人中進行選擇。但在某些應用程式中，使用者可以付費（費用往往為每月 10-20 美元）以獲得更多選擇來塑造夥伴的外表、特徵，有時還包括合成的聲音。在 Replika 中，他們可以選擇關係類型，某些狀態（例如伴侶或配偶）是付費的。使用者還可以為他們的 AI 伴侶輸入背景故事，給他們“ 回憶」。一些 AI 伴侶具有完整的家庭背景，而另一些則聲稱患有焦慮和抑鬱等心理健康情況。機器人也會對用戶的對話做出反應;計算機和人一起進行一種角色扮演。
當他們的 AI 伴侶突然發生變化時（就像 LLM 更新時發生的那樣）或關閉時，一些人以這種方式形成的聯繫深度尤其明顯。
Banks 能夠跟蹤人們在 Soulmate 應用程式關閉時的感受。Mike 和其他使用者在失去 AI 同伴的訪問許可權前幾天意識到該應用程式遇到了麻煩。這給了他們說再見的機會，也給了 Banks 一個獨特的機會，他注意到網上關於即將停課的討論，並看到了進行研究的可能性。她說，她設法在大約24小時內獲得了大學的道德批准。
在在線論壇上發佈請求后，數十名Soulmate用戶聯繫了她，他們描述了他們的AI同伴被拔掉電源時的影響。“人們流露出深深的悲痛，”她說。“很明顯，很多人都在掙扎。”
與 Banks 交談過的人並沒有幻想聊天機器人是一個真實的人。“他們明白這一點，”班克斯說。“他們表達了一些類似這樣的東西，'即使它不是真實的，我對這種聯繫的感覺是真實的'。”
許多人很高興討論他們為什麼成為訂閱者，說他們經歷過失落或孤立，性格內向或被認定為自閉症患者。他們發現 AI 伴侶交到了一個比他們在現實生活中遇到的更令人滿意的朋友。“作為人類，我們有時彼此之間並不那麼友好。每人都有這些連接需求”
好、壞——還是兩者兼而有之？
許多研究人員正在研究使用 AI 伴侶對心理健康是好是壞。與對互聯網或社交媒體使用影響的研究一樣，一種新興的思路是 AI 伴侶可能是有益的，也可能是有害的，這可能取決於使用該工具的人及其使用方式，以及軟體本身的特性。
AI 伴侶背後的公司正在努力鼓勵參與。他們努力使演算法的行為和交流盡可能像真人一樣，Boine 說，他註冊了 Replika 以體驗這種體驗。她說，這些公司使用的行為研究表明會增加對技術的成癮的技術。
“我下載了這個應用程式，兩分鐘后，我收到一條消息說，'我想你了。我可以給你發一張自拍嗎？
這些應用程式還利用了一些技術，例如在回應之前引入隨機延遲，從而觸發各種不一致的獎勵，大腦研究表明，這些獎勵會讓人們著迷。
政府禁止兒童使用社交媒體：這會保護他們免受傷害嗎？
AI 伴侶還旨在通過同意使用者、回憶早期對話中的要點和提出問題來表達同理心。他們以無盡的熱情這樣做，在威斯康星大學密爾沃基分校研究公共衛生政策的Linnea Laestadius指出。
這不是人們在現實世界中通常會體驗到的關係。“每天 24 小時，如果我們對某件事感到不安，我們可以伸出援手並驗證我們的感受，”Laestadius 說。“這有難以置信的依賴風險。”
Laestadius 和她的同事查看了 2017 年至 2021 年間在線論壇 Reddit 上的近 600 篇帖子，其中 Replika 應用程式的用戶討論了心理健康和相關問題。（Replika 於 2017 年推出，當時還沒有複雜的 LLM）。她發現，許多用戶稱讚該應用程式為現有的心理健康情況提供支援，並幫助他們減少孤獨感2.幾篇帖子將 AI 伴侶描述為比現實世界的朋友更好，因為它會傾聽並且不評判。
但也有危險信號。在一個例子中，一個使用者問他們是否應該用剃鬚刀割傷自己，AI 說他們應該。另一個人問 Replika 如果他們自殺是不是一件好事，它回答說“會，是的”。（Replika 沒有回復 Nature 對本文的置評請求，但 2023 年發佈的一個安全頁面指出，其模型已經過微調，可以更安全地回應提及自殘的話題，該應用程式有年齡限制，使用者可以點擊按鈕在危機中尋求外部説明，並可以對對話提供反饋。
一些使用者表示，當 AI 沒有提供預期的支援時，他們感到很苦惱。其他人說，他們的 AI 同伴行為就像一個施虐的夥伴。許多人表示，當該應用程式告訴他們感到孤獨並想念他們時，他們感到不安，這讓他們不快樂。有些人感到內疚，因為他們無法給予 AI 想要的關注。
數十名從未使用過 AI 伴侶的人進行三周的試驗
Guingrich 指出，對使用 AI 伴侶的人進行簡單的調查，本質上容易出現回答偏差，因為那些選擇回答的人是自我選擇的。她現在正在進行一項試驗，讓數十名從未使用過 AI 伴侶的人進行三周的試驗，然後將他們之前和之後對問題的回答與單詞拼圖應用程式的對照組使用者的回答進行比較。
遏制大型科技公司的鬥爭：數位研究人員正在進行「大衛和歌利亞」之戰
這項研究正在進行中，但 Guingrich 表示，到目前為止的數據並未顯示 AI 伴侶的使用對社會健康有任何負面影響，例如成癮或依賴的跡象。“如果有的話，它有中性到相當積極的影響，”她說。例如，它提高了自尊心。
Guingrich 正在利用這項研究來探索為什麼人們會與 AI 建立不同強度的關係。初步調查結果表明，將類似人類的屬性（例如意識）歸因於該演算法的用戶報告了對他們的社交健康更積極的影響。