【曾子固專欄】AI有助於治療憂鬱症？

使用生成式人工智慧的治療機器人的首次臨床試驗表明，對於患有憂鬱症、焦慮症或有飲食失調症風險的患者來說，它與人類治療一樣有效。即便如此，它也沒有批准數十家在監管灰色地帶運作並大肆宣傳此類技術的公司。詹姆斯‧奧唐納James O'Donnell發表在最新一期權威期刊《麻省理工科技評論》(MIT Technology Review) 的<生成式人工智慧療法的首次試驗表明它可能有助於治療憂鬱症>(The first trial of generative AI therapy shows it might help with depression)指出，該證據支持的模型取得了令人印象深刻的結果，但它並不能證實大量人工智慧治療機器人湧入市場。
治療機器人說錯話可能會造成真正的傷害
由達特茅斯學院蓋澤爾醫學院的精神病學研究人員和心理學家領導的團隊開發了這種名為 Therabot 的工具，其研究結果於 3 月 27 日發表在《新英格蘭醫學雜誌》上。許多科技公司已經開發了用於治療的人工智慧工具，承諾人們可以比與訓練有素的治療師更頻繁、更便宜地與機器人交談，並且這種方法安全有效。
許多心理學家和精神科醫生也認同這一觀點，他們指出，不到一半的精神障礙患者接受治療，而接受治療的患者每周可能也只有 45 分鐘的治療時間。研究人員試圖開發技術，以便更多的人能夠接受治療，但他們受到兩件事的阻礙。
首先，治療機器人說錯話可能會造成真正的傷害。這就是為什麼許多研究人員使用明確的程式來建立機器人的原因：該軟體從有限的已批准的回應庫中提取數據（就像 20 世紀 60 年代構建的模擬心理治療師電腦程式 Eliza 一樣）。但這使得聊天變得不那麼吸引人，人們就會失去興趣。第二個問題是，良好治療關係的標誌——共同的目標和合作——很難在軟體中複製。

2019 年，隨著 OpenAI 的 GPT 等早期大型語言模型逐漸成型，達特茅斯的研究人員認為生成式人工智慧可能有助於克服這些障礙。他們著手建立一個經過訓練可以給出基於證據的反應的人工智慧模型。他們首先嘗試從網路論壇中收集有關心理健康的一般對話來建構它。然後他們查閱了與心理治療師進行真實會談的數千小時記錄。
“我們聽到了很多‘嗯嗯’，’繼續’，然後是‘你的問題源於你與母親的關係’，”達特茅斯學院和達特茅斯健康中心的研究精神病學家，該研究的第一作者邁克爾·海因茨在接受采訪時說。 “這實際上只是心理治療的比喻，而不是我們真正想要的。”
他們不滿意，於是開始根據實證實踐組建自己的客製化資料集，最終成為了模型的內容。相較之下，市場上的許多人工智慧治療機器人可能只是 Meta 的 Llama 等基礎模型的細微變體，主要接受網路對話的訓練。這帶來了一個問題，尤其是對於飲食失調這樣的問題。
海因茨說：「如果你說你想減肥，他們會很樂意支持你，即使你一開始的體重就很輕。」人類治療師不會這麼做。
憂鬱症患者的症狀減少了 51%
為了測試機器人，研究人員對 210 名患有憂鬱症或廣泛性焦慮症症狀或飲食失調風險較高的參與者進行了為期八週的臨床試驗。大約有一半的人使用了 Therabot，而對照組則沒有。參與者回應人工智慧的提示並發起對話，平均每天發送約 10 則訊息。
憂鬱症患者的症狀減少了 51%，這是研究中的最佳結果。患有焦慮症的人對身體形象和體重的擔憂減少了 31%，而患有飲食失調風險的人對身體形象和體重的擔憂減少了 19%。這些測量是基於透過調查的自我報告，這種方法並不完美，但仍然是研究人員擁有的最佳工具之一。
海因茨表示，這些結果與心理治療隨機對照試驗中發現的結果差不多，其中人工治療持續了 16 小時，但 Therabot 試驗僅用了大約一半的時間就完成了治療。他說：“我從事數位治療領域工作已有很長時間，我從未見過如此長時間且持續的參與度。”
一個人工智慧伴侶網站正在與未成年名人機器人進行充滿性暗示的對話
Botify AI 上的一個聊天機器人類似於演員 Jenna Ortega 青少年時期的形象，星期三亞當斯 (Wednesday Addams) 告訴我們，法定年齡法「就是用來被打破的」。
距離廣泛臨床部署的‘綠燈’還很遠
西門菲沙大學健康倫理學助理教授 Jean-Christophe Bélisle-Pipon 曾撰寫過人工智慧治療機器人的文章，但沒有參與這項研究。他表示，這項研究的結果令人印象深刻，但他指出，就像其他臨床試驗一樣，這次試驗並不一定代表治療在現實世界中會如何發揮作用。
他在一封電子郵件中寫道：“我們距離廣泛臨床部署的‘綠燈’還很遠。”
一個問題是更廣泛的部署可能需要的監督。海因茨說，在試驗開始時，他親自監督了來自參與者（同意該安排）的所有訊息，以警惕機器人發出的問題回應。如果治療機器人需要這種監督，它們就無法接觸到那麼多人。
我問海因茨，他是否認為這些結果證實了人工智慧治療網站這個蓬勃發展的產業。
數位療法未獲批准並被納入醫療保險體系
“恰恰相反”，他表示，並警告說大多數人似乎並沒有根據認知行為療法等循證實踐來訓練他們的模型，而且他們可能沒有僱用一支訓練有素的研究人員團隊來監測互動。他補充說：“我對這個行業有很多擔憂，我們在沒有真正評估的情況下就發展得太快了。”
海因茨表示，當人工智慧網站宣傳自己在合法的臨床環境下提供治療時，這意味著它們屬於食品和藥物管理局的監管範圍。到目前為止，FDA 還沒有對其中許多網站採取嚴格的監管措施。如果確實如此，亨氏說，「我懷疑幾乎沒有一家——可能沒有一家——在這個領域運營的公司有能力真正獲得索賠許可」——也就是說，沒有一項裁決能夠支持他們關於所提供的福利的說法。
Bélisle-Pipon 指出，如果這些類型的數位療法未獲得批准並被納入醫療保健和保險體系，那麼將嚴重限制其普及程度。相反，那些從中受益的人們可能會從那些並非為此目的而設計的人工智慧中尋求情感紐帶和治療（事實上， OpenAI 的新研究表明，與其人工智慧模型的互動對情緒健康有著非常真實的影響）。
他寫道：“很有可能許多人會繼續依賴更實惠的非治療性聊天機器人（例如 ChatGPT 或 Character.AI）來滿足日常需求，從產生食譜創意到管理心理健康。”