【蘇和仲專欄】如何教導人工智慧模型進行治療？

3 月 27 日，生成式 AI 治療機器人的首次臨床試驗結果發布，結果顯示，試驗中患有憂鬱症或焦慮症或有飲食失調風險的人可以透過與機器人聊天受益。詹姆斯·奧唐納James O'Donnell發表在最新一期權威期刊《麻省理工科技評論》(MIT Technology Review) 的<如何教導人工智慧模型進行治療？>( How do you teach an AI model to give therapy?)指出，該技術的首次試驗顯示出良好的前景。但這與模型的內容有關。(The first trial of the technology showed promise. But it’s about what goes into the model.)
經過訓練以提供治療的人工智慧模型是否能夠為數百萬遭遇心理健康危機的人提供解決方案。機器人如何模仿訓練有素的治療師的專業知識？如果事情變得複雜（例如提到自殘），而機器人沒有正確干預，會發生什麼情況？
研究人員是達特茅斯學院蓋澤爾醫學院的精神科醫生和心理學家團隊，他們在工作中承認了這些問題。但他們也表示，正確選擇訓練資料（決定模型如何學習良好的治療反應）是回答這些問題的關鍵。
找到正確的數據並非一項簡單的任務。研究人員首先根據網路上有關心理健康的對話來訓練他們的人工智慧模型 Therabot。這是一場災難。
如果你告訴這個模型的初始版本你感到沮喪，它也會開始告訴你它感到沮喪。達特茅斯學院生物醫學數據科學和精神病學副教授、研究報告的資深作者尼克·雅各布森 (Nick Jacobson) 說，諸如“有時我無法起床”或“我只想結束我的生命”之類的回答很常見。 “這些真的不是我們想要的治療反應。”
這個模型是從論壇上人們討論心理健康危機的對話中學習到的，而不是從基於證據的反應中學習到的。因此團隊開始研究治療過程的記錄。 「實際上，很多心理治療師都是這樣接受訓練的，」雅各布森說。
這種方法更好，但也有限制。 “我們聽到了很多‘嗯嗯’，’繼續’，然後是‘你的問題源於你與母親的關係’，”雅各布森說。 “這實際上只是心理治療的比喻，而不是我們真正想要的。”
直到研究人員開始使用基於認知行為療法技術的範例建立自己的資料集時，他們才開始看到更好的結果。這花了很長時間。該團隊於 2019 年開始致力於 Therabot 的研發，當時 OpenAI 僅發布了其 GPT 模型的前兩個版本。現在，雅各布森說，已有 100 多人花了超過 10 萬個小時來設計這個系統。
訓練資料的重要性表明，大量公司承諾透過人工智慧模型進行治療，但其中許多公司並未接受過基於證據的方法的訓練，因此他們所建立的工具充其量是無效的，最壞的情況是有害的。
展望未來，有兩件大事值得關注：市場上數十種人工智慧治療機器人是否會開始使用更好的數據進行訓練？如果他們這麼做了，他們的成果是否足以獲得美國食品藥物管理局的批准？我將密切關注。