過去兩年間,每當有人在Pornhub網站上搜索與兒童虐待相關的內容時,聊天機器人就會出現,並詢問他們如何尋求協助。根據一份獨家報告,此舉導致搜索兒童性虐待材料(CSAM)的數量大幅下降,數以百計的人也因此尋求幫助。
這項試驗計畫是Pornhub與兩個英國兒童保護組織合作推出,在探索是否可以透過一些小小干預,阻止人們搜索非法內容。在為期多年的試驗期間,有440萬次CSAM相關搜索觸發了警告訊息,佔整個試驗期間所有搜索量的1%。
塔斯馬尼亞大學(Tasmania)的喬爾·斯堪蘭(Joel Scanlan)教授表示,這些原始搜索數據"實在相當驚人"。不過,他指出,在干預期間,CSAM相關搜索量確實出現"顯著減少",證明了這些警示訊息的成效。
除了警告訊息外,聊天機器人也在280萬次搜索中出現,詢問使用者一系列問題,最終解釋所搜索的內容可能屬於違法行為,並提供兒童性剝削防治組織"立即制止"(Stop It Now)的求助服務。
報告顯示,有1,656人要求獲得更多資訊,490人點擊前往"Stop It Now"網站。約68人與該組織保持熱線聯繫。該組織的唐納德·芬德萊特(Donald Findlater) 指出,雖然這些數字相對於總警告數量而言"相對溫和",但仍是一個"重大突破",因為這表明有人願意尋求協助。
分析報告認為,儘管大部分人在看到警告後就離開了Pornhub,但仍有40萬人在收到多次警告後繼續搜索違法內容,顯示這類人的行為更難更正。
然而,紐約州立大學奧爾巴尼分校的心理學副教授辛西亞(Cynthia Najdowski)認為,此類聊天機器人對於阻止部分人存取CSAM是有前景的。類似的"小小推動"已被用於遏制各種不當網路行為。她解釋,預防犯罪行為通常需要三個要素:人們須知曉其行為的違法性、將法律知識應用於自身行為、並相信行為的代價可能大於收益。因此,這類聊天機器人至少可以完成第一個層面。
儘管這項工作存在一些複雜性導致數據並非完整無缺,但斯堪蘭教授表示,這項研究結果顯示聊天機器人可作為廣泛教育和預防人們線上搜索CSAM的一環。他說:"如果某人是出於好奇做這種事,你想在他們真正捲入其中前就予以阻止,因為我們無法僅靠逮捕來解決這個問題。"
雖然試驗計劃已經結束,但警告訊息和聊天機器人仍然在Pornhub的英國網站上運作。研究人員表示,其他色情網站也應採取類似措施,在各自平台上設置阻礙機制,共同打擊兒童虐待內容的傳播。
此外,他們也呼籲社交媒體和文件分享平台等其他公司,思考在適當場合引入類似的機制,攔阻更多人搜索CSAM。 IWF技術長 Dan Sexton說:"在越多地方設置這些機制,就越有機會幫助到那些仍可挽救或正在尋求協助但不知所措的人。"