美兩男子涉製 AI 深度偽造色情內容 新法上路後遭聯邦起訴

美國聯邦檢察官已對兩名男子提起訴訟，指控他們利用人工智慧（AI）技術，製作並散布女性名人和一般民眾的深度偽造（deepfake）色情影片與圖片。此案是在去年生效、旨在打擊深度偽造色情內容的「移除法案」（Take It Down Act）之下，最早一批被起訴的案件之一。

根據《Ktar.com》報導，這兩名被告分別是 51 歲男子 Cornelius Shannon 和 20 歲男子 Arturo Hernandez，他們於週二遭到逮捕。檢方指出，兩人製造的性暗示 AI 內容在網路上吸引了數百萬次瀏覽。

布魯克林聯邦檢察官 Joseph Nocella 強調，這些嫌疑人「利用尖端數位科技創造了貶低和侵犯數十名女性的圖像」，並明確指出：「發布深度偽造色情內容並非無受害者的犯罪。」依據新的「移除法案」，兩名被告最高可能面臨兩年有期徒刑。

檢方表示，其中一名被告 Shannon 至少發布了 240 輯 AI 生成色情內容，受害者包括女性政治人物、音樂家和歌手。另一名被告 Hernandez 的內容則不僅涉及名人，還包含了多名一般女性，其中甚至有剛畢業的高中生。

「移除法案」是由川普總統於去年簽署生效，旨在增強對發布 AI 生成深度偽造內容和「復仇式色情」的懲罰。《Ktar.com》指出，此類案件近來屢見不鮮。上個月，俄亥俄州一名男子因利用 AI 生成兒童性虐待素材而認罪，成為該法案下首位被定罪者。今年三月，賓夕法尼亞州有兩名青少年也因製作同學的性暗示 AI 圖像而被判處緩刑。此外，今年稍早，田納西州有三名青少年曾對馬斯克（Elon Musk）旗下的 xAI 公司提出訴訟，聲稱該公司的 Grok 工具將他們的真實照片轉化為露骨的性影像。