AI生成內容肉眼難辨 哈尼·法裡德示警「共享現實」動搖

數位鑑識專家哈尼·法裡德（Hany Farid）近日指出，隨著人工智慧（AI）技術突飛猛進，現今一般網路用戶幾乎已不可能僅憑肉眼辨識出人工智慧生成的內容，這對社會的「共享現實」構成嚴峻威脅。

哈尼·法裡德於 1999 年起在美國達特茅斯學院（Dartmouth College）研究數位鑑識。他回顧早期數位鑑識領域時表示，當時影像造假需要專業技能和軟體工具，如 Photoshop，因此往往會留下可偵測的痕跡，例如不對稱的陰影、幾何形狀錯誤、尺寸不符或特定的檔案後設資料。他引述道：「好消息是，當時的造假仍需要技術，所以你能從中找出破綻。」

然而，現在任何一個人只需要透過鍵盤和網路，就能指示人工智慧引擎進行驚人的數位內容篡改。哈尼·法裡德表示，先進的人工智慧模型能夠以五到十年前完全無法想像的方式來操縱媒體內容。他提到，人工智慧生成的圖像已成功跨越「恐怖谷」，意指其真實感已達到足以令人混淆，甚至感到不安的程度；緊隨其後的是聲音幾可亂真的語音複製，其自然語調已能騙過人耳。目前，人工智慧影片技術也正快速進入「恐怖谷」，導致網路上短片的真偽越來越難以透過視覺線索來驗證。

儘管生成式人工智慧工具並不理解物理法則、陰影或三維環境，因此仍會留下專家能夠捕捉到的細微數學訊號。哈尼·法裡德強調：「只要你製造出物理上不可能的內容，我們就能偵測到訊號。」然而，要徹底驗證數位內容的真偽，通常需要約一小時的連續測試。在這個社群媒體充斥假訊息的時代，一小時的查驗時間顯得過於漫長。許多被操縱的影片在事實查核結果出來前，就已累積數百萬次的觀看次數。他最擔憂的是，社會正逐漸失去對現實的共同認知，這可能動搖政治與社會穩定。