紐約州法院祭AI指引 律師提交文件須防「幻覺」

紐約州法院系統於本週一（26日）發布一項官方指引，要求律師在使用人工智慧（AI）工具準備法律文件時，必須嚴格核實內容，以防範AI生成「幻覺」資料，確保法庭紀錄的正確性。

這份由Advisory Committee on Artificial Intelligence and the Courts發布的指引，題為《使用人工智慧準備法庭文件的風險：每位律師應知曉之事》，旨在阻止虛假案例和引述進入法律紀錄。約瑟夫·札亞斯（Joseph Zayas）首席行政法官指出，AI工具雖能提升效率，但也伴隨風險，需要謹慎和知情的監督。他強調，律師對於提交給法院的文件內容，仍負有完全的準確性責任。

指引中特別提到，生成式AI可能產生具說服力但錯誤的法律論點，輕則導致案件脫軌、浪費資源，重則可能讓律師遭受法院處罰。AI幻覺（hallucinations）是指生成式AI模型有時會產生看似合理但實際上捏造、不真實的資訊。在法律文件中使用這類虛構內容，可能導致嚴重的法律後果。

根據紐約州的《專業行為規範》，法官可對提交虛假或瑣碎文件的律師處以制裁或罰款。因此，律師即使使用AI協助草擬法庭文件，仍需理解AI技術的運作原理，並獨立驗證AI提供的每一個事實、引述與主張。

為此，指引建議律師利用如Westlaw和律商聯訊（LexisNexis）等權威法律研究資料庫，仔細檢查AI生成的所有內容。同時，律師也要檢查AI文本是否存在隱藏偏見或不當措辭，並保留驗證過程的書面記錄。