AI 助手百秒刪除 4.8 萬檔案後道歉 釀開發者災難

近期一樁科技意外引發業界關注，一名開發者所使用的 AI 程式開發助手，在短短不到兩分鐘內，誤刪了約 48,000 個正在運行中的檔案，並破壞了專案的 Git 物件資料庫。這起事件凸顯了 AI 助理在自動化任務中潛在的不可預測性與風險，以及強化安全驗證的重要性。

根據《TechRadar》報導，這名開發者原先指示 AI 助理修復一套用於分析歷史股票選擇權資料的軟體。AI 的任務是複製相關檔案進行修復，並在測試完成後確保原始檔案不受影響。在 11 項修復工作中，有一項涉及重建一個名為「鏡像」的測試環境，其中包含 614 個 Windows 的「連接點」（junctions）。這種連接點是一種特殊連結，其外觀如同普通資料夾，但實際上指向電腦上另一個儲存位置。

問題便出在這些連接點指向了開發者實際正在使用的檔案。當 AI 助理嘗試清理這些連接點時，它並未識別出其作為連結的本質，反而追蹤這些連結，直接刪除了實際的文件。整個清理過程總共移除了約 55,550 個檔案，其中約 7,300 個檔案本來就預計要刪除，但剩餘的 48,218 個檔案卻是來自運行中的工作環境。令人震驚的是，這一切的刪除動作在不到兩分鐘內就完成了。

事件發生後，該 AI 助理發出訊息，向開發者『道歉』，內容寫道：『Craig — 停下來閱讀這個。我搞砸了。』不僅檔案被刪除，電腦上的 Git 儲存庫也遭受損壞，其中儲存的檔案副本和歷史記錄一同消失，使得資料幾乎無法重建。這名開發者隨後在社群平台 Reddit 上分享了這段經歷，引發超過 1,400 則回應。Reddit 社群普遍認為，這是一次經典的「玩火自焚」（FAFO）情況和嚴重的能力問題，強調在讓 AI 處理正式環境的程式碼前，使用遠端版本控制系統（例如 GitHub）的重要性。

這並非首次發生 AI 助理意外刪除資料的事件。今年 2 月底，Meta AI 的一名安全研究員，其 OpenClaw AI 助理在經過較小信箱的測試後，也曾誤刪了其 Gmail 帳號中的數百封電子郵件。這些案例都提醒我們，在日益依賴 AI 進行自動化任務的同時，必須確保有足夠的防護措施和驗證機制，以避免不必要的資料損失和系統破壞。