AI代理人開始幫你做事 Proton老闆示警：失控比駭客更可怕

AI 現在不只會聊天，已經跑進辦公室、信箱、搜尋和手機助理裡。資安和隱私的問題，也從「我的資料會不會被平台偷看」，升級成「我授權給 AI，它會不會幫我搞砸」。

做加密信箱和 VPN 的公司 Proton，執行長嚴育銓（Andy Yen）最近在 Semafor 世界經濟論壇上說，AI 時代還是有機會保護隱私，但他最擔心的，是 AI 代理人一旦失控，就算加密再強，也擋不住資料被亂公開或外洩。

嚴育銓這番話，點出 AI 產業正在進到下一關。以前的 AI 聊天機器人，你問它答，就像問答工具。但現在的 AI Agents 不只回答問題，還會幫你做事：整理信件、排會議、網購下單、讀你的雲端檔案、操作公司系統，甚至連銀行、醫院、客服都能接。AI 從「給建議的人」變成「動手做的人」，風險也從「答錯」變成「做錯事」。

Proton 做加密信箱、VPN、雲端硬碟，商業模式跟 Google、Meta 這種大公司剛好相反。嚴育銓說，很多人以為 AI 要變聰明就得吃更多資料，所以科技公司更有理由蒐集、分析你的資料。AI 越好用，隱私跟方便的拉扯就越嚴重。對一般人來說，最大的風險不是不懂科技，而是為了方便，把一堆權限開給不透明的系統。

他也發現，不同年紀的人對隱私的想法差很多。Proton 剛成立時，知道大公司靠資料、廣告賺錢的人很少；現在越來越多人知道「免費的最貴」，背後都是拿資料換的。不過年輕人雖然很熟 IG、TikTok 怎麼運作，卻不一定在意個資被怎麼用。嚴育銓覺得，教育還是關鍵，因為「知道但不在意」的人，至少還有機會被說服。

資安圈真正緊張的，是 AI Agents 的「授權」問題。舉例來說，你如果讓 AI 助理讀你的信箱，它就能看到商業合約、看病紀錄、銀行資訊、跟家人的對話、身分證字號。如果 AI 被駭客用話術騙、聽錯指令，或被壞網站引導，就可能把你的敏感資料寄出去，甚至刪掉或亂改重要檔案。這不只會發生在個人，也會炸到公司資安、政府機關跟醫院系統。

這就是加密技術的極限。加密能保護資料在傳送、存放時不被偷看，但如果你自己授權 AI 去讀資料，問題就不是「有沒有加密」，而是「你授權的這個工具可不可信、會不會亂來」。換句話說，AI 代理人時代，資安防線不只靠密碼和主機，還要靠權限管理、限制 AI 能做什麼、完整記錄它做過什麼、重要動作要人點頭。

為了降低風險，Proton 提出「在地 AI」的做法。意思就是資料盡量在你自己的手機或電腦上處理，不要送去雲端。Proton 的 Scribe AI 寫作助理就是這樣設計，讓你寫信、寫文件時，資料比較不會外流。現在手機、筆電越做越快，小模型 AI 也越來越強，以後很多工具都能在本機跑。

Proton 也推出主打隱私的 AI 助手 Lumo，強調不記錄你的對話、不拿你的資料去訓練模型，而且用加密設計，讓平台自己和第三方都看不到你的資料。這代表 AI 市場開始出現另一種比賽：不只比誰的模型聰明、回答快，也比誰能讓你更安心處理機密資料。對公司和專業工作者來說，這種工具的價值不是要打敗 ChatGPT，而是某些場合需要更高保護時，能用得放心。

但做隱私優先的 AI 也有難處。加密、在地運算、高標準保護資料，通常代表開發更貴、系統更複雜、服務可能更貴。比起 Google、微軟這種大公司可以用超大雲端、廣告收入來補貼成本，隱私派公司必須說服你：為了安全跟自主，值得多付錢。這也是 Proton 模式能不能做大的考驗。

AI 的隱私戰場，已經從「聊天紀錄會不會被看到」，變成「AI 能幫你做多少事」。當 AI 只會回答問題，答錯頂多是錯的資訊；當 AI 開始讀你信箱、幫你下單、連你銀行帳戶，犯錯就變成真實損失。未來公司要用 AI Agents，不能只看效率，還要做到：給最少權限、敏感資料隔開、重要動作要人確認、所有操作都要留紀錄、定期資安檢查。

對台灣市場來說，這提醒很重要。台灣公司正在快速用 AI 客服、文件助理、行銷自動化、醫療行政跟金融科技，但很多公司還把 AI 當一般軟體，沒完整評估個資法、資安責任、商業機密跟供應鏈風險。如果以後 AI 代理人進到醫院、銀行、政府或公司內部系統，一次權限開錯，就可能讓效率工具變成資安大洞。

公平來看，AI Agents 不該被當成壞人。設計得好，它能幫你處理重複工作、提升效率、少加班，甚至讓用起來更順。但它也不能被吹得太美好，因為越厲害的代理人，通常也要你給越多權限。AI 時代真正的問題，不是「要不要用 AI」，而是「能不能設計一套規則，讓 AI 做得到事，又不能亂做事」。

嚴育銓的警告不是反對 AI，而是提醒大家重新想清楚信任的邊界。當工具變成代理人，你交出去的不只是資料，而是「幫你做決定的權力」。未來 AI 的比賽，贏家不只看誰模型強，還要看誰能讓你相信：方便，不一定要拿隱私來換。