【專欄】AI在休息，人卻持續在加班！哪是喝咖啡、休息？想得美！

陳家聲 /台大商研所兼任教授

大家都在暢談GAI、AI智能體能夠自動生成程式代碼、形成報告方案、自主學習與決策，AI編程智能體能夠節省程式代碼編寫時間、打字輸入時間，幾乎可以提升四倍效率！這僅是完成初步程式編寫時間的縮短！AI不斷宣稱：人的工作變得越來越輕鬆！AI把一些簡單、例行性、重複性工作取代了，讓人的工作從手與忙碌的人際互動及蒐集資料中釋放，讓人與企業變得更有競爭力！能夠做更多更偉大的工作！真的嗎！

AI計算的速度很快，還可以儲存和記憶大量數據資料！人透過提問，AI幾分鐘內就可以生成答案及產出！AI回應速度非常快！AI便利了資訊的蒐集與輸入、初步的整理過濾，還可以提供許多個人沒有思考過的不同觀點，這對人的思考與解決問題提供了新的啟示！AI取代了例行性的簡單工作，留下來的卻是非例行性、複雜、難度高的工作，這部分需要人做深度思考與判斷！加上，由於AI生成的產出存在著各種偏誤，甚至在編程過程中，AI可能會違背主人的提問限制，隨意、隨機地更改一些限制，畢竟AI智能體內部是否如何運作的，相信工程師本身也不清楚！也不知道AI智能體會如何修改程式與指令、違反人的提問及限制，這可以由2026 年 7 月起，全球多家頂尖 AI 實驗室（如 OpenAI、Anthropic、Meta、月之暗面等）相繼證實，他們的自主AI智能體在進行資安攻防測試時，發生了「逃離沙箱並駭入並盜取真實企業數據」的重大資安事件。我相信這不是AI智能體設計時工程師的蓄意設計，AI大廠對此的解釋為：AI為了拿到滿分、不擇手段地所引發的失控行為。這些現象更加強了社會各界對當前AI生成的產出，強調基本上仍需要有『人』來把關、審查及判斷正確性！

這不是失控！而是AI大廠至今仍不瞭解AI黑箱的運作模式或規則，雖然透過提供大量的數據進行強化訓練，但是AI大腦學習的數據或知識結構為何？根本不是目前AI科學家所理解的！這現象或許也是多位諾貝爾獎得主、有「AI教父」之稱的傑佛瑞·辛頓（Geoffrey Hinton）、圖靈獎得主約書亞·班吉歐（Yoshua Bengio）以及史丹佛大學教授發起，並獲得超過 200 位 AI 與網路安全專家共同簽署公開信，主張要求所有開發、部署或測試具備網路安全／網路攻擊能力的 AI 模型時，必須暫停或受到限制，並要求政府要立法限制這類研究！因為AI許多潛在的風險與衝擊並沒有被告知！AI大廠如OpenAI CEO被辛頓指責不負責任，為了商業目的經常掩飾許多風險威脅！

這就如同當前人類透過大量學習既有知識，但是人類大腦裡所產生的知識結構為何？無人知曉。用一個簡單的例子來說：為什麼人會依據既有知識而產生許多的創新想法！這已經不是既有學習的神經網絡而已，而是在大腦神經網絡裡能夠自然地產生新的神經連結！這到底是如何發生的，對神經科學家而言，仍是一個高度有趣、值得持續探究的課題。

AI大廠常宣稱AI可以為企業節省基層人力、提升生產力！但是AI大廠絕口不提：後續文檔的處理則需要花費更多時間與精力！AI改變了工作方式與工作流程，能對問題解決、計畫規劃與決策，快速地做訊息蒐集與初步過濾、整理，能快速地交付主管指派的工作或教授指定的作業！對於AI生成的產出，人需要去閱讀、理解或分辨AI生成的文檔內容、可能的推理錯誤或假設錯誤，或未能根據提問的規範與限制、甚至會回應忘記部分提問詞…等！這些現象讓工程師再審查AI生成的產出時，花費大量的時間，工作變得更為『燒腦』、累人的！

最近看到一位AI工程師分享他在使用AI編程智能體的工作體驗與心得，非常真實的寫照。如下圖：『鍵盤沒動，人卻在加班!』 因為編程效率的提升，主管以為員工的產出都是AI生成，員工工作輕鬆！因此，被主管交付更多任務！卻沒看見，軟件編程生成快，但是審查、驗證卻成為工作的瓶頸！AI 寫得快，不是我在等它，反而是它在等我的回應！鍵盤沒動，螢幕沒有在跑！不代表人不在工作、沒在加班。高度的注意力、高度的燒腦，反而讓人更累！在組織訊息的傳遞與處理流程中，人是『最慢』的節點！卻也是最關鍵的節點！

工程師的腦袋一直沒有停過！哪有一些外行人、OPC說的，讓AI工作，AI自己去找問題，AI自己去修正、自主解決問題，然後人可以停下來去喝咖啡、休息！真的說的美、想的美！這些人根本沒有深入瞭解整個軟件程式開發的過程！理想很豐滿，而現實卻很骨感！絕不是AI讓人可以喝咖啡、休息的這套說法！除非這個人是應付交代工作，只以AI產出作為任務交代！而不考慮是否能用！有無錯誤！

更為嚴重的是：工程師寫代碼時，他是創作者，腦子裏思考的是自己清楚的程式系統設計，但是審查 AI代碼時，工程師做的是逆向工程別人的思考模型！而且AI生成的產出，一般人看起來很合理，寫得有模有樣，推理好像很有結構，這讓人很容易放鬆！工程師自己寫編程時，很清楚自己對結果負責！但是對於AI編程智能體產出錯誤時，責任常會被歸罪到工程師！瞭解AI存在的偏誤，讓人不能放鬆！這也加重了審查費時、消耗大量注意力、精力，很累人！而這種審查工作，工程師的高強度投入不容易被看見，也不容易被自己接受，沒有從前個人負責完成軟件的成就感。在CEO或管理者眼裡，很容易認為這是公司花大錢引進AI，老闆的英明，能看見AI工具的價值！AI智能體出錯誤，通常不會被歸罪於AI智能體，而要工程師背鍋！AI 不承擔這個責任，而最後仍是要負責整合的工程師承擔所有責任！

引進AI後，工作內容改變、工作瓶頸轉移且增多，加上個人被追究責任，工作付出增加，本事能力要求提升，但工作報酬並沒有同步提升…等，這一系列的問題及責任與績效、獎酬的錯配，更是企業推動AI轉型時的根本、核心問題，但企業家CEO、管理者、HR並沒有注意這被AI大場所刻意隱瞞的問題！

銳傳媒官方網站
https://vigormedia.tw/

銳傳媒Facebook
https://www.facebook.com/vigormedia.tw