商傳媒｜記者許方達／綜合報導
生成式AI工具在全球爆紅，但根據資安公司數據顯示，網路犯罪率也隨之猛爆性成長。報告指出，全球第2季每週遭受的網路攻擊次數遽增8%，且台灣企業上半年平均遭到3245次攻擊，位居全球之冠，更較去年同期增加10%。資安廠商Check Point Software分析，生成式AI恐降低駭客攻擊門檻、提升犯罪效率，造成網攻加速竄起。
資安公司趨勢科技觀察也指出，生成式AI工具已被網路犯罪集團大量運用於提高虛擬犯罪效率，如：虛擬綁匪利用語音複製、SIM卡挾持、ChatGPT以及社群網路分析與傾向（SNAP）模型來尋找最有利可圖的目標並執行詐騙，又或者利用AI工具建立起層層自動化蒐集資訊、發掘魚叉式網路捕鯨攻擊（Whaling Attacks）；部分駭客集團更透過「虛擬加密貨幣投資詐騙」誘騙受害者。
台科大資安中心主任查士朝指出，AI還能生成名人的照片、語音，進行社交工程詐欺，真假難辨；AI也是兩面刃，可以成為工程師的助手，去發掘所撰寫網頁的資安問題，但駭客也可以在不熟悉技術的情況下把網頁交給AI，進一步找出弱點或攻擊方法，增加防禦難度。
圖片來源：行政院長陳建仁臉書
為確保國人資訊安全，行政院拍板「行政院及所屬機關（構）使用生成式AI參考指引」草案，國科會副主委林敏聰指出，「指引可讓公部門思考AI風險，累積實務經驗，有助於未來AI基本法的立法」。
指引有十點規定，包括：須客觀且專業的判斷生成資訊、製作機密文書禁止使用、不得提供應保密及個資等資訊、封閉式地端環境使用須確認系統環境安全性、使用應適當揭露、各機關得另訂定規範或內控措施、採購事項得標者需注意本指引規定等。
公務員若使用生成式AI輔助業務，需要適當揭露；包含公營事業機構、公立學校、行政法人及政府捐助的財團法人使用生成式AI，可準用參考指引。
行政院長陳建仁指示國科會，應觀察全球AI發展趨勢持續滾動修正指引，並函頒各機關參考，後續請各部會視業務需要，訂定使用生成式AI之規範或內控管理措施；將請數位發展部帶頭建立相關規範及教育訓練機制，促進政府運用AI提升行政效率。