英國網路安全官員:AI 駭客工具 Mythos 潛藏風險亦能助益資安

商傳媒|何映辰/台北報導
英國資深網路安全官員近日指出,儘管先進的人工智慧(AI)駭客工具存在潛在風險,但若能妥善防範濫用,這些工具對於公共網路安全而言,反能帶來「淨效益」。此番言論凸顯了全球在 AI 攻防兩面刃上的複雜討論。
英國國家網路安全中心(NCSC)主任理查·霍恩(Richard Horne)預計在年度 CyberUK 會議上闡述,AI 工具若能有效防範惡意使用,便有助於提升安全。他強調,AI 正迅速且大規模地揭露並利用現有漏洞,這突顯了各組織亟需應對網路安全基本功的重要性。霍恩呼籲企業及組織不應畏懼新型 AI 攻擊,而應專注於強化基礎網路安全實踐,並敦促 AI 公司遵循新制定的歐洲安全準則,確保其模型安全性。
美國 AI 公司 Anthropic 的 Claude Mythos 模型便是一例,其駭客能力極為強大。為避免其落入惡徒之手,Anthropic 目前限制該模型的使用權限,以協助各國政府、科技巨擘及銀行強化系統防禦。據報導,《白宮》與 Anthropic 也曾就 Mythos 模型進行「富有成效」的會談,顯示出政府對此類技術的重視與擔憂。然而,外界對於 Claude Mythos 的普遍發布日期,Anthropic 尚未公布。
英國安全事務國務大臣丹·賈維斯(Dan Jarvis)則敦促 AI 產業與政府攜手合作,將 AI 應用於保護關鍵網路,視其為一項「世代性工程」。他指出,當前最尖端、最強大的 AI 模型多在英國境外開發,主要集中於美國或中國,這使得英國在取得如 Mythos 這類模型時,無法掌控其開發與發布。此外,開放人工智慧(Open AI)也推出了一款名為 GPT 5.4 Cyber 的網路安全模型,聲稱其能力出色。英國國家網路安全中心(NCSC)警告,網路領域已成為英國國防的「本土戰線」,而近期伊朗等國發動的網路攻擊事件,更突顯網路在現代衝突中日益提升的角色。
相關新聞
供應鏈導入AI管理工具 利弊並存潛藏勞動合規風險
本地AI運行潛藏資安危機 專家籲防範網路暴露與惡意程式
印尼網路攻擊損失高達 62 億美元 AI 助長詐欺風險
美國聯儲官員示警:AI 生態系恐步入「大到不能倒」風險
駭客利用「LLM-jacking」竊取AI帳號 暗網市場轉向販售模型存取權
Carbonato 殭屍網路部署 AI 代理 滲透遭駭 Docker 主機
18至24歲騎士車禍傷亡居冠!貪快、閃神藏風險 醫提醒安全帽防護關鍵
企業導入AI面臨哪些資安風險?從AI測試事件看AI Security與供應鏈安全新挑戰
印度銀行業導入 AI 催收工具 政府評估潛在效益與風險
OpenAI免費援贈烏克蘭AI工具 強化網路基礎設施防禦
駭客瞄準AI代理部署隱藏指令 自主AI信任危機浮現
建立兒童身體界線觀念 基警進校宣導防性騷、性侵與網路安全
TANKA.ai進軍日本市場 導入AI記憶功能助企業協作