醫療AI淪隱私破口 專家示警數據攻擊恐洩病史
商傳媒/[email protected] (商傳媒 SUN MEDIA)
88 天前
商傳媒｜何映辰／台北報導
專家警告，人工智慧（AI）醫療系統恐以令人不安的新方式，在病患毫不知情下侵犯其隱私。《Yahoo News》報導指出，惡意使用者可能對醫療AI系統發動隱私攻擊，使駭客得以得知某人是否曾接受特定疾病治療。
根據英國頂尖科學期刊《自然》（Nature）刊載的研究顯示，新的研究方法或許能判斷特定病患的資料是否曾被用於訓練AI模型。研究人員發現，一種稱為「會員推斷攻擊」（membership inference attack）的駭客手法，可以讓駭客掌握特定病患的資料是否曾被納入模型的訓練數據中。這種攻擊甚至能被用來判斷某人是否罹患癌症，且針對部分個別病患的攻擊成功率幾乎達到「近乎完美」的程度。研究也發現，對於代表性不足的群體，會員推斷攻擊的風險更高。
研究人員強調，駭客可能利用透過隱私入侵取得的健康數據，進一步進行其他形式的攻擊。他們在報告中指出，考量到這類漏洞，醫療AI模型及其部署環境，應針對攻擊者可能透過成功推斷訓練數據成員身份所獲取的敏感資訊，進行嚴格評估，並加強防護以抵禦這類攻擊。
相關新聞
專家示警：AI 應用過度工程化是失敗主因 揭七大徵兆助辨識
商傳媒
6 天前
颱風「杜鵑」路徑大迴轉 專家示警週末赴日關東航班恐受影響
上報
3 天前
AI 復古照片瘋傳恐洩隱私 上傳圖片淪訓練資料？
商傳媒
7 天前
AI 集體攻擊 Hugging Face 引發警訊 專家呼籲設「終止開關」
商傳媒
4 天前
AI數據中心電力瓶頸轉向效率 美專家：過時設計釀挑戰
商傳媒
3 天前
西班牙首報AI代理人攻擊 數據監管局籲防範自動化資安威脅
商傳媒
4 天前
不用駭客就能竊取國家機密 趨勢科技發現大陸AI公司用大數據獲悉美軍攻擊伊朗計畫
愛傳媒
4 天前
告別手抄健康數據！資策會於TIE展出「AI健康數據隨行本」
中央社
3 天前
串流裝置藏駭客入侵風險 資安專家示警家庭網路防護
商傳媒
8 天前
泰國手機網路攻擊激增 AI 助長詐騙更難辨識
商傳媒
4 天前
國際永續專家訪台北慈院 交流醫療減碳與資源循環
慈善新聞網
4 天前
逾四成八美國銀行信用品質惡化 專家示警信用風險漸增
商傳媒
12 天前
企業高層手機資安拉警報 專家籲重審行動裝置防護
商傳媒
3 天前
AI加速進入校園 數據隱私與認知發展隱憂浮現
商傳媒
13 天前
AI技術助敵方鎖定美軍行動 專家憂安全威脅加劇
商傳媒
3 天前