1. AI時代對基本資訊安全保障的需求
到 2025 年，我們將見證 APJ 地區的組織如何以翻天覆地的方式接受人工智能。近一半的企業正準備大幅增加人工智能投資，為創新爆炸鋪平道路。到 2028 年，我們預計將有超過 1100 億美元投入人工智能技術。
我們將看到一個不容忽視的 AI 安全的重要轉變。企業需要關注兩個關鍵領域：保護其 AI 系統免受漏洞攻擊，以及抵禦日益複雜的 AI 驅動攻擊。網路犯罪分子已經在利用 AI 來提高他們的方法的有效性和規避性，這意味著企業必須加強其安全框架來應對這些不斷演變的威脅。
2. 選舉網路威脅是一個真正的問題，並將繼續如此
去年，這是全球選舉創紀錄的一年，預計60個國家/地區的約40億人將投票，其中包括美國、英國、歐盟、臺灣、南非和印度的重大選舉。生成式 AI 在這些選舉中留下了印記，其複雜的攻擊旨在欺騙選民並影響選舉。
2025年將是這些工具和技術（例如 Deepfakes、定向詐騙、社會工程）進入低端市場併為普通網路犯罪分子隨時可用的一年。消費者和組織需要警惕各種形式的互動（電子郵件、簡訊、電話和視頻通話）中的假冒和詐騙。
3. LLM 的安全風險變得更具體
隨著安全漏洞的出現，圍繞大型語言模型 （LLM） 的炒作將面臨嚴峻的現實檢驗。雖然一些可利用的缺陷已經公開披露，但我們可以預期這些問題的頻率和嚴重性都會增加。LLM 為惡意行為者提供了重要的攻擊面，這些漏洞的性質和位置將變得越來越明顯。隨著風險越來越明顯，組織將需要權衡 LLM 的承諾與潛在的安全隱患，從而在其 AI 戰略中採取更加謹慎的方法。
4. 構建敏捷的安全系統需要包括我們的安全基礎
從 2025 年開始，我認為我們將看到人們越來越關注 AI 安全的兩個方面：保護 AI 系統和抵禦 AI 驅動的攻擊。畢竟，網路犯罪分子也在研究如何利用 AI 來提高他們的攻擊更加規避、更高效、更有效。AI 將降低攻擊者的進入門檻，加速他們識別和利用漏洞的能力。
雖然我們專注於 AI 很重要，但我們不能忘記我們的安全基礎。攻擊者仍會攻擊我們的 API 端點，並且仍會進行網路釣魚攻擊。我們需要確保及時部署補丁，我們的保護措施始終處於開啟狀態，並確保人們不斷接受培訓以識別和緩解惡意活動。因為無論有沒有 AI，這些威脅都不會消失。