記者陸懷恩／台北報導
大陸從9月11日至17日展開「2023年國家網路安全宣傳周」，以大數據、人工智慧等為代表的資訊技術雖然日新月異，但網路攻擊、竊密、網路詐騙頻頻出現，網安風險正被技術不斷放大。
截至今年6月，大陸網民規模10.79億人，較去年12月增長1109萬人，互聯網普及率達76.4%，也因此利用網路技術「殺豬盤」延伸出不少黑色產業鏈，受害者越來越多。據《搜狐網》報導，近年各地不斷加大打擊治理電信網路詐騙違法犯罪力度，但犯罪分子鋌而走險，不斷翻新手段實施詐騙。
以「殺豬盤」為例，隨著技術更新換代，網路詐騙一方面在境外多地設多個電信網路詐騙據點，配備電腦、手機、聊天軟體帳號等作案工具；另方面，組建境內洗錢人員、技術維護團隊、推廣引流團隊、據點主管、作案人員，搭建虛假投資理財返利等App，利用境內公眾號或網站推廣引流，最終吸引潛在受害者下載指定App，實施「殺豬盤」的詐騙活動。
在此情況下，技術創新導致各種犯罪花樣翻新，受騙者日益增多。舉例而言，「有視頻未必有真相。」報導指出，6月2日浙江警方破獲一起利用AI技術製作虛假視頻編造網路謠言非法牟利案。這則「紹興上虞工業園區發生重大火災」的視頻，就是通過AI技術深度合成，看上去煞有其事播報事件，實際上子虛烏有，視頻實為網上其他火災畫面剪輯拼接而成。
今年3月，山東警方破獲一起特大造謠引流網路水軍案，某傳媒公司利用群控軟體和人工智慧技術，大肆爬取境內外短視頻內容，篡改編造敏感社會事件，在網路平台發佈虛假資訊，通過其運營自媒體帳號達4萬多個，虛假帖文資訊80多萬篇。
此外，今年6月一則「綿陽大學生涉嫌賣淫800多次，賺120餘萬元人民幣，警方成功抓獲」的配圖文章引發網民圍觀，但警方證實，是AI軟體自動生成的虛假文章。
360網路安全專家邊亮指出，透過大資料可發現一個樣本的編寫複雜度、武器的縝密程度，包括攻擊單位的重要程度，一個非常特別的攻擊事件。把這事件分析和還原，會發現裡邊這種代碼的編寫習慣，包括武器整體架構，都嚴格遵循著CIA（美中情局）相關技術框架。
大陸「全國資訊安全標準化技術委員會」委員李雪瑩認為，生成式人工智慧可能會被攻擊者用來挖掘漏洞，生成惡意程式碼，甚至自動進行網路攻擊，這就降低網路犯罪的門檻，給網路安全帶來巨大挑戰。生成式人工智慧也可能被用來生成一些虛假的資訊，這些資訊在社會層面和國家層面可能會造成相應的安全危害。