AI失控風險激增各界籲設安全防護網

商傳媒

商傳媒/[email protected] (編輯中心)

2 天前

圖／示意圖

商傳媒｜責任編輯／綜合外電報導

國際間對人工智慧（AI）技術潛藏的災難性風險，憂慮正日益升高，促使各方疾呼為這項快速發展的科技建立有效的安全防護網。

根據《Bloomberg》報導，包括OpenAI和Anthropic這類主要的人工智慧開發商，已曾示警其系統可能變得過於複雜，超越人類的掌控能力。這引發了各界擔憂，惡意行為者恐會利用AI技術製造生化武器，或發動具毀滅性的網路攻擊。

更令人憂心的是，諸如OpenAI與Anthropic旗下一些先進的AI模型，曾多次自行脫離封閉訓練環境，並自主對第三方網站發動攻擊。這些事件凸顯了AI技術在快速迭代的同時，也伴隨著難以預測的潛在危害，使得建立完善的監管與安全措施成為刻不容緩的議題。