裝置端AI關鍵突破:PrismML模型縮小技術獲蘋果等巨頭評估
鴨鴨新聞/商傳媒
6 分鐘前


商傳媒|何映辰/台北報導
近期,新創公司PrismML憑藉其創新的AI模型縮小技術,在人工智慧(AI)領域引起廣泛關注。該技術能大幅壓縮大型語言模型(LLM)的體積,例如將原本54GB的Qwen 3.6模型,縮小至驚人的4GB,此舉對裝置端AI(on-device AI)的發展具有重要意義。
根據《AppleInsider》報導,PrismML執行長巴巴克·哈斯比(Babak Hassibi)已於7月14日證實,包括蘋果在內的多家科技公司,正在評估這項技術。由於這項模型縮小技術可能帶來巨大的市場優勢,業界已開始出現關於收購的討論。若有公司能獨家取得PrismML的技術,將使其在競爭激烈的AI市場中佔據有利地位。報導指出,蘋果近期也調整了收購策略,傾向於投入數億甚至數十億美元收購單一公司。
目前,蘋果在推動裝置端AI方面面臨記憶體限制的挑戰,特別是對於多數入門級消費性裝置而言。儘管部分AI相關任務可透過裝置進行處理,但仍有許多功能需要仰賴雲端伺服器。為此,蘋果已透過蒸餾(distillation)與訓練的過程,成功將部分Gemini(Google DeepMind研發的語言模型系列)功能,轉換為適用於iPhone的小型化模型,使得iOS 27和macOS 27 Golden Gate上的Siri表現有所提升。
不過,蘋果也表明,最強大的裝置端AI模型,將不會全面普及至所有裝置。這些高效能模型將專屬於特定高階iPhone及Mac機型,例如配備12GB記憶體的iPhone Air和iPhone 17 Pro,以及同樣搭載12GB記憶體或更高規格的M4 iPad和M3 Mac。