OpenAI聯手博通推AI晶片 台積電操刀望破輝達壟斷

鴨鴨新聞/商傳媒
6 分鐘前
OpenAI聯手博通推AI晶片 台積電操刀望破輝達壟斷
圖/示意圖

商傳媒|林昭衡/綜合外電報導

人工智慧(AI)研究公司OpenAI於週三宣布推出與博通(Broadcom)共同設計的首款客製化AI晶片「Jalapeno」,旨在提升其ChatGPT等AI產品的運行效率與成本效益。《Georgia Asian Times》報導指出,此舉是OpenAI為降低對輝達(Nvidia)等外部供應商依賴的關鍵一步。

Jalapeno晶片專為AI推論(AI inference)設計,即AI模型回應使用者查詢的過程,不同於從頭訓練模型的耗時與昂貴。博通執行長陳福陽(Hock Tan)表示,Jalapeno的性能可與輝達的Blackwell晶片及Alphabet公司旗下Google的張量處理單元(tensor processing units, TPU)匹敵。OpenAI硬體部門主管Richard Ho也提到,這款處理器在大型語言模型(LLMs)上能高效且快速運作,並預期適用於未來各代大型語言模型。

據《92.7 The Van WYVN》報導,OpenAI的工程師與博通合作設計這款晶片,耗時約九個月,部分階段更借助AI技術加速。這款晶片預計於2026年底開始部署於微軟(Microsoft)及其他合作夥伴的資料中心。值得注意的是,該晶片將由台灣晶圓代工龍頭台積電(TSMC)負責製造,而伺服器系統則由加拿大天弘科技(Celestica)獨家為OpenAI打造。

OpenAI此番自研晶片的策略,正值各家AI實驗室面臨運算能力不足的挑戰。除了OpenAI,Meta Platforms、亞馬遜(Amazon)和Google等科技巨頭也已與博通和美滿電子(Marvell)等公司合作開發自家晶片,而Anthropic據傳也正考慮開發自身的AI晶片。然而,博通目前在客製化AI晶片上的利潤率低於其網路交換器等產品,主因是高頻寬記憶體(HBM)需求龐大,導致成本上升。韓國的SK海力士(SK Hynix)和三星電子(Samsung Electronics)是博通高頻寬記憶體的供應商。

AI革命進行式
AI革命進行式