回到頂端
|||
熱門: 詐騙 新聞 mlb

超越摩爾,緊追輝達的AI晶片公司Groq

品傳媒/ 2024.07.19 16:36

文/美國安卓樂資本董事長林家振教授

我任職德意志銀行時曾協助半導體的始祖,美商快捷半導體(Fairchild)在公開市場收購崇貿半導體(System General),Fairchild是我任職過的AT&T貝爾實驗室因發明電晶體而成為諾貝爾物理學獎得主的蕭克利”八叛徒”,和提出摩爾定律、也是英特爾(Intel)的創辦人摩爾(Gordon Moore)所共同創立。在半導體產業近七十年的發展歷程中,摩爾定律一直是指引晶片性能進步的北極星。然而,隨著晶片製程逼近物理極限,這一定律正面臨前所未有的挑戰。與此同時,人工智慧(AI)的蓬勃發展帶來了對高性能運算的巨大需求,卻也伴隨著驚人的能源消耗。在這個關鍵時刻,安卓樂資本受邀投資的AI晶片公司Groq正以其革命性的晶片設計,挑戰傳統思維,為AI運算開闢一條全新道路。

摩爾定律預測晶片上的電晶體數量每兩年翻一番,因此GPU架構在追求更高性能時,不得不面對功耗、散熱等棘手問題。Groq的創新之處在於不追求晶片上更多的電晶體,通過全新架構設計,消除了對CUDA的需求,在LPU 推理引擎比Nvidia的GPU效能快4倍,成本便宜5倍,節能省3倍。使Groq成為Nvidia的強大競爭對手,得益於其獨特的處理器架構和創新的張量流處理器(TSP)設計。以低延遲和高效處理大型語言模型和其他生成式AI應用程序而聞名。實現遠超GPU的AI運算效能。

Groq市場定位精準,瞄準AI推理的藍海,是一步高明的棋。隨著企業紛紛將AI應用從實驗階段轉向生產環境,對高性能、低延遲推理硬體的需求正在爆發性增長。Gartner預測,到2025年,全球AI晶片市場規模將達到670億美元,年複合增長率超過40%。在快速擴張的市場中,Groq的技術優勢使其特別是在金融服務、醫療保健等對即時性要求極高的領域受到青睞。
Groq創新的商業模式,以Groq Cloud服務,硬體銷售與雲服務並行,這種基於使用量計費的模式大大降低了客戶的採用門檻,使中小企業也能輕鬆接觸到頂級AI運算能力。為Groq創造了多元化的收入,有助快速擴大市場佔有,和提供穩定現金流,提升估值。

Groq正在積極拓展雲端AI服務市場。他們推出的Groq Cloud服務,讓客戶能夠輕鬆使用其高性能AI晶片,無需購買昂貵的硬體設備。這種模式不僅能為Groq帶來穩定的營收,還能幫助公司快速擴大市場份額。

Groq的擁有卓越的技術團隊。公司創始人Jonathan Ross曾經領導Google TPU(張量處理單元),其他核心成員也多來自Google、Intel等科技巨頭。Groq推出後在6個月內吸引了10萬名開發者,而Nvidia花了 7年才實現此里程碑。Groq現有主要客戶包括Aramco Digital、美國政府和Earth Wind與Power AI Center。

Groq正與三星合作生產次代4奈米AI晶片,並通過在挪威建立AI計算中心而進軍歐洲市場,很快也會成為亞洲各科技大廠的客戶。

(本文由林家振教授授權刊出)

社群留言

台北旅遊新聞

台北旅遊新聞