Skip to main content

REDMADMEDIA 網誌

回前頁
對Nvidia GPU更大的威脅要來了 - 谷歌第七代TPU - 銀發德財

對Nvidia GPU更大的威脅要來了 - 谷歌第七代TPU

· · 專欄: 銀發德財

谷歌的 TPU v7(代號 Ironwood)已正式發布,並將於未來幾週內上市,Ironwood v7專為更高性能 AI 工作負載而設計,尤其適用於大規模模型訓練和推理任務。

最關鍵的是,TPU v7對英偉達在 AI 硬體市場的統治地位構成了更重大的競爭威脅。

TPU v7 的峰值性能為 4,614 TFLOPS,與英偉達的旗艦 GPU(例如 B200 和 GB300)不相上下,這效能使得那些需要高運算能力,但又不想消耗過多能源的 AI 工作負載,極具吸引力。

Ironwood 的設計旨在顯著提高能效,據報道,其在 AI 任務中的能源效率比英偉達 GPU 高出 2-3 倍,這種效率轉化為更低的營運成本,尤其是在功耗至關重要的大規模部署中。

TPU v7 支援 9,216 個晶片無縫協作的配置,並利用了光路交換 (OCS) 等先進的互連技術。這種能力實現了高效的擴展,其性能優於傳統的GPU集群,後者在擴展過程中經常面臨通訊瓶頸。

個人認為,TPU v7最厲害的是,大大降低了總體擁有成本 (TCO),TPU v7 的 TCO 預計將比英偉達的 GPU 低約 30-41%,這項成本優勢源自於Google無需支付「英偉達稅」,即英偉達對其產品收取的高額利潤。因此,Google可以用相同的預算部署更多的 TPU 資源,從而增強其競爭優勢。

像Anthropic這樣的大型公司越來越多地在其AI模型中採用Google的TPU,這表明大多科企的偏好正在轉向能夠提供更好性能和成本效益的專用硬體,這便極可能進一步削弱輝達的市場份額。

一言以蔽之,TPU v7對英偉達在AI市場的GPU主導地位構成嚴峻挑戰,憑藉其卓越的性能、優異的能源效率和更低的整體擁有成本(這是關鍵!)Google正將其TPU定位為尋求優化AI基礎設施的企業的可行替代方案,足令輝達股價出現極大的下行壓力!

2 likes

推薦文章

春筍鮮,夏筍甜!「纖維武士」竹筍的養生功過談

春筍鮮,夏筍甜!「纖維武士」竹筍的養生功過談

各位吃貨朋友、養生同好,又到了竹筍「咔滋咔滋」作響的季節啦!不論是涼拌、熱炒還是煮湯,那清脆的口感和獨特的甜味,總讓人筷子停不下來。 但你知道嗎?這位看似無害的「纖維武士」,其實身懷絕技,也有…

英國科茲窩

英國科茲窩

回曼城老家前花了幾日遊覽Cotswolds科茲窩,它並非行政區,而是英格蘭著名的鄉村區域,於1966年被確立為法定特殊自然美景區 Area of Outstanding Natural Beauty…

秋天應多吃秋天疏果和白色食物,推介2款秋分養肺茶飲 - Mark哥醫師

秋天應多吃秋天疏果和白色食物,推介2款秋分養肺茶飲 - Mark哥醫師

在中醫五行中秋主燥屬金,對應於人體臟器為肺,而肺主皮毛,開竅於鼻。所以在秋分前後時期要特別注意燥邪傷肺、天氣乾燥引起口腔鼻腔黏膜與皮膚的不適。此時最需要「養肺潤燥」,補充水分做好內外保濕;而秋分之後…

留言 (0)

還沒有留言,成為第一個留言的人吧!

發表留言

您必須登入才能留言。