據報谷歌開發新伺服器晶片 以提升Gemini效率
據報谷歌(Google)正開發新伺服器晶片,將大幅提升旗下AI大模型Gemini的效率。
科技媒體The Information報道,該款晶片名為「Frozen v2」,最快可於2028年投入部署。 在相同電力消耗下,新晶片能夠處理的詞元(token)數量,會是公司最新張量處理單元(TPU)的6至10倍,可減少晶片必須移動的數據量,從而更快回應查詢。 Frozen v2會獨立於TPU,並非取代TPU。
彭博引述Google Cloud發言人表示,團隊不斷研究創新,透過從頭開始設計硬件軟件,確保系統是集成的,但公司探索的項目並非最終都會投入生產。
|