據報字節跳動正訓練參數達10萬億巨型AI模型

英國《金融時報》報道，字節跳動正訓練巨型人工智能(AI)模型，規模可能接近美國Anthropic最先進的Mythos模型。

報道引述消息人士指出，字節跳動正訓練一個參數高達10萬億的模型，規模是月之暗面早前發布Kimi K3的2萬8千億超過三倍，目前仍然處於預訓練階段，一般需時約三到六個月，如果一切順利，之後將進行微調並發布，具體規模將在後期確定。

Anthropic並未公開旗下模型的規模，但業界估計，最先進的Mythos 5模型擁有約8萬億個參數，Fable 5模型參數約5萬億，雖然參數數量決定模型儲存資訊的基本容量或記憶體限制，但實際能力也取決於資料品質和訓練方法等其他因素，報道認為，字節跳動致力訓練全球最大的AI模型之一，表明中國企業不僅渴望趕上，更希望在最先進的AI領域超越美國同業。

字節跳動旗下最新的SeeDance模型，在全球視訊生成領域名列前茅，而面向消費者的旗艦模型豆包就是中國最受歡迎模型，月活躍用戶達到3億2400萬，報道說，字節跳動旗下的研發團隊，採用更獨立的方法，不涉及「蒸餾」其他實驗室的現有模型，導致開發速度比競爭對手慢。