考试大模子的资本之高一直是行业痛点，各路玩家都在念念考怎么用本领蜕变把资本“打”下来。 3月10日，字节逾越豆包大模子团队发布了针对MoE（羼杂大家模子）架构的通讯优化系统COMET，该有打算通过细粒度预计-通讯相易本领，助力大模子考试优化。据豆包大模子团队先容，COMET已骨子诳骗于万卡级坐褥集群，累计省俭了数百万GPU（图形处理器）小时资源。此外，COMET还可与豆包大模子团队此前发布的新一代稀少模子架构UltraMem相接，已毕协同优化。 “在万卡集群上作念测试的这个提示，国内很少能有。