金十数据3月11日讯,科大讯飞发布消息称,科大讯飞联合华为近日率先实现国产算力大规模跨节点专家并行集群推理。据其介绍,通过分布式架构创新与算法协同优化,单卡静态内存占用缩减至双机部署的1/4,效率提升75%,专家计算密度增加4倍,推理吞吐提升3.2倍,端到端时延降低50%。这一解决方案也将应用于讯飞星火深度推理模型的训练加速,预期训练时推理效率将提升200%。
风险提示及免责条款:市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。