科大讯飞:仅用1万张910B国产算力卡跻身大模型研发第一梯队快讯
快科技
2025-03-11 09:52
导读
关于星火大模型训练和推理成本效率的持续优化也做了大量投入,但仍只有讯飞星火一家是训练和推理均在国产算力上进行的,而训练实现的难度远大于推理。
3月11日消息,日前,有投资者在互动平台向科大讯飞提问:贵公司目前拥有多少张算力卡?面对阿里千亿级投资,公司将在算力竞争上如何应对?
对此,科大讯飞表示,过去几年在受限的有限算力资源条件下,关于星火大模型训练和推理成本效率的持续优化也做了大量投入,和直接使用英伟达卡上开展的各种工程优化不同,科大讯飞选择了更难的全国产算力路线。
据介绍,大模型对算力的需求为训练和推理两个方面,而训练实现的难度远大于推理。
科大讯飞称,这就是虽然陆续有公司宣布可以在国产算力平台上提供大模型的推理服务,但仍只有讯飞星火一家是训练和推理均在国产算力上进行的,并且仅用1万张910B国产算力卡,科大讯飞用比友商少一个数量级的算力取得了大模型研发上的第一梯队成果。
同时,科大讯飞还做了大量国产算力平台上的无人区的适配和效率优化,追求国产算力的极致效率,这比在英伟达上的实现更需要技术实力和战略勇气。
据媒体报道,科大讯飞2月透露了其最新的研发进展:公司正在全力训练的纯国产算力平台“星火X1”新版本,预计将在未来三个月内完成。
这一新版本的发布,预期就可以实现数学答题和过程思维链能力全面对标甚至超过OpenAI o1。(拾柒)
科大
训练
模型
推理
实现
1.TMT观察网遵循行业规范,任何转载的稿件都会明确标注作者和来源;
2.TMT观察网的原创文章,请转载时务必注明文章作者和"来源:TMT观察网",不尊重原创的行为TMT观察网或将追究责任;
3.作者投稿可能会经TMT观察网编辑修改或补充。
