2025年03月06日 08:32:46
无问芯穹:AI平台上线满血DeepSeek-R1/V3微调服务
《科创板日报》6日讯,今日,无问芯穹Infini-AI异构云一站式AI平台正式上线云端即开即用的满血DeepSeek-R1/V3微调服务,让企业用户可以在基建零投入的前提下,一键式、低成本快速微调高精度业务模型。该服务在sequence length为4096,global batch size为128的情况下,每秒训练达14k token,以6000个样本的微调数据集为例(如evol-character-entire数据集),训完两个epoch仅耗时不到1小时。数据训练过程数据以沙箱隔离存储,训练完成后自动销毁缓存。底层则使用了高性价比的沐曦C550加速卡,对比传统自建集群微调方案,综合成本下降高达99%。
收藏
260.94W
我要评论
欢迎您发表有价值的评论,发布广告和不和谐的评论都将会被删除,您的账号将禁止评论。
发表评论
关联话题
2.08W 人关注