沨呵智慧申请基于计算设备算力的大语言模型数据并行训练专利，显著提高数据并行训练中计算设备的利用效率

　　国家知识产权局信息显示，沨呵智慧科技有限公司申请一项名为“基于计算设备算力的大语言模型数据并行训练方法和系统”的专利，公开号CN 119396572 A，申请日期为2024年10月。

　　 专利摘要显示，本发明公开一种基于计算设备算力的大语言模型数据并行训练方法和系统，包括：S1：统计训练集群中所有计算设备的算力值，形成统计集合D：D＝；Ci表示第i种计算设备的算力值，mi表示第i种计算设备的数量，n为计算设备类型的总数；S2：计算每种类型计算设备的算力占总算力的算力比例Pi：其中j为求和索引，用于遍历所有计算设备类型；S3：根据算力比例Pi，计算分配给每种类型计算设备的训练数据样本数量Ni：其中，N为训练数据总样本数；S4：计算分配给每个计算设备的训练数据样本子集数量nij：S5：根据计算得到的nij，将训练数据分配至各计算设备进行并行训练。本发明可显著提高数据并行训练中计算设备的利用效率。

　　 天眼查资料显示，沨呵智慧科技有限公司，成立于2016年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本4100万人民币，实缴资本2932.8万人民币。通过天眼查大数据分析，沨呵智慧科技有限公司共对外投资了1家企业，参与招投标项目1次，知识产权方面有商标信息5条，专利信息8条，此外企业还拥有行政许可1个。