若愚科技申请大模型量化方法专利,获得全精度大模型在测试数据下对应的目标量化大模型

大模型量化方法专利公布

  国家知识产权局信息显示，深圳若愚科技有限公司申请一项名为“大模型量化方法、系统、设备及介质”的专利，公开号CN121835775A，申请日期为2025年12月。

  专利摘要显示，本发明实施例提供一种大模型量化方法、系统、设备及介质，属于模型量化技术领域。该方法包括：将校验数据逐块的输入到全精度大模型中获得全精度大模型中每个全精模型块对应的第一参数；将校验数据逐块的输入到全精度大模型中分别对权重和激活值进行量化获得全精模型块对应的初始量化模型块以及每个初始量化模型块对应的第二参数；根据第一参数和第二参数计算全精模型块和初始量化模型块之间的目标损失值；根据目标损失值对初始量化模型块进行量化参数调整获得目标量化模型块；确定测试数据，并根据测试数据对目标量化模型块进行适应更新获得全精度大模型在测试数据下对应的目标量化大模型。

企业背景

  天眼查资料显示，深圳若愚科技有限公司，成立于2023年，位于深圳市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本614.4429万人民币。通过天眼查大数据分析，深圳若愚科技有限公司财产线索方面有商标信息17条，专利信息24条，此外企业还拥有行政许可9个。