【网易科技9月5日报道】据悉，为了推动低比特量化技术的发展，旷视天元MegEngine 团队开源了 INT4的源码实现，这也让MegEngine成为首个开源 CUDA INT4源码实现的深度学习框架。据介绍，MegEngine采用均匀线性量化方案，实现了非对称量化和对称量化两种INT4的数据类型，同时通过算子融合优化、kernel优化等方法，使得量化后的模型可以依然保持较高的精度以及良好的运行速度
【网易科技9月5日报道】据悉，为了推动低比特量化技术的发展，旷视天元MegEngine 团队开源了 INT4的源码实现，这也让MegEngine成为首个开源 CUDA INT4源码实现的深度学习框架。据介绍，MegEngine采用均匀线性量化方案，实现了非对称量化和对称量化两种INT4的数据类型，同时通过算子融合优化、kernel优化等方法，使得量化后的模型可以依然保持较高的精度以及良好的运行速度。自开源以来，MegEngine不断优化，已先后发布29个版本。（定西）
标签: 快讯 旷视 天元 MegEngine 宣布 支持 CUDAINT4
声明：本文内容来源自网络，文字、图片等素材版权属于原作者，平台转载素材出于传递更多信息，文章内容仅供参考与学习，切勿作为商业目的使用。如果侵害了您的合法权益，请您及时与我们联系，我们会在第一时间进行处理！我们尊重版权，也致力于保护版权，站搜网感谢您的分享！
