天元(MegEngine)希望通过简洁清晰的接口设计与极致的性能优化,“深度学习,简单开发”将不仅惠及旷视自身,也能便利所有的研究者,开发者。
如上图,用户首先在普通 Module 上进行正常的模型训练工作。训练结束后可以转换至 QFloat 模型上,通过配置不同的 Observer 和假量化算子来选择不同的量化参数 scale 获取方式,从而选择进行 QAT 或 Calibration 后量化。之后可以再转换至 Q 模型上,通过 trace.dump 接口就可以 直接导出进行部署。
指人们会倾向于寻找能支持自己观点的证据,对支持自己观点的信息更加关注,或者把已有的信息往能支持自己观点的方向解释。”