一般在通用计算平台上,浮点计算是最常用的计算方式,所以大部分指令也是针对浮点计算的,这使得量化模型所需的定点计算性能往往并不理想,这就需要针对各个平台优化其定点计算的性能。

数字沙盘互动展示系统的建设是一项集成了现代信息技术,计算机技术、网络技术、“3S”技术、通信技术、系统集成技术、信息安全技术和数字展示技术,综合性、精密性并重的系统工程。它既要求各软硬体模块之间的严格兼容与逻辑自洽,以保证系统运行的平稳可靠;也要求具备一定的开放性和弹性,以满足客户的个性化需求并提供内容扩展与更新的功能。

Maecenas non nisl et erat tincidunt lobortis. Sed tempus feugiat sem sed auctor. Praesent id leo nec felis tempor viverra. Praesent metus augue, porttitor at bibendum vel, adipiscing consectetur tortor. Phasellus eu ligula turpis. Nulla porta, tortor pulvinar tincidunt tristique, metus nunc vestibulum magna, vel dictum odio tellus ut nisl. Nullam euismod tristique velit at pulvinar.

如上图,用户首先在普通 Module 上进行正常的模型训练工作。训练结束后可以转换至 QFloat 模型上,通过配置不同的 Observer 和假量化算子来选择不同的量化参数 scale 获取方式,从而选择进行 QAT 或 Calibration 后量化。之后可以再转换至 Q 模型上,通过 trace.dump 接口就可以 直接导出进行部署。