|
楼主 |
发表于 2019-2-18 17:40:21
|
显示全部楼层
用开发机做量化,一开始报错:
- T tensorflow.python.framework.errors_impl.InvalidArgumentError: Conv2DCustomBackpropInput: input and out_backprop must have the same batch size input batch: 1 outbackprop batch: 24 batch_dim: 0
然后去dataset.txt 里面删掉23行,只保留一行,量化成功。
量化时间约几秒钟,具体没计时(太快了)。
量化后的模型放到板子上跑,速度大约是量化前的16倍,模型结果肉眼可见变差。 |
|