Toybrick

标题: 基于相同CPU的tflite推理，3399与3399pro推理差距很大？ [打印本页]

作者: charles-hu 时间: 2020-10-30 10:02
标题: 基于相同CPU的tflite推理，3399与3399pro推理差距很大？
使用tensorflow的ssd_mobilenet_v1，300x300的tflite模型，没有转rknn，3399与3399pro都是基于相同cpu跑的，为何差距这么大？官方硬件的可以解释一下吗？

ssd_mobilenet_v1	3399		3399 pro
300x300 tflite（非NPU）	运行时间	cpu使用率	运行时间	cpu使用率
小核单独cpu0～3	550ms		650ms
大核单独跑cpu4～5	600ms		700ms
一起运行cpu0～5	400ms	40%	200ms	70%

作者: jefferyzhang 时间: 2020-10-30 10:24
谁做的板子也不说，主频跑多少也没说，ddr频率多少也没说，gpu频率多少也没说，定频还是变频，操作系统是否相同。
影响因素多了去了。。。你这对比数据一点意义都没有

作者: charles-hu 时间: 2020-10-30 13:51

jefferyzhang 发表于 2020-10-30 10:24
谁做的板子也不说，主频跑多少也没说，ddr频率多少也没说，gpu频率多少也没说，定频还是变频，操作系统是否 ...

1、CPU：大小核均手动设置主频到最大频率，比如大核设定定频到1.8G，小核定频1.4G；
2、DDR：3399pro-LPDDR3 6G（给CPU 4G），3399-LPDDR4 4G；
3、GPU：3399pro-Mali-T860，3399-Mali-T864，我的程序应该没有用到GPU；
4、操作系统：3399pro-android8.1，内核4.4, 3399-3399pro-android8.1，内核4.4
5、厂家：3399板子用了2个不同厂家，但配置一样的，结果还是差不多，都是400ms左右；
说明：能用控制变量的，我都用了，主要软硬件差不多的情况下，pro与3399运行速度差了一倍，差距还是比较大的。以您的经验看来，造成的差异最有可能是哪个呢？还有你们自己有没有对3399和pro做一个简单的demo对比测试呢？谢谢。

作者: jefferyzhang 时间: 2020-10-30 14:05

charles-hu 发表于 2020-10-30 13:51
1、CPU：大小核均手动设置主频到最大频率，比如大核设定定频到1.8G，小核定频1.4G；
2、DDR：3399pro-LPD ...

我们要测这个干嘛，3399和 3399pro就是同一颗芯片，多封装一个NPU而已。
你这里两个DDR完全都不一样，一个LPDDR3，一个LPDDR4，这有什么可比性。。。

作者: charles-hu 时间: 2020-10-30 14:32

jefferyzhang 发表于 2020-10-30 14:05
我们要测这个干嘛，3399和 3399pro就是同一颗芯片，多封装一个NPU而已。
你这里两个DDR完全都不一样，一 ...

为什么不可以比？同内存情况下，3399是LPDDR4，按理说比pro的 LPDDR3运行速度更快，现在反而是pro比3399快一倍，这又怎么解释呢？还有单独小核或者大核的时候，3399反而更快一些，这又怎么解决呢？这种差异还是比较明显的，所以才问问你们内部有没有测试过。

作者: jefferyzhang 时间: 2020-10-30 14:40

charles-hu 发表于 2020-10-30 14:32
为什么不可以比？同内存情况下，3399是LPDDR4，按理说比pro的 LPDDR3运行速度更快，现在反而是pro比3399 ...

我们没事干测这个干嘛，就是完全一摸一样的片子，同一个封装，多挂一个NPU而已。
可以明确跟你说一摸一样。

你这好比卖出去一颗芯片两个厂家用不同ddr跑出来速度不一样，还回来问原厂为什么这家比那家快一样。。

你可以跑跑安兔兔试试啊。

作者: charles-hu 时间: 2020-10-30 14:52

jefferyzhang 发表于 2020-10-30 14:40
我们没事干测这个干嘛，就是完全一摸一样的片子，同一个封装，多挂一个NPU而已。
可以明确跟你说一摸一样 ...

其实我也知道是一样的，就是测试出来不一样啦，我们这边研发都讨论过了，都觉得也奇怪，所以才来这个帖子问问大家，有没有碰到相同情况的，找到问题才有利于板子的选型。

作者: jefferyzhang 时间: 2020-10-30 16:59

charles-hu 发表于 2020-10-30 14:52
其实我也知道是一样的，就是测试出来不一样啦，我们这边研发都讨论过了，都觉得也奇怪，所以才来这个帖子 ...

有啥好考虑的，想省心就是用toybrick板子，官方开发、官方生产、官方测试、官方维护、官方优化、官方固件。
直接批量买prox的顶板自己做底板就可以用了。。
其他板子为了省成本很多东西是减配的。

作者: charles-hu 时间: 2020-12-8 16:05
通过测试第三个厂家的3399的板子发现，速度又提上来了，所以，不同厂家的板子性能差别巨大！！！为了少走坑，还是买官方的吧！

作者: flyingroc 时间: 2021-6-10 15:14

jefferyzhang 发表于 2020-10-30 14:40
我们没事干测这个干嘛，就是完全一摸一样的片子，同一个封装，多挂一个NPU而已。
可以明确跟你说一摸一样 ...

你真是一个耿直boy

作者: jefferyzhang 时间: 2021-6-10 15:53

flyingroc 发表于 2021-6-10 15:14
你真是一个耿直boy

欢迎光临 Toybrick (https://t.rock-chips.com/)