Toybrick

标题: 基于相同CPU的tflite推理,3399与3399pro推理差距很大? [打印本页]

作者: charles-hu    时间: 2020-10-30 10:02
标题: 基于相同CPU的tflite推理,3399与3399pro推理差距很大?
使用tensorflow的ssd_mobilenet_v1,300x300的tflite模型,没有转rknn,3399与3399pro都是基于相同cpu跑的,为何差距这么大?官方硬件的可以解释一下吗?

ssd_mobilenet_v1
3399
3399 pro
300x300 tflite(非NPU
运行时间
cpu使用率
运行时间
cpu使用率
小核单独cpu03
550ms
650ms
大核单独跑cpu45
600ms
700ms
一起运行cpu05
400ms
40%
200ms
70%



作者: jefferyzhang    时间: 2020-10-30 10:24
谁做的板子也不说,主频跑多少也没说,ddr频率多少也没说,gpu频率多少也没说,定频还是变频,操作系统是否相同。
影响因素多了去了。。。你这对比数据一点意义都没有
作者: charles-hu    时间: 2020-10-30 13:51
jefferyzhang 发表于 2020-10-30 10:24
谁做的板子也不说,主频跑多少也没说,ddr频率多少也没说,gpu频率多少也没说,定频还是变频,操作系统是否 ...

1、CPU:大小核均手动设置主频到最大频率,比如大核设定定频到1.8G,小核定频1.4G;
2、DDR:3399pro-LPDDR3 6G(给CPU 4G),3399-LPDDR4 4G;
3、GPU:3399pro-Mali-T860,3399-Mali-T864,我的程序应该没有用到GPU;
4、操作系统:3399pro-android8.1,内核4.4, 3399-3399pro-android8.1,内核4.4
5、厂家:3399板子用了2个不同厂家,但配置一样的,结果还是差不多,都是400ms左右;
说明:能用控制变量的,我都用了,主要软硬件差不多的情况下,pro与3399运行速度差了一倍,差距还是比较大的。以您的经验看来,造成的差异最有可能是哪个呢?还有你们自己有没有对3399和pro做一个简单的demo对比测试呢?谢谢。
作者: jefferyzhang    时间: 2020-10-30 14:05
charles-hu 发表于 2020-10-30 13:51
1、CPU:大小核均手动设置主频到最大频率,比如大核设定定频到1.8G,小核定频1.4G;
2、DDR:3399pro-LPD ...

我们要测这个干嘛,3399和 3399pro就是同一颗芯片,多封装一个NPU而已。
你这里两个DDR完全都不一样,一个LPDDR3,一个LPDDR4,这有什么可比性。。。

作者: charles-hu    时间: 2020-10-30 14:32
jefferyzhang 发表于 2020-10-30 14:05
我们要测这个干嘛,3399和 3399pro就是同一颗芯片,多封装一个NPU而已。
你这里两个DDR完全都不一样,一 ...

为什么不可以比?同内存情况下,3399是LPDDR4,按理说比pro的 LPDDR3运行速度更快,现在反而是pro比3399快一倍,这又怎么解释呢?还有单独小核或者大核的时候,3399反而更快一些,这又怎么解决呢?这种差异还是比较明显的,所以才问问你们内部有没有测试过。
作者: jefferyzhang    时间: 2020-10-30 14:40
charles-hu 发表于 2020-10-30 14:32
为什么不可以比?同内存情况下,3399是LPDDR4,按理说比pro的 LPDDR3运行速度更快,现在反而是pro比3399 ...

我们没事干测这个干嘛,就是完全一摸一样的片子,同一个封装,多挂一个NPU而已。
可以明确跟你说一摸一样。

你这好比卖出去一颗芯片两个厂家用不同ddr跑出来速度不一样,还回来问原厂为什么这家比那家快一样。。

你可以跑跑安兔兔试试啊。

作者: charles-hu    时间: 2020-10-30 14:52
jefferyzhang 发表于 2020-10-30 14:40
我们没事干测这个干嘛,就是完全一摸一样的片子,同一个封装,多挂一个NPU而已。
可以明确跟你说一摸一样 ...

其实我也知道是一样的,就是测试出来不一样啦,我们这边研发都讨论过了,都觉得也奇怪,所以才来这个帖子问问大家,有没有碰到相同情况的,找到问题才有利于板子的选型。
作者: jefferyzhang    时间: 2020-10-30 16:59
charles-hu 发表于 2020-10-30 14:52
其实我也知道是一样的,就是测试出来不一样啦,我们这边研发都讨论过了,都觉得也奇怪,所以才来这个帖子 ...

有啥好考虑的,想省心就是用toybrick板子,官方开发、官方生产、官方测试、官方维护、官方优化、官方固件。
直接批量买prox的顶板自己做底板就可以用了。。
其他板子为了省成本很多东西是减配的。
作者: yymeme345    时间: 2020-11-5 19:53
本帖最后由 yymeme345 于 2020-12-16 16:29 编辑

路过学习一下


減低供款


作者: charles-hu    时间: 2020-12-8 16:05
通过测试第三个厂家的3399的板子发现,速度又提上来了,所以,不同厂家的板子性能差别巨大!!!为了少走坑,还是买官方的吧!
作者: flyingroc    时间: 2021-6-10 15:14
jefferyzhang 发表于 2020-10-30 14:40
我们没事干测这个干嘛,就是完全一摸一样的片子,同一个封装,多挂一个NPU而已。
可以明确跟你说一摸一样 ...

你真是一个耿直boy
作者: jefferyzhang    时间: 2021-6-10 15:53
flyingroc 发表于 2021-6-10 15:14
你真是一个耿直boy






欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3