jefferyzhang 发表于 2019-3-28 12:52
可以直接丢进去,config都不要设置试试
Lee 发表于 2019-3-28 14:05
不行唉,模型转化没问题,量化也不会报错,但是运行的时候会Segmentation fault (core dumped)。
像我这 ...
jefferyzhang 发表于 2019-3-29 08:53
我去请教下这方面专家,问到了回你
Lee 发表于 2019-3-29 09:57
好的 多谢!
jefferyzhang 发表于 2019-3-29 11:00
你可以先试试送一维,然后第一层做一次reshape
jefferyzhang 发表于 2019-3-29 11:00
你可以先试试送一维,然后第一层做一次reshape
Lee 发表于 2019-3-29 17:03
对了,你指的一维是单通道 还是1维的array?
jefferyzhang 发表于 2019-3-29 18:05
都可以试试,专家组还没人回我,你只能自己先试试
Lee 发表于 2019-4-1 16:34
现在发现一个问题,不论哪种方法,在pc上模拟跑,都是报Segmentation fault (core dumped),但是在板子上 ...
jefferyzhang 发表于 2019-4-1 16:40
pc上他们模拟器有些地方有bug,我们会上报给他们修改。
一切以开发版运行结果为准。
结果不对应该是代码 ...
Lee 发表于 2019-4-1 19:11
我现在以reshape为输入层,只经过一层padding(tf模型转过来的),已关闭量化,结果全是0。如果去掉resha ...
jefferyzhang 发表于 2019-4-1 20:28
config是0 0 0 1么? 我建议你把模型保存成pb,然后代码贴上来,我帮你找人跟踪 ...
jefferyzhang 发表于 2019-4-1 20:28
config是0 0 0 1么? 我建议你把模型保存成pb,然后代码贴上来,我帮你找人跟踪 ...
jefferyzhang 发表于 2019-4-1 20:28
config是0 0 0 1么? 我建议你把模型保存成pb,然后代码贴上来,我帮你找人跟踪 ...
jefferyzhang 发表于 2019-4-2 11:48
好的,我们这里内部提交了问题单,等专家回复你
jefferyzhang 发表于 2019-4-2 11:48
好的,我们这里内部提交了问题单,等专家回复你
jefferyzhang 发表于 2019-4-2 11:48
好的,我们这里内部提交了问题单,等专家回复你
Lee 发表于 2019-4-2 17:53
关于个别数据不对的问题,也麻烦帮我咨询一下吧。输入数据范围是0.0~254.0的,float32类型,只经过一层p ...
jefferyzhang 发表于 2019-4-3 08:35
不要量化结果试试
Lee 发表于 2019-4-3 09:22
额,我说的结果,就是没有量化的唉
jefferyzhang 发表于 2019-4-3 11:31
我感觉像是你输出后装数据的值域范围不一致造成的。
因为rknn的get output只是负责把计算结果的那块内存 ...
jefferyzhang 发表于 2019-4-3 11:31
我感觉像是你输出后装数据的值域范围不一致造成的。
因为rknn的get output只是负责把计算结果的那块内存 ...
jefferyzhang 发表于 2019-4-3 11:31
我感觉像是你输出后装数据的值域范围不一致造成的。
因为rknn的get output只是负责把计算结果的那块内存 ...
Lee 发表于 2019-4-3 17:12
一张二维灰度图,repeat成20通道送进模型(tf),只经过一层padding,第4通道和第15通道结果异常,python ...
欢迎光临 Toybrick (https://t.rock-chips.com/) | Powered by Discuz! X3.3 |