Toybrick

标题: rknn-toolkit-master-v1.7.3 转换MobileNet模型输出结果不一致 [打印本页]
作者: rockchipshbjack    时间: 2024-2-6 18:13
标题: rknn-toolkit-master-v1.7.3 转换MobileNet模型输出结果不一致
我用rknn-toolkit-master-v1.7.3 参考例程keras/xception/test.py 修改想转换MobileNet模型，python执行后输出的结果python模型的结果跟rknn推理的结果完全不一样，请问是哪里配错了？

-----TOP 5-----
[155]: 0.9013732671737671
[154]: 0.07545292377471924
[262]: 0.010652999393641949
[283]: 0.004055777098983526
[204]: 0.0015542127657681704

这个是python模型推理的结果，是正常的，但

-----TOP 5-----
[885]: 0.007537841796875
[904]: 0.006229400634765625
[419 845 911 975]: 0.004680633544921875
[419 845 911 975]: 0.004680633544921875
[419 845 911 975]: 0.004680633544921875

这个rknn推理的结果明显有问题，图片用的是tflite例程的图片
附上参考的例程t2.txt和我改的代码t1.txt以及输出log.txt
作者: rockchipshbjack    时间: 2024-2-7 17:56
打印了所以的输出结果，转换前输出的结果感觉挺正常的，大多数结果都很小，而转换后输出的结果基本相差不大
[1.14401491e-05 1.33892906e-08 4.90360001e-08 5.63667193e-08
3.09811270e-07 1.22036996e-04 2.10294684e-06 2.77497247e-09
2.23875318e-09 4.08385539e-08 1.93712566e-08 4.94949015e-09
1.78019088e-09 1.81790333e-10 4.68696815e-09 3.96643651e-09
2.04437018e-08 6.44700080e-08 2.41712012e-10 2.12682263e-08
9.10300191e-09 3.61485547e-07 7.64454455e-09 1.61021845e-08
1.64146670e-08 2.94130700e-07 3.76059035e-07 1.53378750e-08
1.06777392e-07 1.63734857e-08 2.73501599e-09 4.24560476e-09
5.64486754e-07 9.31340551e-08 4.38183690e-07 1.38716018e-07
3.40761517e-07 1.20819896e-08 2.54500378e-07 4.35133138e-08
1.27681608e-08 1.24513690e-07 4.08632523e-08 9.52500159e-07
9.07277666e-08 3.53826870e-08 7.95372390e-09 1.65058385e-08
1.17926371e-08 3.11110737e-09 6.96640079e-09 2.71071627e-07
1.01555642e-07 3.10169845e-09 1.89966286e-07 8.68394245e-09
1.47602792e-08 9.85694637e-10 1.17667769e-08 9.01751775e-08
2.32891878e-07 1.43654058e-08 2.07450086e-07 4.40352409e-07
2.43583315e-07 7.15590545e-07 3.02214431e-08 2.28985357e-07
3.35907018e-08 1.55933009e-07 9.95915229e-07 1.29009322e-07
3.84753633e-08 3.21634116e-06 1.52483537e-08 2.41270097e-08
1.17385319e-08 6.65146388e-07 2.03212416e-08 1.66630443e-07
6.01228010e-08 2.97680991e-09 1.39714018e-07 1.74678245e-08
2.41278708e-09 5.77026427e-08 1.53187830e-06 1.57821063e-07
3.17756310e-08 1.41010958e-09 6.77697787e-10 6.69768196e-09
1.42023246e-08 5.84482018e-09 1.03211146e-08 4.84163891e-08
8.00077071e-09 1.12655503e-10 7.02724492e-08 4.37606285e-10
5.68535982e-11 2.25736898e-07 1.00649062e-08 1.01530468e-05
5.78101012e-10 1.80647035e-07 6.13028078e-07 1.06071710e-07
2.03868011e-09 3.20156879e-08 9.71564829e-10 2.57363845e-05
3.28021055e-09 2.27844676e-08 6.61253736e-08 1.18979138e-09
5.93722493e-09 3.02841059e-08 8.48503277e-08 1.43640566e-09
9.91517890e-09 5.35656923e-08 1.56747246e-05 1.12613364e-07
4.12734948e-07 4.54865212e-09 1.31749289e-07 3.53445770e-08
1.64213692e-08 2.65651212e-09 1.93461380e-09 2.02612416e-09
1.09326699e-08 3.79020584e-08 9.14174625e-10 1.80886650e-09
6.35218989e-10 6.93764934e-10 2.80660810e-08 1.96269626e-10
6.23943452e-10 5.83113513e-09 1.61569058e-09 2.87943645e-11
3.97665758e-08 1.41720431e-08 3.12411652e-10 5.59346063e-07
3.97646005e-08 1.75800537e-07 1.23555919e-05 5.63604663e-05
4.32602596e-04 1.35684037e-04 7.54529238e-02 9.01373267e-01
2.69708835e-05 1.95346147e-05 1.62285633e-05 4.37923227e-08
7.81620813e-09 5.93722760e-08 1.14221780e-06 2.26833617e-05
2.85603761e-07 2.98545160e-06 1.26676198e-07 1.27110397e-07
2.29993657e-05 3.94003097e-09 1.32774192e-08 3.03138705e-08
1.42688741e-08 2.26035679e-09 7.69612996e-07 2.86091040e-06
1.12948285e-07 6.81767753e-09 1.81037663e-07 1.18155171e-07
6.91649982e-09 2.04546637e-08 3.24074961e-07 2.51324821e-07
1.32691980e-07 4.10601024e-06 9.15050009e-07 1.60835538e-04
2.56505757e-07 7.36579580e-08 5.86173485e-07 8.39984637e-07
2.36072037e-06 8.57603809e-05 1.95918095e-04 4.42519922e-06
9.55590531e-06 2.74045988e-07 1.53792316e-05 1.82127252e-07
9.58281307e-05 8.87882852e-05 2.88668758e-07 4.33891046e-07
1.55421277e-03 1.04919252e-07 6.60861277e-09 1.58639477e-06
1.81427595e-07 2.24540422e-08 4.24443014e-09 1.04101076e-07
8.52173585e-08 6.08059949e-08 2.87288557e-08 4.03794246e-07
5.71280798e-05 9.45011092e-09 1.09874190e-06 2.45247138e-05
5.44217939e-04 8.41511216e-09 3.42218733e-08 1.71578833e-07
4.27872315e-09 1.61423142e-08 6.76737159e-07 4.49540387e-08
7.51992868e-09 5.69914391e-07 2.81876339e-07 8.50244817e-08
1.41520630e-07 1.82305726e-07 3.83578708e-06 2.59880039e-07
5.20757375e-08 2.27087593e-08 6.54500525e-08 2.95294882e-07
6.36650910e-08 1.20735812e-08 7.98252472e-07 8.48849311e-07
2.48544802e-06 3.81050563e-06 2.02937289e-09 2.20709040e-07
1.55338270e-07 2.74299499e-08 3.30679228e-07 1.18562600e-08
5.87889110e-04 1.11737208e-07 9.55066134e-05 1.04675294e-07
1.34968587e-07 2.84677270e-07 2.27845973e-08 9.55208307e-05
1.52352573e-06 2.59480345e-07 1.06529994e-02 8.46184435e-07
1.02951180e-05 2.35723448e-07 7.58700764e-07 6.42501448e-08
1.36263543e-06 4.39765291e-09 2.33725128e-09 4.78608122e-08
1.12211929e-08 8.25349833e-09 2.91087794e-08 4.02342337e-09
1.97557686e-08 3.83119172e-08 1.37050250e-07 3.77580900e-09
4.52753682e-07 4.53913890e-06 3.48685774e-07 4.05577710e-03
6.11551295e-05 3.60162971e-06 5.30431919e-07 1.12174916e-06
1.40763476e-07 8.16129475e-09 5.20966985e-08 5.41206930e-07
2.38483210e-07 3.51176310e-09 5.93906577e-07 2.03909334e-08
3.28641079e-07 2.49463064e-08 7.99525210e-08 1.50578543e-07
2.07458001e-07 1.97487041e-10 2.72000245e-09 3.78245666e-08
6.13020135e-10 2.97942698e-10 1.01394164e-08 9.41877201e-11
1.09072329e-09 1.12215561e-08 1.29990894e-07 2.44583429e-08
3.44981750e-08 1.32362425e-06 1.50626738e-06 4.71702357e-08
4.94882002e-09 3.74286113e-09 5.65659434e-07 2.14899319e-06
6.85590180e-08 6.58189414e-09 5.72079443e-07 3.63286610e-08
7.70538691e-08 1.04605391e-08 7.04166458e-09 1.29154332e-09
7.49420153e-08 5.27644133e-08 2.63661093e-07 6.97597713e-08
1.58018811e-05 2.40397320e-08 6.03323713e-07 4.75025132e-07
8.59358664e-08 8.25808911e-07 2.09209884e-06 1.51826782e-08
3.14386206e-09 1.17104901e-06 1.24932981e-07 2.55072710e-08
5.01010027e-06 1.20958470e-08 3.57745762e-08 2.17054161e-08
1.86147264e-09 5.88689897e-09 7.27356575e-09 1.88155513e-09
3.27545924e-09 3.42345388e-08 3.92236714e-08 3.02310674e-08
2.34373365e-05 3.93925529e-06 1.16258034e-05 1.23938044e-05
2.08914629e-04 6.27074769e-06 5.17913286e-05 7.94098412e-07
3.89728302e-05 1.79035368e-07 1.11583866e-07 2.38470250e-07
5.82684436e-07 2.85954513e-07 7.14938437e-07 1.69830821e-06
1.57855437e-10 1.70957595e-08 8.64120295e-08 1.20421424e-08
1.52446233e-09 1.05269908e-04 6.59635418e-07 1.07223840e-07
1.87248679e-05 2.88306250e-08 2.20536293e-07 2.62716230e-06
2.88493015e-06 1.46362845e-06 2.62050097e-08 9.21145670e-07
3.20003807e-07 4.18277166e-04 8.95392532e-06 3.00717020e-05
9.49031875e-09 4.63350941e-10 1.07453243e-05 5.61064808e-05
1.67810521e-09 6.64444784e-08 6.89352146e-06 6.74063415e-07
9.13729707e-07 2.23223742e-06 1.58266602e-07 3.42526967e-08
4.28091568e-07 3.93471794e-07 8.22705431e-07 1.84762530e-06
3.76695766e-07 4.64088004e-07 3.75064224e-06 8.51158291e-08
2.57195882e-08 1.26991111e-08 2.41709768e-06 2.01062733e-07
9.50055146e-09 2.69785716e-07 4.04699243e-08 2.39714427e-06
1.37454252e-08 2.43025625e-06 4.40634890e-10 1.37208360e-07
3.93295245e-08 1.42971047e-07 6.08218306e-06 4.54068854e-08
5.84718656e-08 2.73339573e-08 1.00204485e-08 1.68629185e-07
1.79346137e-06 3.71925637e-07 6.28368725e-05 4.24848423e-07
1.53615893e-08 5.71076733e-08 4.05693747e-04 2.07039763e-09
7.78744269e-09 1.27860483e-06 5.11728103e-07 3.72367137e-09
3.66021191e-09 1.40186756e-07 1.73646725e-07 4.56536270e-07
2.11749676e-08 9.60301705e-08 7.39744621e-08 3.59230228e-08
8.03555196e-08 2.87983403e-06 2.49270215e-06 3.16269300e-09
5.80524611e-05 2.97516817e-06 3.56755692e-08 4.52293676e-07
4.87973084e-09 2.82212028e-07 2.78345937e-07 9.02286502e-07
7.53331193e-08 3.54142848e-08 1.45500195e-07 4.12671781e-08
6.37621937e-08 1.16319086e-06 6.41214274e-06 9.31407573e-09
5.74349492e-08 3.01382475e-09 1.21755184e-08 1.16935155e-06
1.63264282e-08 1.81481164e-06 7.09206006e-06 2.15629825e-07
3.43618396e-08 1.44633304e-05 6.39170776e-06 3.31842891e-08
5.34608716e-06 2.58816908e-06 5.03488479e-07 8.19026891e-09
1.88416696e-08 3.35819436e-07 7.78753247e-07 5.46294778e-08
5.78845629e-07 7.55077963e-07 3.01701562e-06 4.75613291e-08
1.10048532e-07 1.29820307e-07 1.32574780e-06 5.07301479e-07
7.01264691e-09 1.97988861e-08 7.17567943e-08 1.43768114e-06
1.70718089e-08 2.79487608e-07 4.33268923e-08 2.21938095e-07
3.49596326e-06 9.32419084e-07 9.58178498e-06 1.32361350e-07
9.69740341e-08 6.91237201e-09 4.23480131e-08 2.18512071e-07
4.07129937e-06 2.28158433e-06 1.01112017e-08 1.06867708e-06
2.55206061e-08 2.51545309e-08 1.41300063e-06 2.52019527e-06
1.53524283e-07 4.43106423e-08 3.75318850e-05 1.23384943e-05
6.05064656e-08 2.34382284e-07 8.85264285e-07 7.53174589e-08
1.00297132e-06 3.61236715e-07 1.56559520e-06 6.35603556e-07
7.20931652e-08 1.87740845e-08 1.12665354e-07 6.27740110e-06
8.43032637e-07 3.89706507e-08 2.16024404e-07 1.90664323e-07
2.61121340e-06 5.33880382e-07 6.78408810e-07 1.36798874e-07
5.40482503e-08 2.99132097e-07 5.41905706e-07 1.80132147e-07
5.43018018e-07 6.47533625e-07 2.02481473e-07 6.10521340e-08
6.70543523e-05 2.04979457e-07 3.87473165e-09 1.51180654e-06
2.93489322e-09 1.61311348e-07 7.04020451e-08 3.04978265e-08
2.25519344e-07 6.48381047e-08 2.88086390e-08 1.15441353e-05
1.42787641e-07 1.34289266e-07 2.69701218e-06 6.62007125e-08
5.63535764e-07 3.51244154e-08 3.27001914e-07 1.13040901e-08
4.15323393e-06 8.15942039e-05 7.24128535e-09 2.04940875e-06
4.00382021e-08 3.49878100e-08 4.11719293e-06 1.11377512e-05
2.14532997e-06 1.12345242e-06 1.14198571e-08 9.65028335e-07
3.12011935e-07 2.50110065e-06 1.71747470e-05 1.81415578e-06
1.03575836e-07 3.29143042e-08 5.16792352e-05 1.68858506e-07
6.18802005e-07 2.09976427e-08 4.68349026e-06 3.84881929e-07
4.42076180e-06 7.13643411e-09 3.95531039e-08 2.77709034e-09
6.77004073e-06 2.62105591e-08 5.97471583e-08 1.56596926e-07
1.70514937e-07 6.95162772e-09 5.73072725e-07 2.34487146e-07
4.46469084e-09 4.96629923e-07 3.34615962e-08 3.12952131e-09
3.88106507e-08 1.01362855e-06 2.08730579e-08 3.63971703e-05
4.01763401e-07 1.49013559e-07 3.03777696e-08 4.32555709e-07
4.12972004e-05 4.74086264e-08 4.95313568e-09 8.00750311e-09
4.34070451e-08 3.35648913e-08 1.43619268e-08 8.02380526e-08
5.21629227e-06 1.50852216e-07 7.46409796e-07 7.62245463e-06
2.70735512e-07 1.13681127e-08 4.37133536e-07 1.47759494e-07
8.33575413e-08 4.87805153e-07 4.12814245e-08 5.09989064e-08
1.48646947e-07 8.59124327e-08 1.41896876e-07 3.10954135e-07
4.35275524e-06 2.61566591e-09 4.29597407e-07 6.27865759e-08
7.04878322e-10 2.40270680e-07 1.06665645e-07 1.38079379e-08
4.87902625e-08 2.44578295e-08 2.46260647e-08 9.71067422e-08
1.72259078e-07 5.06792972e-08 4.21260125e-07 3.95706863e-08
1.54195149e-07 6.11699775e-08 3.87219927e-08 1.21337780e-06
1.94969815e-07 1.92903553e-05 4.15990664e-09 6.23609751e-08
4.11849305e-06 1.86187062e-05 7.75455010e-06 9.82758252e-07
4.34120750e-07 4.01353049e-08 1.77496815e-07 8.00223532e-09
1.85629369e-06 2.43106655e-07 4.58059590e-09 4.16137738e-08
1.02332926e-07 2.66764850e-08 5.20318792e-07 4.50453481e-05
1.25712222e-05 4.45053736e-08 1.18324488e-08 2.79725850e-06
5.80059395e-06 5.88420244e-06 9.63929665e-08 7.46874118e-09
3.32938406e-08 1.13384942e-07 1.40172304e-07 8.36373147e-07
1.95703233e-05 1.36208115e-07 1.13196679e-08 1.00282350e-07
1.03778808e-09 2.81178018e-07 1.53825219e-08 1.86372588e-08
4.85033922e-07 1.34535512e-07 1.24949651e-07 5.79753873e-07
4.67268046e-06 5.93224468e-05 6.08422795e-07 6.98605689e-08
1.13156959e-08 2.04280718e-06 2.80774066e-06 2.07774100e-08
3.82077451e-06 4.47154747e-07 3.81645350e-07 3.06497526e-07
1.19700260e-07 5.30283978e-06 2.21232071e-07 4.33184687e-06
5.30286025e-06 1.35055575e-06 6.89909507e-09 1.49900401e-07
1.84117681e-08 1.26586417e-06 3.51579001e-06 2.38909461e-08
3.63169347e-05 1.38295127e-06 1.52395955e-07 1.92957918e-06
1.55204702e-07 1.14110562e-05 8.60742421e-06 1.33040439e-05
5.11054310e-08 1.88820002e-06 2.00863781e-07 1.28216051e-08
3.50589531e-08 2.41222606e-05 3.38859877e-07 6.63642766e-07
1.24144508e-08 1.28895081e-07 1.34660229e-06 2.28551627e-07
8.46442347e-08 1.06220519e-07 5.18145225e-06 3.53312970e-08
2.61140627e-07 5.80820006e-06 1.52450156e-07 1.77191195e-09
2.79233149e-07 3.46619436e-06 3.94933068e-07 3.32614576e-07
2.23234551e-08 1.49785012e-06 1.59133435e-08 1.62112599e-06
2.04072862e-07 6.81376804e-08 3.12739701e-09 4.16823269e-08
1.01688705e-07 2.24760447e-06 2.78027983e-06 8.14580492e-09
1.48870606e-06 5.14418481e-08 9.54740131e-07 6.02774719e-08
3.97766655e-08 5.99589885e-06 8.87509017e-08 3.76840421e-06
3.58748720e-09 4.77195726e-06 9.73954229e-07 1.25031841e-06
1.06512807e-08 1.70487237e-06 2.09170281e-07 5.50948926e-07
1.93405882e-07 1.21780222e-05 3.21592097e-06 4.66404299e-06
4.32048388e-08 1.22580293e-08 2.55214672e-09 8.68402594e-07
5.31307762e-07 1.51027901e-08 8.45040127e-09 1.65257731e-07
4.62376590e-07 2.09985220e-08 1.39600866e-06 2.04989828e-05
1.65081235e-06 1.24904147e-07 5.10162188e-08 6.08195361e-09
5.13466425e-09 1.48841011e-07 2.01726016e-06 4.87530514e-08
4.03742995e-09 2.77510367e-06 8.63360317e-09 2.79513051e-06
2.80313884e-06 6.01947991e-10 6.72111355e-07 2.73520550e-06
1.15423575e-06 1.47220555e-06 2.82765114e-07 1.91812404e-07
1.79198576e-08 1.98103521e-06 5.10804114e-07 4.65780005e-07
1.37083447e-07 6.53768097e-08 1.36873197e-08 2.77827723e-07
6.98289000e-07 1.11509713e-07 2.08189547e-07 2.39430534e-07
4.91741730e-07 1.04850834e-07 3.10478399e-08 2.02521832e-07
9.13969940e-04 3.76276930e-08 5.27103680e-07 4.74488343e-06
9.26847406e-06 1.11409584e-07 1.63275342e-06 5.58755033e-08
2.94881625e-06 7.04025851e-08 5.89536313e-08 1.28998877e-07
1.40105965e-06 1.48377421e-05 1.14593843e-06 2.17317535e-07
2.32096113e-07 1.08986603e-06 1.32403258e-07 2.16988769e-06
3.52232888e-07 4.11655110e-09 3.47162825e-07 4.39258542e-07
7.54292728e-07 1.18493361e-07 2.15411866e-08 7.76394060e-08
3.59357364e-06 1.33351776e-07 2.11193154e-07 4.65956191e-06
9.26868982e-09 5.69957047e-06 6.12176798e-09 1.07596797e-07
7.10000822e-05 7.35569131e-07 8.10214402e-08 1.45272179e-06
3.37636538e-06 7.31441219e-09 6.93681912e-09 1.52494664e-07
9.40333678e-07 1.47326674e-07 1.66194638e-07 3.22738707e-08
7.48670163e-06 1.41260455e-06 1.36378667e-05 1.99994588e-06
4.55906033e-08 7.46325846e-09 3.62085686e-08 4.15057251e-08
3.21730431e-06 7.38802726e-08 7.62889385e-07 3.07383885e-07
4.29290603e-09 2.73128109e-07 6.34013759e-07 4.56487101e-07
1.05781330e-08 5.51455637e-09 1.02903425e-06 7.91556047e-08
2.54720618e-07 1.33813387e-06 3.08658770e-07 3.32762738e-07
2.27824145e-07 8.65988511e-07 5.83650106e-08 6.87910926e-07
1.16441168e-08 1.68360437e-08 1.26523219e-07 9.02250719e-08
8.65635830e-09 3.57061879e-07 7.06187450e-07 3.25357297e-09
5.95510528e-07 8.70984067e-08 9.65000822e-07 1.04078985e-08
6.23900078e-08 2.69795748e-07 2.67183413e-08 1.44777869e-06
4.73802203e-07 6.13359887e-08 8.82026654e-07 7.84922847e-08
3.71771911e-08 2.80524182e-09 6.36242747e-09 4.64615857e-09
3.62585553e-07 3.38201431e-08 4.68811479e-08 8.05727929e-09
3.97257871e-08 4.99764532e-08 5.56620989e-07 1.02796403e-08
8.57696634e-08 3.54472285e-10 8.06400209e-08 7.90031152e-08
4.41340191e-08 5.14759336e-07 1.27744943e-06 2.13290306e-07
8.44356975e-07 9.63201856e-08 3.29356595e-08 1.33346996e-08
3.84545842e-07 3.70345469e-06 1.29442512e-07 1.20017803e-05
2.17480576e-08 2.26686865e-08 1.75982964e-10 3.22829976e-07
6.58835333e-08 6.00951751e-08 4.27665157e-07 1.64298584e-08
4.18624468e-09 1.09767928e-09 1.00899577e-07 4.13667074e-08
3.66855035e-09 1.74021793e-08 2.46146414e-09 3.48981530e-07
5.27300781e-09 6.63382960e-10 4.96980990e-09 1.21071042e-09
1.36159861e-10 8.45538986e-11 2.00922590e-09 2.05816946e-08
2.53227398e-07 5.65108600e-08 2.24420019e-05 3.36365588e-07]
这是转换前的输出结果
[[4.7612190e-04 7.6627731e-04 2.9563904e-04 2.6869774e-04 9.2697144e-04
  6.9665909e-04 9.2697144e-04 2.9563904e-04 2.2220612e-04 1.6701221e-04
  2.2220612e-04 2.0194054e-04 5.2356720e-04 5.2356720e-04 5.2356720e-04
  5.2356720e-04 2.9563904e-04 2.2220612e-04 3.9339066e-04 2.2220612e-04
  6.3323975e-04 7.6627731e-04 4.3272972e-04 8.4304810e-04 4.7612190e-04
  6.3323975e-04 1.0194778e-03 8.4304810e-04 8.4304810e-04 3.5762787e-04
  7.6627731e-04 5.7601929e-04 9.2697144e-04 3.5762787e-04 5.7601929e-04
  2.9563904e-04 6.9665909e-04 3.2520294e-04 6.9665909e-04 6.9665909e-04
  9.2697144e-04 1.2340546e-03 9.2697144e-04 3.2520294e-04 1.4925003e-03
  1.0194778e-03 1.2340546e-03 5.7601929e-04 2.9563904e-04 7.6627731e-04
  1.3570786e-03 1.6701221e-04 3.1986237e-03 1.6422272e-03 1.9855499e-03
  9.2697144e-04 1.4925003e-03 6.3323975e-04 2.9067993e-03 3.1986237e-03
  2.1858215e-03 1.8062592e-03 1.1215210e-03 8.4304810e-04 1.6422272e-03
  1.1215210e-03 7.6627731e-04 1.1215210e-03 1.1215210e-03 3.9339066e-04
  2.6869774e-04 6.9665909e-04 3.9339066e-04 7.6627731e-04 4.7612190e-04
  6.3323975e-04 9.2697144e-04 1.2340546e-03 1.1215210e-03 1.0194778e-03
  1.6701221e-04 3.9339066e-04 6.3323975e-04 7.7903271e-05 1.8370152e-04
  4.3272972e-04 3.2520294e-04 3.9339066e-04 3.9339066e-04 6.9665909e-04
  2.9563904e-04 3.9339066e-04 5.2356720e-04 3.9339066e-04 3.5762787e-04
  2.4437904e-04 3.9339066e-04 1.3804436e-04 1.0371208e-04 2.6869774e-04
  1.6701221e-04 2.2220612e-04 5.7601929e-04 1.1215210e-03 9.2697144e-04
  3.9339066e-04 5.2356720e-04 7.6627731e-04 6.3323975e-04 3.2520294e-04
  4.7612190e-04 2.9067993e-03 1.6422272e-03 5.2356720e-04 1.2340546e-03
  3.5762787e-04 7.6627731e-04 2.9563904e-04 1.3570786e-03 1.4925003e-03
  5.2356720e-04 6.3323975e-04 7.6627731e-04 2.4437904e-04 1.6422272e-03
  4.7612190e-04 3.9339066e-04 4.7612190e-04 2.2220612e-04 4.3272972e-04
  2.0194054e-04 3.2520294e-04 3.5762787e-04 6.9665909e-04 2.2220612e-04
  3.5762787e-04 2.6869774e-04 2.2220612e-04 3.2520294e-04 2.9563904e-04
  1.5175343e-04 2.0194054e-04 2.0194054e-04 2.6869774e-04 2.9563904e-04
  1.8370152e-04 4.3272972e-04 4.7612190e-04 2.2220612e-04 3.5762787e-04
  6.9665909e-04 1.0194778e-03 2.4437904e-04 8.4304810e-04 3.9339066e-04
  7.6627731e-04 3.9339066e-04 2.0194054e-04 5.2356720e-04 5.2356720e-04
  3.9339066e-04 9.2697144e-04 1.3570786e-03 6.9665909e-04 7.6627731e-04
  8.4304810e-04 4.3272972e-04 1.8370152e-04 1.1215210e-03 2.9563904e-04
  8.4304810e-04 1.2340546e-03 8.4304810e-04 6.3323975e-04 9.2697144e-04
  4.3272972e-04 2.4437904e-04 1.1215210e-03 1.9855499e-03 7.6627731e-04
  5.2356720e-04 6.3323975e-04 8.4304810e-04 4.3272972e-04 1.6422272e-03
  1.8062592e-03 7.6627731e-04 8.4304810e-04 6.3323975e-04 9.2697144e-04
  4.3272972e-04 9.2697144e-04 1.2340546e-03 3.9339066e-04 6.9665909e-04
  5.2356720e-04 6.9665909e-04 5.7601929e-04 4.7612190e-04 1.1215210e-03
  5.2356720e-04 6.9665909e-04 1.3570786e-03 1.0194778e-03 1.4925003e-03
  6.3323975e-04 4.3272972e-04 7.6627731e-04 1.1215210e-03 1.8062592e-03
  4.7612190e-04 1.4925003e-03 7.6627731e-04 6.9665909e-04 7.6627731e-04
  6.9665909e-04 2.6869774e-04 1.4925003e-03 5.2356720e-04 1.1215210e-03
  4.7612190e-04 3.2520294e-04 4.3272972e-04 2.4032593e-03 4.3272972e-04
  8.4304810e-04 5.2356720e-04 1.0194778e-03 2.9563904e-04 6.9665909e-04
  5.2356720e-04 4.7612190e-04 8.4304810e-04 8.4304810e-04 1.1215210e-03
  3.9339066e-04 7.6627731e-04 1.3570786e-03 8.4304810e-04 1.4925003e-03
  6.3323975e-04 4.3272972e-04 6.3323975e-04 3.5762787e-04 3.5762787e-04
  1.0194778e-03 3.9339066e-04 3.2520294e-04 4.3272972e-04 6.3323975e-04
  1.0194778e-03 5.2356720e-04 6.9665909e-04 3.5762787e-04 5.7601929e-04
  3.2520294e-04 9.2697144e-04 8.4304810e-04 3.9339066e-04 5.7601929e-04
  3.5762787e-04 4.7612190e-04 4.7612190e-04 1.1215210e-03 1.0194778e-03
  8.4304810e-04 6.3323975e-04 4.7612190e-04 3.2520294e-04 5.7601929e-04
  8.4304810e-04 4.7612190e-04 8.4304810e-04 1.0194778e-03 4.7612190e-04
  4.7612190e-04 5.7601929e-04 5.7601929e-04 3.9339066e-04 6.9665909e-04
  5.2356720e-04 1.3570786e-03 4.3272972e-04 3.9339066e-04 5.7601929e-04
  1.1215210e-03 5.7601929e-04 6.9665909e-04 4.3272972e-04 5.2356720e-04
  3.9339066e-04 2.9563904e-04 5.2356720e-04 3.2520294e-04 6.3323975e-04
  5.2356720e-04 3.9339066e-04 5.2356720e-04 8.4304810e-04 1.0194778e-03
  1.8370152e-04 5.7601929e-04 2.2220612e-04 3.9339066e-04 2.9563904e-04
  1.2340546e-03 6.3323975e-04 4.7612190e-04 2.2220612e-04 4.3272972e-04
  2.6435852e-03 4.7612190e-04 6.9665909e-04 3.5171509e-03 1.3570786e-03
  9.2697144e-04 3.9339066e-04 4.7612190e-04 5.2356720e-04 4.3272972e-04
  4.3272972e-04 8.5711479e-05 1.0371208e-04 1.5175343e-04 2.4437904e-04
  1.3804436e-04 2.0194054e-04 1.2340546e-03 6.9665909e-04 7.6627731e-04
  1.1215210e-03 6.3323975e-04 2.9563904e-04 7.6627731e-04 3.5762787e-04
  4.3272972e-04 1.2340546e-03 4.3272972e-04 3.5762787e-04 3.5762787e-04
  2.9563904e-04 6.9665909e-04 3.2520294e-04 4.3272972e-04 4.3272972e-04
  4.3272972e-04 6.3323975e-04 4.7612190e-04 3.5762787e-04 4.7612190e-04
  4.7612190e-04 1.6701221e-04 1.8370152e-04 2.6869774e-04 3.9339066e-04
  1.5175343e-04 1.1215210e-03 6.3323975e-04 8.4304810e-04 6.3323975e-04
  6.9665909e-04 9.2697144e-04 6.3323975e-04 9.2697144e-04 1.1215210e-03
  8.4304810e-04 5.7601929e-04 8.4304810e-04 4.3272972e-04 9.2697144e-04
  3.2520294e-04 3.2520294e-04 5.7601929e-04 1.1215210e-03 6.3323975e-04
  4.7612190e-04 3.9339066e-04 8.4304810e-04 5.7601929e-04 9.2697144e-04
  4.7612190e-04 8.4304810e-04 7.6627731e-04 6.9665909e-04 2.4437904e-04
  3.9339066e-04 4.3272972e-04 2.2220612e-04 3.2520294e-04 3.2520294e-04
  1.0194778e-03 1.3570786e-03 1.1408329e-04 2.2220612e-04 2.2220612e-04
  4.3272972e-04 1.8370152e-04 2.6869774e-04 1.0194778e-03 1.6422272e-03
  6.3323975e-04 1.0194778e-03 8.4304810e-04 3.5762787e-04 2.0194054e-04
  6.9665909e-04 6.9665909e-04 6.9665909e-04 1.5175343e-04 9.2697144e-04
  9.2697144e-04 6.9665909e-04 1.6422272e-03 7.6627731e-04 1.8062592e-03
  1.9855499e-03 1.4925003e-03 5.7601929e-04 2.6435852e-03 4.6806335e-03
  4.7612190e-04 2.6435852e-03 5.7601929e-04 1.1215210e-03 3.5171509e-03
  6.3323975e-04 3.9339066e-04 9.2697144e-04 1.1215210e-03 8.4304810e-04
  7.6627731e-04 6.3323975e-04 9.2697144e-04 1.0194778e-03 1.6422272e-03
  1.3570786e-03 1.2340546e-03 3.2520294e-04 1.0194778e-03 3.9339066e-04
  1.8062592e-03 1.3570786e-03 8.4304810e-04 1.0194778e-03 5.2356720e-04
  1.8062592e-03 3.1986237e-03 1.0194778e-03 1.1215210e-03 5.7601929e-04
  5.7601929e-04 8.4304810e-04 5.7601929e-04 1.3570786e-03 1.3570786e-03
  2.9067993e-03 9.2697144e-04 2.9067993e-03 9.2697144e-04 1.6422272e-03
  1.1215210e-03 1.3570786e-03 8.4304810e-04 2.6435852e-03 4.2572021e-03
  7.6627731e-04 2.4437904e-04 6.3323975e-04 1.8062592e-03 3.9339066e-04
  1.3570786e-03 6.3323975e-04 3.5762787e-04 1.3570786e-03 5.2356720e-04
  7.6627731e-04 1.0371208e-04 1.1215210e-03 2.9067993e-03 1.0194778e-03
  2.6435852e-03 1.3570786e-03 9.2697144e-04 3.2520294e-04 2.4437904e-04
  1.0194778e-03 3.5762787e-04 2.6435852e-03 1.4925003e-03 3.5171509e-03
  3.9339066e-04 5.7601929e-04 1.3570786e-03 6.3323975e-04 7.6627731e-04
  8.4304810e-04 7.6627731e-04 3.2520294e-04 8.4304810e-04 1.2340546e-03
  8.4304810e-04 1.0194778e-03 1.2340546e-03 5.2356720e-04 1.6422272e-03
  6.9665909e-04 3.1986237e-03 6.3323975e-04 1.1215210e-03 1.3570786e-03
  3.9339066e-04 8.4304810e-04 7.6627731e-04 1.4925003e-03 1.0194778e-03
  1.9855499e-03 7.6627731e-04 5.2356720e-04 4.3272972e-04 1.8062592e-03
  4.7612190e-04 5.7601929e-04 1.2340546e-03 3.8700104e-03 3.2520294e-04
  3.9339066e-04 1.0194778e-03 4.7612190e-04 3.9339066e-04 2.6435852e-03
  2.9067993e-03 8.4304810e-04 7.6627731e-04 1.0194778e-03 1.8062592e-03
  5.2356720e-04 4.7612190e-04 2.6869774e-04 6.9665909e-04 2.9067993e-03
  2.2220612e-04 1.0194778e-03 2.6435852e-03 1.3570786e-03 8.4304810e-04
  9.2697144e-04 3.5762787e-04 7.7903271e-05 4.3272972e-04 2.1858215e-03
  5.7601929e-04 2.6435852e-03 9.2697144e-04 1.3570786e-03 4.3272972e-04
  6.9665909e-04 7.6627731e-04 1.8062592e-03 1.2340546e-03 1.0194778e-03
  3.5762787e-04 3.9339066e-04 5.2356720e-04 1.2340546e-03 1.6701221e-04
  4.3272972e-04 4.3272972e-04 1.1215210e-03 5.2356720e-04 6.3323975e-04
  6.3323975e-04 7.6627731e-04 1.0194778e-03 3.5762787e-04 1.2340546e-03
  4.7612190e-04 2.9563904e-04 6.3323975e-04 4.7612190e-04 1.1215210e-03
  1.3570786e-03 5.7601929e-04 1.9855499e-03 8.4304810e-04 3.1986237e-03
  1.6422272e-03 2.9563904e-04 1.9855499e-03 9.2697144e-04 1.2340546e-03
  6.3323975e-04 1.8062592e-03 1.0194778e-03 1.9855499e-03 4.7612190e-04
  1.5175343e-04 1.3570786e-03 1.4925003e-03 3.2520294e-04 2.1858215e-03
  2.6435852e-03 4.3272972e-04 6.9665909e-04 3.2520294e-04 6.9665909e-04
  9.2697144e-04 1.8062592e-03 4.7612190e-04 3.8700104e-03 5.2356720e-04
  2.4032593e-03 8.4304810e-04 2.4437904e-04 6.3323975e-04 6.9665909e-04
  1.2340546e-03 2.6435852e-03 1.6422272e-03 1.1215210e-03 9.2697144e-04
  2.1858215e-03 8.4304810e-04 8.4304810e-04 1.8062592e-03 1.3570786e-03
  2.6869774e-04 2.4032593e-03 6.3323975e-04 3.2520294e-04 2.9067993e-03
  1.6422272e-03 1.9855499e-03 2.6435852e-03 2.4032593e-03 8.4304810e-04
  1.0194778e-03 9.2697144e-04 9.2697144e-04 9.2697144e-04 3.2520294e-04
  5.7601929e-04 6.3323975e-04 8.4304810e-04 1.2340546e-03 2.6435852e-03
  3.9339066e-04 3.5171509e-03 4.7612190e-04 1.3570786e-03 1.4925003e-03
  1.3570786e-03 1.0194778e-03 1.1215210e-03 1.3570786e-03 8.4304810e-04
  1.3570786e-03 7.6627731e-04 6.9665909e-04 1.0194778e-03 1.4925003e-03
  1.0194778e-03 2.0194054e-04 1.4925003e-03 6.9665909e-04 1.6422272e-03
  5.7601929e-04 1.4925003e-03 7.6627731e-04 2.4437904e-04 5.7601929e-04
  3.9339066e-04 8.4304810e-04 7.6627731e-04 1.6422272e-03 1.0194778e-03
  4.7612190e-04 5.2356720e-04 3.8700104e-03 2.1858215e-03 1.1215210e-03
  2.1858215e-03 2.1858215e-03 1.0194778e-03 1.9855499e-03 8.4304810e-04
  3.2520294e-04 1.3570786e-03 6.3323975e-04 4.7612190e-04 2.6869774e-04
  1.1408329e-04 7.6627731e-04 2.4032593e-03 2.9563904e-04 4.7612190e-04
  1.3570786e-03 3.1986237e-03 8.4304810e-04 9.2697144e-04 6.9665909e-04
  2.6435852e-03 5.2356720e-04 6.9665909e-04 2.1858215e-03 9.2697144e-04
  3.9339066e-04 1.4925003e-03 5.7601929e-04 1.0194778e-03 9.2697144e-04
  7.6627731e-04 1.9855499e-03 1.8062592e-03 1.3570786e-03 2.1858215e-03
  1.8370152e-04 2.4032593e-03 3.9339066e-04 1.2340546e-03 9.2697144e-04
  1.8062592e-03 1.9855499e-03 3.1986237e-03 6.3323975e-04 1.8370152e-04
  6.9665909e-04 7.6627731e-04 2.2220612e-04 1.8062592e-03 1.3570786e-03
  3.2520294e-04 2.6435852e-03 5.7601929e-04 1.8062592e-03 3.2520294e-04
  7.6627731e-04 5.2356720e-04 1.3570786e-03 2.4032593e-03 6.9665909e-04
  1.0194778e-03 1.8062592e-03 8.4304810e-04 3.8700104e-03 8.4304810e-04
  1.1215210e-03 1.3570786e-03 4.7612190e-04 1.3570786e-03 1.3570786e-03
  1.1215210e-03 6.9665909e-04 9.2697144e-04 8.4304810e-04 1.1215210e-03
  3.9339066e-04 1.0194778e-03 3.2520294e-04 9.2697144e-04 6.9665909e-04
  2.6435852e-03 1.8062592e-03 1.2340546e-03 7.6627731e-04 1.8062592e-03
  9.2697144e-04 5.7601929e-04 2.1858215e-03 7.6627731e-04 2.9067993e-03
  1.1215210e-03 1.2340546e-03 1.6422272e-03 1.3570786e-03 1.6422272e-03
  8.4304810e-04 9.2697144e-04 1.8062592e-03 6.9665909e-04 3.2520294e-04
  1.8370152e-04 5.7601929e-04 1.2340546e-03 1.9855499e-03 1.3570786e-03
  1.6422272e-03 6.9665909e-04 5.2356720e-04 1.4925003e-03 1.6422272e-03
  2.4437904e-04 1.4925003e-03 1.4925003e-03 1.2340546e-03 2.4032593e-03
  7.6627731e-04 5.2356720e-04 1.6422272e-03 9.2697144e-04 3.5171509e-03
  3.9339066e-04 5.7601929e-04 2.6869774e-04 2.2220612e-04 1.0194778e-03
  1.3570786e-03 1.1215210e-03 6.3323975e-04 1.1215210e-03 1.0194778e-03
  3.2520294e-04 6.3323975e-04 6.9665909e-04 1.4925003e-03 2.2220612e-04
  2.1858215e-03 6.3323975e-04 2.9563904e-04 1.2340546e-03 9.2697144e-04
  1.0371208e-04 3.2520294e-04 9.2697144e-04 2.6435852e-03 2.4032593e-03
  2.6435852e-03 6.9665909e-04 1.1215210e-03 3.1986237e-03 2.4437904e-04
  1.0194778e-03 5.2356720e-04 2.2220612e-04 3.2520294e-04 2.6435852e-03
  3.9339066e-04 2.6435852e-03 3.8700104e-03 2.9067993e-03 5.2356720e-04
  1.0194778e-03 1.9855499e-03 9.2697144e-04 9.2697144e-04 1.3570786e-03
  4.6806335e-03 5.2356720e-04 3.2520294e-04 1.3570786e-03 5.2356720e-04
  1.0194778e-03 7.6627731e-04 1.9855499e-03 6.9665909e-04 6.3323975e-04
  1.8062592e-03 2.0194054e-04 4.3272972e-04 2.9067993e-03 1.2340546e-03
  1.2340546e-03 1.2340546e-03 5.7601929e-04 1.2340546e-03 3.5762787e-04
  9.2697144e-04 3.9339066e-04 4.3272972e-04 3.1986237e-03 9.2697144e-04
  7.6627731e-04 2.0194054e-04 1.8062592e-03 6.3323975e-04 9.4294548e-05
  5.2356720e-04 1.6422272e-03 6.3323975e-04 4.3272972e-04 2.4032593e-03
  1.9855499e-03 1.2340546e-03 1.2340546e-03 1.3570786e-03 1.0194778e-03
  7.5378418e-03 3.2520294e-04 3.5762787e-04 4.7612190e-04 6.3323975e-04
  6.3323975e-04 4.7612190e-04 1.3570786e-03 2.4032593e-03 1.4925003e-03
  1.0194778e-03 1.6422272e-03 1.4925003e-03 1.8062592e-03 1.2340546e-03
  4.3272972e-04 6.9665909e-04 2.4032593e-03 3.5171509e-03 6.2294006e-03
  2.9067993e-03 2.9067993e-03 1.6422272e-03 6.3323975e-04 7.6627731e-04
  1.6422272e-03 4.6806335e-03 1.2340546e-03 7.6627731e-04 2.0194054e-04
  4.7612190e-04 9.2697144e-04 1.0194778e-03 6.9665909e-04 2.4032593e-03
  1.1215210e-03 1.3570786e-03 1.9855499e-03 1.0194778e-03 6.3323975e-04
  8.4304810e-04 3.5762787e-04 5.2356720e-04 9.2697144e-04 3.1986237e-03
  1.4925003e-03 1.1215210e-03 1.8062592e-03 2.4437904e-04 1.0194778e-03
  5.7601929e-04 1.4925003e-03 1.2340546e-03 1.3570786e-03 8.4304810e-04
  1.0194778e-03 6.3323975e-04 9.2697144e-04 1.3570786e-03 4.7612190e-04
  1.1215210e-03 4.7612190e-04 6.9665909e-04 1.4925003e-03 1.8062592e-03
  1.4925003e-03 1.3570786e-03 1.1215210e-03 8.4304810e-04 1.8062592e-03
  6.3323975e-04 6.9665909e-04 1.2340546e-03 6.3323975e-04 4.3272972e-04
  1.3570786e-03 1.8062592e-03 6.9665909e-04 7.6627731e-04 5.7601929e-04
  1.2340546e-03 2.1858215e-03 1.3570786e-03 1.0194778e-03 1.0194778e-03
  1.8062592e-03 2.6435852e-03 1.6422272e-03 1.6422272e-03 9.2697144e-04
  4.6806335e-03 2.1858215e-03 4.2572021e-03 1.6422272e-03 2.9067993e-03
  1.9855499e-03 1.2340546e-03 1.3570786e-03 6.3323975e-04 1.9855499e-03
  1.2340546e-03 3.9339066e-04 2.1858215e-03 1.1215210e-03 7.6627731e-04
  2.1858215e-03 9.2697144e-04 2.9563904e-04 2.4437904e-04 4.3272972e-04
  4.3272972e-04 1.0194778e-03 4.7612190e-04 1.4925003e-03 2.9067993e-03]]

这是转后的结果
作者: rockchipshbjack    时间: 2024-2-27 17:33
我试了将opencv的hwc转为chw，但结果还是一样
img = cv2.imread(IMG_PATH)
    img = cv2.cvtColor(img, cv2.COLOR_BGR2RGB)
    CHW_line1 = np.transpose(img, (2,0,1))

    # Init runtime environment
    print('--> Init runtime environment')
    ret = rknn.init_runtime()
    if ret != 0:
        print('Init runtime environment failed')
        exit(ret)
    print('done')

    # Inference
    print('--> Running model')
    outputs = rknn.inference(inputs=[CHW_line1])

结果：
-----TOP 5-----
[885]: 0.007537841796875
[904]: 0.006229400634765625
[419 845 911 975]: 0.004680633544921875
[419 845 911 975]: 0.004680633544921875
[419 845 911 975]: 0.004680633544921875

感觉不像图片输入的问题，感觉像转换的问题，请问有大佬能看看吗？
作者: rockchipshbjack    时间: 2024-2-28 11:01
本帖最后由 rockchipshbjack 于 2024-2-28 11:45 编辑

使用以下代码将h5转为tflite
import tensorflow as tf
from tensorflow.python.framework import ops
from tensorflow.python.ops import math_ops
from tensorflow.python.keras import backend as K


#自定义损失
def ReprojectionLoss(y_true, y_pred):
    y_pred = ops.convert_to_tensor_v2(y_pred)
    y_true = math_ops.cast(y_true, y_pred.dtype)
    y_pred = K.reshape(y_pred,(-1,27,2))
    y_true = K.reshape(y_true, (-1, 27, 2))
    return K.sqrt(K.mean(K.sum(math_ops.squared_difference(y_pred, y_true),axis=-1),axis=-1))

def ReprojectionMetrics(y_true,y_pred):

    return ReprojectionLoss(y_true, y_pred)

if __name__ == "__main__":
    # 将h5模型转化为tflite模型方法1
    modelparh = './mobilenet.h5'
    model = tf.keras.models.load_model(modelparh, custom_objects = {'ReprojectionLoss': ReprojectionLoss, 'ReprojectionMetrics': ReprojectionMetrics})

    converter = tf.lite.TFLiteConverter.from_keras_model(model)

    tflite_model = converter.convert()
    savepath = './mobilenet.tflite'
    open(savepath, "wb").write(tflite_model)

然后用tflite的接口进行尝试，发现结果变为-----TOP 5-----
[155]: 0.66455078125
[154]: 0.25634765625
[283]: 0.02154541015625
[204 254]: 0.0178070068359375
[204 254]: 0.0178070068359375


感觉模型应该是没问题的，为什么h5就不行呢？
作者: rockchipshbjack    时间: 2024-2-28 14:59
另外发现tflite例程里面的tflite文件应该是https://github.com/tensorflow/mo ... ets/mobilenet_v1.md里面MobileNet_v1_1.0_224里的tflite文件，测试这个文件跟例程那个输出的结果是一致的，算了，转tflite后使用得了
作者: jefferyzhang    时间: 2024-3-4 10:29
建议你用pytorch或者转onnx试试，tensorflow已经没什么人用了。
还有toolkit版本和板子运行环境drv的版本必须要一致，不然也会造成运算结果不一致
作者: rockchipshbjack    时间: 2024-3-5 15:16
jefferyzhang 发表于 2024-3-4 10:29
建议你用pytorch或者转onnx试试，tensorflow已经没什么人用了。
还有toolkit版本和板子运行环境drv的版本必 ...

感谢大佬的回复，我试试



欢迎光临 Toybrick (https://t.rock-chips.com/) Powered by Discuz! X3.3