Toybrick»开源社区 › 技术论坛 › 人工智能 › RK3399Pro入门教程（9）MNIST RKNN量化教程

楼主: peng

RK3399Pro入门教程（9）MNIST RKNN量化教程

积分: 130

11^#

发表于 2021-4-21 21:00:57 | 只看该作者

RK用户发表于 2019-10-16 17:17
我运行了训练代码
报错
python3 train.py

为了避免内存问题，参考对训练集的处理方法，将一次喂入神经网络的测试数据量减小，从而减小内存分配。

回复

使用道具举报

积分: 160

12^#

发表于 2024-3-10 10:21:48 | 只看该作者

请问在进行mnist模型的量化时出现：could not convert string to float 这是为什么

回复

使用道具举报

上一页 12 / 2 页

返回列表

产品中心 购买渠道 开源社区 Wiki教程 资料下载 关于Toybrick

瑞芯微电子股份有限公司所有闽ICP备19006074号-1 闽公网安备 35010202001061号

快速回复 返回顶部 返回列表