嵌入式设备优化方法及装置、电子设备和存储介质与流程
游戏设备与电脑连接的优化方法 #生活技巧# #数码产品使用技巧# #游戏设备优化建议#
技术特征:
1.一种嵌入式设备优化方法,其特征在于,所述方法包括:确定用于嵌入式设备的待优化神经网络,所述神经网络用于对所述嵌入式设备采集的数据进行处理,包括至少一个待剪枝的目标块结构,所述目标块结构中包括中间通道;根据预设的剪枝规则对每个所述目标块结构中的中间通道进行剪枝;确定每个所述目标块结构对应的学习率;基于对应的学习率对剪枝后的所述目标块结构进行调整训练得到优化后的神经网络,并将所述优化后的神经网络嵌入所述嵌入式设备。2.根据权利要求1所述的方法,其特征在于,所述方法还包括:确定每个所述目标块结构的敏感度,所述敏感度表征对应所述目标块结构对所述神经网络整体精度的影响;所述确定每个所述目标块结构对应的学习率,包括:根据每个所述目标块结构对应的敏感度确定对应的学习率。3.根据权利要求2所述的方法,其特征在于,所述确定每个所述目标块结构的敏感度包括:分别删除所述神经网络中每个所述目标块结构,得到对应的测试神经网络;确定每个所述测试神经网络的损失与待优化的所述神经网络的损失差异;根据每个所述测试神经网络对应的损失差异确定对应的所述目标块结构的敏感度。4.根据权利要求3所述的方法,其特征在于,所述敏感度与所述损失差异正相关。5.根据权利要求2-4中任意一项所述的方法,其特征在于,所述目标块结构的敏感度与对应的学习率正相关。6.根据权利要求2-5中任意一项所述的方法,其特征在于,所述神经网络包括主干网络和网络头;所述根据每个所述目标块结构对应的敏感度确定对应的学习率包括:响应于所述目标块结构在所述主干网络中,根据所述目标块结构的敏感度以及预设的敏感度与学习率对应关系,确定所述目标块结构对应的学习率;响应于所述目标块结构在所述网络头中,根据所述目标块结构的敏感度以及预设的敏感度与学习率对应关系确定所述目标块结构对应的基础学习率,并根据预设的调整比例调整所述基础学习率得到所述目标块结构对应的学习率。7.根据权利要求1-6中任意一项所述的方法,其特征在于,所述目标块结构中还包括输入通道和输出通道,所述输入通道和所述输出通道在所述目标块结构的剪枝过程中保持不变。8.根据权利要求1-7中任意一项所述的方法,其特征在于,所述预设的剪枝规则包括至少一个目标通道标识;所述根据预设的剪枝规则对每个所述目标块结构中的中间通道进行剪枝包括:删除每个所述目标块结构中所述目标通道标识表征的所述中间通道。9.根据权利要求8所述的方法,其特征在于,所述目标块结构中包括至少一个卷积层和每个所述卷积层对应的批归一化层;所述删除每个所述目标块结构中所述目标通道标识表征的所述中间通道包括:对于每个所述目标块结构,删除每个所述卷积层和对应所述批归一化层中所述目标通
道标识表征的所述中间通道。10.根据权利要求9所述的方法,其特征在于,所述删除每个所述卷积层和对应所述批归一化层中所述目标通道标识表征的所述中间通道包括:根据所述目标通道标识删除位置最靠前的第一个卷积层中所述目标通道标识表征的所述中间通道;根据所述第一个卷积层中被删除的所述中间通道删除其余全部所述卷积层和批归一化层中对应的所述中间通道。11.根据权利要求1-10中任意一项所述的方法,其特征在于,所述基于对应的学习率对剪枝后的所述目标块结构进行调整训练得到优化后的神经网络包括:基于对应的所述学习率对每个剪枝后的所述目标块结构分别进行迭代调整训练,直到每个所述目标块结构的特征损失满足对应的约束条件;在全部所述目标块结构完成训练后,根据完成训练后的多个所述目标块结构替换所述待优化网络中的原始目标块结构,得到优化后的神经网络。12.一种嵌入式设备优化装置,其特征在于,所述装置包括:网络确定模块,用于确定用于嵌入式设备的待优化神经网络,所述神经网络用于对所述嵌入式设备采集的数据进行处理,包括至少一个待剪枝的目标块结构,所述目标块结构中包括中间通道;剪枝模块,用于根据预设的剪枝规则对每个所述目标块结构中的中间通道进行剪枝;学习率确定模块,用于确定每个所述目标块结构对应的学习率;设备优化模块,用于基于对应的学习率对剪枝后的所述目标块结构进行调整训练得到优化后的神经网络,并将所述优化后的神经网络嵌入所述嵌入式设备。13.一种电子设备,其特征在于,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为调用所述存储器存储的指令,以执行权利要求1至11中任意一项所述的方法。14.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1至11中任意一项所述的方法。
技术总结
本公开涉及一种嵌入式设备优化方法及装置、电子设备和存储介质,通过确定用于对嵌入式设备采集的数据进行处理的待优化神经网络,根据预设的剪枝规则对每个目标块结构中包括的中间通道进行剪枝。基于每个目标块结构对应的学习率对剪枝后的目标块结构进行调整训练得到优化后的神经网络,并将优化后的神经网络嵌入嵌入式设备。本公开实施例可通过为嵌入式设备嵌入剪枝后的神经网络提高嵌入式设备的数据处理能力,由于剪枝后神经网络的体积小计算速度快,进一步提高了嵌入式设备的数据处理效率。效率。效率。
技术研发人员:赵扬波 张展鹏 成慧
受保护的技术使用者:深圳市商汤科技有限公司
技术研发日:2022.05.18
技术公布日:2022/8/19
网址:嵌入式设备优化方法及装置、电子设备和存储介质与流程 https://www.yuejiaxmz.com/news/view/308951
相关内容
设备控制方法、装置、电子设备及存储介质与流程结构优化方法、存储介质及电子设备.pdf
一种电子设备性能优化方法及电子设备与流程
一种生活热水加热控制方法、电子设备及存储介质与流程
功耗优化方法及电子设备与流程
回源优化方法、装置及电子设备.pdf
基于室内结构的功能区优化方法、装置及电子设备与流程
一种电子设备的控制方法及电子设备与流程
衣物护理控制方法、系统、存储介质及衣物护理设备与流程
电子设备以及电子设备的使用方法与流程