pytorch中的model=model.to(device)使用说明

这篇文章主要介绍了pytorch中的model=model.to(device)使用说明，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教

这代表将模型加载到指定设备上。

其中，device=torch.device("cpu")代表的使用cpu，而device=torch.device("cuda")则代表的使用GPU。

当我们指定了设备之后，就需要将模型加载到相应设备中，此时需要使用model=model.to(device)，将模型加载到相应的设备中。

将由GPU保存的模型加载到CPU上。

将torch.load()函数中的map_location参数设置为torch.device('cpu')

1

2

3

device = torch.device('cpu')

model = TheModelClass(*args, **kwargs)

model.load_state_dict(torch.load(PATH, map_location=device))

将由GPU保存的模型加载到GPU上。确保对输入的tensors调用input = input.to(device)方法。

1

2

3

4

device = torch.device("cuda")

model = TheModelClass(*args, **kwargs)

model.load_state_dict(torch.load(PATH))

model.to(device)

将由CPU保存的模型加载到GPU上。

确保对输入的tensors调用input = input.to(device)方法。map_location是将模型加载到GPU上，model.to(torch.device('cuda'))是将模型参数加载为CUDA的tensor。

最后保证使用.to(torch.device('cuda'))方法将需要使用的参数放入CUDA。

1

2

3

4

device = torch.device("cuda")

model = TheModelClass(*args, **kwargs)

model.load_state_dict(torch.load(PATH, map_location="cuda:0")) 

model.to(device)

补充：pytorch中model.to(device)和map_location=device的区别

一、简介

在已训练并保存在CPU上的GPU上加载模型时，加载模型时经常由于训练和保存模型时设备不同出现读取模型时出现错误，在对跨设备的模型读取时候涉及到两个参数的使用，分别是model.to(device)和map_location=devicel两个参数，简介一下两者的不同。

将map_location函数中的参数设置 torch.load()为 cuda：device_id。这会将模型加载到给定的GPU设备。

调用model.to(torch.device('cuda'))将模型的参数张量转换为CUDA张量，无论在cpu上训练还是gpu上训练，保存的模型参数都是参数张量不是cuda张量，因此，cpu设备上不需要使用torch.to(torch.device("cpu"))。

二、实例

了解了两者代表的意义，以下介绍两者的使用。

1、保存在GPU上，在CPU上加载

保存：

1

torch.save(model.state_dict(), PATH)

加载：

1

2

3

device = torch.device('cpu')

model = TheModelClass(*args, **kwargs)

model.load_state_dict(torch.load(PATH, map_location=device))

解释：

在使用GPU训练的CPU上加载模型时，请传递 torch.device('cpu')给map_location函数中的 torch.load()参数，使用map_location参数将张量下面的存储器动态地重新映射到CPU设备 。

2、保存在GPU上，在GPU上加载

保存：

1

torch.save(model.state_dict(), PATH)

加载：

1

2

3

4

5

device = torch.device("cuda")

model = TheModelClass(*args, **kwargs)

model.load_state_dict(torch.load(PATH))

model.to(device)

解释：

在GPU上训练并保存在GPU上的模型时，只需将初始化model模型转换为CUDA优化模型即可model.to(torch.device('cuda'))。

此外，请务必.to(torch.device('cuda'))在所有模型输入上使用该 功能来准备模型的数据。

请注意，调用my_tensor.to(device) 返回my_tensorGPU上的新副本。

它不会覆盖 my_tensor。

因此，请记住手动覆盖张量： my_tensor = my_tensor.to(torch.device('cuda'))

3、保存在CPU，在GPU上加载

保存：

1

torch.save(model.state_dict(), PATH)

加载：

1

2

3

4

5

device = torch.device("cuda")

model = TheModelClass(*args, **kwargs)

model.load_state_dict(torch.load(PATH, map_location="cuda:0")) 

model.to(device)

解释：

在已训练并保存在CPU上的GPU上加载模型时，请将map_location函数中的参数设置 torch.load()为 cuda：device_id。

这会将模型加载到给定的GPU设备。

接下来，请务必调用model.to(torch.device('cuda'))将模型的参数张量转换为CUDA张量。

最后，确保.to(torch.device('cuda'))在所有模型输入上使用该 函数来为CUDA优化模型准备数据。

请注意，调用 my_tensor.to(device)返回my_tensorGPU上的新副本。

它不会覆盖my_tensor。

因此，请记住手动覆盖张量：my_tensor = my_tensor.to(torch.device('cuda'))

以上为个人经验，希望能给大家一个参考，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

解决pytorch model代码内tensor device不一致的问题pytorch中Tensor.to(device)和model.to(device)的区别及说明PyTorch device与cuda.device用法介绍pytorch中.to(device) 和.cuda()的区别说明Pytorch如何指定device(cuda or cpu)

网址：pytorch中的model=model.to(device)使用说明 https://www.yuejiaxmz.com/news/view/76001

相关内容

创建虚拟环境并,创建pytorch 1.3.1
‘Tensor‘ object has no attribute ‘weight‘
22个2022年软件开发的趋势预测及其解读
@RequestBody @RequestBody 等参数说明
端午自驾游，哪款电车更称心？极氪001、Model Y与比亚迪汉EV横评
【针灸针说明书】详细说明书，用途，使用注意，不良反应
《泰晤士报》整版刊文报道中国美院毕业展：东方千年灵感之地高等学府持续激发艺术“生活力”
Python编程实现ChatGPT智能冰箱食谱生成与烹饪控制
联想智能美颜（联想视觉）软件使用说明
基于OpenHarmony开发的健康生活应用（ArkTS）

随便看看