pytorch报错：CUDA error: an illegal memory access was encountered

pytorch1.6版本在训练时报错：

RuntimeError: CUDA error: an illegal memory access was encountered

报错原因与低版本的pytorch（如1.1版本）报错相同：

RuntimeError: Expected object of backend CUDA but got backend CPU for argument #
解决方法：
https://blog.csdn/weixin_44414948/article/details/109783988

报错原因：

这种报错的本质就是模型model、输入数据（input_image、input_label）没有全部移动到GPU（cuda）上。
**温馨提示：**debug时一定要仔细检查是否每一个输入变量以及网络模型都移动到了GPU上，我一般报错都是因为漏掉了其中一两个。

解决方法：

将model、input_image、input_label全部移动到cuda上，实例代码如下：

model = model.cuda()
input_image = input_iamge.cuda()
input_label = input_label.cuda()

或

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)
input_image = input_iamge.to(device)
input_label = input_label.to(device)