> 技术文档 > 【PyTorch】图像多分类项目部署_图像分类模型pytorch

【PyTorch】图像多分类项目部署_图像分类模型pytorch


【PyTorch】图像多分类项目

【PyTorch】图像多分类项目部署

如果需要在独立于训练脚本的新脚本中部署模型,这种情况模型和权重在内存中不存在,因此需要构造一个模型类的对象,然后将存储的权重加载到模型中。

加载模型参数,验证模型的性能,并在测试数据集上部署模型

from torch import nnfrom torchvision import models# 定义一个resnet18模型,不使用预训练参数model_resnet18 = models.resnet18(pretrained=False)# 获取模型的全连接层的输入特征数num_ftrs = model_resnet18.fc.in_features# 定义分类的类别数num_classes=10# 将全连接层的输出特征数改为分类的类别数model_resnet18.fc = nn.Linear(num_ftrs, num_classes)import torch path2weights=\"./models/resnet18_pretrained.pt\"# 加载预训练的ResNet18模型权重model_resnet18.load_state_dict(torch.load(path2weights))# 将ResNet-18模型设置为评估模式model_resnet18.eval();# 检查CUDA是否可用if torch.cuda.is_available(): # 如果可用,将设备设置为CUDA device = torch.device(\"cuda\") # 将模型移动到CUDA设备上 model_resnet18=model_resnet18.to(device)def deploy_model(model,dataset,device, num_classes=10,sanity_check=False): # 获取数据集的长度 len_data=len(dataset) # 初始化输出张量 y_out=torch.zeros(len_data,num_classes) # 初始化真实标签张量 y_gt=np.zeros((len_data),dtype=\"uint8\") # 将模型移动到指定设备 model=model.to(device) # 初始化时间列表 elapsed_times=[] with torch.no_grad(): for i in range(len_data): # 获取数据集中的一个样本 x,y=dataset[i] # 将真实标签存入张量 y_gt[i]=y # 记录开始时间 start=time.time() # 将输入数据传入模型进行预测 yy=model(x.unsqueeze(0).to(device)) # 将预测结果存入张量 y_out[i]=torch.softmax(yy,dim=1) # 计算预测时间 elapsed=time.time()-start # 将预测时间存入列表 elapsed_times.append(elapsed) # 如果进行完整性检查,则跳出循环 if sanity_check is True: break # 计算平均预测时间 inference_time=np.mean(elapsed_times)*1000 # 打印平均预测时间 print(\"average inference time per image on %s: %.2f ms \" %(device,inference_time)) # 返回预测结果和真实标签 return y_out.numpy(),y_gt
from torchvision import datasetsimport torchvision.transforms as transforms# 数据转换data_transformer = transforms.Compose([transforms.ToTensor()])path2data=\"./data\"# 加载数据test0_ds=datasets.STL10(path2data, split=\'test\', download=True,transform=data_transformer)print(test0_ds.data.shape)

from sklearn.model_selection import StratifiedShuffleSplit# 创建StratifiedShuffleSplit对象,设置分割次数为1,测试集大小为0.2,随机种子为0sss = StratifiedShuffleSplit(n_splits=1, test_size=0.2, random_state=0)# 获取test0_ds的索引indices=list(range(len(test0_ds)))# 获取test0_ds的标签y_test0=[y for _,y in test0_ds]# 对索引和标签进行分割for test_index, val_index in sss.split(indices, y_test0): # 打印测试集和验证集的索引 print(\"test:\", test_index, \"val:\", val_index) # 打印测试集和验证集的大小 print(len(val_index),len(test_index))

from torch.utils.data import Subset# 从test0_ds中选取val_index索引的子集,赋值给val_dsval_ds=Subset(test0_ds,val_index)# 从test0_ds中选取test_index索引的子集,赋值给test_dstest_ds=Subset(test0_ds,test_index)# 定义均值mean=[0.4467106, 0.43980986, 0.40664646]# 定义标准差std=[0.22414584,0.22148906,0.22389975]# 定义一个名为test0_transformer的变量,用于将一系列的图像变换操作组合在一起test0_transformer = transforms.Compose([ # 将图像转换为Tensor类型 transforms.ToTensor(), # 对图像进行归一化操作,使用mean和std作为均值和标准差 transforms.Normalize(mean, std), ]) # 将test0_transformer赋值给test0_ds的transform属性test0_ds.transform=test0_transformer
import timeimport numpy as np# 调用deploy_model函数,传入model_resnet18,val_ds,device和sanity_check参数,返回y_out和y_gty_out,y_gt=deploy_model(model_resnet18,val_ds,device=device,sanity_check=False)# 打印y_out和y_gt的形状print(y_out.shape,y_gt.shape)

from sklearn.metrics import accuracy_score# 将y_out中的最大值索引赋值给y_predy_pred = np.argmax(y_out,axis=1)# 打印y_pred和y_gt的形状print(y_pred.shape,y_gt.shape)# 计算并打印y_pred和y_gt的准确率acc=accuracy_score(y_pred,y_gt)print(\"accuracy: %.2f\" %acc)

 

# 部署模型,得到预测结果和真实标签y_out,y_gt=deploy_model(model_resnet18,test_ds,device=device)# 取出预测结果中概率最大的类别y_pred = np.argmax(y_out,axis=1)# 计算准确率acc=accuracy_score(y_pred,y_gt)# 打印准确率print(acc)

from torchvision import utilsimport matplotlib.pyplot as pltimport numpy as np%matplotlib inlinenp.random.seed(1)# 定义一个函数,用于显示图像def imshow(inp, title=None): # 定义图像的均值和标准差 mean=[0.4467106, 0.43980986, 0.40664646] std=[0.22414584,0.22148906,0.22389975] # 将图像从tensor转换为numpy数组,并转置 inp = inp.numpy().transpose((1, 2, 0)) # 将均值和标准差转换为numpy数组 mean = np.array(mean) std = np.array(std) # 将图像的像素值进行归一化 inp = std * inp + mean # 将像素值限制在0和1之间 inp = np.clip(inp, 0, 1) # 显示图像 plt.imshow(inp) # 如果有标题,则显示标题 if title is not None: plt.title(title) # 暂停0.001秒 plt.pause(0.001) # 定义网格大小grid_size=16# 随机生成4个索引rnd_inds=np.random.randint(1,len(test_ds),grid_size)# 打印随机生成的索引print(\"image indices:\",rnd_inds)# 根据索引获取对应的图像和标签x_grid_test=[test_ds[i][0] for i in rnd_inds]y_grid_test=[(y_pred[i],y_gt[i]) for i in rnd_inds]# 将图像转换为网格x_grid_test=utils.make_grid(x_grid_test, nrow=4, padding=2)# 打印网格的形状print(x_grid_test.shape)# 设置图像的大小plt.rcParams[\'figure.figsize\'] = (10, 10)# 显示网格imshow(x_grid_test,y_grid_test)