第三十三课 数据增广

公司主营业务：成都做网站、成都网站设计、成都外贸网站建设、移动网站开发等业务。帮助企业客户真正实现互联网宣传，提高企业的竞争能力。创新互联是一支青春激扬、勤奋敬业、活力青春激扬、勤奋敬业、活力澎湃、和谐高效的团队。公司秉承以“开放、自由、严谨、自律”为核心的企业文化，感谢他们对我们的高要求，感谢他们从不同领域给我们带来的挑战，让我们激情的团队有机会用头脑与智慧不断的给客户带来惊喜。创新互联推出抚顺免费做网站回馈大家。

数据增广的不仅仅是处理图片，还可以处理文本或语音。我们在这里其实主要专注的是图片上的一些技术。可以看到这几张图是说是对一个松鼠做不同的一些处理，比如说可以把一些像素拿掉、把它的颜色做变换，然后最后面一个是对它的亮度做很多变换。

目录

理论部分

实践部分

---

理论部分

Ces上的真实故事是讲在采集数据训练模型的时候，现场的场景至关重要，在实际部署的时候要充足的对现场的场景进行数据采集。特别是对于比如说手机上的应用各种摄像头那一块的应用确实是非常不一样。比如语音识别，在室内识别和室外识别它整个背景噪音是不一样的，而且声音的反射也不一样。摄像头也是一样的，不同手机拍的东西，摄像头的质量不一样颜色不一样场景不一样，都会给你导致问题。所以就是说训练集应能够尽可能的去模拟在部署的时候可以碰到的各种场景，是模型的泛化性的一个非常重要的部分。

所以数据增强是干嘛的呢？数据增强的意思是在一个已有的数据集上面，通过数据变换，使得它有多样性。比如说语音的数据的话，那么可以在语音里面加入不同的背景噪音。如果是图片数据的话，那么可以去改变图片的形状颜色。比如说这里的话上图所示是原始的一张猫的图片，这是这个数据集里面的。那我可以把整个图片抠出一块来，就是说理想情况下可能整个猫都拍过来了，但是在实际中我可能只拍到一个猫的一半，那么当我看到它的时候，我应该也能去识别出这是一只猫。第二个就是说我可以对这个图片的亮度进行变化，有可能是比较暗，有可能是比较亮。第三个是说我可以对它的色温进行变化，可以是蓝一点黄红一点。

一般来说数据增强是在线生成的，而不是说给我一个数据集，然后生成好图片再存下来。一般的做法是说跟以前一样去从原始数据读图片过来之后，对图片随机的做增强。就是说我从数据集读出来之后，然后将一些不同的增强的方法随机的应用在个图片上就可以生成，可能是生出来一堆不一样的图片，然后对它再进入模型进行训练。所以核心是说每一次是在线的生成，而且是随机的，测试的时候一般是不会去进行突变增强的。

下图所示的方法是一些数据增强的常用方法：

上下翻转并总不是可行的，比如房子进行上下翻转后会有些奇怪了。但是树叶进行上下翻转后就没什么问题。

image aug里面提供了几十种不一样的做图片增强的方法。可以看到比如说去高斯模糊、锐化之类的方法。基本上可以认为photoshop 能够干的事情，都可以把它作用在图片上面。但实际上来说作用好不好就不知道了，这与测试集与部署的环境的关系有关。

实践部分

代码：

#图像增广
import torch
import torchvision
from torch import nn
from d2l import torch as d2l
import matplotlib.pyplot as plt
d2l.set_figsize()
img = d2l.Image.open('D:\shi.jpg')
d2l.plt.imshow(img)
plt.show()
def apply(img, aug, num_rows=2, num_cols=4, scale=1.5):#2行4列表示一共要对图片作用八次，1.5表示生成的图片的大小
    Y = [aug(img) for _ in range(num_rows * num_cols)]#把所有的图片存在Y中
    d2l.show_images(Y, num_rows, num_cols, scale=scale)
#左右翻转图像
apply(img, torchvision.transforms.RandomHorizontalFlip())
#上下翻转图像
apply(img, torchvision.transforms.RandomVerticalFlip())
#随机裁剪
#200,200表示在多大的区域进行，0,1,1表示图片裁出来的东西要保留多大的原始图片，从0.1到1随机选一个数；ratio表示高宽比
shape_aug = torchvision.transforms.RandomResizedCrop((200, 200), scale=(0.1, 1), ratio=(0.5, 2))
apply(img, shape_aug)
#随机更改图像的亮度
#分别表示亮度，对比度，饱和度，颜色四个参数
apply(img,torchvision.transforms.ColorJitter(brightness=0.5, contrast=0,saturation=0, hue=0))
#随机更改图像的色调
apply(img,torchvision.transforms.ColorJitter(brightness=0, contrast=0, saturation=0,hue=0.5))
#随机更改图像的亮度（brightness）、对比度（contrast）、饱和度（saturation）和色调（hue）
color_aug = torchvision.transforms.ColorJitter(brightness=0.5, contrast=0.5,saturation=0.5, hue=0.5)
apply(img, color_aug)
#结合多种图像增广方法
#先水平翻转再颜色、形状变（组合了）
augs = torchvision.transforms.Compose([torchvision.transforms.RandomHorizontalFlip(), color_aug, shape_aug])
apply(img, augs)
#使用图像增广进行训练
all_images = torchvision.datasets.CIFAR10(train=True, root="../data",download=True)
d2l.show_images([all_images[i][0] for i in range(32)], 4, 8, scale=0.8)
plt.show()
#只使用最简单的随机左右翻转
train_augs = torchvision.transforms.Compose([torchvision.transforms.RandomHorizontalFlip(),torchvision.transforms.ToTensor()])
test_augs = torchvision.transforms.Compose([torchvision.transforms.ToTensor()])
#定义一个辅助函数，以便于读取图像和应用图像增广
def load_cifar10(is_train, augs, batch_size):
    dataset = torchvision.datasets.CIFAR10(root="../data", train=is_train,transform=augs, download=True)
    dataloader = torch.utils.data.DataLoader(dataset, batch_size=batch_size, shuffle=is_train,num_workers=d2l.get_dataloader_workers())
    return dataloader
#定义一个函数，使用多GPU对模型进行训练和评估
def train_batch_ch13(net, X, y, loss, trainer, devices):
    if isinstance(X, list):
        X = [x.to(devices[0]) for x in X]
    else:
        X = X.to(devices[0])
    y = y.to(devices[0])
    net.train()
    trainer.zero_grad()
    pred = net(X)
    l = loss(pred, y)
    l.sum().backward()
    trainer.step()
    train_loss_sum = l.sum()
    train_acc_sum = d2l.accuracy(pred, y)
    return train_loss_sum, train_acc_sum
def train_ch13(net, train_iter, test_iter, loss, trainer, num_epochs,devices=d2l.try_all_gpus()):
    timer, num_batches = d2l.Timer(), len(train_iter)
    animator = d2l.Animator(xlabel='epoch', xlim=[1, num_epochs], ylim=[0, 1],legend=['train loss', 'train acc', 'test acc'])
    net = nn.DataParallel(net, device_ids=devices).to(devices[0])
    for epoch in range(num_epochs):
        metric = d2l.Accumulator(4)
        for i, (features, labels) in enumerate(train_iter):
            timer.start()
            l, acc = train_batch_ch13(net, features, labels, loss, trainer,devices)
            metric.add(l, acc, labels.shape[0], labels.numel())
            timer.stop()
            if (i + 1) % (num_batches // 5) == 0 or i == num_batches - 1:
                animator.add(epoch + (i + 1) / num_batches,(metric[0] / metric[2], metric[1] / metric[3], None))
        test_acc = d2l.evaluate_accuracy_gpu(net, test_iter)
        animator.add(epoch + 1, (None, None, test_acc))
    print(f'loss {metric[0] / metric[2]:.3f}, train acc 'f'{metric[1] / metric[3]:.3f}, test acc {test_acc:.3f}')
    print(f'{metric[2] * num_epochs / timer.sum():.1f} examples/sec on ')
#定义 train_with_data_aug 函数，使用图像增广来训练模型
batch_size, devices, net = 256, d2l.try_all_gpus(), d2l.resnet18(10, 3)
def init_weights(m):
    if type(m) in [nn.Linear, nn.Conv2d]:
        nn.init.xavier_uniform_(m.weight)
net.apply(init_weights)
def train_with_data_aug(train_augs, test_augs, net, lr=0.001):
    train_iter = load_cifar10(True, train_augs, batch_size)
    test_iter = load_cifar10(False, test_augs, batch_size)
    loss = nn.CrossEntropyLoss(reduction="none")
    trainer = torch.optim.Adam(net.parameters(), lr=lr)#Adam是平滑的SGD
    train_ch13(net, train_iter, test_iter, loss, trainer, 10, devices)
    plt.show()
#训练模型
train_with_data_aug(train_augs, test_augs, net)

你是否还在寻找稳定的海外服务器提供商？创新互联www.cdcxhl.cn海外机房具备T级流量清洗系统配攻击溯源，准确流量调度确保服务器高可用性，企业级服务器适合批量采购，新人活动首月15元起，快前往官网查看详情吧

文章标题：pytorch深度学习实战lesson33-创新互联
网址分享：http://chengdu.cdxwcx.cn/article/dijeso.html