Los problemas encontrados en el estudio Pytorch

Pytorch Tutorial Dirección: pytorch Manual

: A veces la página se carga github no sale, la carga Github no salga de la solución método de procesamiento de Github carga de página web CSS no sale de

Después de modificar anfitrión, si no vuelve a la normalidad, es la necesidad de vaciar la caché de DNS, el equipo le dijo a mi archivo de hosts se ha modificado. Enjuague el método de caché DNS en Windows: entrar en la línea de comandos, introduzca el comando: ipconfig / flushdns

---

1. Pytorch-MNIST conjunto de datos Manual 3.2 Reconocimiento Digital

sección 1.1 Prueba Definiciones:

pred = output.max (1, keepdim = True) [1] # busca el índice más probable

torch.max () función --- explicación y ejemplos

a = torch.randn(3,3)
torch.max)(a,0) #返回每一列中最大值的那个元素，且返回索引（返回最大元素在这一列的行索引）
torch.max(a,1) #返回每一行中最大值的那个元素，且返回其索引（返回最大元素在这一行的列索引）

Aquí es la siguiente:

output.max (1, keepdim = True) ---> Devuelve el elemento más grande en cada fila y devuelve el índice para devolver las dos matrices

output.max (1, keepdim = True) [1] es tomar una segunda matriz, teniendo una matriz indexada.

1,2 parte del conjunto de datos

batch_size = 512, el tamaño del conjunto de entrenamiento de 60.000. Por lo tanto, un total de 60.000 / 512 = 117,18

train_loader = torch.utils.data.DataLoader(
        datasets.MNIST('data', train=True, download=True, 
                       transform=transforms.Compose([
                           transforms.ToTensor(),
                           transforms.Normalize((0.1307,), (0.3081,))
                       ])),
        batch_size=BATCH_SIZE, shuffle=True)
len(train_loader)

>> 118

Hemos producido un train_loader parámetros batch_size, transformar los datos en una antorcha tensor, transforms.Normalize ((0,1307,), (0,3081,)) son los datos normalizados, la media y la varianza a partir de los datos se 0.1307,0.3081 set bastante bueno.

2. formación Multi-GPU

2.1 independiente multi-GPU torch.nn.DataParalle

用torch.nn.DataParalle Nos limitaremos a nuestro propio modelo como un parámetro, puede dirigir entrante

#使用内置的一个模型，我们这里以resnet50为例
model = torchvision.models.resnet50()
#模型使用多GPU
mdp = torch.nn.DataParallel(model)
mdp

2.2 torch.distributed

2.3 torch.utils.checkpoint