データ収集
1 どのような種類のデータであっても、通常はデータベースから抽出されますが
、まずデータをクリーンアップして合成する必要があります。
2 データをコレクションにする
csv などのファイルを使用してデータのコレクションを保存できます
データのシミュレーションと入力
汎用性を高めるために、シミュレートされたデータを使用します
time = torch.arange(1, T + 1, dtype=torch.float32)
サイズが 1 から T+1 でステップが 1 の 1 次元テンソル データを返します。これは私たちが自分たちで生成したデータです。実際のデータはデータベースから取得できます。テンソル データを記述するために正弦関数と正規分布を使用します
。データベースのデータが間隔 1 のデータである可能性は低いためです。
x = torch.sin(0.01 * time) + torch.normal(0, 0.2, (T,))
d2l.plot(time, [x], 'time', 'x', xlim=[1, 1000], figsize=(6, 3))
次のステップは、実際のデータ セットをシミュレートし、ラベル データ セットを作成することです。pytorch を使用して、データ セット data.TensorDataset をロードします。TensorDataset 関数を使用して、テンソル テンソルをパッケージ化し、それをデータセット データセットにパッケージ化できます。が重要なポイントです: 作成と使用 ネットワークのトレーニングには多層パーセプトロンが使用されます。
コードを見せてください
コード全体を以下に示します
import torch
from torch import nn
from wrapper import torch as wrapper
import cv2
from torch.utils import data
#features = torch.zeros((1000 - 4, 5))
#print(features.shape)
def load_array(data_arrays, batch_size, is_train=True):
"""Construct a PyTorch data iterator.
Defined in :numref:`sec_linear_concise`"""
dataset = data.TensorDataset(*data_arrays)
return data.DataLoader(dataset, batch_size, shuffle=is_train)
T = 1000 # 总共产生1000个点
time = torch.arange(1, T + 1, dtype=torch.float32)
x = torch.sin(0.01 * time) + torch.normal(0, 0.2, (T,))
wrapper.plot(time, [x], 'time', 'x', xlim=[1, 1000], figsize=(6, 3))
#cv2.waitKey(0)
tau = 4
features = torch.zeros((T - tau, tau))
print(features)
for i in range(tau):
features[:, i] = x[i: T - tau + i]
print(features)
labels = x[tau:].reshape((-1, 1))
batch_size, n_train = 16, 600
# 只有前n_train个样本用于训练
train_iter = load_array((features[:n_train], labels[:n_train]),
batch_size, is_train=True)
def init_weights(m):
if type(m) == nn.Linear:
nn.init.xavier_uniform_(m.weight)
# 一个简单的多层感知机
def get_net():
net = nn.Sequential(nn.Linear(4, 10),
nn.ReLU(),
nn.Linear(10, 1))
net.apply(init_weights)
return net
# 平方损失。注意:MSELoss计算平方误差时不带系数1/2
loss = nn.MSELoss(reduction='none')
def train(net, train_iter, loss, epochs, lr):
trainer = torch.optim.Adam(net.parameters(), lr)
for epoch in range(epochs):
for X, y in train_iter:
trainer.zero_grad()
l = loss(net(X), y)
l.sum().backward()
trainer.step()
print(f'epoch {
epoch + 1}, '
f'loss: {
wrapper.evaluate_loss(net, train_iter, loss):f}')
net = get_net()
train(net, train_iter, loss, 5, 0.01)
モデルを保存
PATH = './bigdata.pth'
torch.save(net.state_dict(), PATH)
これによりモデルが保存され、将来的に直接使用できるようになります。