Wie berechnet man die Beziehung zwischen max_step und der Epoche, z. B. wie viele Schritte es in einer Epoche gibt?

Wie berechnet man die Beziehung zwischen max_step und der Epoche, z. B. wie viele Schritte es in einer Epoche gibt?

max_stepDie Beziehung zwischen (maximale Anzahl an Trainingsschritten) und epoch (Epochen) hängt von Ihrer Trainingspipeline und Ihren Hyperparametereinstellungen ab. Normalerweise stellt ein Schritt das Training eines Stapels dar, und die Epoche stellt ein vollständiges Datensatztraining dar. Daher kann die Beziehung zwischen ihnen wie folgt geschätzt werden:

max_stepDie Beziehung zwischen und epoch: Im Allgemeinen können Sie die Beziehung zwischen max_step und epoch mithilfe der folgenden Formel schätzen:

max_step = (总训练样本数 / batch_size) * num_epochs

wobei die Gesamtzahl der Trainingsstichproben die Gesamtzahl der Stichproben in Ihrem Trainingsdatensatz ist, batch_size die Größe jedes einzelnen batch, < a i=3> ist die Anzahl der Runden, die Sie ausführen möchten. Diese Formel geht davon aus, dass jeder Schritt einen Datenstapel verarbeitet und die Anzahl der Durchläufe des gesamten Datensatzes darstellt. num_epochsnum_epochs

Es kann auch mit der folgenden Formel berechnet werden:

max_step = len(dataloader) * num_epoch