Artikelverzeichnis
Mein Verständnis von Transferlernen
源域和目标域
ist ein relatives Konzept, das sich auf 两个不同的数据集或领域
bezieht, die an der Transfer-Lernaufgabe beteiligt sind.
源域(Source Domain)
Bezieht sich normalerweise auf einen trainierten und erlernten Datensatz, der zum Extrahieren von Funktionen, zum Trainieren von Modellen oder zum Erstellen von Benchmark-Leistungen verwendet wird.
目标域(Target Domain)
Es bezieht sich auf eine neue Aufgabe oder einen neuen zu lösenden Datensatz. Es weist eine gewisse Korrelation mit der Quelldomäne auf, es gibt jedoch Unterschiede in der Datenverteilung.
-
Quelldomänendatensätze werden normalerweise unterteilt in
源域训练集和源域测试集
. Wir verwenden源域训练集来预训练模型
, um die Generalisierungsfähigkeit zu erhalten; verwenden Sie die Quelldomäne测试集来评估预训练模型在源域的效果
. -
Der Datensatz der Zieldomäne wird ebenfalls in
目标域训练集
und目标域测试集
unterteilt. Wir verwenden den Zieldomänen-Trainingssatz, umfine-tune 预训练模型
die Anwendung auf die Zieldomänenaufgaben zu ermöglichen; wir verwenden den Zieldomänen-Testsatz, um die Wirkung des fein abgestimmten Modells in der Zieldomäne zu bewerten. -
Beim Transferlernen werden Datensätze, die sowohl die Quelldomäne als auch die Zieldomäne berücksichtigen, für das Training und die Bewertung des Modells in
训练集和测试集
unterteilt. Es unterscheidet sich einfach vom traditionellensupervised learning 相比
und Transferlernen训练阶段分为预训练和fine-tune两个阶段
.
迁移学习的目标
Es handelt sich um das in der Quelldomäne erlernte Modell, Wissen, Funktionen usw., die auf die Zieldomäne übertragen werden können, um die Leistung der Zielaufgabe zu verbessern.
Beim Transferlernen并不是要求源域数据和目标域数据的分布必须完全一致
. Tatsächlich liegt der Schwerpunkt des Transferlernens auf从源域学习到的知识和经验能否在目标域上进行有效的迁移
.
Transfer-Lernen erfordert 一定的关联性
zwischen der Quelldomäne und der Zieldomäne, aber nicht 分布完全一致
zwischen den Quelldomänendaten und den Zieldomänendaten. Die Quelldomäne bezieht sich auf den Datensatz, der zum Extrahieren von Wissen und Erfahrung verwendet wird, während sich die Zieldomäne auf die neue Aufgabe oder den neuen Datensatz bezieht, der gelöst werden soll.