现在把这个神经网络拿出来,将其适应(迁移)到不同任务中所学到的知识,比如放射科诊断....但是对于"放射科任务",也许你只有 100 个样本,所以你可以将图像识别预测的知识迁移到"放射科识别任务"中,即使你的放射科数据很少....当任务 A 和任务 B 都有相同的输入 X 时,迁移学习是有意义的....当任务 A 的数据比数据 B 多得多时,迁移学习意义更大.
所有这些假设的前提都是,你希望提高任务 B 的性能....如果你觉得任务 A 的低层次特征,可以帮助任务 B 的学习,那迁移学习更有意义一些.
2.8 多任务学习 Multi-task learning
在迁移学习中,你的步骤是串行的,你从任务 A 里学到知识然后迁移到任务