深度学习中的预训练模型是什么意思？如何获得？

一个通俗的例子是:武侠小说中，一个人要想成为武林高手，需要有扎实的内功基础。练好内功后，他可以非常轻松的学会各种招式，发挥其最大的作用。

比如金庸小说《倚天屠龙记》的主角张无忌，偶然学会了内功“九阳真镜”，之后又学会了“乾坤大挪移”、“太极传”、“太极剑”等招式，进步神速。小说中的“内功修炼”可以理解为“预练”的过程。

前训模式很好的利用了迁移学习，让我们眼前一亮。这和孩子读书是一样的。一开始他们学习语文、数学、化学，看书、网游，脑子里积累了很多。他学计算机的时候，其实把以前学过的知识都带来了。

如果他以前没上过中学或小学，他会突然学计算机，他不会明白这里有什么意义。这和我们的前期培训模式是一样的。预训练模式就是先学习人类的语言知识，然后代入具体的任务，就是这么简单的道理。