写点什么

(28DW-S8-Day10) T 型学习模式:迁移式学习

用户头像
mtfelix
关注
发布于: 2021 年 03 月 01 日
(28DW-S8-Day10) T型学习模式:迁移式学习

工作中经常用一些迁移学习的技术,而且最近随着 28 天写作营也在学习一些别的领域(新能源、区块链)的皮毛知识。特别是看到李永乐、卓克、万维钢这些人那么广的知识面,简直这种跨领域学习能力太强大了,所以杂糅在一起,有了今天想写的主题。

李永乐老师厉害不厉害,本身是一个中学物理老师,但现在他讲的话题,都已经是保罗万象。 我自己看过他几个非物理方面的视频,讲的都还挺专业(有些涉及到我自己领域,所以稍有些专业度的判断力:D)。 打心眼里佩服这种跨学科的学习能力。

T 型人才

之前听过一个"T 型人才"的说法。

([1])用字母“T”来表示他们的知识结构特点。“—”表示有广博的知识面,“|”表示知识的深度。两者的结合,既有较深的专业知识,又有广博的知识面,这类集深与博于一身的人才。

先深后广

我的理解是,要先在一个领域做深做透,深入到能达到这个领域的本质,后来发现到了这个阶段,其实很多领域的底层道理是相同的。

于是,通过有意识地链式一级一级往其他一度二度三度领域拓展,只需要花费其他专业人士入门级的时间投入(比如 20%),就能得到另一个专业 80%的真谛。于是,这种人逐渐变的似乎无所不知,分析事情时可以旁征博引,纵横捭阖。

是不是有庞统、诸葛亮的感觉?

做深:一万小时定律

一万小时定律,一般指的是作家格拉德威尔在《异类》一书中指出的成才普遍规律([2])。

要在一个领域变成杰出人士,比如小提琴演奏家、钢琴演奏家、花样滑冰冠军等,需要在足够早的时候苦练超过一万小时。

什么概念?

一万小时 = 每天练习 2 小时 X 每年 300 天 X 15 年

也就是,一般人需要 15 年才能成才。如果想在 5 年成才,需要每天练习 6 个小时以上。你能做到吗?

拓广:迁移学习

忘记之前看的什么书里说的,巴菲特、查理芒格等人有个爱好、习惯,或者说秉承的信念。

需要持续不断学习不同领域的基础理论。哪怕只是入门的最基础理论,只要能 让自己的工具箱尽量全面,而不陷入拿着锤头到处找钉子的狭窄思维模式。

迁移学习: 巨量通用数据预训练 + 下游任务微调

目前 AI 领域,包括很多图像、文本任务,都会采用迁移学习机制。

简单讲,就是基于一个用巨量通用数据预先训练好的基础模型,在下游具体任务上进行一些参数微调,就能很好地处理下游具体任务。

打个比方,练了十年马步、长拳,俯卧撑、下蹲(巨量通用数据预训练), 然后根据一本薄薄的秘籍,就能学会降龙十八掌、凌波微步这些具体大招了。

在机器学习领域这类叫做是迁移学习(transfer learning)。

什么学习者最可怕

是否可以这么说?

常学习的人并不都可怕,尤其是那种学 N 多东西,但都浅尝辄止的。 可怕的是把一种东西练上万次的。 更可怕的是 T 型学习,一种东西练习 10 万次以后成为绝顶高手。 最可怕的是这些绝顶高手还不断扩展,迁移学习,在一个个新领域都练习 1000 次,成为 T 型全面高手。

参考文献


发布于: 2021 年 03 月 01 日阅读数: 21
用户头像

mtfelix

关注

内心平静是一生的追求 2018.01.17 加入

简单的技术人

评论

发布
暂无评论
(28DW-S8-Day10) T型学习模式:迁移式学习