transferlearning-tutorial icon indicating copy to clipboard operation
transferlearning-tutorial copied to clipboard

迁移学习前可迁移性评估指标

Open alexander1005 opened this issue 3 years ago • 1 comments
trafficstars

感谢您的无私分享,受益良多。我看到有关文章中科院数字所,因迁移学习涉及复杂的过程,在迁移学习之前提出两种迁移指标,用来评估是否可迁移,您在相关指标上有更详细的知识吗

alexander1005 avatar Dec 15 '21 01:12 alexander1005

目前没有有效的评估指标。一些已有工作可以以“transferability estimation”为关键词搜索到。但是我的结论是,绝大多数方法做了半天,得到的结论大部分都是我们要选择最大的模型、最大的数据集。因此可能增加模型和数据集的大小才是关键,这也是迁移学习为什么会有效:本身就是要从大数据和大模型上学习知识。

jindongwang avatar Dec 15 '21 02:12 jindongwang