轻量级持续学习: 0.6%额外参数把旧模型重编程到新任务

AIGC动态1年前 (2023)发布 机器之心
54 0 0

轻量级持续学习: 0.6%额外参数把旧模型重编程到新任务

AIGC动态欢迎阅读

原标题:轻量级持续学习: 0.6%额外参数把旧模型重编程到新任务

关键字:任务,卷积,参数,模型,研究者

文章来源:机器之心

内容字数:7949字

内容摘要:机器之心专栏机器之心编辑部持续学习的目的是模仿人类在连续任务中持续积累知识的能力,其主要挑战是在持续学习新任务后如何保持对以前所学任务的表现,即避免灾难性遗忘(catastrophic forgetting)。持续学习和多任务学习(multi-task learning)的区别在于:后者在同一时间可以得到所有任务,模型可以同时学习所有任务;而在持续学习中任务一个一个出现,模型在某一时刻只能学习一个…

原文链接:点此阅读原文:轻量级持续学习: 0.6%额外参数把旧模型重编程到新任务

联系作者

文章来源:机器之心

作者微信:almosthuman2014

作者简介:专业的人工智能媒体和产业服务平台

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...