克服神经网络的灾
难性遗忘问题
■ 迁移学习 以及 继续学习 （continual learning）
–
工业应用不常见一个模型解决多个问题
–
一个随时间改变了特征空间的分布的数据样本重新训练模型后变成了一个新
的模型
–
即便是一个数据集，如果不小心选择
batch
num
也会造成无法学习的情况
–
但是真正的人工智能不是这样的，继续学习的问题必须解决
■ the sequence of tasks may not be explicitly labelled,
■ tasks may switch unpredictably,
■ and any individual task may not recur for long time intervals
目前的workaround
■ 一次训练全部的数据集（训练大量的数据集）
– Current approaches have typically ensured that data from all tasks are
simultaneously available during training
■ 如果是时间序列的问题
–
使用强化学习玩
Atari
游戏的，一种局面可能长时间不出现
–
解决办法是添加
memory
和
replay
仿生学带给我们希望 ---- 插一条广告
一切没有仿生学依据的设计都是伪科学
■ 人的神经网络里没有深度多层
■ 人的神经网络里面没有BP
■ 人学习一张动物图片不需要连续看上几十遍
■ 人在连续学习的时候不需要同时将之前的任务完整的记忆下来
哺乳动物如何学习
■ Learning takes place through the formation and elimination of postsynaptic dendritic
spines over time
–
学习是通过形成或者是消除突触后突状棘发生的行为
–
一个跟之前学习到的任务相关的突出会受到某种保护，在学习新的任务的时
候收到的更改相对较少
■ ---- Sleep promotes branch-specific formation of dendritic spines after learning
Can catastrophic forgetting be overcome
by using a similar approach of varying
individual neuron's plasticity depending
on each neuron's importance?
能通过基于权重的重要性来
改变权重的大小吗
EWC算法：如果确定对A任务重要的参
数
■
■
■
效果 – 多份MNIST样本
