dropout是指在深度学习网络的训练过程中，对于神经网络单元，按照一定的概率将其暂时从网络中丢弃。注意是暂时，对于随机梯度下降来说，由于是随机丢弃，故而每一个mini-batch都在训练不同的网络。

Hook（钩子）：字面意思就是勾住一个函数，在其执行前修改输入数据或其他 *** 作，或者在其执行后修改输出输出或其他 *** 作。通过hook *** 作可以锁定一个layer对象（model中的模块）的生命周期，监视其执行状态和执行结果。在pytorch中，提

1、paddle中支持的hook 通过对paddle中api的查询，发现paddle的layer对象只在前向传播中支持两种hook，pre_hook和post_hook。pre_hook可以对层的输入变量进行处理，用函数的返回值作为新的变量