关于利用mxnet训练一个FP16模型的问题


#1

我最近在用mxnet训练一个FP16的模型,关于训练的细节有点不太确定:
我在训练的过程中是否需要将预先设定的例如learning rate这样的超参数转换为float16类型,如果没有转换,影不影响整体的计算和最后模型的训练?


#2

你试了MXNet里面的AMP了么?