比较TRM与HRM运行时间及性能,提出计算固定时性能是否相同的疑问
我们的笔记:
- TRM的运行时间比HRM长,尽管它更小。我们的假设是由于反向传播在所有步骤中进行,而HRM只进行了部分步骤。
开放性问题:TRM更好是因为更聪明?还是因为训练时间更长?如果两者使用固定计算量,性能会相同吗?
- TRM的运行时间比HRM长,尽管它更小。我们的假设是由于反向传播在所有步骤中进行,而HRM只进行了部分步骤。
开放性问题:TRM更好是因为更聪明?还是因为训练时间更长?如果两者使用固定计算量,性能会相同吗?