MORAN_v2代码与paper的差异点总结

[billyzju]

感谢作者分享代码！
[作者更新的v2代码实际效果在几个数据集上有诸多提升，但是paper里面的描述好像依然描述的版本1的方法。例如，作者在别的issue里面提到“MORAN_v2去掉了x维度”。

请问v2训练的时候依然还是采用paper里面提到的‘Curriculum Training’流程么？

另外，如果作者时间方便话，是否可以在这个issue里面回顾一下v2代码和paper主要的差异点？

再次感谢！

[Canjie-Luo]

客气了，正如README里边有提到的，我现在详细汇总一下：
1、对MORN的改进：增加BN层稳定训练，并去除x维度的预测（能满足论文中几个数据集的需求，具体的使用请根据自己的任务做调整），减小解空间，更容易收敛；
2、改用ResNet-45作为backbone；
3、得益于更稳定的训练，不再使用课程学习（Curriculum Training），能够实现端到端（End-to-end）训练。
谢谢关注～ @billyzju

[billyzju]

客气了，正如README里边有提到的，我现在详细汇总一下：
1、对MORN的改进：增加BN层稳定训练，并去除x维度的预测（能满足论文中几个数据集的需求，具体的使用请根据自己的任务做调整），减小解空间，更容易收敛；
2、改用ResNet-45作为backbone；
3、得益于更稳定的训练，不再使用课程学习（Curriculum Training），能够实现端到端（End-to-end）训练。
谢谢关注～ @billyzju

谢谢回应。我现在利用你在网盘分享的nips2014和cvpr 2016数据作为训练集，利用IC13数据作为验证集，先利用lr 1迭代103000步（batchsize 64），然后lr 0.01迭代179700步（9个epoch），直接端对端训练的，目前取得的最高准确率是90.34%，与您paper以及后面更新的MORAN_v2还有一点差距，后续如果要继续提高准确率复现论文结果，请问有什么建议吗？谢谢。

[Canjie-Luo]

我这边是学习率设置为1迭代3个epoch之后，把学习率降为0.1再迭代3个epoch。您可以在我给的demo.pth上继续训练。