作者：Tong Tong
B站主页：Double童发发
本套代码有相关讲解视频，详见B站：从零手搓Flow Matching（Rectified Flow），同时强烈建议先看一下本人B站关于Flow Matching和Recitified Flow的算法讲解视频，会对理解代码有很大帮助。
特别推荐看一下本人的扩散模型之老司机开车理论视频，对你理解扩散模型有很大帮助~
TODO：
- 即将v1.0开放模型预训练权重（百度网盘形式）
- v1.1版本计划增加MNIST条件生成
- 即将开放v1.1版本相关模型权重文件（百度网盘形式）
- v1.2版本计划增加MNIST文本条件或者做reflow和distill
一些bug修复说明:
- 感谢B站粉丝大佬@EchozL提醒，MiniUnet编的草率了，现已更新，最高分辨率的特征也concat啦~
模型更新了一个版本，2024年8月9日前下载的模型权重不能用啦~
- 代码基于MNIST数据集实现算法的训练与推理，可实现有条件或无条件生成0-9手写字体，目前有条件生成仅支持使用类别label，也即0-9整型数字，使用文本作为条件计划下个版本支持。
- 本项目完全从零手搓，尽可能不参考其他任何代码，从论文原理出发逐步实现，因此算是极简实现的一种，并不能保证最优性能，各位大佬可以逐步修改完善。
- 为了让大家都能上手，本代码只基于深度学习框架Pytorch和一些其他必要的库。数据集选择MNIST作为案例，该数据集Pytorch本身自带，数据集规模较小，也方便展示效果，最重要的是即使是使用CPU都能训练！！！
- 模型结构自己手搓了一个MiniUnet，大家可以根据自己的需求修改，也可以使用其他更复杂的模型，比如Unet、DiT等。
- 代码中有很多注释，希望能帮助大家理解代码，如果有问题欢迎留言交流。
- 代码环境要求很低，甚至不需要GPU都可以
- Python 3.8+
- Pytorch 2.0+
- Numpy
- Matplotlib
- 其他的就缺啥装啥
- 代码运行方式
- 如果需要训练代码请务必先查看config文件夹里的train_config.yaml文件，并根据实际情况修改相关参数，尤其是是否使用classifier-free guidance，是否使用GPU等，设置好了再开始训练
- 训练：
python train.py，注意设置相关参数 - 推理：
python infer.py - 画loss曲线：
python plot_loss_curve.py - 结果图像展示（100张生成图像拼图生成）：
python draw_result_fig.py
- 各版本权重代码和数据在此下载，把checkpoints和data文件夹放到根目录下即可：
- 链接：https://pan.baidu.com/s/1LiRvjo74Egrk89L5EGm9PA?pwd=ln3f
- 提取码：ln3f
- 注意！模型更新导致权重同步更新！请下载最新模型权重文件，更新日期2024年8月10日
- V1.1版本同时支持无条件生成和条件生成
- 模型收敛较好
- 生成效果展示，每一行为一个类别的生成结果，从0-9
- V1.0版本仅支持无条件生成
- 模型收敛较好
- 生成效果展示
- 代码实现原理参考论文
- Flow Straight and Fast: Learning to Generate and Transfer Data with Rectified Flow
- Flow Matching for Generative Modeling
- Classifier-Free Diffusion Guidance