深度学习项目储存大型数据集有什么合适的工具/方法推荐吗

如题，目前需要一种安全且可靠的大规模数据存储方式。目前大部分实验都在云端运行，小部分在本地显卡上进行。数据类型主要是图片（也有一部分文本数据），数据量相对较大（约2～4 TB），并且数据集会频繁迭代。
之前考虑过使用云服务（例如 GCP busket），但发现加载速度很慢；如果为此再额外搭建数据库又感觉不太划算。
现在正在权衡使用 DVC 还是 Git LFS，因为还需要记录每次深度学习实验的数据集更新。如果还能与 W&B（Weights & Biases）的实验记录无缝衔接就更理想了。
请问各位有没有好的建议或经验分享？