是否考虑通过IPFS分发数据?
RT
由于我们资源有限,暂时无法提供IPFS节点服务,但是我们可以尝试找个服务商将文件上传到filecoin。
如果楼主资源丰富,我们非常欢迎楼主提供IPFS分发方式,任何分发方式,在保证数据准确的前提下我们都是欢迎的。如果需要我们做什么配合,在力所能及的范围内我们也会尽最大努力配合。
最后,对楼主的提议表示感谢,欢迎加入MNBVC项目大家庭!
谢谢回复。
发起这个问题的原因是看到清洗后的数据被通过 HF 分发,但众所周知,国内下载huggingface上的大文件体验不太好。47
我其实也没有太多的资源,家里自用的IPFS节点因为网络不稳定,并不适合作为主要节点进行分发。但如果未来有意向通过IPFS进行数据分发,在公布cid后我或许可以帮忙对一部分数据做备份(pin data)。我的存储资源也不多,目前大概可以分出1~2T的空间
感谢支持,我们也一直在探索各种分发方式,但你要了解到,在国内各种限制还是挺多的,包括这个IPFS,我个人体验了一下,感觉访问非常不流畅。还有web下载方式,我们就不方便在国内提供。毕竟MNBVC是一个非营利性项目,大部分项目成员都是用爱发电。正如47中的回复所说的,国内搞大数据的从huggingface下载都没有难度。
如果从微力下载不方便,可以考虑从百度网盘下载。
如果有人想将清洗后的数据转移到modelscope,我们非常欢迎,MNBVC是开放的,随时欢迎大家加入。