[nlp] 下载huggingface代码的预训练数据时会自动kill

2023-12-22 17:24:53

下载一份小语种训练数据时，大概有50G，自动kill。

解决办法：

????????内存申请的16G太小，应该申请比数据大小大的内存空间，于是申请了80G。

https://huggingface.co/datasets/HeNLP/HeDC4/tree/main

?内存使用率：

文章来源:https://blog.csdn.net/Trance95/article/details/135155184
本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。