AutoDL 解决Huggingface下载模型的问题
公开服务¶
Github: https://ghproxy.com/
HuggingFace镜像站:HF-Mirror
AutoDL内置服务¶
声明:限于学术使用github和huggingface网络速度慢的问题,以下为方便用户学术用途使用相关资源提供的加速代理,不承诺稳定性保证。此外如遭遇恶意攻击等,将随时停止该加速服务
以下为可以加速访问的学术资源地址:
- github.com
- githubusercontent.com
- githubassets.com
- huggingface.co
如果在终端中使用:
source /etc/network_turbo
如果是在Notebook中使用:
import subprocess
import os
result = subprocess.run('bash -c "source /etc/network_turbo && env | grep proxy"', shell=True, capture_output=True, text=True)
output = result.stdout
for line in output.splitlines():
if '=' in line:
var, value = line.split('=', 1)
os.environ[var] = value
取消学术加速,如果不再需要建议关闭学术加速,因为该加速可能对正常网络造成一定影响
unset http_proxy && unset https_proxy
原文链接:https://blog.csdn.net/weixin_43303286/article/details/134342476
参考:
如何快速下载huggingface模型——全方法总结 - padeoe的文章 - 知乎
https://zhuanlan.zhihu.com/p/663712983
和:
https://hf-mirror.com/docs/huggingface_hub/guides/download#download-from-the-cli
最近几月huggingface彻底无法访问,之前下载模型都是开梯子自己下载到本地再上传到服务器,这样实在比较麻烦,因此查资料之后得到解决方案:使用huggingface镜像站
Huggingface CLI
huggingface cli是hf官方的下载工具,使用pip安装:
pip install -U huggingface_hub
1
安装好之后引入环境变量:
export HF_ENDPOINT=https://hf-mirror.com
1
(只在当前终端生效,如果想长期生效改source文件)
然后就可以下载模型,这里下载的是facebook/bart-base,这里记住前面的facebook一定不要漏:
huggingface-cli download --resume-download facebook/bart-base --local-dir /home/mguo/models/bart-base
1
后面的–local-dir就是指定下载路径(默认的在.~/cache/huggingface/hub 中)
为了统一管理,我就下载到统一的路径了,这样加载模型从本地加载:
model_path = '/home/mguo/models/bart-base'
tokenizer = AutoTokenizer.from_pretrained(model_path, cache_dir=cache_dir)
————————————————
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
更多推荐

所有评论(0)