LLMs 其他 Trick

来自： AiGC面试宝典

扫码 查看更

huggingface 下载不了模型问题？

• 方法一：在modelscope 下载你想要的模型

from modelscope.hub.snapshot_download import snapshot_download

model_dir $=$ snapshot_download(‘damo/nlp_xlmr_named-entity-recognition_vietecommerce-title’, cache_dir $\cdot=^{\prime}$ path/to/local/dir’, revision $\mathbf{\rho}_{[}=\mathbf{\rho}^{\rangle}$ v1.0.1’)

• 方法二：大语言模型下载站

HuggingFace.co资源下载网站，为AI开发者提供模型镜像加速服务，通过下载器可以达到10M/s的下载速度，解决大模型下载时间长、经常断线、需要反复重试等问题，实现镜像加速、断点续传、无人值守下载，

README.md

大语言模型下载站

HuggingFace.co资源下载网站，为Al开发者提供模型镜像加速服务，通过下载器可以达到10M/s的下载速度，解决大模型下载时间长、经常断线、需要反复重试等问题，实现镜像加速、断点续传、无人值守下载，参见源码。

大语言模型的应用，见https://gitclone.com/ait/chat，可以体验到ChatGLM2-6B、Vicuna-7B、通义千问-7B和LLama2-7B四种模型的服务。

1、模型下载方法

方法1：用下载器下载

#例如