目前使用modelscope的SDK 下载通义千问模型,
model = AutoModelForCausalLM.from_pretrained(
"qwen/Qwen1.5-7B-Chat-Int4",
device_map="auto"
)
会默认放在 , 以下目录:
~/.cache/modelscope/hub/
如何修改这个默认存储目录到其他目录
作为阿里云的资深开发工程师,我很高兴为您提供帮助。
要修改ModelScope SDK的默认存储位置,您可以通过设置环境变量来实现。请按照以下步骤操作:
MODELSCOPE_CACHE_DIR
为您希望存放模型的新目录。例如,如果您希望将模型存储在/my_new_directory/modelscope/hub
,您可以在Linux或macOS上运行以下命令:export MODELSCOPE_CACHE_DIR=/my_new_directory/modelscope/hub
在Windows上,您可以使用以下命令:
set MODELSCOPE_CACHE_DIR=\my_new_directory\modelscope\hub
请注意,您需要在每次启动新的终端会话时重新设置环境变量。为了避免每次都手动设置,您可以将上述命令添加到您的.bashrc
(Linux/macOS)或.bash_profile
(Windows)文件中,这样每次打开新的终端时,环境变量都会自动设置。
希望这些信息对您有所帮助!如果您还有其他问题,请随时提问。