Source du modèle#
Xinference prend en charge le téléchargement de divers modèles à partir de différentes sources.
HuggingFace#
Xinference télécharge par défaut les modèles requis directement depuis le dépôt officiel de modèles Hugging Face.
Note
Si votre réseau ne peut pas se connecter à HuggingFace, vous pouvez spécifier un site miroir HuggingFace via une variable d’environnement : HF_ENDPOINT=https://hf-mirror.com.
ModelScope#
Lorsque Xinference détecte que la langue système est définie sur « Chinois simplifié », il configure la source de téléchargement des modèles sur ModelScope.
Vous pouvez également le faire en définissant manuellement la variable d’environnement XINFERENCE_MODEL_SRC=modelscope.
Veuillez consulter la page de détails du modèle pour vérifier s’il prend en charge le téléchargement depuis ModelScope. Si un modèle prend en charge le téléchargement depuis ModelScope, l’élément « Model Hubs » dans les informations du modèle inclura ModelScope.