Source du modèle#

Xinference prend en charge le téléchargement de divers modèles à partir de différentes sources.

HuggingFace#

Xinference télécharge par défaut les modèles requis directement depuis le dépôt officiel de modèles Hugging Face.

Note

Si votre réseau ne peut pas se connecter à HuggingFace, vous pouvez spécifier un site miroir HuggingFace via une variable d’environnement : HF_ENDPOINT=https://hf-mirror.com.

ModelScope#

Lorsque Xinference détecte que la langue système est définie sur « Chinois simplifié », il configure la source de téléchargement des modèles sur ModelScope.

Vous pouvez également le faire en définissant manuellement la variable d’environnement XINFERENCE_MODEL_SRC=modelscope.

Veuillez consulter la page de détails du modèle pour vérifier s’il prend en charge le téléchargement depuis ModelScope. Si un modèle prend en charge le téléchargement depuis ModelScope, l’élément « Model Hubs » dans les informations du modèle inclura ModelScope.