Xinference Models Hub#

Ajouté dans la version v1.13.0.

Aperçu#

Xinference Models Hub est une plateforme unifiée de Xinference pour la gestion et la collaboration autour des modèles. Elle offre un support de bout en bout pour la navigation, l’enregistrement, l’examen, la mise à jour et la maintenance collaborative des modèles, et fournit des capacités complètes aux utilisateurs ordinaires ainsi qu’aux mainteneurs de modèles.

Avant l’introduction de Models Hub, les fichiers JSON des modèles devaient être modifiés directement par les utilisateurs via des PR dans le dépôt open source xorbitsai/inference. Cette approche entraînait un contrôle de version des modèles ingérable, des cycles d’itération longs, une dépendance des mises à jour des modèles par rapport au processus de publication du produit, empêchant les utilisateurs d’obtenir rapidement les modèles les plus récents.

Grâce à un mécanisme centralisé de gestion des modèles en ligne, le Xinference Models Hub exige que toutes les informations du modèle (y compris les métadonnées, paramètres et README) soient éditées au sein de la plateforme. Le système génère et soumet automatiquement une PR basée sur les modifications effectuées par le mainteneur du modèle vers le dépôt xorbitsai/inference, garantissant ainsi une normalisation, une automatisation et une traçabilité du processus, tout en évitant les incohérences liées aux modifications manuelles.

Les utilisateurs peuvent obtenir la liste des modèles les plus récents à tout moment grâce à la fonction Modèle mis à jour, ce qui améliore considérablement l’efficacité de la livraison des modèles et l’expérience utilisateur globale.

Guide de l’utilisateur ordinaire#

Cette section présente les fonctionnalités de base disponibles pour les utilisateurs enregistrés ordinaires.

Utilisateurs concernés : Utilisateurs ordinaires sans autorisation d’enregistrement ou de maintenance de modèles.

Fonctionnalités principales#

Les utilisateurs ordinaires n’ont pas besoin de se connecter pour consulter les modèles publics.

Parcourir le modèle#

  • Fonctionnalité : Voir tous les modèles disponibles publiquement

  • Emplacement d’entrée : Barre de navigation → « Models »

  • Détails du modèle : Affiche par défaut l’onglet README, incluant la description du modèle, le guide d’utilisation et les précautions à prendre.

Note

Certains modèles avancés ou versions entreprise ne sont visibles que par les utilisateurs disposant des autorisations nécessaires.

Guide du responsable de modèle#

Cette section présente les fonctionnalités disponibles pour les utilisateurs disposant de droits d’enregistrement ou de maintenance de modèles, y compris l’enregistrement de modèles, les mises à jour et le processus de révision.

Public cible : Utilisateurs disposant des droits d’enregistrement ou de maintenance de modèles.

Fonctionnalités principales (connexion requise)#

Les mainteneurs de modèles peuvent utiliser les capacités avancées suivantes en plus des fonctionnalités des utilisateurs ordinaires :

Centre utilisateur#

  • Fonctionnalité : Consulter et gérer les informations personnelles

  • Emplacement d’entrée : Avatar en haut à droite → « Centre utilisateur »

  • Gestion du compte : Mettre à jour le profil, l’adresse e-mail et autres informations.

  • Gestion des tokens : Configurer un token GitHub personnel pour soumettre ou mettre à jour un modèle.

Note

Si aucun token GitHub personnel n’est configuré, le système utilisera le token par défaut lors de la génération des PR.

Enregistrement du modèle#

  • Fonction : Enregistrer un nouveau modèle et soumettre une révision

  • Emplacement d’accès : Après connexion → icône de profil en haut à droite → « Inscription du modèle »

Étapes de soumission :

  1. Remplissez les informations du modèle de base (nom, moteur, format, etc.)

  2. Modifiez le README (cliquez sur « Obtenir le README » pour générer automatiquement un modèle).

  3. Soumettre le modèle (si vous souhaitez enregistrer un modèle public, veuillez activer le paramètre « Modèle public »)

Note

Lors de l’enregistrement d’un modèle public, le système créera automatiquement une PR dans le dépôt xorbitsai/inference.

Mon modèle#

  • Fonctionnalité : Afficher tous les modèles associés au compte actuel

  • Emplacement d’entrée : Après la connexion → Icône de profil en haut à droite → « Mes modèles »

Modèle de maintenance#

  • Fonction : Modifier le JSON ou le README du modèle

  • Emplacement d’accès : Page des détails du modèle → Icône « Paramètres »

Note

Lors de la mise à jour du modèle public, le système créera automatiquement une PR dans le dépôt xorbitsai/inference.

Processus d’examen#

Processus du soumissionnaire :

  1. Soumettre le modèle

  2. En attente d’examen

  3. Modifier selon les commentaires de la révision

  4. Pour les modèles publics, la PR se met à jour automatiquement après la modification.

Permissions du réviseur : Accès à la liste des révisions du modèle et exécution des opérations de révision.

Processus de l’évaluateur :

  1. Entrez dans la « liste d’examen ».

  2. Évaluer la qualité du modèle, l’exhaustivité et la conformité des informations.

  3. APPROUVER ou REJETER, et fournir un retour approprié.