Inférence IA / Hébergement de modèles gérés

Choisissez le modèle.
Nous le gérons.

Exécutez un modèle d'IA ouvert, commercial ou personnalisé via un service d'inférence géré avec des options d'hébergement, sur site et de résidence des données.

Discutez de votre modèle Voyez comment ça marche

VEXXHOST / IA Hébergé ou sur site

Choisissez un modèle

Commercial

Open source

Personnalisé

Point de terminaison d’inférence géré

Hébergé par VEXXHOST

Sur site

Commercial, open source ou personnalisé

Hébergé par VEXXHOST ou sur site

Points de terminaison du modèle géré

Tarification personnalisée basée sur des jetons

Comment fonctionne le service

Votre choix de modèle, fourni sous forme de service géré.

Choisissez un modèle commercial, un modèle open source ou un modèle personnalisé. VEXXHOST fournit le point final et exploite l'environnement de service dans notre infrastructure ou la vôtre.

Étape 1

Choisissez votre modèle

Sélectionnez un modèle commercial, un modèle open source ou un modèle personnalisé en fonction du travail que vous devez effectuer.

Étape 2

Choisissez où il s'exécute

Déployez en tant que service hébergé par VEXXHOST ou dans votre propre centre de données.

Étape 3

Utiliser un point de terminaison géré

VEXXHOST déploie, prend en charge et exploite le point de terminaison du modèle pour vos applications et flux de travail.

Exigence sur site

L'infrastructure GPU est requise

L'inférence sur site s'exécute sur l'infrastructure GPU fournie via le produit d'infrastructure GPU VEXXHOST.

Modèle commercial

Tarification personnalisée basée sur des jetons

Le prix est personnalisé en fonction du modèle sélectionné, de l'utilisation prévue du jeton et de l'emplacement de déploiement.

Contrôles du produit

Flexibilité là où les clients en ont réellement besoin.

L'offre est conçue pour absorber les changements de modèles et d'infrastructures sans obliger les équipes applicatives à recommencer.

MODEL

Sélection du modèle

Évaluez la qualité et les aspects économiques du modèle par rapport à la charge de travail réelle plutôt qu'à un titre de référence.

PRIVACY

Contrôles de rétention

Aucune conservation des données peut être fournie pour les configurations de déploiement éligibles.

LOCATION

Résidence sélectionnable

Façonner le lieu de traitement et le placement des infrastructures en fonction des exigences juridictionnelles.

OPERATIONS

Runtime géré

VEXXHOST prend en charge le point final, le chemin de service et le cycle de vie opérationnel au-delà de l'intégration initiale.

ECONOMICS

Tarification en fonction de l'utilisation

Les conditions commerciales sont adaptées aux exigences du modèle, du volume, du placement et du service sélectionnés.

PORTABILITY

Possibilité de changement

Maintenez la stabilité de l’interface de l’application pendant que les modèles et les choix de déploiement évoluent.

Du cas d'utilisation au point de terminaison

Sélectionnez Avec preuve. Déployez avec intention.

Le choix du modèle est traité comme une décision technique et commerciale et non comme un concours de popularité.

Définir

Décrivez la tâche, le seuil de qualité, la latence, le volume, la sensibilité des données et le contexte de l'application.

Évaluer

Présélectionnez les modèles et les voies de déploiement en fonction de la qualité, du coût, des licences et de la gouvernance.

Intégrer

Connectez le point de terminaison au flux de travail, à l'application et aux sources de données avec les contrôles appropriés.

Fonctionner

Observez le comportement de production, gérez le chemin de service et revoyez le choix du modèle à mesure que les exigences changent.

Le portefeuille d’IA VEXXHOST

Infrastructure, inférence et expertise. Utilisez une offre ou connectez les trois.

Explorer le portefeuille complet d’IA

Infrastructure

Infrastructure GPU

Vous êtes ici

Inférence IA

Services professionnels

Conseil en IA

Mettez un modèle derrière le flux de travail

Commencez par le modèle que vous souhaitez exécuter.

Apportez un nom de modèle si vous en avez un, ou simplement la charge de travail. Nous cartographierons le point final, le placement et le modèle commercial autour de celui-ci.

Options de modèles ouverts, commerciaux et personnalisés
Livraison hébergée, sur site ou sur mesure par un fournisseur
Options de traitement des données et de résidence disponibles
Tarification personnalisée basée sur l'utilisation

Ligne directe / Ingénierie commerciale

Concevoir un service d'inférence

Parlez-nous de la charge de travail, des données et de l’utilisation prévue.

Notes de terrain / Dernières nouvelles

Ce que la production nous apprend.

Des notes d’ingénierie issues de l’exploitation d’infrastructures ouvertes : pannes, décisions de conception et travail upstream qui améliorent l’infrastructure ouverte.

Parcourir toutes les notes