Baseten

Baseten fournit une infrastructure pour exécuter des modèles d'IA en production. Les équipes d'ingénierie déploient des modèles open source, personnalisés ou fine-tunés sur une capacité GPU dédiée, et Baseten gère l'autoscaling, les démarrages à froid, la capacité multi-cloud et la haute disponibilité, dans son propre cloud ou dans celui du client. Sa stack d'inférence comprend des runtimes de modèles optimisés, des kernels personnalisés et du caching pour réduire la latence et les coûts. Les développeurs peuvent aussi appeler des modèles ouverts populaires via des Model APIs facturées au token, et entraîner des modèles par apprentissage par renforcement avant de les déployer sur la même stack. L'entreprise travaille avec des entreprises de produits d'IA, des grandes entreprises et des laboratoires de modèles qui ont besoin d'un service de modèles rapide et fiable à grande échelle.