Exécuter des modèles compilés sur l'appareil
Prendre en charge l'exécution hétérogène sur CPU, GPU et NPU
Gérer les formes dynamiques pour des modèles comme les LLM
Étendre aux NPU personnalisés grâce à des couches d'abstraction matérielle
Fonctionner sous Linux, macOS, Windows et sur systèmes bare-metal
Suivre la performance des modèles déployés avec un dashboard
Générer un exécutable d'exécution en amont
S'intégrer de façon fluide aux workflows existants