Vultr et Platform Engineering : les tendances et les défis IA dans le Platform Engineering

L'enquête annuelle « The State of AI in Platform Engineering » de Platform Engineering révèle une adoption généralisée de l'IA chez les ingénieurs de plateforme : 75 % des équipes hébergent ou prévoient d'héberger des charges de travail liées à l'IA, et 89 % utilisent quotidiennement l'IA pour des tâches comme la génération de code et la documentation. Cependant, le rapport alerte sur un « plateau dans la mise en œuvre de l'IA », où l'élan initial dépasse la valeur réelle pour l'entreprise.

Les principales conclusions de l’enquête sont les suivantes :

• La responsabilité de l'IA est fragmentée : près de 40 % des entreprises délèguent la gestion des plateformes d'IA à des équipes d'ingénieurs. Un quart (25 %) optent pour une responsabilité partagée entre plusieurs départements, tandis que 13 % ne définissent pas clairement cette responsabilité.
• L'orchestration des workloads est inégale : plus de 40 % utilisent Kubernetes étendu pour les GPU et les workloads IA, tandis que 35 % n'orchestrent pas les workloads IA de quelque manière que ce soit, ce qui souligne un écart important en matière de maturité des infrastructures.
• L'intégration se développe, mais les pipelines accusent un retard : si une majorité (58 %) des entreprises intègrent l'IA dans des applications cloud natives, 41 % n'ont pas encore adapté leurs pipelines CI/CD ou DevSecOps à cette technologie. Parmi celles qui l'ont fait, 28 % étendent leurs pipelines à la gestion des modèles, et 24 % y ajoutent des étapes de service d'inférence.
• Les solutions hybrides et sur site restent pertinentes : alors que l'intégration native au cloud est prédominante, 16 % des entreprises privilégient une approche hybride et 9 % continuent de gérer leurs charges de travail GPU sur site, soulignant ainsi le besoin de flexibilité dans les options de déploiement.
• La standardisation devient un impératif : plus de 50 % des personnes interrogées considèrent que les modèles et les plans d'infrastructure IA sont indispensables ou très importants pour garantir une adoption sûre et évolutive.
• Le manque de collaboration perdure : Des obstacles culturels et opérationnels persistent, puisque près d'un tiers (31 %) des personnes interrogées n'ont qu'une collaboration limitée avec les équipes de science des données, et 16 % ne collaborent pas du tout.

« Nous n'avons pas vu de tels taux d'adoption pour une nouvelle technologie depuis les années 1990 ; c'est assez incroyable. Mais en réalité, la plupart des applications de l'IA dans les entreprises sont encore plus expérimentales que stratégiques », déclare Luca Galante, contributeur principal de la communauté Platform Engineering. « Les ingénieurs de plateformes montrent la voie, mais pour transformer cette dynamique en impact mesurable, il faudra des bases plus solides. »