Les dirigeants d’entreprise savent qu’ils doivent placer l’IA au cœur de leur stratégie. Mais c’est plus facile à dire qu’à faire. L’IA peut être complexe, coûteuse et risquée. De plus, la technologie comme l’écosystème évoluent rapidement.
Tout d’abord, on observe un net abandon de l’approche universelle. L’IA et le machine learning prédictifs, l’IA générative et, désormais, l’IA agentique sont tous adaptés à des secteurs et à des applications spécifiques. À mesure que les modèles d’IA conçus pour des usages précis se multiplient, le paysage de l’IA se diversifie de plus en plus.
Il est désormais clair que les applications d’IA nécessitent une infrastructure sur mesure, non seulement optimisée en matière de performances, de coûts et d’efficacité énergétique, mais également capable de suivre l’évolution rapide des besoins des modèles, applications et agents d’IA. Le Model Context Protocol (MCP) en est un parfait exemple : cette innovation majeure n’existait même pas il y a encore quelques mois.
Alors que les organisations s’empressent de tirer parti de l’IA générative et, de plus en plus, des agents d’IA, certaines construisent leurs propres centres de données dédiés. D’autres se tournent vers des fournisseurs spécialisés qui déploient des infrastructures à l’échelle du cloud, conçues pour prendre en charge plusieurs grands modèles de langage (LLM). Souvent appelées « usines d’IA » ou néoclouds, ces plateformes bénéficient d’investissements massifs dans le calcul accéléré, les réseaux et le stockage, le tout étant spécialement conçu pour répondre aux exigences élevées des charges de travail d’IA en matière de performances et de mise à l’échelle.
La mise en place d’une infrastructure souveraine et évolutive pour l’IA et l’inférence des LLM nécessite de relever quatre défis majeurs :
- Latence et performances – Une IA rapide et réactive est essentielle, en particulier pour les cas d’usage interactifs. Personne n’aime regarder une icône de chargement en attendant qu’une IA réfléchisse.
- Sécurité et confidentialité des données – Les LLM traitent souvent des données sensibles. Il est essentiel de garantir une inférence sécurisée et confidentielle, une tâche d’autant plus complexe que les règles de sécurité et les exigences de conformité diffèrent entre les environnements cloud et sur site.
- Conformité réglementaire – Alors que l’IA se développe dans tous les secteurs, des réglementations telles que le règlement général sur la protection des données (RGPD) de l’Union européenne imposent des règles strictes en matière d’utilisation des données, de sélection des modèles, de transparence et d’équité. Il est essentiel de savoir s’y conformer.
- Gestion et intégration des modèles – Les modèles d’IA nécessitent une gestion continue, notamment en matière de gestion des versions, de surveillance et de mises à jour, et doivent s’intégrer harmonieusement aux systèmes existants. Il ne s’agit pas d’une solution prête à l’emploi, mais des protocoles tels que MCP facilitent cette intégration, malgré les défis de sécurité auxquels les modèles d’IA sont confrontés.
Déployer la puce la mieux adaptée à chaque tâche
Chez F5, nous collaborons avec NVIDIA afin de contribuer à ce que les usines d’IA et les infrastructures d’IA à l’échelle du cloud répondent aux exigences de l’IA moderne. Aujourd’hui, à l’occasion de NVIDIA GTC Paris 2025, nous dévoilons une nouvelle avancée majeure avec de nouvelles fonctionnalités pour F5 BIG-IP Next for Kubernetes déployé sur les DPU NVIDIA BlueField-3. Celles-ci viennent compléter les améliorations en matière de performances, de mutualisation et de sécurité que nous avons présentées lors de GTC San Jose 2025. Intégré à la F5 Application Delivery and Security Platform, F5 BIG-IP Next for Kubernetes s’exécute nativement sur NVIDIA BlueField-3, de puissants processeurs programmables spécialement conçus pour le déplacement et le traitement des données.
En déchargeant des tâches telles que le traitement réseau, la gestion du stockage et les opérations de sécurité (par exemple, le chiffrement et la surveillance du trafic), les DPU libèrent de précieux cycles CPU et des ressources GPU qui peuvent ainsi être consacrés à l’entraînement et à l’inférence de l’IA. Cela réduit les goulets d’étranglement, améliore les performances et diminue la latence, permettant aux usines d’IA de fonctionner plus rapidement et plus efficacement, et de générer davantage de tokens.
Situés sur les cartes d’interface réseau, les DPU gèrent les flux de données entre les serveurs ainsi qu’entre les clients, utilisateurs ou agents externes et l’usine d’IA, en orchestrant la mise en réseau et la sécurité à grande échelle. F5 BIG-IP Next for Kubernetes déployé sur les DPU NVIDIA BlueField-3 est disponible pour tous depuis avril.
Acheminer les requêtes d’IA au bon endroit pour obtenir le résultat attendu
Les LLM ont rapidement progressé ces derniers mois et offrent désormais un large éventail de tailles, de coûts et d’expertises propres à différents domaines. Choisir le modèle adapté à chaque prompt permet non seulement d’obtenir de meilleures réponses et de garantir la conformité réglementaire, mais aussi d’optimiser la consommation de ressources, les coûts et la latence.
Grâce à l’intégration aujourd’hui des microservices NVIDIA NIM, les entreprises peuvent désormais acheminer intelligemment les requêtes adressées à l’IA vers le LLM le plus adapté, ou plus précisément vers le modèle approprié à chaque tâche. Par exemple, des modèles légers et économes en énergie peuvent traiter les requêtes simples, tandis que les requêtes plus complexes, volumineuses ou spécialisées sont dirigées vers des modèles plus grands ou propres à un domaine.
Cette approche permet aux usines d’IA d’utiliser plus efficacement les ressources informatiques, réduisant ainsi les coûts d’inférence jusqu’à 60 %. Fournisseurs comme utilisateurs de modèles y gagnent, avec des réponses de meilleure qualité, plus rapides et à moindre coût.
Faire plus avec moins : la mise en cache élimine les calculs redondants et augmente la production de jetons
Outre les GPU, NVIDIA continue d’innover au niveau logiciel afin de relever les principaux défis liés à l’inférence de l’IA. NVIDIA Dynamo et le cache KV, inclus dans NVIDIA NIM, en sont d’excellents exemples. NVIDIA Dynamo introduit un service d’inférence désagrégé qui répartit entre différents clusters de GPU la compréhension du contexte (préremplissage), très gourmande en calcul GPU, et la génération de réponses (décodage), fortement tributaire de la bande passante mémoire. Cette approche améliore l’utilisation des GPU et simplifie la mise à l’échelle dans les centres de données grâce à une gestion efficace de la planification, du routage et de la mémoire. Le cache KV optimise le stockage du contexte du modèle et son accès. En conservant les données fréquemment utilisées dans la mémoire du GPU et en transférant le reste vers le processeur ou le stockage, il réduit les goulets d’étranglement liés à la mémoire, ce qui permet de prendre en charge des modèles plus volumineux ou davantage d’utilisateurs sans matériel supplémentaire.
Une nouvelle fonctionnalité puissante de BIG-IP Next for Kubernetes est sa prise en charge du cache KV, qui accélère l’inférence de l’IA tout en réduisant le temps et la consommation d’énergie. Associée au routage intelligent de NVIDIA Dynamo, fondé sur quelques métriques explicites telles que l’utilisation de la mémoire GPU et d’autres critères, elle permet de réduire considérablement le délai avant le premier jeton (TTFT), d’augmenter la génération de jetons et, à terme, le débit de traitement des requêtes. DeepSeek a démontré des gains de capacité de 10 à 30 fois supérieurs.
Les clients peuvent utiliser la programmabilité de F5 pour étendre et adapter les fonctionnalités de F5 BIG-IP afin de répondre précisément à leurs besoins spécifiques, tout en bénéficiant de performances très élevées.
Opérationnaliser et sécuriser MCP pour une IA agentique sûre et souveraine
Pour la plupart des organisations, et en particulier les grandes entreprises telles que les établissements de services financiers, les opérateurs de télécommunications et les entreprises du secteur de la santé dotés de systèmes existants complexes, l’IA agentique présente un fort attrait. Reposant sur des LLM, ces agents d’IA peuvent parcourir des bases de données, des serveurs, des outils et des applications complexes afin d’extraire des informations précises, ouvrant ainsi la voie à des niveaux inédits d’efficacité et de compréhension.
Introduit par Anthropic en novembre 2024, MCP transforme la manière dont les systèmes d’IA interagissent avec les données, les outils et les services du monde réel. Agissant comme des connecteurs standardisés, les serveurs MCP permettent aux modèles d’IA d’accéder en temps réel aux API, aux bases de données et aux systèmes de fichiers, ce qui permet à l’IA de dépasser les limites des données d’entraînement statiques et d’exécuter efficacement des tâches. À mesure que leur adoption progresse, ces serveurs nécessitent des proxys inverses avancés avec répartition de charge, une sécurité robuste, des mécanismes d’authentification et d’autorisation pour les données et les outils, ainsi qu’une intégration fluide à Kubernetes. MCP devient ainsi un pilier essentiel de l’infrastructure d’IA souveraine, tout en sécurisant et en favorisant l’IA agentique.
Déployé en tant que proxy inverse devant les serveurs MCP, BIG-IP Next for Kubernetes, exécuté sur des DPU NVIDIA BlueField-3, permet de faire évoluer et de sécuriser les serveurs MCP en vérifiant les requêtes, en classant les données et en contrôlant leur intégrité et leur confidentialité, protégeant ainsi les organisations comme les LLM contre les menaces de sécurité et les fuites de données. Par ailleurs, la programmabilité de F5 permet de s’assurer facilement que l’application d’IA respecte les exigences de MCP et d’autres protocoles.
Si les tokens sont la nouvelle monnaie, alors comptons-les, encadrons-les et dépensons-les judicieusement
Lors de récentes publications de résultats, certaines grandes organisations ont commencé à communiquer le nombre de tokens générés chaque trimestre, leur croissance et les revenus qui y sont associés. Cela reflète un besoin croissant chez nos clients : pouvoir suivre, gérer et contrôler l’utilisation des tokens comme un budget, afin d’éviter les coûts imprévus qui surviennent parfois avec les clouds publics.
C’est pourquoi BIG-IP Next for Kubernetes intègre désormais de nouvelles fonctionnalités permettant de mesurer et de contrôler la consommation de jetons à l’échelle de l’organisation. Lorsque nos clients nous font part de leurs besoins, nous les écoutons et y répondons avec soin.
Créer des usines d’IA sécurisées, rapides, souveraines et flexibles
À mesure que les secteurs développent des usines d’IA et que les pays bâtissent leur IA souveraine, les agents d’IA se multiplient, et les infrastructures, les écosystèmes et les applications doivent faire preuve de souplesse et d’adaptabilité. Les organisations qui déploient efficacement l’IA gagneront en rapidité, offriront un meilleur service à leurs clients et réduiront leurs coûts. Mais pour concrétiser ce potentiel, l’IA doit rester sécurisée, évolutive et rentable, sans ralentir le rythme de l’innovation.
C’est là que F5 intervient. En mars dernier, nous avons apporté performances, mutualisation et sécurité. Désormais, avec BIG-IP Next for Kubernetes, nous favorisons une innovation conçue pour évoluer au rythme de l’IA.
Notre promesse : plus de jetons par dollar et par watt. Essayez et constatez vous-même la différence.
Vous participez à la GTC Paris 2025 ?
F5 est fier d’être Sponsor Gold de NVIDIA GTC Paris 2025. Rendez-vous sur notre stand G27 pour découvrir comment la F5 Application Delivery and Security Platform prend en charge une infrastructure d’IA sécurisée et hautement performante, et assistez à notre session conjointe avec NVIDIA, « Infrastructure sécurisée dès la conception : créer des usines d’IA de confiance », le jeudi 12 juin à 10 h 00 (CEST).
Pour en savoir plus sur le déploiement de F5 BIG-IP Next for Kubernetes sur les DPU NVIDIA BlueField-3, consultez mon précédent article de blog. N’oubliez pas non plus de lire notre communiqué de presse concernant l’annonce d’aujourd’hui.
L’engagement de F5 en faveur de l’IA ne s’arrête pas là : découvrez comment F5 sécurise et déploie les applications d’IA partout.
À propos de l’auteur
Articles de blog associés
F5 NGINXaaS pour Google Cloud : des applications résilientes et évolutives
Découvrez comment NGINXaaS s’intègre à Google Cloud pour renforcer les performances et la sécurité, et préparer vos applications critiques à un avenir propulsé par l’IA.
L’intégration de F5 Web Application Firewall (WAF) à AWS est disponible dès aujourd’hui
En faisant appel à un partenaire de déploiement AWS WAF tel que F5, vous pouvez renforcer la sécurité de vos applications web grâce à des règles personnalisées qui bloquent les schémas d’attaque courants, comme les injections SQL ou les attaques par scripts intersites (XSS).
Appliquer le principe de Peter Parker à l’inspection TLS
« Un grand pouvoir implique de grandes responsabilités. » Si l’on en trouve des échos chez Voltaire et Churchill, cette citation est surtout connue grâce aux bandes dessinées Spider-Man, où elle est attribuée à l’oncle Ben. Bien entendu, si cette phrase est si répandue dans la culture populaire, c’est notamment parce qu’elle peut s’appliquer à une multitude de situations et de sujets, y compris à l’inspection TLS.
Le NetOps a besoin de défenseurs, pas d’adversaires
Il est important de reconnaître que les équipes NetOps ne sont pas toujours celles qui font obstacle au déploiement de la dernière nouveauté, application ou service. Les freins à la rapidité sont souvent dus au fait que les organisations n’adoptent pas tous les principes du DevOps lorsqu’elles cherchent à transformer leurs opérations informatiques.
Mise à jour des services applicatifs : sécurité, rapidité et visiteurs suspects
Il est de nouveau temps de nous pencher sur les services applicatifs que les entreprises utilisent réellement pour rendre leurs applications plus rapides et plus sûres. On constate notamment une hausse du recours aux services de protection contre les bots, ainsi que la progression lente mais régulière de HTTP/2. Bien qu’il ne s’agisse pas d’une application…
Les templates prennent le contrôle du cloud
Les modèles s’imposent dans le cloud. Lisez le blog de F5 pour découvrir comment l’infrastructure en tant que code et les API déclaratives automatisent la mise à disposition des applications.