IA et infrastructure IT : le vrai chantier à lancer

En 2024, le coût énergétique de l’IA générative a explosé de plus de 30 % pour certains groupes du CAC 40. Les modèles sont plus puissants, les cas d’usage se multiplient, mais l’infrastructure IT, elle, commence à craquer.

Voici le vrai sujet : la plupart des entreprises veulent l’IA, mais très peu ont l’architecture, le réseau et la gouvernance de données pour la faire tourner à l’échelle, sans dérive des coûts ni risques pour la sécurité.

Ce texte part d’un constat simple, formulé par Dominic Wilde : l’IA rebat complètement les cartes de l’infrastructure IT. On va voir comment, pourquoi, et surtout ce que vous pouvez faire concrètement si vous êtes DSI, CTO, ou dirigeant dans le commerce de détail en France.

---

1. Pourquoi l’IA met l’infrastructure IT sous pression

L’IA ne demande pas seulement « plus de puissance ». Elle change la façon même de concevoir l’infrastructure.

Trois chocs majeurs sur l’IT existante

1. Choc de calcul
   Les modèles de type GPT, LLaMA ou Claude exigent des GPU, de la mémoire et des architectures massivement parallèles. Un serveur x86 classique, pensé pour de l’ERP ou du CRM, est simplement inadapté.

2. Choc de données
   L’IA dans le retail (prévision de ventes, pricing dynamique, recommandation produit, chatbot client) repose sur :

   • des données transactionnelles historiques,
   • des flux temps réel (stocks, parcours web, capteurs en magasin),
   • des données non structurées (avis, images, vidéos, tickets SAV).

   Or beaucoup d’enseignes françaises fonctionnent encore avec des silos, des bases obsolètes et des interfaces fragiles.

3. Choc de latence
   Personne n’acceptera un assistant client qui « mouline » 10 secondes avant de répondre, ou un algorithme d’optimisation des prix recalculé une fois par jour seulement. L’IA opérationnelle impose des traitements quasi temps réel.

L’IA ne rajoute pas juste une couche d’applications : elle impose une refonte de l’architecture, du réseau, du stockage et de la gouvernance des données.

---

2. Cloud, on-prem, edge : quel modèle pour l’IA dans le retail ?

Le bon choix d’infrastructure IA, ce n’est ni « tout cloud » ni « tout on-prem ». C’est un arbitrage fin entre coûts, conformité, performance et souveraineté.

Le cloud : accélérateur… et piège potentiel

Le cloud public reste le moyen le plus rapide de tester et de déployer des usages IA :

• Accès à des GPU récents sans CAPEX massif
• Services managés (bases vectorielles, pipelines MLOps, monitoring)
• Scalabilité quasi immédiate pour gérer les pics (période de Noël, soldes, ventes privées)

Mais il y a des angles morts :

• Facture imprévisible si les appels aux modèles explosent.
• Dépendance forte à un fournisseur (verrouillage technologique).
• Questions de souveraineté pour certaines données clients, surtout dans un contexte RGPD et CNIL très strict.

L’on-premise : contrôle maximum, complexité maximum

Installer des clusters GPU dans vos data centers donne :

• Un contrôle complet sur les données sensibles
• Une meilleure prévisibilité des coûts à long terme
• La possibilité de bâtir des briques IA internes (modèles spécialisés, RAG, moteurs de recommandation)

Mais vous devez assumer :

• Le coût initial (plusieurs centaines de milliers d’euros pour un cluster sérieux)
• La pénurie de compétences pour gérer ces environnements
• Le risque d’obsolescence : un hardware GPU est dépassé en 3 à 4 ans

L’edge computing : la carte retail à jouer

Pour le commerce de détail, l’edge devient stratégique :

• Analyse vidéo en magasin pour la fréquentation et le merchandising
• Détection de fraude en caisse en temps réel
• Personnalisation d’affichage dynamique en fonction du trafic

L’idée est simple : traiter au plus près du magasin ce qui ne doit pas remonter au cloud pour des raisons de latence, de coût ou de confidentialité.

Modèle réaliste pour une enseigne française :

• Cloud pour les grands modèles génériques et les traitements lourds
• On-prem / colocation pour les données critiques et les modèles maison
• Edge dans les magasins pour les traitements temps réel et sensibles

---

3. La nouvelle colonne vertébrale : la donnée pour l’IA

Sans données propres, documentées et gouvernées, votre « stratégie IA » restera une présentation PowerPoint. La bonne nouvelle : ce chantier, vous pouvez le lancer dès maintenant, même avant de choisir vos modèles.

Construire une plateforme de données orientée IA

Une plateforme de données moderne pour l’IA retail doit au minimum proposer :

• Un stockage unifié (data lakehouse ou équivalent), capable de gérer
  • ventes,
  • stocks,
  • navigation web/app,
  • SAV,
  • fournisseurs,
  • données magasin (capteurs, caméras, IoT).
• Des flux temps réel (streams) pour tout ce qui touche :
  • gestion des stocks,
  • détection de fraude,
  • optimisation des prix,
  • opérations magasin.
• Une gestion claire des métadonnées : d’où vient la donnée, qui la maintient, à quoi elle sert.

Gouvernance et conformité : non négociables en France

Pour une enseigne française, trois points sont critiques :

1. RGPD by design : anonymisation, pseudonymisation, durée de conservation, consentement clair.
2. Traçabilité des usages IA : savoir quel modèle a utilisé quelles données, avec quels paramètres.
3. Gestion des risques : biais algorithmiques (discrimination tarifaire, scoring client abusif), hallucinations de modèles génératifs, sécurité.

Je recommande souvent une approche très pragmatique :

• Inventaire des données existantes par domaine (produits, clients, magasins, finances)
• Cartographie des systèmes source et des flux
• Définition de 5 à 10 cas d’usage prioritaires IA et des données nécessaires
• Nettoyage et standardisation ciblés sur ces cas d’usage, au lieu de viser une « data parfaite » partout

Une bonne stratégie IA commence rarement par les modèles. Elle commence presque toujours par un plan de remise en ordre des données.

---

4. Architecturer l’infrastructure IA : 4 piliers concrets

Pour transformer la vision en réalité, l’infrastructure IA doit s’appuyer sur quatre piliers techniques très concrets.

4.1. Calcul : CPU, GPU et accélérateurs

• GPU pour les phases d’entraînement ou de fine-tuning, très consommatrices.
• CPU optimisés pour l’inférence de modèles plus légers, déployés massivement dans les magasins ou les apps.
• Accélérateurs spécialisés (TPU, cartes IA, etc.) pour certains workloads.

Dans le retail, un schéma qui fonctionne bien :

• GPU mutualisés au niveau groupe (data center ou cloud)
• Modèles distillés / allégés déployés en magasin ou sur edge

4.2. Réseau : la latence comme contrainte de design

L’IA impose de repenser le réseau :

• Liaisons fibres renforcées entre data centers, sièges et entrepôts
• Qualité de service (QoS) pour prioriser les flux IA critiques
• Ségrégation des réseaux magasin pour isoler les flux sensibles (vidéo, paiement, IoT)

Pour un chatbot client ou un moteur de recherche produit, chaque 100 millisecondes de latence impactent le taux de conversion. L’architecture réseau n’est plus un détail technique, c’est un sujet business.

4.3. Stockage : chaud, tiède, froid

Tous les jeux de données n’ont pas besoin de SSD NVMe.

• Stockage chaud : données fréquemment utilisées par les modèles (transactions récentes, catalogue actif, sessions web des derniers jours)
• Stockage tiède : historiques exploités régulièrement pour la formation et la planification
• Stockage froid : archives, données à conserver pour des raisons réglementaires ou d’audit

Un bon design permet de contenir les coûts tout en gardant les performances là où elles créent de la valeur.

4.4. Supervision, MLOps et observabilité

On ne parle plus seulement de monitoring de serveurs, mais de monitoring de modèles :

• Qualité des prédictions (précision, dérive, biais)
• Temps de réponse modèle
• Coût par requête ou par lot traité
• Traçabilité des versions de modèles et des jeux de données d’entraînement

Sans MLOps sérieux, vous finirez avec une collection de POC IA brillants… et aucun système fiable en production.

---

5. Par où commencer en 2025 ? Feuille de route réaliste pour un retailer français

Plutôt que de viser un « grand soir » de l’IA, mieux vaut avancer par étapes, alignées sur la réalité de votre infrastructure.

Étape 1 : audit de maturité IA & IT (1 à 2 mois)

• Cartographier l’existant : data centers, cloud, réseau, données, applications métiers
• Identifier les goulets d’étranglement : performances, sécurité, organisation
• Évaluer la maturité IA : compétences, cas d’usage, gouvernance

Étape 2 : choisir 3 à 5 cas d’usage IA à forte valeur (2 à 3 mois)

Dans le retail, les grands classiques qui paient vite :

• Prévision de la demande par magasin et par canal
• Recommandation produit omnicanale
• Optimisation des stocks et des réassorts
• Personnalisation des campagnes marketing
• Chatbots SAV et assistance vendeur en magasin

Pour chacun :

• Estimer le ROI attendu
• Lister les données nécessaires
• Vérifier l’empreinte sur l’infrastructure (calcul, stockage, bande passante)

Étape 3 : mettre à niveau le socle data & infra pour ces cas (3 à 6 mois)

• Améliorer la qualité et la disponibilité des données ciblées
• Renforcer le réseau et le stockage aux points critiques
• Mettre en place des premiers outils MLOps et de monitoring

L’idée n’est pas d’être parfait partout, mais excellent là où la valeur IA est immédiate.

Étape 4 : industrialiser et généraliser

Une fois que 1 ou 2 cas d’usage IA tournent vraiment en production, avec des gains mesurés (baisse de rupture de stock, augmentation du panier moyen, baisse du churn), vous avez :

• Le socle d’infrastructure IA validé
• La preuve interne que ça fonctionne
• Le droit d’augmenter l’ambition et le budget

C’est à ce moment-là que vous pouvez :

• Étendre le socle data
• Investir dans des clusters GPU ou des solutions souveraines
• Mettre l’IA au cœur de la stratégie magasin, e-commerce et supply chain

---

6. L’IA comme déclencheur de modernisation IT

L’IA ne fait pas qu’épuiser votre infrastructure IT. Elle offre aussi un prétexte idéal pour remettre à plat des choix historiques qui freinaient déjà l’entreprise.

• Des applications monolithiques peuvent être découpées en services pour exposer proprement la donnée.
• Des réseaux vieillissants peuvent être modernisés en s’appuyant sur un vrai business case IA.
• Des silos organisationnels (IT vs métier, siège vs magasins) peuvent être revus via des équipes produits data/IA mixtes.

La réalité, c’est que l’IA révèle les faiblesses structurelles de votre SI. Mais elle fournit aussi l’argument pour investir dans une infrastructure plus agile, plus sobre et plus proche des usages.

Pour le commerce de détail, 2025 sera moins l’année des « démos IA spectaculaires » que celle des premiers chantiers d’infrastructure IA sérieux. Ceux qui les lancent maintenant auront, dans 2 à 3 ans, une longueur d’avance impossible à rattraper.

La question n’est donc pas « Faut-il refondre l’infrastructure pour l’IA ? », mais : où commencer et à quel rythme avancer pour que l’IA devienne rentable, maîtrisée et scalable dans votre enseigne ?