L’IA générative s’impose à une vitesse fulgurante sur le lieu de travail, mais elle s’accompagne d’un prix de plus en plus élevé. À mesure que les collaborateurs utilisent davantage les assistants d’IA, la consommation de jetons et de capacité cloud augmente également.
Selon Koen Van Beneden, directeur général de HP Nordics et Benelux, cette évolution de la capacité cloud n’est pas viable financièrement à long terme. Déplacer une plus grande partie du traitement de l’IA vers l’ordinateur portable peut aider les entreprises à maîtriser leurs coûts. Pour de nombreuses entreprises, l’IA générative a commencé par un nombre limité d’expérimentations et de licences. Entre-temps, de plus en plus de collaborateurs utilisent la technologie pour rédiger des textes, résumer des documents, rechercher des informations ou analyser des données. Par conséquent, l’IA passe progressivement d’un projet d’innovation distinct à un coût opérationnel quotidien.
« De nombreux responsables informatiques voient leur budget IA augmenter très fortement », déclare Van Beneden. « Le nombre de jetons que les utilisateurs consomment pour des tâches plus ou moins utiles est gigantesque. Les entreprises tentent aujourd’hui de trouver des solutions à ce problème. »
AI voor IT-professionals
Kunstmatige intelligentie is geen toekomstmuziek meer, maar dagelijkse realiteit in IT-afdelingen. Van geautomatiseerde klantenservice tot voorspellend onderhoud: AI verandert fundamenteel hoe bedrijven werken en…
Toutes les requêtes ne doivent pas nécessairement passer par le cloud
Pour la plupart des applications d’IA générative, une requête est envoyée à un modèle dans le cloud. Cela permet d’accéder à des modèles puissants, mais entraîne également des coûts récurrents. Plus les collaborateurs utilisent l’IA de manière intensive, plus la facture peut s’alourdir. Selon Van Beneden, toutes les requêtes d’IA ne doivent pas nécessairement être traitées dans un centre de données. De plus en plus d’ordinateurs portables disposent d’une unité de traitement neuronal ou NPU, une puce spécifiquement conçue pour exécuter efficacement les tâches d’IA sur l’appareil.
« Si nous pouvons faire en sorte qu’une partie substantielle de la charge de travail de l’IA se fasse simplement sur l’appareil, cela ne consommera pas de jetons cloud », affirme-t-il. « Le matériel et les logiciels sont déjà là. Seule la partie trop complexe ou nécessitant des données qui ne se trouvent pas sur l’appareil doit encore passer par le cloud. »
Pensez par exemple à la traduction ou au résumé de documents locaux, à l’amélioration de textes, à la recherche de fichiers ou à l’exécution de simples automatisations personnelles. Pour les analyses complexes, les informations actualisées et les applications faisant appel à de grandes bases de données d’entreprise, le cloud reste toutefois important.
Investir pour économiser plus tard
L’IA sur l’appareil n’élimine pas totalement le coût, mais modifie le poste de dépense des entreprises. Au lieu de payer des jetons et de la capacité cloud pour chaque requête, elles investissent au préalable dans des ordinateurs portables capables de traiter l’IA localement. L’investissement devient ainsi plus gérable et prévisible. Cela entraîne un arbitrage difficile. Les PC IA sont plus chers que les ordinateurs portables classiques et les entreprises ne peuvent pas remplacer l’ensemble de leur parc informatique du jour au lendemain. De plus, les prix de la mémoire, du stockage et d’autres composants sont sous pression en raison de la demande mondiale d’infrastructures d’IA.
Les entreprises se retrouvent-elles pour autant dans une impasse (Catch-22) ? Elles souhaitent exécuter davantage d’IA localement pour limiter les coûts du cloud, mais ont besoin pour cela d’un matériel plus puissant et plus coûteux. Si elles reportent cet investissement, les dépenses récurrentes pour l’IA dans le cloud pourraient continuer à augmenter.
Le passage à l’IA locale ne signifie pas nécessairement un remplacement complet du parc informatique. Une grande partie des appareils professionnels que HP vend aujourd’hui au Benelux est déjà prête à exécuter l’IA localement.
Koen van Beneden, directeur général de HP Nordics et Benelux
Il compare cette évolution à l’introduction du Wi-Fi. « Au début, il fallait choisir un module Wi-Fi séparément et c’était réservé aux privilégiés. En un rien de temps, le Wi-Fi est devenu standard sur chaque appareil. La nécessité économique est telle que la capacité d’IA deviendra elle aussi rapidement la norme. »
Tous les collaborateurs n’ont pas besoin du même PC IA
Un déploiement progressif peut abaisser le seuil d’investissement. Les collaborateurs qui travaillent intensivement avec des documents locaux, des traductions, des images ou des informations sensibles peuvent recevoir un PC IA en premier. Pour les employés qui n’utilisent l’IA que sporadiquement, pour des applications d’IA accessibles, un appareil classique combiné à des applications cloud peut encore suffire.
Pour cela, les départements informatiques doivent savoir quelles applications les collaborateurs utilisent et de quelle puissance de calcul ils ont réellement besoin. Grâce à des outils de surveillance et de gestion, les entreprises peuvent déterminer quels utilisateurs bénéficient de l’IA locale et où un remplacement de matériel n’apporterait que peu de valeur ajoutée. Les organisations évitent ainsi de renouveler l’ensemble de leur flotte en une seule fois. Une capacité d’IA locale plus importante peut être introduite progressivement lorsque les appareils doivent être remplacés, avec des exceptions pour les collaborateurs qui peuvent en tirer un gain de productivité immédiat.
L’IA hybride devient la norme
L’IA locale ne remplacera pas le cloud. Les grands modèles, les analyses complexes et les applications nécessitant des données centrales ou actualisées resteront dépendants des centres de données. Parallèlement, il est peu efficace, tant sur le plan financier que technique, d’envoyer chaque petite requête vers le cloud. L’issue la plus logique est donc un modèle hybride. Les tâches courantes, sensibles en matière de confidentialité et relativement légères sont traitées sur l’appareil. L’application ne bascule vers le cloud que lorsqu’une puissance de calcul accrue ou des données externes sont nécessaires.
Pour les départements informatiques, cela crée un nouvel exercice d’optimisation. Ils doivent non seulement déterminer quels outils d’IA les collaborateurs sont autorisés à utiliser, mais aussi où chaque charge de travail est le mieux exécutée. Celui qui ne fait pas cet arbitrage risque de voir sa facture cloud croître avec chaque nouvelle expérimentation d’IA. « La courbe actuelle des dépenses d’IA dans le cloud n’est tout simplement pas viable pour les entreprises », conclut Van Beneden. L’IA sur l’appareil devient ainsi plus qu’un simple ajout technique. Elle peut devenir un moyen nécessaire pour maintenir l’IA générative à un coût abordable à grande échelle.
