L’IA sur vos genoux : qu’est-ce qui rend l’IA locale meilleure que les modèles en ligne ?

AI lokaal of in de cloud

HP ne croit pas que l’IA doive fonctionner dans le cloud, mais localement sur votre ordinateur portable.

L’IA locale peut sembler technique, mais l’idée est simple : l’IA qui fonctionne sur votre appareil, plutôt que sur un serveur dans le cloud. Selon HP, c’est non seulement plus rapide et plus efficace, mais aussi nécessaire pour ceux qui travaillent avec des données sensibles. Lors de la conférence « Future of Work », Rajendra Sitompoel, CTO chez HP, explique pourquoi l’avenir réside dans l’IA sur l’appareil et non dans le cloud.

NPU requis

Sitompoel explique que l’exécution locale de l’IA fait effectivement une différence. « Si vous exécutez l’IA sur votre appareil, vous avez le contrôle de vos données. C’est important dans des secteurs comme le gouvernement ou les soins de santé, où les informations sensibles ne peuvent pas simplement être envoyées dans le cloud, » explique-t-il lors de la conférence « Future of Work » à Utrecht.

Ces charges de travail d’IA s’exécutent sur une puce distincte : une NPU ou unité de traitement neuronal. Elle effectue les calculs d’IA localement, sans intervention du cloud. Cela se traduit par une latence réduite, une consommation d’énergie plus faible et plus de confidentialité pour l’utilisateur final. « Vous n’avez pas besoin de cette puce supplémentaire pour les charges de travail normales, mais elle est nécessaire pour l’IA générative, » explique Sitompoel.

Votre propre compagnon IA

Le Compagnon IA de HP fonctionne entièrement localement sur l’appareil et s’adapte au contexte de l’utilisateur. Sitompoel décrit un scénario où quelqu’un monte dans un train et l’ordinateur portable ajuste automatiquement les paramètres audio. Lorsque vous arrivez au bureau, le système le reconnaît et passe aux paramètres appropriés.

Le Compagnon offre également une assistance basée sur le contexte : ainsi, votre PC sait par exemple dans quelle application vous travaillez et propose des actions pertinentes. Tout reste sur l’appareil, ce qui devient de plus en plus important à une époque où les modèles d’IA fonctionnent souvent sur des serveurs externes.

Mise en œuvre réfléchie

Sitompoel est également critique envers la manière dont certaines solutions d’IA sont déployées aujourd’hui. « Nous ne devrions pas implémenter l’IA pour le simple fait d’implémenter l’IA, » souligne-t-il. « L’accent doit être mis sur la facilité d’utilisation et le véritable soutien à l’utilisateur final. » L’IA doit donc être non seulement intelligente, mais aussi discrète : être assistante sans devenir intrusive.

La combinaison de l’IA sur l’appareil et du matériel associé permet, selon HP, d’offrir des avantages concrets dès aujourd’hui. « Nos PC IA ne sont pas une vision d’avenir », conclut Sitompoel. « Ils sont disponibles aujourd’hui et conçus pour apporter une valeur immédiate. »