Les CPU et les GPU sont de vieilles nouvelles. Ces jours-ci, la pointe des NPU, et les fabricants de matériel parlent des performances de NPU.
Le NPU est un composant informatique conçu pour accélérer les tâches AI de manière économe en puissance, ouvrant la voie à de nouvelles applications de bureau Windows avec de puissantes fonctionnalités d’IA. C’est le plan, de toute façon.
Tous les PC auront éventuellement des NPU, mais pour le moment seulement quelques Les ordinateurs portables en ont. Voici tout ce que vous devez savoir sur les NPU et pourquoi ils sont un sujet si chaud dans l’industrie informatique en ce moment.
Qu’est-ce qu’une NPU?
NPU représente unité de traitement neuronal. C’est un type spécial de processeur optimisé pour les tâches de l’IA et de l’apprentissage automatique.
Le nom vient du fait que les modèles d’IA utilisent des réseaux de neurones. Un réseau neuronal est, en termes simples, un vaste maillage de nœuds interconnectés qui passent des informations entre eux. (L’idée a été modelée après la façon dont notre propre cerveau humain fonctionne.)
Un NPU n’est pas un appareil séparé que vous achetez et branchez (comme vous le feriez avec un GPU, par exemple). Au lieu de cela, une NPU est «emballée» dans le cadre d’une plate-forme de processeur moderne – comme le Core Ultra d’Intel, Ryzen AI d’AMD et Snapdragon X Elite et Snapdragon X Plus de Qualcomm. Ces plateformes ont un CPU avec un GPU et un NPU intégrés.
NPU vs CPU vs GPU: Quelle est la différence? Expliqué
Depuis de nombreuses années maintenant, les ordinateurs exécutent des tâches sur l’unité de traitement centrale (CPU) ou l’unité de traitement graphique (GPU), c’est toujours ainsi que cela fonctionne sur les PC IA (c’est-à-dire des ordinateurs avec des NPU).
Le CPU exécute la plupart des tâches sur l’ordinateur. Mais le GPU, malgré son nom, n’est pas seulement pour les graphiques et les tâches de jeu. Le GPU est en fait juste optimisé pour un autre taper de tâche informatique, c’est pourquoi les GPU ont été essentiels pour les efforts de non-garniture comme l’exploitation minière de la crypto-monnaie et l’exécution de modèles d’IA locaux avec des performances élevées. En fait, les GPU sont très bons dans de telles tâches d’IA – mais les GPU sont terriblement avides de pouvoir.
C’est là que les NPU entrent en jeu. Un NPU est plus rapide qu’un CPU pour calculer les tâches AI, mais pas aussi rapidement par rapport à un GPU. Le compromis est qu’un NPU utilise beaucoup moins de puissance qu’un GPU lors du calcul de ces mêmes tâches d’IA. De plus, bien que le NPU gère les tâches liées à l’IA, le CPU et le GPU sont tous deux libérés pour gérer leurs propres tâches respectives, augmentant les performances globales du système.
Pourquoi utiliser un NPU au lieu d’un CPU ou d’un GPU?
Si vous exécutez un logiciel de génération d’images AI comme une diffusion stable (ou un autre modèle d’IA) sur le matériel de votre PC et que vous avez besoin de performances maximales, un GPU sera votre meilleur pari. C’est pourquoi NVIDIA annonce ses GPU en tant que matériel «Premium AI» par rapport aux NPU.
Mais il y a des moments où vous souhaitez exécuter des fonctionnalités d’IA qui pourraient être trop éprouvantes pour un CPU ordinaire, mais n’ont pas nécessairement besoin de la puissance de niveau supérieur d’un GPU. Ou peut-être que vous êtes sur un ordinateur portable et que vous souhaitez profiter des fonctionnalités de l’IA, mais je ne veux pas que le GPU vide votre batterie.
Avec un NPU, un ordinateur portable peut effectuer des tâches d’IA locales (sur disvise) sans produire beaucoup de chaleur et sans dépenser la durée de vie de la batterie démesurée – et il peut effectuer ces tâches d’IA sans prendre des ressources CPU et GPU à partir de tout ce que votre PC pourrait faire.
Et même si vous n’êtes pas intéressé par l’IA en soi, vous pouvez toujours profiter des NPU pour d’autres utilisations. Au CES 2024, HP a montré un logiciel de diffusion de jeux qui utilise la NPU pour les tâches de diffusion vidéo, libérant le GPU pour exécuter le jeu lui-même. En utilisant la puissance de calcul supplémentaire de la NPU, le logiciel de streaming ne reprend aucune ressource GPU… et c’est beaucoup plus rapide que d’utiliser le CPU pour le même type de tâche.
Mais que peut vraiment faire le logiciel Windows PC avec une NPU?
Avec un PC AI, le NPU peut être utilisé à la fois par le système d’exploitation et les applications qui résident sur le système.
Par exemple, si vous avez un ordinateur portable avec le matériel Intel Meteor Lake, le NPU intégré vous permettra d’exécuter des effets Windows Studio, qui sont des effets de webcam alimentés par AI qui fournissent des fonctionnalités telles que le flou d’arrière-plan et le contact visuel forcé dans toute application qui utilise votre webcam.
Les PC Copilot + de Microsoft – dont la première vague ont été alimentés par les puces Qualcomm Snapdragon X – ont leurs propres fonctionnalités alimentées par AI qui utilisent les UNP intégrés dans cette plate-forme. Par exemple, la fonction de rappel Windows nécessitera une NPU.
Plus tôt cette année, les processeurs AMD et Intel ont eu accès aux fonctionnalités Copilot + qui étaient auparavant exclusives aux PC Qualcomm – mais uniquement des PC AMD et Intel qui ont les nouveaux processeurs AMD Ryzen AI 300 et Intel Core Ultra Series 2 (Lunar Lake).
Et ce ne sont que les fonctionnalités intégrées dans les fenêtres; Les développeurs d’applications pourront également utiliser le NPU de diverses manières. Ne soyez pas surpris de voir des plug-ins pour Audacity et GIMP qui offrent une modification audio et photo alimentée par AI qui est alimentée par le NPU d’un ordinateur.
Les possibilités sont infinies, mais il est encore tôt pour le matériel, donc il faudra un certain temps avant que son plein potentiel ne soit réalisé.
Pourquoi ai-je besoin d’une NPU si mon PC peut déjà exécuter un logiciel AI?
Les applications les plus récentes qui ont des fonctionnalités d’IA – y compris le chatbot copilot de Microsoft – n’utilisent pas encore de NPU. Au lieu de cela, ils exécutent leurs modèles AI sur des serveurs cloud lointains. C’est pourquoi vous pouvez exécuter des choses comme Microsoft Copilot, Chatgpt, Google Gemini, Adobe Firefly et d’autres solutions d’IA sur n’importe quel appareil, que ce soit un ancien PC Windows, un Chromebook, un Mac, un téléphone Android ou autre chose.
Mais il est cher pour ces services d’exécuter leurs modèles d’IA sur le cloud. Microsoft dépense beaucoup d’argent qui se déclenche à travers des tâches Copilot AI dans les centres de données, par exemple. Les entreprises aimeraient décharger ces tâches de l’IA sur votre PC local et réduire leurs propres dépenses de cloud computing.
Bien sûr, ce n’est pas juste sur les économies de coûts. Vous bénéficiez également de la possibilité d’exécuter des tâches IA en informatique sur votre appareil local. Par exemple, ces fonctionnalités de l’IA fonctionneront toujours même lorsque vous êtes hors ligne, et vous pouvez garder vos données privées au lieu de tout télécharger sur des serveurs cloud tout le temps. (C’est aussi un gros problème pour les entreprises qui veulent garder le contrôle de leurs propres données commerciales pour des raisons de confidentialité et de sécurité.)
Quels NPU sont disponibles et dans quelle mesure sont-ils puissants?
Les performances de la NPU sont mesurées en haut, qui représente billions d’opérations par seconde. Pour vous donner une idée de ce que cela signifie, un NPU bas de gamme pourrait ne être en mesure de gérer 10 hauts tandis que les PC qui se qualifient pour la marque Copilot + PC de Microsoft doivent gérer au moins 40 hauts.
Les NPU suivants sont actuellement disponibles:
- Intel Core Ultra Series 1 (Meteor Lake): Ultra Ultra NPU de première génération d’Intel peut livrer jusqu’à 11 sommets. Il est trop lent pour les fonctionnalités de Copilot + PC de Microsoft, mais cela fonctionne avec les effets Windows Studio et quelques applications tierces. Ce même NPU se trouve également dans les nouveaux ordinateurs portables Intel «Arrow Lake».
- Intel Core Ultra Series 2 (Lunar Lake): Les puces Lunar Lake d’Intel comprendront une NPU avec jusqu’à 48 sommets de performances, dépassant les exigences Copilot + PC.
- Série AMD Ryzen Pro 7000 et 8000: AMD a d’abord livré des NPU sur PC avant Intel, mais les NPU dans les processeurs de la série Ryzen 7000 sont trop lents pour les fonctionnalités Copilot + PC, avec jusqu’à 12 et 16 sommets de performances.
- Série AMD Ryzen AI 300: Les NPU dans les derniers processeurs AMD Ryzen AI 300 peuvent offrir jusqu’à 50 sommets de performances, plus que suffisant pour Copilot + PCS.
- Qualcomm Snapdragon x Elite et Snapdragon X Plus: Le matériel basé sur ARM de Qualcomm comprend un NPU HEXAGON Qualcomm qui est capable de jusqu’à 45 hauts.
Il convient de noter que les NPU ne sont pas seulement sur les PC. Le matériel du moteur neuronal d’Apple a été l’un des premiers grands npus splashy à attirer l’attention du marketing. La plate-forme tensor de Google pour les appareils Pixel comprend également une NPU, tandis que les téléphones Samsung Galaxy ont également des NPU.
Conclusion: devriez-vous obtenir un PC avec un NPU dès maintenant ou attendre?
Honnêtement, c’est risqué d’être sur le bord saignant.
Si vous avez fait tout votre possible pour obtenir un ordinateur portable Meteor Lake dans l’espoir de sauvegarder votre PC pour les fonctionnalités de l’IA, vous avez en fait été brûlé lorsque Microsoft a annoncé plus tard que les NPU de Meteor Lake étaient trop lents pour les fonctionnalités Copilot + PC. (Intel n’est pas d’accord, soulignant que vous obtenez toujours toutes les fonctionnalités avec lesquelles ces ordinateurs portables expédiés à l’origine.)
La doublure en argent à cela? Les fonctionnalités Copilot + PC ne sont pas encore intéressantes. Et la plupart des plus grands outils d’IA – Chatgpt, Adobe Firefly, etc. – n’utilisent même pas du tout les NPU.
Pourtant, si j’achetais un nouvel ordinateur portable, je voudrais obtenir un NPU si possible. Vous n’avez pas vraiment à faire tout votre possible pour en obtenir un; C’est juste quelque chose qui vient inclus avec les plates-formes matérielles modernes. Et ces plates-formes de processeurs modernes ont d’autres grandes fonctionnalités, comme les grands gains de l’autonomie de la batterie.
D’un autre côté, ces NPU rapides ne sont que sur les derniers ordinateurs portables en ce moment, et vous pouvez souvent trouver de bonnes affaires sur des ordinateurs portables plus anciens qui sont presque aussi rapides que les derniers modèles. Si vous apercevez un ordinateur portable de génération précédente qui est fortement réduit, il peut ne pas être logique de débourser des tonnes de plus pour un NPU, surtout si vous n’avez pas d’outils IA que vous prévoyez d’exécuter.
À ce jour, la plupart des grands outils d’IA s’exécutent toujours dans le cloud – ou du moins offrent cela en option – vous pourrez donc les exécuter sur n’importe quel ordinateur portable Windows, chromebook ou même tablettes Android et iPads.
Pour les ordinateurs de bureau, la situation NPU est différente. Les processeurs de bureau d’Intel n’ont pas encore de NPU. Vous pouvez traquer une puce de bureau AMD avec un NPU Ryzen AI, mais les puces Ryzen 7000 et 8000 d’AMD ne prennent pas en charge les fonctionnalités Copilot + PC de toute façon. Donc, si vous créez un PC de bureau, réservez la NPU pour l’instant. Ce n’est pas encore si important.
Vous cherchez un PC avec un NPU haute performance? Considérez les ordinateurs portables Windows basés sur ARM comme le surface ordinateur portable 7 et les ordinateurs portables AMD Ryzen AI 300 comme l’ASUS Proart PX13, ainsi que les ordinateurs portables Intel Core Ultra Series 2 comme l’ASUS ZenBook S 14.
