Juste à temps pour la prochaine génération de processeurs AI PC, Microsoft a annoncé que Windows ML est enfin prêt pour la production. C’est un développement clé pour l’IA local et les puces qui alimentent son utilisation.
Mardi, Microsoft a déclaré discrètement que Windows ML était maintenant généralement disponible, sept ans après l’introduction de la technologie chez Build.
Espérons que Windows ML résoudra un problème persistant: les consommateurs se soucient de l’IA, ils ne se soucient tout simplement pas de savoir où il vit. Pour beaucoup de gens, «l’IA» est synonyme de Chatgpt, qui réside dans le cloud. Qualcomm, Intel et AMD ont tous investi massivement dans l’IA local, et des NPU puissants capables de dizaines de hauts (milliards d’opérations par seconde).
Les analystes disent que les applications doivent être spécifiquement codées pour les NPU. Windows ML le modifie. «Windows ML est le runtime d’inférence AI intégré optimisé pour l’inférence du modèle à disque et la gestion de la dépendance du modèle rationalisée sur les processeurs, les GPU et les NPU», explique Microsoft.
«Cette capacité à exécuter des modèles permet aux développeurs de créer des expériences d’IA qui sont plus réactives, privées et rentables, atteignant les utilisateurs dans la plus large gamme de matériel Windows», ajoute Microsoft.
Essentiellement, Windows ML est conçu pour compenser toutes les ressources sur un PC et allouer la tâche ou l’application au matériel le plus approprié: GPU, CPU ou NPU. Il n’est pas clair si Windows ML ou le développeur privilégieront l’efficacité NPU ou la puissance GPU, mais c’est à côté du point. Si l’application peut profiter pleinement du matériel disponible, c’est un gagnant-gagnant pour tout le monde.
