Toronto Global Forum : les fondements de l’intelligence

L’infrastructure physique qui soutient l’intelligence artificielle (IA) doit faire face à de nouvelles exigences, alors que le secteur passe d’une utilisation ciblée à un déploiement à grande échelle, notamment en ce qui a trait à l’IA agentique. La séance intitulée « The Foundations of Intelligence » (les fondements de l’intelligence), qui s’est tenue dans le cadrede la20^e édition annuelle du Toronto Global Forum, organisée par le Forum économique international des Amériques (FEIA), a examiné comment l’architecture des centres de données doit évoluer pour soutenir cette transition.

Cet entretien en tête-à-tête a réuni Mathew Mehrotra, chef de groupe, Services bancaires Particuliers et entreprises au Canada et cochef, Services bancaires Particuliers et entreprises au Canada, et Tony Chan Carusone, vice-président principal de la Technologie à Qualcomm.

Écoutez l’épisode de Markets Plus inspiré des idées abordées dans cette discussion :

_{Ce balado est en anglais seulement.}

Voici quelques faits saillants :

« Nous sommes actuellement dans une phase de transition entre la recherche initiale et l’expérimentation, a fait remarquer Mathew Mehrotra. Et maintenant, les attentes sont très élevées en matière de création de valeur dans les entreprises et de création de valeur pour les clients. »

Pour répondre à ces attentes, les entreprises d’IA réorientent de plus en plus leurs priorités, délaissant l’entraînement des modèles au profit de l’inférence et de la commercialisation, alors qu’elles cherchent à démontrer la valeur concrète de cette technologie, a déclaré Tony Chan Carusone.

Cette évolution s’explique par la croissance rapide des flux de travail de l’IA agentique. Comme l’a expliqué M. Chan Carusone, il s’agit d’un type de flux de travail différent, dans lequel les modèles et les requêtes sont transformés en jetons afin de générer de la valeur. Ce processus ouvre de nouvelles perspectives pour des systèmes matériels différenciés, mieux adaptés à ces flux de travail.

« C’est pour ça qu’on constate un tel engouement et un tel intérêt pour le matériel », a-t-il ajouté. « En ce qui concerne le Canada en particulier, c’est presque comme si nous avions vu venir cela depuis longtemps, parce que nous disposons de cette convergence unique de compétences et d’expertise. »

Les flux d’agents se trouvent à un point d’inflexion, où chaque appel d’un agent engendre des dizaines de tâches d’inférence. « Chaque requête peut générer entre 50 et 100 fois plus d’activité de calcul que les flux de travail antérieurs aux agents », a expliqué M. Chan Carusone.

Auparavant, le traitement par IA consistait à recevoir des commandes provenant d’Internet, puis les processeurs (CPU) effectuaient le travail, avec l’aide des processeurs graphiques (GPU) et d’autres accélérateurs. Ce modèle est en train de changer, a-t-il expliqué, soulignant que les GPU se chargent désormais de la planification au moyen de l’inférence afin de déterminer ce qui doit se produire, générant ainsi une quantité considérable de code que les CPU doivent exécuter. « C’est ce qui ouvre de nouvelles perspectives pour le matériel », a-t-il précisé.

La croissance rapide de la taille des flux de travail des agents, combinée à l’augmentation des exigences physiques et énergétiques à mesure que l’industrie prend de l’expansion, a mené à trois « murs de la mémoire », selon M. Chan Carusone : les contraintes de la chaîne d’approvisionnement en matière de mémoire à large bande passante, le « mur de la mémoire » lié à la connectivité, la puissance de calcul ayant progressé plus rapidement que la capacité à transférer les données, et les besoins en capacité de mémoire, qui ont dépassé la capacité physique des mémoires à large bande passante.

Le secteur est confronté à des goulots d’étranglement liés à la consommation d’énergie. « On cherche à intégrer le plus de puissance de calcul possible dans un volume aussi réduit que possible, a expliqué M. Chan Carusone. Un mégawatt d’énergie dissipé dans un volume équivalent à celui d’un grand réfrigérateur. C’est vraiment incroyable. »

L’intégration d’une puissance de calcul élevée dans des espaces réduits pose d’importants défis sur le plan de l’ingénierie et de la gestion de l’énergie. M. Chan Carusone a souligné que les progrès réalisés dans les domaines des circuits intégrés sur mesure, de la connectivité et de l’architecture de mémoire constituaient des moyens potentiels d’améliorer le rendement et l’efficacité énergétique des infrastructures d’IA.

M. Chan Carusone et M. Mehrotra ont également examiné comment le Canada pourrait tirer parti de ses atouts en matière de talents, d’énergie et de technologie pour s’approprier une plus grande part de la valeur économique générée par l’IA. Les climats frais et la disponibilité d’une énergie à faibles émissions de carbone favorisent le développement des centres de données, et le pays dispose d’une riche réserve de talents intellectuels, tant dans le milieu universitaire que dans le secteur privé, qui constituent les fondements de l’infrastructure d’IA au Canada.

M. Chan Carusone a également souligné l’importance du développement des talents, notamment dans le domaine de l’ingénierie des semi-conducteurs et les disciplines connexes. Bien que les préoccupations liées à l’exode des cerveaux persistent, il soutient que le Canada doit continuer de mettre l’accent sur l’attraction et la rétention de talents internationaux hautement qualifiés par l’entremise de ses universités et de ses programmes de recherche, y voyant là un avantage concurrentiel essentiel.

Selon M. Mehrotra, l’occasion qui s’offre au Canada consiste à tirer parti de ces atouts pour générer davantage de valeur. M. Chan Carusone a abondé dans ce sens.

Au lieu de se limiter à être une destination pour les centres de données, le Canada devrait mettre l’accent sur le matériel à forte valeur ajoutée et la propriété intellectuelle. « Nous disposons de ces atouts stratégiques sur lesquels nous pouvons miser davantage pour devenir un maillon essentiel des chaînes d’approvisionnement mondiales, a déclaré M. Chan Carusone. En développant les puces qui constituent le cerveau de cette nouvelle ère, nous pouvons contribuer à façonner cette nouvelle ère numérique plutôt que de nous contenter d’y jouer un simple rôle. »