Explosion computationnelle: l'ia défähbre les limites du temps
Mustafa Suleyman, figure emblématique de Microsoft, dénonce un gouffre technologique. L'intelligence artificielle n'obéit plus aux lois de l'évolution, mais à une logique exponentielle qui transforme radicalement les règles du jeu.
Un bond quantique, pas un simple échelon
Selon l'ex-PDG d'Antrhropic, le saut est vertigineux. En 2010, le calcul nécessaire pour alimenter les modèles d'IA était d'environ 10¹⁴ FLOPS. Aujourd'hui, il dépasse les 10²⁶ FLOPS. Ce n'est pas une progression linéaire, c'est une véritable explosion.
Suleyman décrit cette accélération comme une « salle bondée de calculateurs » – une image frappante. Autrefois, l'augmentation de la puissance impliquait simplement d'ajouter plus de processeurs, souvent avec des périodes d'inactivité. Mais la révolution actuelle réside dans la capacité à exploiter pleinement chaque unité de calcul, à les faire fonctionner en un seul et même cerveau géant.
Les piliers de la révolution
Cette transformation repose sur trois avancées majeures. Tout d'abord, les nouveaux puces Nvidia, passant de 312 teraflops en 2020 à 2 250 teraflops aujourd'hui, offrent un gain de performance considérable, surpassant même les solutions Microsoft avec leur puce Maia 200, qui propose 30% plus de puissance par euro. Ensuite, la mémoire HBM (High Bandwidth Memory) triplique le débit de données, éliminant les délais d'attente. Et enfin, des technologies comme NVLink et InfiniBand permettent de connecter des centaines de milliers de GPU dans des superordinateurs monolithiques.
Prévisions monstrueuses
Eric Schmidt, ancien PDG de Google, met en garde : les effets de cette transformation ne sont que partiellement manifestés. Mais les perspectives sont saisissantes. Les laboratoires investissent massivement, augmentant leur capacité de calcul à un rythme d'environ 4x annuel. Entre 2020 et aujourd'hui, le calcul a progressé de 5x chaque année. D’ici 2027, le calcul mondial de l’IA pourrait atteindre l’équivalent de 100 millions de puces H100, soit une augmentation de 10 fois en seulement trois ans.
Microsoft, Nvidia et la course à la superintelligence : une dynamique qui dépasse l’entendement. Suleyman souligne que nous ne sommes plus face à des prototypes, mais à des infrastructures massives, des clusters de 100 000 GPU, des racks de la taille d'une réfrigérateur consommant 120 kilowatts, et des centres de données alimentés par l'énergie de plusieurs nations européennes. « Les 100 milliards de dollars investis dans ces infrastructures, les 10 gigawatts de consommation, ces superordinateurs de navires industriels… ce ne sont plus de la science-fiction. Ils sont en construction, aux États-Unis et à travers le monde. »
L'objectif ultime : la superintelligence. Un défi colossal, dont les implications sont encore difficiles à appréhender. L'essor de Claude Mythos, l'IA d'Anthropic, soulève des inquiétudes quant à la cybersécurité mondiale. Mais, comme le rappelle Suleyman, l'énergie, désormais produite à des coûts exponentiellement plus bas grâce au solaire et aux batteries, pourrait bien constituer la clé pour débloquer le potentiel de ces machines.